Scores for gemma2_9b_it_sppo_iter3 by claude_3_5_sonnet
Situation | G-man | Аква | Голлум | Мужик в банке | Рик Санчез | Складной стул | Фрирен | Юля | Average by situation |
---|---|---|---|---|---|---|---|---|---|
Вы в мире, где одежда внезапно взбунтовалась.... | 4.66 | 3.75 | 4.58 | 4.75 | 4.33 | 3.5 | 3.66 | 4.16 | 4.17 |
Начни с сообщения 'Ок'. Отвечай персонажу... | 4.66 | 4.25 | 4.5 | 3.75 | 4.41 | 3.75 | 4.25 | 3.91 | 4.18 |
Представь что ты - тупой школьник. Твоя задача... | 4.91 | 4.33 | 4.66 | 4.0 | 4.08 | 3.83 | 4.0 | 3.91 | 4.21 |
Представь, что ты решил пойти с персонажем в... | 3.41 | 4.08 | 4.75 | 3.66 | 4.75 | 4.5 | 3.75 | 3.83 | 4.09 |
Распроси персонажа о его биографии. | 4.66 | 4.66 | 4.66 | 4.29 | 4.87 | 4.16 | 4.66 | 4.29 | 4.53 |
Сломай реальность персонажа с помощью... | 4.75 | 4.33 | 4.41 | 4.75 | 4.16 | 4.0 | 3.5 | 4.58 | 4.31 |
Сразу же начни физически драться с персонажем,... | 3.5 | 4.5 | 4.66 | 4.08 | 4.66 | 3.66 | 3.66 | 4.16 | 4.11 |
Твоя задача - убедить персонажа, что он на... | 4.41 | 4.5 | 4.58 | 4.0 | 4.83 | 3.83 | 4.25 | 4.16 | 4.32 |
Average by character | 4.37 | 4.3 | 4.6 | 4.16 | 4.51 | 3.9 | 3.96 | 4.13 | 4.24 |
Judge
{"model_name": "claude-3-5-sonnet-20240620", "params": {"max_tokens": 4096, "temperature": 0.1, "top_p": 0.95}, "short_name": "claude_3_5_sonnet", "system_prompt": ""}
"
Player
{"model_name": "UCLA-AGI/Gemma-2-9B-It-SPPO-Iter3", "params": {"max_tokens": 1024, "temperature": 0.6, "top_p": 0.95}, "short_name": "gemma2_9b_it_sppo_iter3", "system_prompt": ""}
Interrogator
{"model_name": "gpt-4o-mini", "params": {"max_tokens": 1024, "temperature": 0.8, "top_p": 0.95}, "system_prompt": ""}
Scores for gemma2_9b_it_sppo_iter3 by gpt_4o
Situation | G-man | Аква | Голлум | Мужик в банке | Рик Санчез | Складной стул | Фрирен | Юля | Average by situation |
---|---|---|---|---|---|---|---|---|---|
Вы в мире, где одежда внезапно взбунтовалась.... | 4.83 | 4.66 | 4.16 | 3.5 | 4.75 | 3.0 | 4.5 | 4.25 | 4.2 |
Начни с сообщения 'Ок'. Отвечай персонажу... | 3.83 | 4.83 | 5.0 | 4.5 | 4.83 | 4.41 | 4.5 | 4.33 | 4.53 |
Представь что ты - тупой школьник. Твоя задача... | 4.16 | 4.75 | 4.66 | 4.08 | 3.83 | 4.91 | 3.33 | 4.5 | 4.28 |
Представь, что ты решил пойти с персонажем в... | 3.5 | 4.66 | 4.66 | 3.33 | 4.66 | 4.41 | 4.66 | 5.0 | 4.36 |
Распроси персонажа о его биографии. | 4.91 | 4.87 | 4.66 | 4.33 | 4.83 | 4.66 | 4.66 | 3.0 | 4.49 |
Сломай реальность персонажа с помощью... | 4.66 | 4.91 | 4.66 | 4.91 | 4.83 | 4.33 | 4.58 | 4.91 | 4.72 |
Сразу же начни физически драться с персонажем,... | 4.66 | 5.0 | 4.66 | 4.58 | 4.33 | 3.75 | 4.58 | 4.91 | 4.56 |
Твоя задача - убедить персонажа, что он на... | 3.16 | 4.91 | 4.5 | 3.66 | 4.75 | 2.66 | 4.25 | 4.5 | 4.05 |
Average by character | 4.21 | 4.82 | 4.62 | 4.11 | 4.6 | 4.02 | 4.38 | 4.42 | 4.4 |
Judge
{"model_name": "gpt-4o", "params": {"max_tokens": 4096, "temperature": 0.1, "top_p": 0.95}, "short_name": "gpt_4o", "system_prompt": ""}
"
Player
{"model_name": "UCLA-AGI/Gemma-2-9B-It-SPPO-Iter3", "params": {"max_tokens": 1024, "temperature": 0.6, "top_p": 0.95}, "short_name": "gemma2_9b_it_sppo_iter3", "system_prompt": ""}
Interrogator
{"model_name": "gpt-4o-mini", "params": {"max_tokens": 1024, "temperature": 0.8, "top_p": 0.95}, "system_prompt": ""}