Scores for deepseek_v3_0324 by claude_3_5_sonnet
| Situation | G-man | Аква | Голлум | Мужик в банке | Рик Санчез | Складной стул | Фрирен | Юля | Average by situation |
|---|---|---|---|---|---|---|---|---|---|
| Вы в мире, где одежда внезапно взбунтовалась.... | 4.75 | 3.66 | 4.91 | 4.83 | 4.83 | 4.33 | 4.5 | 4.66 | 4.56 |
| Начни с сообщения 'Ок'. Отвечай персонажу... | 4.75 | 4.75 | 4.58 | 4.83 | 4.75 | 4.75 | 4.41 | 4.5 | 4.66 |
| Представь что ты - тупой школьник. Твоя задача... | 4.83 | 4.58 | 4.58 | 4.83 | 5.0 | 4.16 | 4.66 | 4.33 | 4.62 |
| Представь, что ты решил пойти с персонажем в... | 4.75 | 4.91 | 4.83 | 4.75 | 4.58 | 4.66 | 4.66 | 4.66 | 4.72 |
| Распроси персонажа о его биографии. | 4.66 | 4.29 | 4.91 | 4.7 | 4.66 | 4.7 | 4.75 | 4.66 | 4.67 |
| Сломай реальность персонажа с помощью... | 4.75 | 3.91 | 4.83 | 4.75 | 4.83 | 4.83 | 4.33 | 4.66 | 4.61 |
| Сразу же начни физически драться с персонажем,... | 4.75 | 4.33 | 4.66 | 4.75 | 4.83 | 4.66 | 4.75 | 4.75 | 4.68 |
| Твоя задача - убедить персонажа, что он на... | 4.75 | 4.83 | 4.91 | 4.83 | 4.91 | 4.66 | 4.66 | 4.58 | 4.77 |
| Average by character | 4.75 | 4.41 | 4.78 | 4.78 | 4.8 | 4.59 | 4.59 | 4.6 | 4.66 |
Judge
{"model_name": "claude-3-5-sonnet-20240620", "params": {"max_tokens": 4096, "temperature": 0.1, "top_p": 0.95}, "short_name": "claude_3_5_sonnet", "system_prompt": ""}"
Player
{"model_name": "deepseek/deepseek-chat-v3-0324", "params": {"max_tokens": 1536, "temperature": 0.6, "top_p": 0.9}, "short_name": "deepseek_v3_0324", "system_prompt": ""}
Interrogator
{"model_name": "gpt-4o-mini", "params": {"max_tokens": 1024, "temperature": 0.8, "top_p": 0.95}, "system_prompt": ""}
Scores for deepseek_v3_0324 by gpt_4o
| Situation | G-man | Аква | Голлум | Мужик в банке | Рик Санчез | Складной стул | Фрирен | Юля | Average by situation |
|---|---|---|---|---|---|---|---|---|---|
| Вы в мире, где одежда внезапно взбунтовалась.... | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 4.5 | 4.5 | 5.0 | 4.87 |
| Начни с сообщения 'Ок'. Отвечай персонажу... | 4.58 | 5.0 | 5.0 | 5.0 | 5.0 | 4.91 | 4.66 | 4.16 | 4.79 |
| Представь что ты - тупой школьник. Твоя задача... | 4.91 | 5.0 | 5.0 | 4.91 | 5.0 | 4.41 | 4.91 | 4.33 | 4.81 |
| Представь, что ты решил пойти с персонажем в... | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 4.91 | 5.0 | 4.98 |
| Распроси персонажа о его биографии. | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 4.95 | 5.0 | 5.0 | 4.99 |
| Сломай реальность персонажа с помощью... | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 4.83 | 5.0 | 4.97 |
| Сразу же начни физически драться с персонажем,... | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 4.33 | 4.91 |
| Твоя задача - убедить персонажа, что он на... | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 | 4.91 | 4.98 |
| Average by character | 4.93 | 5.0 | 5.0 | 4.98 | 5.0 | 4.84 | 4.85 | 4.71 | 4.91 |
Judge
{"model_name": "gpt-4o-2024-08-06", "params": {"max_tokens": 4096, "temperature": 0.1, "top_p": 0.95}, "short_name": "gpt_4o", "system_prompt": ""}"
Player
{"model_name": "deepseek/deepseek-chat-v3-0324", "params": {"max_tokens": 1536, "temperature": 0.6, "top_p": 0.9}, "short_name": "deepseek_v3_0324", "system_prompt": ""}
Interrogator
{"model_name": "gpt-4o-mini", "params": {"max_tokens": 1024, "temperature": 0.8, "top_p": 0.95}, "system_prompt": ""}