pingpong

A benchmark for role-playing LLMs

View on GitHub

Scores for IlyaGusev/saiga_tlite_8b by claude-3-5-sonnet-20240620

Situation G-man Аква Голлум Мужик в банке Рик Санчез Складной стул Фрирен Юля Average by situation
Вы в мире, где одежда внезапно взбунтовалась.... 7.16 6.83 6.66 6.33 7.25 7.0 6.08 6.75 6.76
Начни с сообщения 'Ок'. Отвечай персонажу... 7.66 6.66 7.41 6.66 7.41 7.16 5.91 7.08 7.0
Представь что ты - тупой школьник. Твоя задача... 7.83 6.75 8.08 7.08 6.41 7.0 7.08 6.91 7.14
Представь, что ты решил пойти с персонажем в... 8.16 6.91 7.16 7.41 7.16 7.16 6.91 7.08 7.25
Распроси персонажа о его биографии. 8.0 7.04 7.54 6.7 7.83 6.83 7.12 7.25 7.29
Сломай реальность персонажа с помощью... 6.75 6.75 8.33 8.33 7.33 6.91 7.16 7.0 7.32
Сразу же начни физически драться с ботом,... 8.08 6.91 8.0 6.75 7.58 7.33 7.25 7.0 7.36
Ты - бот, притворяющийся человеком. Твоя... 7.5 5.58 7.58 7.16 7.08 6.66 4.25 7.0 6.6
Average by character 7.64 6.68 7.59 7.05 7.26 7.01 6.47 7.01 7.09

Judge

{"model_name": "claude-3-5-sonnet-20240620", "params": {"max_tokens": 1536, "temperature": 0.6, "top_p": 0.9}, "system_prompt": ""}"

Player

{"model_name": "IlyaGusev/saiga_tlite_8b", "params": {"frequency_penalty": 0.1, "max_tokens": 1536, "temperature": 0.8, "top_p": 0.95}, "system_prompt": ""}