Dataset Viewer
model_name
stringlengths 2
32
| score
float64 0.08
0.73
| math_score
float64 0.09
0.91
| physics_score
float64 0
0.58
| total_tokens
int64 136k
2.23M
| evaluation_time
float64 577
17k
| system_prompt
stringclasses 4
values |
|---|---|---|---|---|---|---|
AlexWortega/Gemeni 2.5 Pro
| 0.728
| 0.874
| 0.582
| 2,227,721
| 4,937.3
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Anonumous/GPT-5
| 0.704774
| 0.909548
| 0.5
| 1,374,085
| 4,908.358838
|
Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке.
|
o3-mini-high
| 0.692105
| 0.884211
| 0.5
| 2,186,756
| 5,107.46456
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Anonumous/GPT-OSS-120B
| 0.674623
| 0.849246
| 0.5
| 671,703
| 939.084807
|
Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке.
|
o3
| 0.668904
| 0.868421
| 0.469388
| 1,164,000
| 5,025.797904
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
o4-mini-high
| 0.663802
| 0.868421
| 0.459184
| 1,997,548
| 5,811.026827
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Anonumous/GPT-5 Nano
| 0.64919
| 0.839196
| 0.459184
| 2,218,450
| 5,109.693122
|
Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке.
|
Anonumous/GPT-5 Mini
| 0.633807
| 0.849246
| 0.418367
| 993,326
| 3,368.5272
|
Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке.
|
Anonumous/Claude Opus 4.1
| 0.606861
| 0.703518
| 0.510204
| 448,628
| 1,927.201135
|
Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке.
|
Anonumous/GPT-OSS-20B
| 0.583248
| 0.788945
| 0.377551
| 1,034,077
| 4,009.333387
|
Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке.
|
AlexWortega/Claude Sonnet 4
| 0.551
| 0.633
| 0.469
| 490,996
| 1,294.7
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Qwen QwQ 32B
| 0.530397
| 0.652632
| 0.408163
| 2,112,951
| 16,974.732091
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Gemini 2.0 Flash
| 0.513641
| 0.557895
| 0.469388
| 495,313
| 736.57584
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Claude 3.7 Sonnet
| 0.470032
| 0.542105
| 0.397959
| 405,583
| 1,081.969652
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
gpt-4.1
| 0.465575
| 0.584211
| 0.346939
| 549,983
| 2,434.593305
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
LakoMoor/QVikhr-3-8B-Instruction
| 0.445
| 0.563
| 0.327
| 1,486,327
| 11,874.2
|
You are a helpful assistant. Answer in Russian.
|
LakoMoor/Qwen3-8B
| 0.417
| 0.538
| 0.296
| 1,576,445
| 12,744.3
|
You are a helpful assistant. Answer in Russian.
|
Gemma 3 27B
| 0.400107
| 0.473684
| 0.326531
| 384,164
| 3,024.304121
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Claude 3.5 Sonnet
| 0.376262
| 0.415789
| 0.336735
| 252,843
| 702.003228
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
DeepSeek R1 Distill Qwen 14B
| 0.346133
| 0.447368
| 0.244898
| 806,258
| 7,904.137917
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
DeepSeek V3 0324
| 0.34334
| 0.431579
| 0.255102
| 339,857
| 2,901.808118
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
gpt-4o
| 0.338238
| 0.431579
| 0.244898
| 399,483
| 1,145.041135
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
GigaChat-2-Max
| 0.314232
| 0.363158
| 0.265306
| 185,204
| 965.849054
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
AvitoTech/A-vibe
| 0.280356
| 0.366834
| 0.193878
| 797,771
| 4,097.36707
| null |
GigaChat-2-Pro
| 0.27014
| 0.315789
| 0.22449
| 215,297
| 1,250.343486
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Qwen2.5 72B Instruct
| 0.189474
| 0.378947
| 0
| 322,441
| 5,670.725984
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
GigaChat-Max
| 0.181472
| 0.189474
| 0.173469
| 200,271
| 1,056.479794
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
Gemma 3 4B
| 0.179968
| 0.257895
| 0.102041
| 726,285
| 2,959.35819
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
GigaChat-2
| 0.083083
| 0.094737
| 0.071429
| 136,051
| 576.884927
|
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
|
DeathMath Leaderboard
DeathMath - это бенчмарк для оценки способности моделей решать сложные математические и физические задачи на русском языке.
Текущий лидерборд
Последнее обновление: 2025-10-30 12:02:16
| Модель | Общий балл | Математика | Физика | Токены | Время оценки |
|---|---|---|---|---|---|
| AlexWortega/Gemeni 2.5 Pro | 0.728 | 0.874 | 0.582 | 2,227,721 | 4937.3s |
| Anonumous/GPT-5 | 0.705 | 0.910 | 0.500 | 1,374,085 | 4908.4s |
| o3-mini-high | 0.692 | 0.884 | 0.500 | 2,186,756 | 5107.5s |
| Anonumous/GPT-OSS-120B | 0.675 | 0.849 | 0.500 | 671,703 | 939.1s |
| o3 | 0.669 | 0.868 | 0.469 | 1,164,000 | 5025.8s |
| o4-mini-high | 0.664 | 0.868 | 0.459 | 1,997,548 | 5811.0s |
| Anonumous/GPT-5 Nano | 0.649 | 0.839 | 0.459 | 2,218,450 | 5109.7s |
| Anonumous/GPT-5 Mini | 0.634 | 0.849 | 0.418 | 993,326 | 3368.5s |
| Anonumous/Claude Opus 4.1 | 0.607 | 0.704 | 0.510 | 448,628 | 1927.2s |
| Anonumous/GPT-OSS-20B | 0.583 | 0.789 | 0.378 | 1,034,077 | 4009.3s |
| AlexWortega/Claude Sonnet 4 | 0.551 | 0.633 | 0.469 | 490,996 | 1294.7s |
| Qwen QwQ 32B | 0.530 | 0.653 | 0.408 | 2,112,951 | 16974.7s |
| Gemini 2.0 Flash | 0.514 | 0.558 | 0.469 | 495,313 | 736.6s |
| Claude 3.7 Sonnet | 0.470 | 0.542 | 0.398 | 405,583 | 1082.0s |
| gpt-4.1 | 0.466 | 0.584 | 0.347 | 549,983 | 2434.6s |
| LakoMoor/QVikhr-3-8B-Instruction | 0.445 | 0.563 | 0.327 | 1,486,327 | 11874.2s |
| LakoMoor/Qwen3-8B | 0.417 | 0.538 | 0.296 | 1,576,445 | 12744.3s |
| Gemma 3 27B | 0.400 | 0.474 | 0.327 | 384,164 | 3024.3s |
| Claude 3.5 Sonnet | 0.376 | 0.416 | 0.337 | 252,843 | 702.0s |
| DeepSeek R1 Distill Qwen 14B | 0.346 | 0.447 | 0.245 | 806,258 | 7904.1s |
| DeepSeek V3 0324 | 0.343 | 0.432 | 0.255 | 339,857 | 2901.8s |
| gpt-4o | 0.338 | 0.432 | 0.245 | 399,483 | 1145.0s |
| GigaChat-2-Max | 0.314 | 0.363 | 0.265 | 185,204 | 965.8s |
| AvitoTech/A-vibe | 0.280 | 0.367 | 0.194 | 797,771 | 4097.4s |
| GigaChat-2-Pro | 0.270 | 0.316 | 0.224 | 215,297 | 1250.3s |
| Qwen2.5 72B Instruct | 0.189 | 0.379 | 0.000 | 322,441 | 5670.7s |
| GigaChat-Max | 0.181 | 0.189 | 0.173 | 200,271 | 1056.5s |
| Gemma 3 4B | 0.180 | 0.258 | 0.102 | 726,285 | 2959.4s |
| GigaChat-2 | 0.083 | 0.095 | 0.071 | 136,051 | 576.9s |
Как принять участие в бенчмарке
Для участия в бенчмарке DeathMath:
- Клонируйте репозиторий и запустите тесты вашей модели
- Загрузите результаты через HuggingFace Space
- Дождитесь проверки и добавления результатов в лидерборд
Формат результатов
Результаты должны быть в формате JSON со следующей структурой:
{
"score": 0.586,
"math_score": 0.8,
"physics_score": 0.373,
"total_tokens": 1394299,
"evaluation_time": 4533.2,
"system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
}
Лицензия
Бенчмарк распространяется под лицензией Apache 2.0
- Downloads last month
- 37
Size of downloaded dataset files:
12.3 kB
Size of the auto-converted Parquet files:
5.93 kB
Number of rows:
29