ar25-0c556536
- Luna
- 3 / 8 уровней · 118 действий
- Claude
- 1 / 8 уровней · 128 действий
БЕНЧМАРКИ · РЕАЛЬНЫЕ ДАННЫЕ
Наши реальные прогоны Luna и Claude Fable 5.1, отдельно — опубликованные отраслевые результаты. С условиями и источниками.
GPQA DIAMOND · ОБЩИЙ ПРОГОН
Полный набор: 198 из 198.
198 одинаковых вопросов · явный выбранный вариант
Одинаковое правило для обеих систем: учитывается явно указанный вариант. Лишнее пояснение не меняет правильность ответа.
Те же вопросы · ответ только в заданном JSON
Более строгий критерий: правильный вариант и точное соблюдение формата. Ответ с верным расчётом, но лишним текстом здесь не проходит.
Одинаковые вопросы, порядок вариантов и правила оценки. Luna — стандартный серверный профиль Low; Claude — Fable 5.1 Medium в веб-интерфейсе, отдельный временный диалог на вопрос. Скорость этих разных интерфейсов не сравниваем.
Строгий JSON был исходным критерием. Отдельную оценку содержания добавили после первых трёх ответов Claude и применили к обеим моделям. Она засчитывает только явно и однозначно указанную букву ответа; противоречивые варианты не исправляются.
Все 198 вопросов включены в результат.
Проверяемые итоги и методика · JSON ↓ARC-AGI-3 · ДЕЙСТВИЯ В СРЕДАХ
1 из 25 сред
завершены обеими системами.
Только 1 общая среда из 25 · не итог полного набора
Счёт онлайн-среды ARC по записанным действиям. Все кадры повторного воспроизведения совпали с исходными. Один общий игровой сценарий не позволяет судить обо всём ARC-AGI-3.
1 одинаковых игровых сред из 25
Максимальное число достигнутых уровней в каждой среде. Это отдельный описательный показатель, не официальный балл ACE и не скрытый рейтинг ARC-AGI-3.
Открытые среды ARC-AGI-3, один ограниченный проход: до 128 действий и 32 решений на среду. Модель получает точную текстовую запись сетки; подсказок и доступа к коду игр нет. Это частичный прогон, не результат полного набора.
Проверка прерывалась и восстанавливалась: воспроизводились только записанные действия, каждый кадр сверялся с исходным. Некоторые незаписанные ответы пришлось запросить заново. Ошибки переноса текста интерфейсом сохранены отдельно и не засчитаны как ошибки модели. Это не непрерывный прогон первых ответов.
Для Luna завершено 18 / 25 сред, для Claude — 1 / 25. Сравниваем только общий завершённый отрезок. Набор, интерфейсы и бюджет отличаются от скрытого лидерборда. Эти результаты не доказывают наличие общего искусственного интеллекта или превосходство во всех задачах.
Результаты сред · JSON ↓LUNA 7 MEGA · НАШ РЕАЛЬНЫЙ ЗАМЕР
184 из 198 верных ответов на GPQA Diamond.
Физика, химия и биология. Полный набор.
Одна точка — один вопрос.
Один проход. Без исправляющих повторов.
Измерения серверного компонента Luna, 21 сентября 2026. Не независимый аудит и не проверка всех функций приложения.
LUNA PRACTICAL V1
Четыре типа задач.
Реальные ответы и выполненные тесты кода.
Оба графика — результаты одной модели. Это не сравнение с Claude.
Доля зачтённых попыток · больше — лучше
Небольшой внутренний набор, а не универсальная оценка интеллекта. Для инструментов проверялся выбор, не выполнение.
Медиана · секунды · меньше — быстрее
Разные задачи имеют разную сложность. Это не сравнение скорости с другой моделью и не задержка голосового вызова.
184 верных ответов из 198. Полный открытый набор сложных вопросов по физике, химии и биологии.
Один ответ на вопрос · без инструментовВсе вопросы, а не выбранные удачные примеры. Ошибки включены в итоговый результат.
Независимый набор · наш собственный прогонМедианное время полного ответа в этом прогоне, включая сеть и обработку.
95-й перцентиль · 14,17 сИзмерено на стандартном серверном профиле Luna 0.8.30. Это проверка ответов модели, не всего Windows-приложения и не независимый аудит. Один проход не доказывает превосходство над другой моделью. Методика и результаты ↓
LUNA PRACTICAL V1
Успешных попыток на внутреннем наборе: 16 заданий, каждое выполнено дважды.
Без повторных попыток после ошибкиМедианное время ответа по всем 32 попыткам. Включает сеть и ожидание обработки.
95-й перцентиль · 12,38 сМедиана генерации одной JS-функции. Полученный код запускался на заранее заданных тестах.
12 попыток · 6 разных задачЭто небольшой внутренний тест компонентов Luna 0.8.28, а не независимый рейтинг или проверка всех действий в установленном приложении. Результат не означает 100% надёжности на любых задачах.
РЕАЛЬНЫЙ ПРОГОН
| Раздел | Зачтено | Медиана | 95-й перцентиль |
|---|---|---|---|
| Код6 задач · 60 проверок результата | 12 / 12 | 9,42 с | 12,91 с |
| Аналитика4 задачи · расчёты и ограничения | 8 / 8 | 2,09 с | 2,80 с |
| Личный помощник3 задачи · карточка, память, камера | 6 / 6 | 1,90 с | 2,55 с |
| Выбор инструмента3 задачи · приложение, поиск, браузер | 6 / 6 | 2,66 с | 4,80 с |
Инструменты в этом наборе только выбирались моделью: поиск, открытие браузера и приложения не выполнялись. Первый текст появился в медиане за 1,83 с в 23 ответах с текстом; это не задержка голосового вызова.
ЗАДАЧИ С РЕЗУЛЬТАТОМ
В отдельном прогоне Луна собрала 20 наггетсов в тестовом магазине, разделила имя и фамилию и выбрала отделение 165.
17 обращений к модели. Ноль подтверждений чтения и подготовки; одно перед окончательной отправкой. Реального заказа и списания не было.
Один сценарий, не общий балл работы в браузереВ реальном запросе создан «Предел Ориона»: корабль, астероиды, столкновения, щит и счёт.
Проверены запуск, движение, пауза, продолжение и повтор после проигрыша. Полное прохождение, сенсорное управление и звук не проверены.
Посмотреть результат ↗LUNA 7 MEGA / CLAUDE FABLE 5.1
Общий набор завершён: 24 ответа каждой системы.
Вопросы и критерии совпадают; настройки и интерфейсы различаются. Первые четыре диаграммы показывают общий набор. Дальше — отдельные тесты: пустая дорожка означает отсутствие сопоставимого замера, а не ноль.
12 заданий × 2 прохода · зачёт по всем критериям
Luna: 24/24. Claude: 21/24. Три ответа Claude не соблюли требование строгого JSON, хотя расчёт был верным. Это небольшой внутренний набор, не общая оценка интеллекта.
4 задания × 2 прохода · включая строгий JSON
Luna: 8/8; Claude: 5/8. Правильное содержание с лишним пояснением не проходило заранее заданный формат. Исправляющих повторов не было.
2 задания × 2 прохода · вымышленные данные
Luna: 4/4; Claude: 4/4. Проверяется ответ по данному контексту, а не реальное оформление заказа или управление компьютером.
6 функций × 2 прохода · общий набор
Наш реальный замер: Luna — 60/60, Claude — 60/60 проверок. Luna Low через сервер, Fable 5.1 Medium через веб-интерфейс. Это небольшой функциональный тест, не рейтинг всего программирования.
Полный общий набор · 198 вопросов
Наш общий прогон. Одинаковое правило явного ответа; подробности и отдельная оценка строгого формата — в начале страницы.
Научные задачи в терминале
Данные Anthropic. Luna этот набор не проходила.
Разработка в терминале
Данные Anthropic. Luna этот набор не проходила.
Профессиональные задачи · рейтинговые баллы
Данные Anthropic. Luna этот набор не проходила.
Работа с компьютером, частичный зачёт
Данные Anthropic. Luna этот набор не проходила.
Работа с компьютером, полный зачёт
Данные Anthropic. Luna этот набор не проходила.
Междисциплинарные вопросы
Данные Anthropic. Luna этот набор не проходила.
Междисциплинарные вопросы
Данные Anthropic. Luna этот набор не проходила.
Бизнес-процессы
Данные Anthropic. Luna этот набор не проходила.
Программирование
Данные Anthropic. Luna этот набор не проходила.
Раздел кода завершён у обеих систем: 12 решений, 60 проверок результата и неизменности входных данных. Весь общий набор завершён. Luna: 24/24 (100%); Claude: 21/24 (87,5%).
Luna: сохранённый прогон 21 сентября, стандартный серверный профиль Low. Claude: реальный веб-прогон 22 сентября, Fable 5.1 Medium, отдельный incognito-диалог на каждую попытку. Разные системные инструкции; скорость между интерфейсами не сравниваем.
Три решения Luna взяты из содержимого вызова сохранения файла; само действие не исполнялось. Два ответа Claude о времени встречи и один о выручке содержали правильный расчёт, но добавили текст вне JSON: каждый незачёт — ошибка формата, не расчёта. Исправляющих повторов не было.
Исходные ответы и проверки · JSON ↓Источники: наши общие практические прогоны; для отдельно отмеченных отраслевых показателей Claude — официальная публикация Anthropic, проверена 22 сентября 2026. Баллы разных тестов не складываются в общий рейтинг. «Luna сильнее Claude» этими данными не доказано.
СРАВНЕНИЕ ПРОДУКТОВ
В Luna объединены персонаж, голосовой вызов и создание материалов. При этом управление компьютером и голос есть и у Claude.
Функции зависят от устройства, тарифа и разрешений.
«Не заявлено» не означает невозможность через расширения или внешние инструменты. Для этих строк проверены описание голоса ↗ и работа с компьютером ↗. Это сравнение функций продукта, не оценка качества интеллекта.
МЕТОДИКА GPQA DIAMOND
Официальный Diamond-набор, четыре варианта ответа на английском. Варианты перемешаны воспроизводимо. Каждый вопрос — новый контекст; ответ сверяется с ключом автоматически. Исправляющих повторов, поиска и выполнения инструментов не было.
Стандартные серверные инструкции, низкий уровень усилия, краткий нейтральный ответ. Без памяти пользователя и правил владельца. Схемы инструментов сохранены, но сами инструменты не исполнялись. Некорректный формат ответа считается ошибкой.
184 / 198, 92,9%. Интервал Уилсона 95%: 88,5–95,7%. Это ориентир для конечной выборки, не гарантия результата на других задачах. Публичный набор мог встречаться при обучении базовой модели; отсутствие такого пересечения не установлено.
Два параллельных запроса, облачная обработка. Время включает сеть и очередь. Голос, аватар, приложения и оформление реальных заказов этим тестом не оцениваются. Конфигурация сервера не менялась в течение прогона.
Набор: GPQA · авторы и исходные данные ↗, CC BY 4.0. В публичном отчёте — все 198 итогов и задержки, без текстов вопросов и ключей ответов.
МЕТОДИКА LUNA PRACTICAL V1
6 задач на код, 4 на расчёты, 3 на понимание контекста, 3 на выбор инструмента. Для кода — 30 входных случаев на один проход; для ответов — точные ожидаемые значения.
Каждое задание в новом контексте. Стандартные инструкции Luna 0.8.28, низкий уровень усилия, краткий нейтральный ответ, без пользовательских правил владельца. Код выполнялся в изолированной среде с лимитом 1 с.
Windows x64, AMD Ryzen 9 9950X3D, Node 24.19.0. Модель работает в облаке; его оборудование неизвестно. Задержки включают сеть и очередь. Маленькая выборка не описывает все реальные задачи.
В отчёте сохранены все 32 попытки, ответы, выбранные инструменты и проверки кода. Данные карточек и магазинов в тесте вымышленные.
ПРОДОЛЖИТЬ ЗНАКОМСТВО

Для общения нужны аккаунт и интернет.