Категории Нейросети и ИИ

«Яндекс» предложил тест для проверки нейросетей на духовно-нравственные ценности

«Яндекс» предложил тест для проверки нейросетей на духовно-нравственные ценности

«Яндекс» представил правительству России концепцию набора заданий и эталонных данных, с помощью которого предлагают проверять ИИ-системы на соответствие духовно-нравственным ценностям. Проект пока находится на стадии концепции, правила использования еще не определены.

По замыслу, бенчмарк должен показывать, насколько нейросеть соответствует «духу времени и ценностям страны» и подходит для работы в российских условиях. Пока неясно, будет ли тест открытым или закрытым, кто именно станет формулировать вопросы и каким будет итоговый формат проверки.

Как Яндекс предлагает проверять ИИ

О создании национального датасета, то есть набора заданий и правильных ответов для сравнения разных ИИ-моделей, стало известно на совещании рабочей группы по регулированию искусственного интеллекта 13 августа 2026 года. Источники «Коммерсанта», знакомые с обсуждением, рассказали, что речь идет о наборе контрольных заданий для оценки нейросетей по единым критериям.

Сама идея бенчмарка не нова: такие тесты уже используют, чтобы сравнивать модели по одинаковым правилам. Но в этом случае речь идет не только о знаниях или выполнении рабочих задач, а о проверке соответствия определенным ценностям, для чего, как отмечают участники обсуждения, потребуются специальные критерии и экспертная оценка.

Читайте также:

Один из главных вопросов сейчас связан с доступом к заданиям. ФСБ выступает за закрытый вариант, утверждает «Коммерсантъ». По мнению сторонников такой схемы, если разработчики заранее узнают вопросы, они смогут подстроить модели под прохождение проверки, а не улучшить их реальные возможности.

Представители бизнеса предложили компромиссный вариант: открытый набор можно использовать для предварительного тестирования, а итоговую проверку проводить по закрытому бенчмарку. Темы при этом могут совпадать, но сами формулировки вопросов будут другими.

Еще один вопрос касается того, кто будет определять содержание теста. ИТ-сообщество предлагает создать совместную комиссию с участием государства, бизнеса и экспертных организаций. В аппарате вице-премьера Дмитрия Григоренко сообщили, что предложения пока обсуждаются с отраслью и заинтересованными ведомствами, а в Минцифры заявили, что подзаконные акты к закону об ИИ тоже еще обсуждаются с бизнесом.

«Яндекс» и Альянс ИИ на запрос «Коммерсанта» не ответили.

Источник: Www1
Опубликовано:
Елизавета Добровольская