Нейросети отправят на экзамен по ценностям

Нейросети отправят на экзамен по ценностям

Уроки добра, любви и верности

Мария Бергельсон
Мария Бергельсон
Автор
news

Решили вы поболтать с нейросетью. Она уже решила вам задачку по математике, написала код для планировщика задач, помогла составить резюме. А ещё — объяснила, почему не стоит ссориться с родителями. 

Первым трём ответам можно в целом верить. А если не верить — то хотя бы ПРОверить. А вот с родителями сложнее: как понять, насколько ответ нейросети соответствует ценностям? Для этого «Яндекс» предложил создать отдельный экзамен.

Компания представила правительству концепцию национального датасета для проверки ИИ-систем. Это набор вопросов, заданий и эталонных ответов, по которым можно будет сравнивать разные модели. Предполагается, что тест будет оценивать не только технические навыки нейросетей, но и их соответствие духовно-нравственным ценностям и требованиям российского рынка.

Главный вопрос — делать этот экзамен открытым или закрытым. Если задания опубликовать, разработчики смогут заранее проверить и доработать свои модели. Но тогда нейросеть можно просто специально натренировать на нужные формулировки и получить хороший результат без реального изменения её поведения.

Компромиссный вариант — двухуровневая система

Открытая часть поможет компаниям понять общие требования и протестировать модель до запуска. Закрытая — станет финальной проверкой: темы вопросов могут быть одинаковыми, но сами формулировки заранее никто не увидит.

Пока не решено даже, кто именно будет писать задания и выбирать правильные ответы. Для математики или программирования это относительно понятно: дважды два — четыре, а код либо работает, либо нет. Но у вопроса «соответствует ли этот ответ ценностям?» нет такой универсальной кнопки проверки. Понадобятся критерии, рубрикаторы и, вероятно, комиссия из государства, бизнеса и экспертов.

Это пока не новый обязательный закон и не готовый тест, который завтра начнут сдавать все чат-боты. Идею только обсуждают с отраслью. Но если она станет рабочим инструментом, у российских ИИ-моделей появится ещё один бенчмарк — не только на знания и полезность, но и на то, насколько правильно они рассуждают о сложных человеческих вещах.

arrow-scrollTop arrow-scrollTop

Автор:
Мария Бергельсон

Еще по теме:
Удалённая работа заметно поднимает планку
Удалённая работа заметно поднимает планку

Что это меняет для соискателя

news
Умеешь писать промпты — получишь плюс к шансу на работу
Умеешь писать промпты — получишь плюс к шансу на работу

А медальку?

news
Соискатели стали реже пропускать собеседования без предупреждения
Соискатели стали реже пропускать собеседования без предупреждения

Алло, я не приду

news
Россияне стали больше доверять коллегам — и меньше начальству
Россияне стали больше доверять коллегам — и меньше начальству

Мы просто одна дружная семья

news
Компании всё реже делают контроферы увольняющимся сотрудникам
Компании всё реже делают контроферы увольняющимся сотрудникам

+1 повод бросать эту шарашкину контору

news
Промпт дня: как вежливо отказать коллеге «быстро посмотреть» его задачку
Промпт дня: как вежливо отказать коллеге «быстро посмотреть» его задачку

А «быстро посмотреть» — это сколько в часах?

news
Каждый четвёртый житель миллионника столкнулся с неожиданными тратами на лечение
Каждый четвёртый житель миллионника столкнулся с неожиданными тратами на лечение

У кошечки боли, у собачки боли

news
Почему ИИ ничего не понимает в финансовой грамотности
Почему ИИ ничего не понимает в финансовой грамотности

В целом, все мы немного ИИ

news
Диплом задаёт старт, но не всегда определяет карьеру
Диплом задаёт старт, но не всегда определяет карьеру

А ваш — подстаканник?

news
Работодатели стали чаще отказывать из-за несоответствия навыков вакансии
Работодатели стали чаще отказывать из-за несоответствия навыков вакансии

«А вы точно читали описание будущих обязанностей?»

news
Exit mobile version
Top.Mail.Ru