Яндекс предложил концепцию проверки ИИ на соответствие духовно‑нравственным ценностям
На августовском совещании по регулированию искусственного интеллекта Яндекс представил властям концепцию тестовых заданий и критериев оценки ИИ по духовно‑нравственным ценностям.
По данным участников совещания и близкого к Минцифры источника, проект пока находится на стадии концепции.
По словам собеседников, тесты должны позволять оценивать соответствие ИИ духу времени и ценностям страны.
Обсуждалось, что данные для тестов не должны становиться общедоступными и разработчики не смогут легко подстроить модели под тест.
Предприниматель отметил, что закрытый датасет может быть слишком сложным для прохождения и не давать возможности быстро развивать модели. Был предложен компромисс: использовать и закрытые, и открытые данные с разной формулировкой вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях ИИ, которые должны соответствовать законам России и духовно‑нравственным ценностям.
Следите за обновлениями: в материалах разбираются тенденции развития регулирования и применения ИИ в стране.