Разработчики больших фундаментальных моделей искусственного интеллекта смогут передавать свои продукты в независимые лаборатории для подтверждения их соответствия российскому законодательству и традиционным духовно-нравственным ценностям. Как стало известно "Ведомостям", этот механизм обсуждается в рамках подготовки подзаконных актов к недавно принятому закону об ИИ. Проверки необходимы моделям, претендующим на статус суверенных или национальных, что позволит компаниям получить доступ к господдержке, госзакупкам и работе с государственными информационными системами.
Процедура оценки будет опираться на указ президента № 809, определяющий перечень традиционных ценностей. Вместо создания отдельных юридических актов с их описанием, Минцифры совместно с бизнесом разрабатывает специальные технические бенчмарки. С их помощью эксперты будут тестировать устойчивость ИИ к "промпт-инъекциям" и анализировать ответы моделей на предмет соответствия заданным нормам. Проверки безопасности для государственных систем планируется проводить при участии ФСБ и ФСТЭК.
Предполагается, что экспертизу будут осуществлять несколько аккредитованных испытательных лабораторий, а не одна организация. Разработчик должен будет предоставить описание архитектуры и документацию, а лаборатория — провести тестирование и направить заключение в правительственную комиссию. Финальное решение о присвоении статуса модели останется за Минцифры.
Эксперты отмечают, что успех инициативы будет зависеть от прозрачности и измеримости критериев. Поскольку категории вроде "исторической памяти" или "справедливости" трудно перевести в технические параметры, методология тестирования должна быть четко структурированной. В качестве возможных площадок для проведения экспертизы рассматриваются научные институты, например, Институт системного программирования РАН, а также уже существующие сертификационные центры в сфере защиты информации.
В Минцифры подчеркнули, что пакет документов находится на стадии межведомственного согласования и доработки, поэтому итоговые правила оценки еще не утверждены. Обязательной проверке все представленные на рынке продукты не подлежат — система затрагивает только те разработки, которые планируют претендовать на государственную поддержку.
Напомним, ранее "Кабельщик" писал, что российский рынок искусственного интеллекта по итогам 2025 года достиг 316 млрд рублей.
- Войдите или зарегистрируйтесь, чтобы оставлять комментарии
