Минцифры планирует создать специализированную площадку для тестирования искусственного интеллекта (ИИ) на безопасность, чтобы обеспечить его внедрение в критически важные объекты страны, пишет РБК. Такая инициатива связана с подготовкой законопроекта "О применении систем искусственного интеллекта органами, входящими в единую систему публичной власти, и внесении изменений в отдельные законодательные акты", предусматривающего обязательное получение сертификатов безопасности для систем ИИ высокого и критического уровня риска, выданных Федеральной службой по техническому и экспертному контролю (ФСТЭК) и Федеральной службой безопасности (ФСБ).
Тестирование новых систем будет проходить на специально разработанном полигоне, созданном Минцифры, который также должен проверять соответствие ИИ установленным требованиям. При успешном прохождении тестов системы смогут использоваться на объектах критической информационной инфраструктуры.
Законопроект вводит четыре уровня критичности ИИ-систем: минимальный (системы не оказывают существенного влияния на права и безопасность (например, рекомендательные системы)), ограниченный (системы должны сообщать пользователям о том, что они работают с нейросетью), высокий (системы используются на объектах КИИ) и критический (системы угрожают жизни или здоровью человека, безопасности государства, а также разработки, способные к принятию решений без вмешательства человека).
Определять уровень будет Национальный центр искусственного интеллекта — новая структура при правительстве. Для критических и высокорискованных систем требования к сертификатам — наличие системы в реестре отечественного или евразийского программного обеспечения. Законопроект также запрещает использование ИИ-систем иностранного происхождения в критической инфраструктуре для повышения технологического суверенитета и защиты данных.
Напомним, как ранее писал "Кабельщик", ФСТЭК официально признала искусственный интеллект источником киберугроз.
- Войдите или зарегистрируйтесь, чтобы оставлять комментарии
