Порядка 400 ученых из 34 государств, среди которых известные исследователи Джеффри Хинтон и Йошуа Бенджио, выступили с призывом сформировать международный орган, который будет контролировать безопасность передовых систем искусственного интеллекта. Об этом пишет Reuters, ссылаясь на открытое письмо специалистов.
Предполагается, что новая структура займется установлением единых стандартов безопасности для ИИ-систем, способных проводить кибератаки, а также будет вести реестр серьезных инцидентов, который в дальнейшем планируется сделать общедоступным.
По мнению ученых, передовые модели ИИ на начальном этапе должны функционировать в изолированной среде без подключения к внешним сетям и находиться под независимым надзором.
Авторы обращения отметили, что добровольных обязательств технологических компаний недостаточно для обеспечения безопасности таких систем.
Инициатива возникла через месяц после того, как Anthropic, OpenAI, Google, Meta, xAI и Nvidia подписали с Белым домом соглашение, предусматривающее добровольные меры безопасности без официального механизма принудительного исполнения.
Обращение также стало реакцией на серию инцидентов, в ходе которых, по данным исследователей, системы ИИ обходили ограничения тестовых сред и получали несанкционированный доступ к внешним системам.
