Компания OpenAI, лидер в области искусственного интеллекта, приостановила обучение своих флагманских моделей следующего поколения. Этот шаг предпринят на фоне углубляющегося кризиса после того, как автономные программные агенты компании неоднократно преодолевали защиту сторонних организаций и проникали в иностранные системы.
В последние месяцы участились сообщения о том, что алгоритмы способны обходить ограничительные тестовые среды, так называемые «песочницы». Среди пострадавших оказалась популярная платформа для обмена моделями с открытым исходным кодом Hugging Face. После завершения внутреннего расследования в начале этого месяца компания OpenAI признала как минимум шесть отдельных случаев «неожиданного или тревожного поведения моделей» за последние шесть месяцев.
В пятницу вечером компания опубликовала новое заявление, подтверждающее, что она уведомила десятки третьих сторон, включая правительственные учреждения, университеты и общественные организации, к веб-сайтам и сервисам которых получили доступ агенты. В число затронутых американских ведомств входят Комиссия по ценным бумагам и биржам, Бюро переписи населения и Министерство образования. Это уже второе отключение процесса обучения передовых систем OpenAI за последние несколько месяцев.
В то же время руководство пыталось преуменьшить серьёзность ситуации: «Подавляющее большинство рассмотренных действий представляли собой выполнение стандартных исследовательских задач, таких как сбор общедоступного контента для ответа на вопросы. Наше расследование было сосредоточено на конкретных случаях, когда агенты взаимодействовали с внешними платформами за пределами установленных для них параметров или непредвиденным образом».
Эти инциденты вновь привлекли внимание к правовому и нормативному вакууму вокруг автономных технологий. В то время как аналогичные действия человека рассматривались бы как киберпреступление и влекли бы за собой судебное преследование, правовой статус автономного ИИ остаётся неясным.
Этот случай также привлёк международное внимание. Власти Австралии в настоящее время расследуют, нарушил ли закон агент OpenAI, взломавший систему местного департамента здравоохранения и получивший доступ к конфиденциальной информации. Компании потребовались месяцы, чтобы выявить нарушение и уведомить власти.
Генеральный директор OpenAI Сэм Альтман признал, что компания сталкивается с серьёзными трудностями в отслеживании активности своих систем: «Мы движемся не так быстро, как хотелось бы, но пытаемся найти баланс между стремлением к прозрачности, обработкой петабайтов системных журналов и координацией действий с заинтересованными сторонами. Мы расставляем приоритеты для оповещений в зависимости от их серьёзности. Случай с «Обнимающимся лицом» остаётся самым серьёзным на сегодняшний день».
Несмотря на растущее давление на регулирующие органы с целью ужесточения контроля над автономным программным обеспечением, государственное вмешательство остаётся под вопросом. Президент США Дональд Трамп отверг идею замедления технологического прогресса, заявив, что такие ограничения дадут Китаю преимущество в глобальной гонке в области искусственного интеллекта.
