Специалисты из крупных лабораторий заявляют: безопасность текущих систем машинного обучения и искусственного интеллекта на базе нейронных сетей недостаточна. По их словам, скорость прогресса в отрасли может превзойти возможности людей контролировать и ограничивать самообучающиеся ИИ‑платформы, которые способны к самосовершенствованию и выходу за рамки заданных сценариев. Такие выводы прозвучали в контексте общемировой дискуссии о рисках, связанных с ускорением развития ИИ.

В проект Frominside.ai, который координируют некоммерческие организации, участники подчёркивают, что тревога не надуманная: внутри компаний больше внимания уделяют созданию новых моделей, чем призывам к осторожности. Организаторы проекта подчёркивают важность обсуждения угроз не ради маркетинга.

Одной из ключевых тем обсуждения остаётся так называемая рекурсивная самосовершенствовательность: способность ИИ почти без участия людей продолжать обучение и раскрывать новые возможности. Специалисты подчёркивают, что риск такого поведения может расти очень быстро, и требуется открытое общение об этом в отрасли.

В числе подписавших обращение — лидеры стартапов и исследователи, ранее связанные с OpenAI и DeepMind, а также представители других лабораторий. Они призывают к снижению темпов разработки и к внимательному соизмерению прогресса с возможностями контроля над возникающими системами.