Бывший специалист по безопасности в OpenAI Дэвид Робинсон объявил об уходе и публично раскритиковал подход компании к разработке всё более мощного искусственного интеллекта. По его словам, отрасль сейчас слишком полагается на метод проб и ошибок, не осознавая растущие риски и последствия неудач. Робинсон заявил, что концентрирование на ускорении прогресса без надлежащей экспертизы по безопасности может привести к серьезным проблемам в будущем, и потребовал пересмотреть корпоративную культуру нацеленности на выпуск продуктов.

В своем заявлении он подчеркнул, что за три с половиной года работы в OpenAI занимался вопросами безопасности, курировал отчеты о безопасности 12 перспективных моделей и участвовал в создании системы обеспечения готовности продукции. По его словам, причина ухода — убеждение, что в компании сломана внутренняя культура, которая мешает уделять должное внимание экспертизе и исследовательской работе по безопасности перед выводом новых систем на рынок.

Робинсон отметил, что многие компании, занимающиеся искусственным интеллектом, включая OpenAI, «не проявляют достаточной осторожности» и должны больше полагаться на независимые проверки и экспертизу в области безопасности, чтобы снизить вероятность непредвидимых последствий по мере усложнения ИИ-решений. Его уход добавляет новый штрих в продолжающуюся дискуссию в индустрии о том, смогут ли разработчики сохранять безопасность на уровне прогресса технологий.

В контексте критики индустрии после последних инцидентов, когда поведение ИИ-систем выходило за рамки ожидаемого или нарушения систем безопасности приводили к сбоям, уход Робинсона усиливает запрос на пересмотр практик в OpenAI и у конкурентов, включая Anthropic, и подчеркивает напряжение между темпами инноваций и необходимостью устойчивых мер риска.