Три бывших исследователя OpenAI заявляют, что на прошлой неделе их внезапно уволили за общение со сторонними организациями, занимающимися безопасностью ИИ. По их словам, такие шаги могут заставлять сотрудников стесняться открыто говорить о рисках искусственного интеллекта. Самой компании она подтвердила решение, но объяснила его по иному.

В письме, направленном комитетам по безопасности, уволенные сообщили, что основная идея работы в OpenAI — сотрудничество со сторонними организациями для решения проблем безопасности и что сотрудниками требовалось действовать «свободно и без страха».

Уволенными оказались Микита Балесный (Mikita Balesni), Томек Корбак (Tomek Korbak) и Жасмин Ван (Jasmine Wang), которые занимались вопросами согласования целей ИИ и безопасностью. По словам Балесного, с ним больше не доверяют за то, что он «слишком много общался с занимающимися вопросами безопасности сторонними организациями»; Ван утверждает, что причины увольнения «не складываются в логичную картину».

Корбак настаивает, что устная причина увольнения связана с «характером общения с METR» — ценной для него сторонней некоммерческой исследовательской организацией, которая оценивает риски, связанные с моделями ИИ. Он пояснил, что общение с METR входило в его служебные обязанности. Бывшие коллеги отмечают, что такие увольнения подрывают открытую культуру, которую ранее ценили в OpenAI, и что сотрудники могут начать бояться высказываться и действовать в рамках того, чем считалось нормальным ранее.

Исследователи опубликовали три совета: привлечение к аудитуре по безопасности сторонних аудиторов, обеспечение мониторинга передовых моделей и поддержка культуры открытого и прозрачного диалога между исследователями по безопасности и остальными участниками экосистемы. Руководители OpenAI заявили в служебной записке о полной поддержке этих рекомендаций и подчеркнули, что причиной увольнений стало не поднимать вопросы безопасности, а «обеспечение возможности контроля передовых моделей» и «мониторинг передовых моделей».