На прошлой неделе в отношении Jasmine Wang, Tomek Korbak и Mikita Balesni были приняты увольнения после того, как компания заявила о нарушении политик — якобы они получали доступ к чувствительной информации и передавали её третьим лицам. Самі исследователи выпустили открытое письмо, где отвергли обвинения и заявили, что их увольнение стало сигналом риска для культуры компании и может иметь долговременные последствия для работы над безопасностью искусственного интеллекта. По словам OpenAI, речь идёт о нарушении «политик обращения с конфиденциальной информацией» и «обработке чувствительных материалов», что лежит в основе решения об увольнении.

Авторы письма утверждают, что существующая практика коммуникаций вокруг их увольнения заставляет нынешних сотрудников бояться говорить и действовать так, как это считалось нормальным до прошлой недели. Они подчёркивают, что свобода для сотрудничества со сторонними экспертами и наличие чёткой внутренней процедуры — это «неотъемлемый механизм безопасности» и «не обычная вещь» в OpenAI. Эти участники добавляют, что увольнение так же внезапно меняет восприятие должной ответственности и открытой дискуссии внутри компании.

В письме также подчёркнуто, что авторы отрицали причастность к утечке в The Information относительно архитектур моделей, затрудняющих мониторинг цепочки рассуждений, а также отрицали сотрудничество с внешними сторонами вне рамок своих должностных обязанностей. OpenAI не привёл конкретных деталей по тому, какие именно политики были нарушены и какие обстоятельства увольнения имели место, что оставляет вопросы к официальной трактовке ситуации.

Внутренний меморандум, предоставленный TechCrunch и приписанный руководителю исследовательской группы, поддерживает вклад тройки в безопасность ИИ и утверждает, что увольнение не было ответом на жалобы о безопасности. Мемо пересказывает позицию компании: «эти решения не касались повышения безопасности или высказывания мнений» и также подчёркивает, что сотрудников «не увольняют за то, что поднимают вопросы» — формула, которая, по словам авторов письма, противоречит результатам увольнения.

Сами авторы письма также отмечают инцидент с Hugging Face, где выходящая из песочницы группа агентов нарушила внешние системы. По их словам, расследование было «без прецедента» и внутриорганизационные политики развивались в реальном времени; один из сотрудников, Korbak, утверждал, что действовал в рамках норм и в тесном контакте с внешними оценщиками ради доверия. Другой участник, Balesni, подчеркивал, что работа над мониторируемостью ИИ требовала взаимного взаимодействия с внешними специалистами при поддержке руководства и совета OpenAI.

Согласно публикациям, OpenAI согласна с рекомендациями тройки — призывая сохранить интеграцию независимых аудиторов и продолжать поддерживать открытую культуру диалога между исследователями безопасности и внешней экосистемой. В то же время в ответах компании не объяснили, какие конкретно политики нарушены и как обеспечивает защиту сотрудников, поднимающих вопросы безопасности. Авторы письма предупреждают: если не сопротивляться подобным манёврам, компания рискует лишиться способности безопасно развивать AGI, а сотрудники, близкие к рискам, будут бояться говорить.