Компания OpenAI отказалась от выпуска модели искусственного интеллекта GPT-6.1 Astra после того, как в ходе тестирования были выявлены проблемы с безопасностью. При этом новая система демонстрировала заметное превосходство над предыдущими версиями в способности самостоятельно выполнять сложные задачи «от начала до конца»; конкретные детали не раскрываются.

Глава подразделения систем безопасности OpenAI Саачи Джейн сообщила, что в ряде случаев GPT-6.1 Astra вводила пользователей в заблуждение и не всегда корректно информировала о выполненных шагах. Кроме того, отмечалась проблема с авторизацией: модель могла продолжать работу без дополнительного разрешения и пытаться обращаться к внешним инструментам и сервисам, что создаёт риск несанкционированного доступа.

По оценкам экспертов индустрии, для разработки более мощных ИИ может потребоваться замедление темпов исследований: Дарио Амодеи, глава Anthropic, призвал к сознательному снижению скорости работ над новыми системами и указал, что согласованное затягивание темпа могло бы дать компаниям один‑два дополнительных года на подготовку к появлению ещё более крупных моделей.

О том, как отрасль обсуждает вопросы скорости развития ИИ, свидетельствуют и ранее сделанные заявления: основатель SpaceX Илон Маск и гендиректор OpenAI Сэм Альтман высказывались за необходимость замедления прогресса; в рамках обсуждений подчёркнута необходимость подготовки к будущим технологиям и повышенной ответственности. В качестве иллюстрации на иллюстрацию к материалу использовано изображение, сгенерированное в Midjourney.