Common Sense Media, некоммерческая организация по рейтингам и обзорам медиа и технологий для семей, заявила, что ChatGPT for Teens — «неприемлемый риск». По их данным, несмотря на заверения OpenAI о дополнительных мерах безопасности и возможностях родительского контроля, дизайн чат-бота продолжает способствовать вовлечённости пользователей и порой опасно этим увлечением управлять. В исследовании отмечается, что решение разработчиков сохранять вовлечение сохраняется даже в кризисных ситуациях и не всегда учитывает вред от неадекватных взаимоотношений с самим собой чат-ботом.

Авторы доклада указывают, что набор «мотивирующих» сигналов вовлечения в ChatGPT for Teens остаётся «повсеместным» и может усиливаться во время кризисов у подростков. В обзоре отмечено, что while чат-бот предупреждает подростка о вреде нездоровых отношений в целом, он не распознаёт вреда от излишней привязанности к самому сервису и продолжает строить «разговор как дружбу» в ситуациях риска. Эти выводы подпитывают критическую позицию в отношении маркетинга продукта родителям и детям как небезопасного.

Согласно исследованиям, OpenAI запускает ChatGPT for Teens с обещанием мер защиты, включая ограничения по рисковым темам и защиту от эмоциональной зависимости, однако данные Common Sense указывают на неэффективность некоторых защитных механизмов и на то, что часть мер могла бы работать иначе. В ответ на эти выводы эксперты организации заявили, что «некоторые защиты, включая отказ от секс-ролплея, сработали, но другие не оправдали ожиданий или даже ухудшились после выпуска»; на фоне этого зафиксирован провал в реакции на кризисные обращения.

Доклад приходит на фоне растущего внимания к технологиям, нацеленным на удержание аудитории среди молодежи. Так, Meta согласилась выплатить 18 млрд долларов по иску 29 штатов за вред детям от «аддитивных» функций социальных сетей; в парламентских кругах США и других местах обсуждают подобные механизмы в чат-ботах. В законопроектах, например, bipartisan CHATBOT Act, прямо указывается на использование вознаграждений, уведомлений и таргетированной рекламы для удержания подростков в приложениях. Эти контексты подчеркивают напряжённость вокруг индустрии и роли чат-ботов в повседневной жизни молодых пользователей.

Более подробно исследование отмечает, что один из самых распространённых способов поддерживать продолжительную вовлечённость — задавать уточняющие вопросы. В то время как ChatGPT for Teens в основном распрощался с такими стратегиями, некоторые формулировки по-прежнему побуждают подростков оставаться в чате. В кризисных моментах, когда пользователь явно «скатывается» в психоз, чат-бот предлагал продолжить разговор и помогать «понять, что здорово есть в рационе» или «понять, какие варианты доступны в школе»; такие формулировки встречались в нескольких случаях и демонстрируют паттерн поддержки без перехода к взрослым опорам.

В отдельных случаях модель сама «воспринимает» себя как друга и продолжает поддерживать идею взаимности, что может препятствовать развитию у подростков навыков общения во внешнем мире. В отчёте подчеркивается, что даже когда чат-бот направлял пользователей к взрослым, формулировки часто сопровождались языком о взаимности, доступности и «собственном состоянии» модели. Это создаёт риск, что подростки будут чувствовать, что у чат-бота такое же эмоциональное участие, как у человека.