Издание 404 Media получило доступ к внутренним документам OpenAI и habló с тремя подрядчиками, задействованными в проектах компании, где задействованы более десяти тысяч сотрудников. По данным источников, проверяющим запрещено применять ИИ в работе, что подтверждают документы, имеющиеся в распоряжении журналистов. Официально не сообщалось о масштабах нарушений, однако материал указывает на систематическую практику запрета на использование ИИ в рамках контроля качества и обучения.

Один из подрядчиков рассказал, что на фоне наблюдаемой дисциплины сотрудники постоянно прибегают к ИИ, и за такие действия их иногда тут же увольняют. По словам собеседника, в группе из тысяч работников нашлось немало нарушителей, и это, по его словам, является основной причиной немедленного расторжения контрактов. В этой связи в материале подчёркивается продолжение конфликтной ситуации между намерением снизить зависимость от ИИ и реальной практикой использования ИИ в рабочих процессах.

Внутренний документ, которым руководствуются подрядчики, предписывает сотрудникам выявлять признаки применения ИИ: повторяющиеся слова, характерная пунктуация и необычно высокая скорость выполнения заданий. В инструкции прямо указано не разглашать причины подозрений и оценивать следует общую картину, а не отдельные детали. Это подчёркнуто как мера предосторожности против راскрытия методик обхода проверок.

По словам одного из тех, кто участвовал в обучении моделей OpenAI, он якобы использовал ИИ в рамках работы и получил уведомление об увольнении: работодатель обнаружил «проблемы с подлинностью» его труда. Собеседник утверждает, что нуждался в небольшой помощи и обратился к ИИ, что привело к утрате занятости; он добавляет, что не ощущал пользы своей деятельности для общества. Эти свидетельства приводятся в контексте критики существующей системы контроля.

Компания Mercor, выступающая заказчиком OpenAI, заявила, что нанимает экспертов за профессиональные знания, но категорически запрещает использование больших языковых моделей на проектах и применяет меры по выявлению нарушений. Представитель Mercor подчеркнул, что организация инвестирует в инструменты контроля и не допускает несоблюдения правил; при подтверждении использования ИИ должностные лица должны быть отстранены от работы над проектами.

Дополнительные сведения указывают на попытки некоторых исполнителей намеренно саботировать обучение: они выбирают худшие варианты ответов для снижения качества обучающего материала. Один из участников признаётся, что сначала чувствовал вину за такую работу, но позднее отметил, что результаты оцениваются сотнями людей и важности личной мотивации может не быть.

Эксперты указывают на возможный эффект «коллапса модели» — ухудшение качества ИИ, обучаемого на текстах, созданных другими ИИ. В контексте материала подчёркнуто, что участники, нанятые для предотвращения подобных явлений, сами используют сгенерированные ИИ-ответы в целях обучения моделей.