Компания Microsoft, как и OpenAI, нанимает сотни человек, чьей задачей является чтение и анализ переписок пользователей с ИИ-чат-ботом Copilot для последующего улучшения сервиса. По данным источников, подрядчики постоянно сталкиваются с непристойными запросами и просьбами отредактировать изображения деликатного характера, что вызывает вопросы о характере и объёме обрабатываемого контента.

Из доступного пакета материалов, с которыми ознакомилась редакция, следует, что в распоряжении сотрудников оказались инструкции, реальные запросы пользователей и сами фотографии. Поручения подрядчикам включают оценку качества редактирования и результатов генераций Copilot, а не обнаружение или фильтрацию оскорбительного или неуместного контента. Один из подрядчиков рассказал 404 Media, что увидев подобные материалы, «меня передёрнуло» и что материалы могут включать откровенный или интимный характер.

В инструкциях для подрядчиков описаны действия в случаях, когда пользователь Copilot просит отредактировать изображение: показывается исходный запрос, загруженное изображение и два варианта редакции. Оценивают соответствие инструкции, сохранение неизменённых элементов, отсутствие артефактов и общее качество обработки. В некоторых случаях операторы отмечали необходимость пометить задание как содержащее небезопасный контент, но отмечают, что в таких работах приходится сталкиваться с материалами откровенного характера.

Microsoft и её партнёры отмечают, что данные клиентов используются в соответствии с условиями использования, включая улучшение продуктов и соблюдение кодекса этики. В ответ на запросы СМИ компания заявила об условиях обработки данных и целях использования.