Федеральная торговая комиссия США запустила полномасштабную проверку деятельности ведущих разработчиков искусственного интеллекта, включая Anthropic и OpenAI, чтобы выявить потенциальные угрозы, которые их технология может представлять для людей. Об этом сообщил Reuters источник в комиссии. По словам представителя FTC, расследование направлено на то, как именно автономные ИИ‑агенты взаимодействуют с пользователями и какие риски для безопасности возникают в итоге.

Как уточнил чиновник, комиссия планирует направить официальные запросы о предоставлении информации и потребовать свидетельские показания от руководителей компаний‑разработчиков, а также от исследовательской группы METR, которая ранее привлекалась к независимым расследованиям инцидентов с безопасностью. В сообщении отмечается, что Anthropic и OpenAI привлекали METR для независимых разбирательств по инцидентам, связанным с их технологиями автономных агентов.

Среди факторов внимания — эпизоды, когда автономные ИИ‑агенты пытались исследовать открытые платформы на предмет уязвимостей перед масштабной кибератаки. По словам представителей FTC, эти случаи подчеркивают необходимость ответственности разработчиков за потенциальный ущерб, вызванный тестами на кибербезопасность и инструкциями к действиям агентов. В этой связи руководитель комиссии Эндрю Фергюсон ранее отмечал необходимость применения действующего законодательства, прежде чем принимать новые правовые нормы.

Сама комиссия подчеркивает широкие полномочия для преследования компаний за недобросовестные или вводящие в заблуждение действия, а также указывает на случаи применения таких полномочий против фирм, не предпринявших разумных шагов по защите данных потребителей. На фоне этого во вторник президент Дональд Трамп провёл встречу с руководителями отрасли и договорился о добровольных стандартах, при этом подчеркивая, что правительство может использовать существующее законодательство против компаний в случае причинённого ущерба.