Жительница Флориды была задержана по обвинению в тяжком преступлении, описываемом как письменная или электронная угроза массовой стрельбы или террористического акта. По данным следствия, сигнал тревоги поступил после того, как Anthropic передал полиции материалы о переписке с чат‑ботом Claude, в которой фигурировала угроза и упоминалось огнестрельное оружие. По состоянию на данный момент речь идёт как минимум о третьем подобном случае за последние два месяца, уточняют правоохранители.

Согласно информации Anthropic, компания отслеживает чат‑сообщения на предмет ключевых фраз и контента, которые могут трактоваться как опасные. В зависимости от степени риска сообщения отправляются на дополнительную проверку сотрудникам. В этом случае команда приняла решение уведомить полицию о выявленной угрозе.

Судебные реестры подтверждают, что обвинение против женщины выдвинуто 30 сентября и связано с статьей 836.10 флоридского законодательства, охватывающей угрозы, предполагающие использование оружия. Правоохранители настаивают на том, что заявления вызывали реальную обеспокоенность по поводу безопасности.

Инцидент стал частью волны похожих случаев, когда разговоры в чат‑ботах Anthropic и OpenAI приводят к уведомлениям правоохранительных органов. Так, в августе аналогичная ситуация привела к уведомлению ФБР и аресту человека по обвинению в террористической угрозе, хотя конкретные обвинения не были предъявлены. Эти случаи подчёркивают баланс между конфиденциальностью пользователей и ответственностью компаний за потенциально опасные высказывания.

Партнёры по отрасли и эксперты отмечают усиленное внимание к безопасности чат‑ботов: пользователи должны помнить, что переписка не остаётся полностью анонимной, а угрозы или призывы к насилию могут повлечь серьёзные последствия. Компания Anthropic говорит о соблюдении политики раскрытия информации для предотвращения серьёзного вреда.