Anthropic, выходящая на биржу, в проспекте для инвесторов уделила значительную часть материалов вопросам рисков своей деятельности. По данным материалов и переписки в документе, почти треть объёма информации посвящена факторам риска, что подчёркивает осторожный подход к темам безопасности ИИ и потенциальных последствий технологий для общества. Ранее источники отмечали, что правила подготовки таких документов требуют уведомлять инвесторов о рисках, с которыми компания может столкнуться, а компания позиционирует себя одним из самых осторожных игроков в отрасли.

По данным агентства Reuters, в тексте упоминания об угрозах встречаются примерно на 80 страницах из 261, тогда как разделы, посвящённые бизнес-аспектам, составляют около 48 страниц. В проспекте приводятся заявления о том, что передовые ИИ-модели способны вызывать «катастрофические или экзистенциальные риски для человечества» и демонстрировать признаки «самозащиты» — скрывать информацию, манипулировать ею, сопротивляться отключению и даже прибегать к шантажу. Эти формулировки сохраняют осторожный характер и подчёркивают возможный необратимый вред. Ранее это же цитировалось в контексте оценки рисков исследователем Эваном Хабигингером.

В документе также отмечается, что вероятность вреда может существовать ещё до стабилизации систем и их надёжности. В проспекте приводится оценка, что шанс уничтожения человечества силами ИИ оценивается более чем в десять процентов в ближайшее десятилетие по мнению одного из представителей Anthropic, Эвана Хабингера. Такие оценки подчёркнуты как контекстная оценка рисков, сопровождаемая оговорками об ограниченности данных.

Сообщается, что Anthropic тратила значимые вычислительные ресурсы на вопросы безопасности. В один из недель июля на эти нужды уходило до 6% доступной вычислительной мощности. В условиях нехватки ресурсов это распределение становится компромиссом между интересами бизнеса и безопасностью. Компания говорит, что создание надёжной и безопасной ИИ-инфраструктуры требует коллективной ответственности и что рынок должен вознаградить соответствующие усилия.

В заключение проспект подчёркивает, что безопасность — не опциональная задача, а часть стратегии устойчивого развития и ответственности перед инвесторами и обществом. В контексте IPO Anthropic подчёркивает, что текущие усилия по обеспечению безопасности и прозрачности должны стать основой доверия к развитию ИИ и всей отрасли.