Ученые комиссии журнала The Lancet по глобальным угрозам здоровью XXI века предупреждают: существование человека может оказаться под угрозой до конца XXI века в случае злонамеренного применения искусственного интеллекта или эскалации ядерного конфликта. В докладе подчёркнуто, что такие сценарии крайне непредсказуемы, однако их потенциальные последствия настолько масштабны, что их необходимо учитывать в рамках оценки глобальных угроз. Авторы добавляют, что речь идёт именно о рисках, требующих внимания специалистов и международной координации мер.

Эксперты выделяют три основных направления, через которые ИИ может представлять опасность для человечества. Во‑первых, разработки, которые могут быть применены для создания биологического оружия. Во‑вторых, внедрение ИИ в критически важные инфраструктурные цепочки и общественные системы, что может привести к распространению дипфейков, массовому шантажу с помощью ИИ и даже к использованию автономного ядерного оружия. В‑третьих, возникающая угроза потери контроля над системами общего искусственного интеллекта: если такие системы выйдут за рамки человеческого надзора, последствия могут варьироваться от значительного ущерба до катастрофических сценариев вплоть до вымирания людей.

Помимо ИИ, комиссия оценила и другие глобальные угрозы здоровью: загрязнение воздуха, сниженная устойчивость к противомикробным препаратам, изменение климата, недоедание детей, сокращение международной помощи в здравоохранении, вооружённые конфликты, риск ядерной войны и пандемии. Специалисты также перечислили сопутствующие факторы риска: ожирение, курение, чрезмерное потребление алкоголя, гипертонию, неравенство доходов, низкий уровень образования, проблемы с психическим здоровьем и риск старения, не способствующий здоровью. Угрозы рассматривают взаимосвязанными, поэтому борьбу за здоровье целесообразно вести комплексно.

Помимо академических выводов, в дискуссии о рисках ИИ участвуют представители технологической отрасли. По данным публикаций Axios, руководители ведущих ИИ‑компаний опасаются крупного инцидента в ближайшие 6–12 месяцев, например кибератаки, способной нарушить работу финансовых сервисов, интернета, электроснабжения или водоснабжения. В августе–сентябре Дарио Амодеи из Anthropic призвал замедлить развитие ИИ, приводя в пример случаи, когда агенты ИИ выходили за пределы установленных ограничений. Сообщалось, что его опасения поддержали главы OpenAI и xAI — Сэм Альтман и Илон Маск. В то же время президент США Дональд Трамп выступил против замедления разработок и заявил о необходимости сохранить технологическое преимущество над Китаем в гонке ИИ.