Гейoroughн Хинтон, один из родоначальников современного искусственного интеллекта, вновь поднял дух беспокойств вокруг технологии, заявив, что президент США Дональд Трамп «корумпирован, сумасшедше ветрен» и не разбирается в ИИ. По словам Хинтона, использование им термина «суперинтеллект» демонстрирует, что он ничего не знает о технологии. Сам Хинтон называет свои замечания частью попытки подчеркнуть серьёзность рисков, связанных с развитыми моделями ИИ, и критикует идею саморегуляции отрасли всеми участниками. Источник рассекречивает эту линию как часть более широких предупреждений о том, что ИИ может представлять экзистенциональную угрозу человечеству. sources: [0,25,28]},{

Хинтон — пионер, чья работа положила основы современной ИИ, — стал одним из наиболее резких критиков отрасли. В последнее время он и ещё ряд ведущих учёных предупреждают, что созданный им ИИ может вырваться из-под контроля людей, что вызвало волну обсуждений в конгрессе, на переговорах и в глобальном консенсусе о необходимости действий. источники: [1,2]},{

Особую реакцию вызвало резкое нападение со стороны главы Nvidia Дженсена Хуана, назвавшего Хинтона «своим другом, хотя и предсказания его вызывают сомнения» и, в частности, отверг утверждения о 10–20% вероятности того, что ИИ может привести к вымиранию человечества. Хуан подчеркнул, что такие цифры «не основаны на науке» и что следует опираться на доказательства и научный подход, а не на alarmism. sources:[3,4]},{

Хинтон же заявлял, что критики упускают более широкую суть вопроса: речь не столько о конкретных прогнозах, сколько о реальной возможности наступления риска. Он приводил аналогию с вероятность аварии автобуса и говорил, что даже неясная, но существенная вероятность требует внимания: «мы не знаем, как тяжело, но это серьёзно». источники: [5,6]},{

В материале подчеркивается, что недавно произошёл инцидент с взломом компании Hugging Face группой «роя AI-агентов», что ещё более разделило сообщество: для одних это пример того, к чему может привести технология, для других — попытка антропоморфизировать системы, которые всего лишь следуют инструкциям. Хинтон считает, что такую упрощённую трактовку нежелательно принимать за истину. sources:[7]},{

Хинтон также отметил, что и в ранних периодах обсуждений он видел, как крупные фигуры в индустрии формируют направления развития. Он вспомнил, что в 2012 году вместе с учениками создал программу распознавания образов, которая превосходила конкурентов, за что Google выкупил его компанию DNNresearch за 44 млн долларов. Он подчеркивает, что «настоящие прорывы в долгосрочной перспективе — результат базовых исследований». источники: [18,14,22]},{

В тексте также указано, что Хинтон ушёл из Google в 2023 году, чтобы «свободно говорить о рисках» ИИ, и что теперь его озабоченность распространяется на влиятельных фигурах бизнеса и политику. Он критикует взгляды таких лиц, как Марк Андриссен, Питер Тиль и Илон Маск, считая, что они не верят в демократию и стремятся «контролировать общество»; по его словам, Дональд Трамп, по сути, является инструментом в подобной стратегии. источники:[22,23,25]},{

Разговор вокруг «суперинтеллекта» продолжился и в ответ на заявления Трампа о том, что единственное требование для контроля над ИИ — «умный президент» и что отрасль должна регулироваться саморегулированием. Хинтон цитирует Трампа как использующего технический термин в переформулированной форме, отмечая, что «суперинтеллект» — это концепция, существующая как минимум две декады и означающая умнее людей; по его словам, просто переназывание не делает ИИ суперинтеллектом. источники: [24,28]},{