Генеральный директор Microsoft Сатья Наделла выступил с призывом к экстренному снижению темпов развития искусственного интеллекта и к пересмотру подходов к его созданию. По словам Наделлы, будущие ИИ-модели следует рассматривать прямо на старте как потенциально компрометированные и заранее принимать меры предосторожности. Он настаивает на трансформации методологии: вместо пассивного ожидания инцидентов — активное внедрение механизмов контроля и ограничений уже в первые шаги разработки. По его словам, речь идёт о прозрачной и поддающейся проверке системе, которая оставляет следы, понятные человеку и защищённые от несанкционированных изменений.

Наделла подчёркнул, что текущий подход к «суперразумам» — это риск, который требует ясности в ответах на инциденты, независимых аудитов и открытой информации о проблемах. По его мнению, необходимо не только выявлять и документировать сбои, но и применять проверяемые данные и механизмы сдерживания для минимизации возможного вреда. В контексте его позиции это продолжение ряда предложений отраслевых коллег по выработке единых стандартов для контроля над продвинутыми системами.

Особо он отметил идею аварийного тормоза: уполномоченное лицо должно иметь возможность приостанавливать или полностью останавливать работу модели во время выполнения задачи, если возникают признаки компрометации. По мнению Наделлы, для более совершенных систем потребуются продвинутые технологии контроля и общие принципы, которые позволят быстро реагировать на угрозы. Он добавил, что такие меры должны быть реализованы на институциональном уровне и поэтапно внедрены в отрасль.

Комментарии автора публикации The Verge приводят в связке с его высказываниями, заметив, что идеи Наделлы перекликаются с позицией других экспертов: речь идёт о своевременном информировании об инцидентах, аудита независимо и использовании данных, поддающихся проверке. В итоге видится намерение превратить контроль над ИИ из разрозненной практики в единый стандарт на рынке и за его пределами, что предполагает прозрачность и подотчётность на всех этапах разработки и эксплуатации.