Искусственный интеллект всё чаще формирует рабочий код, который не всегда удаётся осмыслить даже у опытных специалистов. Основатель компании Infinity Джереми Никсон рассказал Business Insider, что программисты начинают тратить больше времени на понимание того, что именно строит языковая модель, в то время как их роль смещается от непосредственного создания продукта к наблюдению за работой нейросети. По его словам, проблема выходит за рамки простого непонимания: исследователи фиксируют когнитивный спад и утрату навыков у тех, кто перестаёт писать код вручную и не осваивает умения, необходимые для проектирования крупных систем.

На примере OpenAI видно, как меняется практика: инженеры, работающие с GPU-ядрами и их оптимизацией, признаются, что не понимают, зачем и как именно выполняет этот код. Технический сотрудник Джордан Нанос описал ситуацию так: можно идти по коду строка за строкой и сталкиваться с ответами вроде «нет, нет, нет», тогда как ИИ понимает цели, тестирует их и выдаёт корректные ядра, которые прекрасно работают. По словам Наноса, это не признак некомпетентности, а смены парадигмы: архитектор задаёт общие критерии и требования, а нейросети выполняют остальное.

Обратная сторона процесса — возникают ошибки и галлюцинации, которые проскакивают в продуктивной среде. Так, Amazon ранее в этом году внедрила 90-дневный тест безопасности кода после серии сбоев, нарушивших обработку заказов. Внутренние логи и заметки показывают обеспокоенность менеджеров тем, что изменения, созданные ИИ, могут иметь большой радиус поражения. Аналитика Undo фиксирует, что около трети сгенерированного кода попадают в промышленную среду без полного понимания инженерами, ещё почти третью часть разработчиков отмечают падение производительности из-за необходимости «распутывать» ИИ-код несколько раз в месяц, а не менее 94% сталкивались с подобной ситуацией как минимум раз за полугодие.

И всё же в отрасли звучат разные прогнозы: одни видят в происходящем естественную эволюцию профессии, другие предупреждают о тревожном парадоксе — всё больше инженеров могут оказаться не до конца знакомыми с тем, от чего зависит цифровой мир. Время покажет, куда приведут эти изменения и как изменится роль специалистов на фоне растущей автономии ИИ.