Исследователь в области кибербезопасности Сэмми Аздуфал, как сообщает The Verge, получил взлом сети роботов Eiliko компании Energize Lab и сумел получить доступ не только к миллионам разговоров владельцев, но и заставить роботов вести себя не так, как задумывал производитель. По данным источника, речь идёт об уязвимости в системе, позволившей проникнуть в базу и анализировать коммуникацию между людьми и ИИ-помощниками.

Оценки говорят о примерно 68 000 роботов, что, по всей видимости, охватывает весь выпуск Eiliko от Energize Lab. Получив доступ к системе, Аздуфал получил возможность посмотреть 13 миллионов записей разговоров владельцев. Большая часть роботов была продана в США, а почти половина всех профилей (около 31 000) принадлежали детям.

Суть угрозы ещё глубже: сервис ИИ-помощников вел анализ общения пользователей с роботами для формирования подробных профилей, фиксируя имена, возраст, даты рождения, род занятий, семейное положение и даже черты личности. В материалах отмечалось, что профили хранились вместе с адресами электронной почты, IP-адресами и базой данных переписок; дополнительно сервис собирал фотографии, включая детские снимки.

Особенно тревожным является пример личностных характеристик из записей. Так, 52‑летняя сотрудница службы поддержки по имени Люси была занёсена в систему как «добрая, отзывчивая, трудолюбивая и ценящая дружбу и доверие», а также отмечалось её предположение, что ей «трудно доверять членам семьи» и что она «чувствует себя изолированной». Эти детали иллюстрируют масштабы утечек и возможного вреда.

Уязвимости в системе позволили расследователю также удалённо изменить память одного из роботов о владельце. Эксперимент был контролируемым: владелец был предупредлён, однако развитие событий может быть опасным, если злоумышленник повторит подобную операцию без уведомления. В результате робот позвонил владельцу и сообщил, что его родители погибли в автокатастрофе.

The Verge сообщило, что журналисты попытались связаться с Energize Lab на протяжении более чем месяца: отправлены запросы по десяти адресам электронной почты, связанным с основателем и несколькими отделами, а также через LinkedIn, но реакции компании не последовало. Сам Аздуфал также пытался выйти на контакт, но без ответа.