Специалисты нашли способ тайно управлять голосовыми ИИ при помощи звуков, которые мы почти не слышим. В обычный трек, видео или звонок вшивают особый сигнал. Человек слышит обычное комнатное эхо, пока алгоритм безошибочно считывает скрытый приказ.
Новая атака AudioHijack сработала почти идеально на тринадцати популярных моделях, включая коммерческие платформы Microsoft и Mistral. Нейросети без ведома владельца заходили на сайты, скачивали сторонние файлы и отправляли личные данные по почте.
Защититься от этого сложно. Обычные фильтры безопасности и встроенная самопроверка алгоритмов пропускают большую часть подобных инструкций. В последних экспериментах исследователи доказали, что этот трюк можно провернуть прямо во время живого созвона.
