​​Искусственный Интеллект можно использовать для доставки вредоносного кода ?

Китайские исследователи смогли добиться внедрения сторонних данных внутрь нейросети без нарушения ее работы.

Чжи Ван, Чаоге Лю и Сян Цуй встроили 36,9 МБ вредоносного ПО в искусственный интеллект распознавания изображений размером 178 МБ. 

Модель со встроенным вредоносным ПО классифицирует изображения с почти идентичной точностью, в пределах 1% от модели без вредоносных программ.

Не менее важно то, что включение вредоносного ПО в модель разбило ее таким образом, чтобы предотвратить обнаружение стандартными антивирусными ядрами. 70 антивирусных сканеров, VirusTotal, и множество дополнительных инструментов не смогли распознать опасность?

Хорошая новость заключается в том, что мы фактически просто говорим о стеганографии — новая техника — это способ скрыть вредоносное ПО, а не выполнить его. Примерно также как мы прячем файлы в картинках или видео☺️

Чтобы запустить вредоносное ПО, оно должно быть извлечено из зараженной модели другой программой, а затем преобразовано в рабочую форму.

Самое важное: Модели нейронных сетей — это теперь еще один способ потенциально переправить данные через цифровых часовых незаметно?