Новый способ обучения ИИ остановит большинство хакерских атак на них

Ученые из США

Нужно, войти или зарегистрироваться для просмотра скрытого текста.

проблему хакерских атак на модели искусственного интеллекта (ИИ). Для этого они использовали другую модель, которая пыталась обмануть нейронную сеть и заставить ее проанализировать отредактированные изображения.


Исследователи Университета Иллинойса объяснили, что один из самых больших недостатков обучения ИИ — последующая уязвимость модели к хакерским атакам. При этом большинство атак приходится на системы распознавания образов или реконструкции изображений. Это вызывает тревогу у чиновников, которые работают в сфере здравоохранения, где метод часто используется для реконструкции медицинских изображений. Если ИИ получит неправильное изображение, то он может ошибочно поставить диагноз пациенту.

Поэтому ученые предложили новый метод обучения систем глубокого обучения, чтобы сделать их более отказоустойчивыми и надежными в тех случаях, которые являются критическими с точки зрения безопасности.



Для этого ученые соединили нейронную сеть, отвечающую за восстановление изображений, с моделью, которая генерирует состязательные примеры (изображения, где меняется небольшая часть оригинала). Во время обучения один ИИ пытался обмануть другой, показывая ему картинки, которые незначительно отличаются от оригинала. Модель реконструкции же постоянно анализировала картинки и пыталась определить, оригинал это или отредактированная картинка.

В результате сеть нашла все отредактированные фотографии — этот результат лучше, чем у других нейронных сетей. Во время экспериментов ученые попытались вручную взломать систему и показать ей сотни версий отредактированных изображений, но все из них были отклонены.


Читать также:

Нужно, войти или зарегистрироваться для просмотра скрытого текста.

Нужно, войти или зарегистрироваться для просмотра скрытого текста.

Нужно, войти или зарегистрироваться для просмотра скрытого текста.

Читайте также
Загрузка...