Доверенный искусственный интеллект

Авторы: Анисимов Ю.А., Грибунин В.Г., Кондаков С.Е., Мартынов А.П., Николаев Д.Б.

Издательство: Российский федеральный ядерный центр – ВНИИЭФ

В монографии рассмотрены принципы повышения доверия к «классическим» информационным технологиям, отличия систем искусственного интеллекта от информационных технологий, вызванные этими отличиями новые угрозы безопасности информации и реализующие их атаки. Приведена информация о методах защиты от атак. Отмечена особая важность доверия к данным, которые являются основой систем искусственного интеллекта, а также необходимость обеспечения робастности и прозрачности (интерпретируемости) решений, принимаемых системами искусственного интеллекта. Выполнено сравнение подходов функциональной и информационной безопасности. Рассмотрены особенности обнаружения аномалий в системах искусственного интеллекта.