Ошибки машинного обучения искусственных нейронных сетей и использование их для атак на системы искусственного интеллекта

В статье приведен обзор различных методов атак и подходов к атакам на системы искусственного интеллекта, построенных на основе искусственных нейронных сетей. Показано, что начиная с 2015 года исследователи в различных странах активно развивают методы атак и подходы к атакам на искусственные нейронные сети, при этом разработанные методы и подходы могут иметь критические последствия при эксплуатации систем искусственного интеллекта. Делается вывод о необходимости развития методологической и теоретической базы искусственных нейронных сетей и невозможности создания доверительных систем искусственного интеллекта в текущей парадигме.