面向图像识别的卷积神经网络鲁棒性研究进展

作者:林点; 潘理; 易平
更新时间:

卷积神经网络是人工智能领域图像识别和处理应用的关键技术之一。它的广泛应用使得对其鲁棒性的研究变得越来越重要。过去,对卷积神经网络鲁棒性的研究比较笼统,主要集中在抗鲁棒性方面。神经网络鲁棒性的机理很难进一步研究,这不适合当前人工智能的发展。通过介绍神经科学的相关研究,提出了视觉稳健性的概念。通过研究神经网络模型与人类视觉系统的相似性,揭示了神经网络鲁棒性的内在缺陷。回顾了近年来神经网络鲁棒性的研究现状,分析了神经网络模型缺乏鲁棒性的原因。神经网络缺乏鲁棒性反映在它们对小干扰的敏感性上。原因是神经网络倾向于学习人类难以感知的高频信息来进行计算和推理。这部分高频信息容易被干扰破坏,最终导致模型的误判。传统的鲁棒性研究主要集中在模型的数学性质上,这是无法突破的通过神经网络的自然局限性。视觉鲁棒性扩展了传统的鲁棒性概念。传统的鲁棒性概念衡量模型对畸变和变形图像样本的识别能力。畸变样本和原始清洁样本都可以在稳健模型上保持正确的输出。视觉稳健性衡量模型与人类辨别能力之间的一致性。这需要将神经科学和心理学的研究方法和成果与人工智能相结合。本文回顾了神经科学在视觉领域的发展,讨论了认知心理学研究方法在神经网络鲁棒性研究中的应用。人类视觉系统在学习和抽象能力方面具有优势,神经网络模型在计算和记忆速度方面优于人类。人脑的生理结构与神经网络模型的逻辑结构之间的差异是导致神经网络鲁棒性的关键因素。视觉鲁棒性的研究需要对人类视觉系统有更深入的了解。揭示人类视觉系统与神经网络模型认知机制的差异,有效地改进算法,是神经网络鲁棒性乃至人工智能算法的主要发展趋势。