首页 > 科学研究 > 正文

我院在《Computers & Security》发表人工智能安全领域最新研究成果

发布时间:2022-09-03文章来源: 浏览次数:

网络空间安全学院院讯(通讯员:张皓天)Elsevier出版社期刊Computers & Security发表我院学术论文(Haotian Zhang,Xu Ma. Misleading Attention and Classification: An adversarial attack to fool object detection models in the real world, 2022)。该论文以曲阜师范大学网络空间安全学院为第一完成单位,我院2020级研究生张皓天为论文第一作者,马旭副教授为论文通讯作者。Computers & Security是网络与信息安全研究领域的重要期刊,是中国计算机学会(CCF)推荐的B类期刊,最新影响因子为5.105。

目标检测是计算机视觉(CV)中的热门研究方向,在自动驾驶、人脸识别等多个关键安全领域都有很多应用。然而,许多工作已经证明基于神经网络的目标检测容易受到对抗样本的攻击,经过精心训练的对抗样本会误导模型的分类和检测,从而使得神经网络产生错误的预测结果,这在安保领域会产生严重的安全隐患。在本文中,我们详细阐述并回顾了对抗攻击的发展,并提出了新的联合分类器与注意力机制的物理世界对抗攻击方案(MACA),其可以生成符合视觉自然性的对抗性贴片,我们的方案在不同的目标检测网络之间具有很强的可迁移性,人在穿戴生成的对抗性贴片后可以逃避现实世界中多种先进的目标检测器网络的检测(如Faster R-CNN、YOLOV3、YOLOV5),对目标探测系统造成安全隐患,我们的方案还模拟了复杂的外部物理环境和非刚性物体的3D变换,以增加抗性贴片的鲁棒性,能有效地在多种不同的外部环境干扰下进行对抗攻击。

undefined

该研究得到了国家自然科学基金的资助。


关闭 打印责任编辑:pgao

友情链接