一件T恤就可以完美“隐身”,AI“眼睛”竟如此脆弱?
只要穿上一件印有特殊图案的T恤,就能骗过AI人体检测系统,从而达到“隐身”效果?最近,这一场景真实上演。近日,美国东北大学和麻省理工学院等研究机构,共同提出了基于对抗样本的T恤衫。据研究人员介绍,这是全球首个在非刚性物体(如T恤)上,进行的物理对抗性实例。在AI人体检测摄像头下,无法准确地检测出穿着该T恤的行人,同时无论衣服发生任何褶皱或变形,都能达到“隐身”效果。AI目标检测技术的这种缺陷会不会导致安全问题的产生,要如何解决?仔细观察,白T恤上印有千变万化的色块,原来,研究人员使用了一种称为对抗攻击的方法来欺骗AI。对抗样本在实际中主要用来检验一些安全系数较高的系统,通过对抗的方式来打磨AI模型的安全,抵御可能面临的安全风险。