【渠道新闻】Facebook的″红队″破解了自己的AI程序

Facebook在很大程度上依靠由人工智能驱动的审核，并表示该技术特别擅长发现露骨内容。但是一些用户发现，他们可以通过在违反规则的皮肤显示上覆盖诸如网格或点之类的图案，来越过Instagram的过滤器。这意味着Facebook的人类内容审阅者需要做更多的工作。那场猫鼠事件促使Facebook在几个月后促使成立了一个" AI红色团队"，以更好地了解其AI系统的漏洞和盲点。保护AI系统的工作与常规计算机安全性相似。