代表人类科技未来的人工智能技术正逐渐渗透到越来越多的垂直领域，但我们审核内容的方式仍然有些原始。拥有近20亿用户的科技巨头Facebook正在努力扭转这一局面。
从此前流出内部幻灯片来看（这些幻灯片展示了Facebook如何判断哪些内容违反了其社区标准），Facebook仍然很大程度上依赖于其社区运营团队来决定保留或删除哪些帖子。
也就是说，尽管马克·扎克伯格（Mark Zuckerberg）正努力将人工智能技术推广到所有领域，但在内容审核方面人类仍然占据着主导地位。好在局面已经开始有所改变。
据雷锋网了解，Facebook曾在今年3月份宣布，将推出一套能够识别出试图自杀或自残的用户的AI系统。这套系统通过比对用户的帖子和评论与其先前帖子的相似性来判断其自杀的风险。如果系统判断某条帖子具有自杀倾向，就会在其他用户浏览这条帖子时，突出显示“上报自残”的选项。
值得注意的是，是否上报最终还是由人来决定的。AI无法判断，它只能提供帮助。
Facebook在判断我们上传照片的内容时，已经表现得越来越出色，即使照片中没有任何文字或标签。早在今年二月份，Facebook就指出，用户可以使用它基于AI的图像识别工具来搜索照片，比如搜索上面有穿黑衬衫的人的照片。
AI在识别照片上的内容以及揣测帖子背后的意图等方面的进步，对于人们识别每天发布在Facebook上的有关暴力、虐待和威胁的内容，具有莫大帮助。Facebook发言人表示，公司的初步目标是用自动化系统协助人类管理员。
雷锋网好奇的是，既然AI系统可以识别照片中的内容以及帖子背后的意图，那么是否也可以用它来自动标记和删除网站上的敏感内容呢？网络上这样子的内容实在太多了。据雷锋网了解，短短一个月内，Facebook就发现了五千五百万起疑似性骚扰和色情报复的案例。
目前来看，AI系统还无法担负这一重任。Facebook发言人坦承，其AI系统在理解语境方面还不够智能。
对于Facebook来说，某条帖子的语境对于判断它是否应该被删除至关重要。由于上下文间的关系往往比较隐晦，尤其是在语义本身比较模糊时，AI系统通常无法准确判断。