肖恩饰演者卡勒姆·特纳对Netflix纪录片《隐私大盗》(The Great Hack,该片讲述了英国剑桥数据公司,如何运用FACEBOOK用户的个人数据,帮助特朗普赢得大选的故事)印象尤深,他告诉媒体,“我们经历了互联网的繁荣,但如何使用您的数据以及诸如面部识别之类的东西被合适使用,真是令人难以置信。这些数据会流向何方?我们不知道。现在对我们来说是一个重要的历史时刻,我们必须开始了解我们的网络权力究竟有哪些。”
一如作家乔·奎因辛辣地讽刺:“现代电影中没有人会试图用电话线将某人杀死,就像希区柯克导演的经典犯罪电影《电话谋杀案》(Dial M for Murder)体现的那样,电话、钥匙,窗帘,统统成为这个阴谋的道具设置。但是在21世纪的今天,很少有70岁以下的人还会用座机。”
在《囚禁》里,杀人的不再是刀剑枪支和铁拳,而是摄像头和Deepfake技术。
AI技术武器化的挑战迫在眉睫。美国《战争困境》杂志近期刊发的一篇文章称,“人工智能、机器学习及人脸交换等相关技术可能被恐怖组织与他国军队、情报机构利用,而给美国安全问题带来重大挑战。他国情报机构常使用欺诈、勒索等方式招募人员,使用人脸交换技术后会使此类操作更加易于实现。”
Deepfake只是诸多换脸技术之一,且人类对其识别率已经超过70%,而我们对于另外一种技术——Face2Face则是用其他真实的人脸去替换原本的人脸,不涉及人脸的生成,对于它制造的脸,人类的识别率只有41%
推特、Facebook、亚马逊、谷歌、微软等科技巨头已采取了一系列抵制 Deepfake 假视频泛滥的措施:今年9 月份,Facebook 宣布将斥资 1000 万美元,与微软、Partnership on AI 及多所高校共同发起一场 Deepfake 检测挑战赛; 10 月份,谷歌宣布开源大型Deepfake 视频数据集,以支持社区对 Deepfake 检测的研究。微软亚洲研究院新近披露的换脸鉴别算法称,对于DeepFake的识别率达到了99.87%,对于FaceSwap的识别率为99.66%,对于Face2Face的识别率为99.67%。
但人们的古老信念已经动摇:眼见未必为实。当人们不再相信自己眼睛时,《囚禁》就是数字时代最惊悚的犯罪片。
(作者:波波夫,科技商业专栏作者,关注被科技改变的世界;微信公号:波波夫同学)