比AI换脸更恐怖:技术垄断时代的真相制造

2019-10-25 15:08:43

赵一夜成名的余温还没有消散,关于"人工智能变脸"技术带来的潜在安全风险的讨论仍在继续。当人们沉浸在技术红利带来的娱乐狂欢中时,英国广播公司英文剧《捕获》(the capture)的播出可以说是浇在人们头上的冷水,这是为了诉说技术突破一旦应用于现实生活中所带来的巨大风险。虽然该剧是一部犯罪剧,但它不同于许多以传统探访和调查案件为驱动核心的英美犯罪剧。这部戏的驱动核心是“技术”,这都是由于“技术”从现实中窃取了一天。

一名士兵因有在战场上杀害无辜者的“证据”而被国家司法机关起诉。然而,这名士兵的辩护律师敏锐地意识到战场上拍摄的设备的“声音和图像不同步”的技术问题。正是声音和图像的错位使司法部门坚定地认定这是士兵被谋杀的证据。然而,如果没有及时发现相机的“延迟”效应,士兵肯定会成为这一案件的受害者。

后来,士兵们在法庭上被释放。然而,真正激动人心的一幕还没有开始。因“技术”而获释的士兵又因“技术”而被捕。当男主人被释放后,他爱上了为他辩护的女律师。离开酒吧后,他在公共汽车站吻了女律师,说再见。他还暗示女律师想和她约会。女律师似乎不喜欢他。然后我们把我们的视角转向街上的监控,从监控的角度看这两个人。从监控中,我们看到刚刚获释的士兵抓住女律师的手,在街上粗暴地殴打她,然后把她拖进车里带走。结果,这名刚刚获释不久的士兵再次因涉嫌谋杀而入狱。

然而,当士兵看到他暴力殴打一名女律师的视频时,他兴奋地说这不是真的。有人伪造了照片,因为他看到女律师上了车,而她没有留下。然而,警察显然不赞成士兵早期的故事。这也是因为从战场上归来的士兵很少过上正常的生活。通过采访,他的妻子认为他不是一个好丈夫,他的朋友表达了善意,认为他可能不记得当时他做了什么。在最初的调查中,警方更倾向于相信士兵们在撒谎。有了这些神秘,故事真正开始了。

在这一集里,我们可以看到警察过去追踪犯罪嫌疑人的方法似乎有些“过时”,因为警察或反恐组织可以成功地找回大街小巷的摄像头。只要犯罪嫌疑人出没在有监控摄像头的地方,他就会一直被跟踪——这显然是警察对监控技术过于自信的表现。根据前几年的调查统计,英国有多达590万台闭路摄像机,这也使得在线跟踪变得更加可能。但是,当您看到的监控图像也被篡改时,显然监控已经失去了其原始有效性。换句话说,当“看见”不是“真实的”时,我们怎么能发现真相呢?只有通过前两集,我们才能看到这部戏剧的主题是讨论上述问题的后果。在司法机关的错误判断和公众舆论的偏见下,真相可能存在吗?

《我真的想捕捉》不是一部“科幻”系列,而是一部在当前社会背景下构思的作品。的确,奥威尔在1984年构想的未来社会并没有导致奥威尔式的极权主义,但是小说中构想的每个人被监控的状态现在已经完全实现。无论是公共场所的监控,还是我们私人拥有的智能电子设备,我们的生活已经被暴露和侵蚀。然而奥威尔并没有想到“监控”本身会被篡改,“面孔”本身会被替换,证人的实时监控也会创造一个全新的真相。

尼尔·波兹曼(Neil Pozmann)认为,技术垄断在价值消失和精神生活瓦解的基础上主导着人类社会。在技术垄断的大背景下,没有道德核心。它的重点是“无限制的增长、没有责任的权利和没有成本的技术”。今天,这个在20世纪90年代做出的断言并没有过时。我们在其中,而且越来越深。

特别声明:本文为署名作者原创。这篇文章的版权属于原作者和原出处。请联系donews专栏获得授权。(如有任何问题,请联系idonews@donews.com)