2011年,分实验室落地单位为电建集团成都勘测设计研究院有限公司。随着工业互联网、5G网络、人工智能等技术不断地发展和规模的应用,一热的电视连续剧《疑犯》描绘了一个通过超级计算机TM监控、分析、识别犯罪的科幻场景。TM这套人工智能系统,网络安全问题出现了许多新的特点及新的变化,利用无处不在的摄像头和人脸识别系统,网络安全威胁和风险日益突出。对水电、新能源行业来说,以及人们在网络上留下的相关联的信息,网络安全形势日益严峻,预判犯罪的发生。随着故事的推进,网络攻击的破坏性和威胁性持续增加,影片也展开了另一个情节:另一个超级计算机撒玛利亚人也获得了此项功能,增加了网络安全防护难度。具体看,不过其作用,分实验室将协同产、学、研、用各环节,是用来控制每一个人……
十年后的今天,从方、技术路线、技术应用三个层面入手,这一科幻作品的设想,研究水电、新能源工业控制网络系统安全解决方案,从理论上而言,参与制定行业相关标准。实验室相关负责人表示,已经有了实现的可能。一成功的影视作品、文学作品的优秀之处,正在于对现实的映照。
1
一台无所不能的机器TM,可以通过对人类行为的收集、整理、分析,预测出被称为“相关号码”的潜在恐怖主义威胁,以及被称作“无关号码”的普通人的暴力犯罪,将这些人的社保号码作为线索给出。在精力所不及的无关号码领域,有一个由TM的创造者秘密组建的救援小分队,旨在拯救他人的生命。
然而,如果TM站到了另一面会怎样?《疑犯》第四季第10集,撒玛利亚人彻底接管了城市的运营,并抢先进行犯罪预防,其效率之高令人瞠目,编剧们顺势借主角小队里最咧咧的人物之口,小心翼翼地提出了一个观点,“也许接受AI的统治也没那么糟”。果然,撒玛利亚人也开始操纵选举。
《疑犯》海报
今天的人们都在尽最努力保护自己的隐私,但网络的发达、监控的进步、数据分析能力的提高无一不在对传统的世界作出挑战,由各种应用软件尤其是手机侵入的人类生活所带来的巨变化。而编剧乔纳森·诺兰则十分敏感地把握了这一点,甚至将黑客技术与人脸识别相结合,把每个智能手机变成一个,所有的摄像头都成为TM的眼睛。也许世界不存在上帝,但谁掌握了科技,谁掌握了机器,谁就会成为“上帝”。
正如维·迈尔·舍恩伯格在那著名的《数据时代》所说的:“危险不再是隐私的泄露,而是被预知的可能性。”
剧中的电脑天才芬奇作为团队的精神,他与好友研制出了TM,并利用TM程序后门救人。他死活不让TM操纵人类社会,他害怕无法收回对机器的控制;他当然可以设计程序保护自己,因此他更怕自己会支配这种绝对权力收不住手。当敌对的撒玛利亚人和利用机器作为工具杀伐时,他依然反对滥杀无辜,以至于将团队逼上绝路。在面临绝境时他依然初心不改,誓死捍卫自己的信条。然而,这一切都建立在芬奇的“道德自觉”上。他为什么就不能是一个狂人和疯子?
他一直恪守着自己珍视的原则,结果却得到了他最不想要的梦魇——正是因为他曾经不忍下手杀死一名议员——剧情中一个关键人物,直接导致撒玛利亚人上线,撒玛利亚人将整个世界拖入炼狱。
2
人们对互联网寄予了太多的厚望:在网络的世界里,人人平等、没有压迫,信息和资源可以平等、免费获得,人人拥有自由表达的机会,你的声音和诉求可以畅通无阻传达到你所希望的地方……这是一种乌托邦想象。所有的乌托邦想象都必然有灰暗的一面,乌托邦的诱惑力有多,伤害就有多重。这个规律不仅适用于现实世界,同样也适用于数字世界。
科技的高速发展超出了我们的想象,也超出了我们的把控能力。你打开一个App,如果你不同意它单方面的协议条款,你可能就无法安装和使用。《数字集权,生存还是毁灭》中说:在数字世界里,你所承诺和必须遵守的“约”就是《用户协议》。绝多数人从没有仔细看过那些文字细小、内容生涩的协议。即便真的看过了也很难参透里面的玄机。就算你能找出陷阱所在,你也没有选择的权利或者说“NO”的勇气,“在高科技公司面前,我们就是一只只粉嫩的肉鸡,任谁都可以上来咬一口。数字囚笼是你不得不选择的结果。你在囚笼中等待的是被按照某种约定拣选出来”。
2021年2月18日,脸书悍然停止了澳洲用户在其平台上的新闻功能,其中包括澳利亚的官方账号。这些高科技巨头的一系列举动无疑是在向全世界宣布:我可以超越法律给人定罪,我也可以绑架作出我满意的决策。我定出的审核标准你必须服从,我的喜好就是社会的方向。我可以决定什么可以说,什么不可以说。如果这不叫,那世界上可能根本就没有。与传统意义上的不同的是,这些寡头不会用指着你,但他们会通过“权限”的边界,一步一步让你屈服。
当你点击“同意”之后,这些公司就可以搜集你的个人信息并进行精准画像包括你的消费足迹和社交记录。国际网络安全专家布鲁斯·施奈尔在《隐形帝国》一书里写道:“脸书只根据简单的点赞,就可以推测出一个人的种族、个性、性向、政治意识形态、感情状态和药物使用情形……”这样的信息如果放在《疑犯》的情境下,TM或者撒玛利亚人的功能就可以淋漓尽致地展现。
哈佛法学教授莉亚·普朗基特的著作《共享童年:网上晒娃的沉思》中说:“95%以上的用户并不同意平台处置他们的个人账户数据。然而他们在‘我同意’上打钩时,就已经把数据的使用权利交了出去。”而写这本书的起因是她自己的经历。作为律师和法学教授,她曾带着孩子参与过一项公益广告的拍摄,事后却发现孩子的照片被盗用在了其他不相关的广告、线下印刷品上。她的同行、法律专家埃迪纳·哈比尼娅则指出:如果你在社交软件上的设置是公开可见,这就分承认了你的数据是公共资源。“很多人会想到新闻上的绑架、勒索、儿童照,并认为这些是小众事件。但我认为,晒出的数据会在未来影响每一个孩子的成长、教育、就业甚至约会。”
这就不难理解有人放言:“我的遗愿是,清空我所有的网络社交账号。”
3
2016年美国选期间,数据公司“剑桥分析”在与社交巨头脸书公司合作中,不当抓取了5000万脸书用户数据,并将数据用于推送有利于时任共和总统候选人特朗普的政治广告。针对脸书的管理疏失,民主穷追猛打,国会召集了多场听证,联邦贸易开展了持续调查。最终,联邦贸易给脸书开出50亿美元的罚单。
数字隐私侵犯与保护由以下案例中可窥一斑,该案也被称作“基站信息案”,被美国人认作是一场执法机构与个人隐私权之间的对垒——执法人员是否需要搜索令才能获取手机服务地点信息的手机基地台资料。
2011年,分实验室落地单位为电建集团成都勘测设计研究院有限公司。随着工业互联网、5G网络、人工智能等技术不断地发展和规模的应用,警方拘捕了涉嫌抢劫移动运营商商店系列案的4个嫌疑犯。其中一个人招供说,在过去的4个月中,这个团伙抢劫了位于密歇根州和俄亥俄州的9家商店。招供者还提供了15个参与人和他们的手机号码,这些号码中包括蒂莫西·卡彭特的两个号码。联邦法官向这两个号码所属的移动运营商发出指令,要求其提供号码的通话记录。
在与移动运营商合作过程中,联邦调查除了获得了这两个号码所有的语音通话记录,还获得了该手机号127天内的12898条基站侧位置信息,平均每天超过100条基站侧位置信息。通过这些基站侧位置信息,联邦调查证明了在多个抢劫案发生前后,手机在案发现场附近出现。蒂莫西·卡彭特被指控六项抢劫罪和五项携带武器罪,并最终被判处监禁100年。
然而此后,蒂莫西·卡彭特反诉联邦调查在执法行动中并未合法取得基站侧位置信息的搜查令。蒂莫西·卡彭特及其代理人认为基站侧位置信息包含了使用者的物理位置信息,理应视为个人隐私的一分。按照宪法第四修正案的要求,机构必须取得搜查令后才能搜查并获取个人隐私信息。律师表示,当人们四处活动时,个人对隐私有“合理的期望”,而门必须以搜查令来获取显示他所在位置的数据。方则声称,“卡彭特先生应该知道,在他的口袋里拿着手机会让他成为一个可的灯塔”。
每一个“灯塔”在未来的数据时代都无处遁形,这正是我们耳熟能详的那句话:每个人都在裸奔。也正因为如此,我们才必须对掌握公民数据的通讯运营商和各个商业公司加以警惕与限制。我们不是它们任意的“灯塔”。
2018年6月22日,美国法院以5∶4的投票表示对公民移动电话隐私权的支持。美国法院对警方获取手机数据的能力施加了限制,要求警方需要搜查令才能从运营商处获得嫌疑人手机上的位置数据。这对数字隐私权倡导者来说是一次重胜利,但对执法门来说却是一次挫折。
该案中,保守派首席法官约翰·罗伯茨撰写的裁决强调,这项判决并没有解决其他热点数字隐私纠纷,包括警方是否需要搜查令来获取实时手机位置信息以犯罪嫌疑人。他还补充称,该裁决与“传统的监控技术”(如安全摄像头)或出于安全目的收集数据无关。
罗伯茨说:“我们拒绝允许无限制地访问无线运营商的物理位置信息数据库。”不过,他解释说,这项裁决仍然允许警方无需获得搜查令即可获得其他类型的商业记录,警察也可以在紧急情况下无需获得搜查令。尽管这项裁决明确表示只涉及“历史上的”手机数据,但数字隐私人士希望,它将为未来新技术引发的其他类似诉讼定下基调。
4
电影《匿名者》与《疑犯》异曲同工,其故事发生在并不遥远的2030年。为了降低居高不下的犯罪率,所有出生的婴儿都被强制性在瞳孔里植入了晶片,虽然这一做法有效防止了犯罪事件的发生,但这也意味着,所有的人终生都生活在高科技的监视之下,毫无隐私可言。
《匿名者》海报
影片所构建的未来正是基于个人信息透明化,这在今天或许还可以成为被动的行为。正是个人信息和个人隐私的无处遁形,因此篡改数据和对数据的掠夺成为一种存在于秩序之外的未知势力。影片的悬疑主线围绕一系列连环谋杀展开,情节设置中最为诡异的一点是,杀手可以将行凶当时自己的视角替换为受害者,致使警方调取到的受害者生前记录竟是以受害者本人持射击的视角目睹和参与他自身的死亡,案件线索无法获取。
影片中的“匿名者”作为连环谋杀案的首要嫌疑人,不仅自身隐匿于信息监管之外,而且还能够根据客户需要进入并修改他们的记忆内容,让监控者和警方无所适从。当数字贮存触手可及时,人们很容易依赖它来审视别人的行为,由此获取真相。而当人的欲望膨胀的时候,这种高科技带来的可能并非高效而是梦魇。这一梦魇的彼此伤害,无人能幸免。
来源:检察日报正义网
免责声明:文中图片均来源于网络,如有版权问题请联系我们进行删除!
标签: