AI偵探能打擊幫派──也將引爆道德危機?

黑道份子烧杀掳掠、处处行兇,是警方从古自今的难解之题。如何辨认行兇案件是否与某个集团有所关联? 该罪犯会不会再次冷血报复? 今天,这些问题正被一个崭新的演算法一网打尽,它可以全自动化地利用更少的特徵,将行凶者分门别类,甚至预测犯罪,犹如科幻电影《关键报告》的情节渗入现实当中。然而,这把利剑的另一锋刃也尖锐地刺向许多道德议题:坏人反向操作新技术预测警方的逮捕行动、每位无辜的人都要承担着被误判的风险……

警察搭档AI侦探

多年来,科学家致力研发电脑的演算法来梳理複杂的犯罪网路,尝试预测行兇案件的可能发生之处,例如预测性警务(Predictive Analytics)系统[2]。然而,如何识别犯罪与帮派的关联性,这块领域仍鲜少开发,只能靠受过特训的警察单位尽可能地蒐集线索,进行人工判断(例如侦讯每一位犯罪嫌疑人),既耗力又旷日费时。

幸好,研发人员打造了新型态的演算法,只要告诉它犯罪案件中的几项资讯:行兇武器、嫌疑犯人数、犯案地点以及时间等等[1],它就能像电影中的名侦探福尔摩斯,利用稀少的线索旁敲侧击、层层推理,将案件分门别类,透析出与帮派相关联的犯罪。这些推断可以在警方进行全面调查之前闪电完成。

进化版AI──举一反十

这位AI侦探何能练就这幺聪明绝顶的功夫呢?武功祕笈就在于「部分生成神经网路(Generative Neural Network)」。有别于需要大量特徵线索的一般类神经网路,在训练过程中,它能从案件里少量的特徵之间,推敲出其他的特徵,来扩增判断依据,即所谓的「部分生成」。目前已有些将模糊图案变成清晰画面的人工智慧也运用了相类似的技术精随。

好比说,当我们大老远看到一个人走向体育馆,手里抱着褐色「篮球」(特徵一)、穿着「运动上衣」(特徵二),但看不清他穿的到底是什幺鞋子,此时,我们会自动根据经验以及特徵搭配的逻辑进行「脑补」:他脚上那双应该是「篮球鞋」(特徵三),并总结判断出他正準备要去「打篮球」。

正因如此,对这位AI侦探来说,他不需要在一宗犯罪案件中知道全部的特徵;反之,他只需要部份的线索,推演出兇手更全面的样貌。即便它在办案时,遗漏了某样线索,导致「缺失特徵(Missing Feature)」,他仍能利用先前生成的额外特徵,进行更精确的判断、分类。根据美国南加州大学与洛杉矶警察局合作的实验[参1],他们利用「部分生成神经网路」归类2016年里的行凶案,其中帮派相关联的案件识别率从79%提升到了85%,一举突破了6%。

AI侦探能打击帮派──也将引爆道德危机?

图一、部分生成神经网路简化示意图。由特徵一和特徵二推敲出额外特徵(特徵三),再经由神经网路加以辅助判断。即便某特徵在判断过程中遗漏了(例如缺失特徵二),它依然能透过特徵一及先前生成的特徵三路径进行判断[参考文献1]。

能举一反十,但非十全十美

然而,这乱世英雄的人工智慧也点燃了种种危机。儘管这项新发明在人口稠密的複杂都市里是位疾风厉行的侦探高手,但它迅猛的智慧也将颳起道德风暴。有人持批判观点质问:「万一无辜的人被误判与犯罪集团相关,将由谁背负决策错误的责任?坏人会不会反向利用这项技术,来逃脱警方的重重突围,预测逮捕行动?」而拥护的一方则用比喻来反驳:「当火箭直冲云霄,谁会在乎它会不会坠落呢?」

显然,工程师仍需面对并填补这项新发明所产生的道德隙缝。科技的发展往往捷足先登,而相关法规制定落后,道德议题也未能充分讨论,因此,在Google也有软体工程师研究并设法降低人工智慧与道德、社会观感所产生的不平衡张力。但这位环绕着许多争议的AI侦探发明并非个案,于是在2017年的一月,近千名人工智慧专家联合签署了「阿西洛马人工智慧原则(Asilomar AI Principles)」,呼吁研发人员推动人工智慧发展的同时,应重视整体社会和谐以及需贴近广泛认同的伦理道德。除了专家们,多位知名人士—如饰演《钢铁人》系列电影中的男主角马斯克,以及近日隆重逝世的物理学家史蒂芬·霍金,都是该原则的签署人。幽默风趣、毕生乐观面对绝症的霍金,曾这幺语重心长地警告世人:

「人工智慧将会是人类文明中最糟糕的事,除非我们能全权掌控它该如何发展。」

冲刺着人工智慧发展的同时,也应适时停下脚步,不仅仅是工程师,我们也有义务去思考人工智慧对社会潜在的副作用。文明的革新不是单单推动科技,需要整体社会、法治与道德素养齐头并进。

编译来源:“Artificial intelligence could identify gang crimes—and ignite an ethical firestorm” Science Technology (2018)


参考文献:

[1] Sungyong Seo et al., “Partially Generative Neural Networks for Gang Crime Classification with Partial Information,” AIES (2018)[2] Can “predictive policing” prevent crime before it happens? Science Technology (2016)