一个犯罪现场与团伙有关吗？新计算机程序或知道答案。

图片来源：iStock.com/DenisTangneyJr 

当有人殴打行人、抢劫商店或冷血地杀人时，警察会想知道犯罪者是否是一个团伙的成员：他们是否需要派遣特殊的执法团队？是否应该预期它会导致打击报复？现在，一个算式在尝试把鉴别团伙犯罪的过程自动化。一些科学家担心，这样做不仅不会减少团伙犯罪，反而会因为侵蚀社区信任造成适得其反的结果，或者它可能给无辜者打上犯罪团伙成员的烙印。

这个算式已经造成了紧张态势。在近日该程序的一个报告会上，一名观众对此非常沮丧，并愤怒地离开报告现场，而该程序的一些创建者对其如何使用却三缄其口。

“可以说，这肯定是意图良好的一项工作。”美国加州山景城谷歌公司软件工程师Blake Lemoine说，他曾研究减少对人工智能偏见的方法。“但研究人员考虑预料之外的潜在负效应了吗？”

多年来，科学家一直在利用计算机算式绘制犯罪网络，或是推测哪里以及何时可能会发生犯罪，这一操作被称为预测警务。但分析过往犯罪与团伙相关性的研究却非常少。

在新工作中，研究人员开发了一个能够鉴别与团伙犯罪相关的系统，该系统仅基于4类信息：主要武器、嫌疑犯人数以及犯罪发生的街区和地点（如巷道或街角）。加州长滩市检察官、曾写过团伙犯罪预警策略的Doug Haubert说，类似分析有助于在全面调查之前分析犯罪的特征，由此改变警察的应对方式。

为了给犯罪分类，研究人员发明了被称为部分生成神经网络的体系。神经网络由小的计算元件层组成，它们可以通过类似人脑神经元的方式处理数据。作为一种机器学习方式，它基于反馈改进——其判断是否正确。在这一情况中，研究人员利用来自加州洛杉矶警局（LAPD）的数据训练算式，这些数据包括2014年到2016年间与团伙以及非团伙相关的5万多例自杀、加重攻击和抢劫案件。

研究人员随后在另一套LAPD数据上验证了该算式。该网络是“部分生成的”，因为即便没有收到警官对一场犯罪的概述，它也能利用上述4个因素补充缺失信息，然后利用所有片段推断一场犯罪是否与团伙相关。该团队在近日于路易斯安那州新奥尔良举办的人工智能、伦理和社会（AIES）会议上报告称，与该网络并未使用新算法的精简版相比，部分生成算式使错误率减少了近30%。研究人员尚未把该算式的准确性与训练有素的警官作对比。

卡迪夫大学计算学家、研究犯罪数据的Pete Burnap说，这是一篇“有趣的论文”。但他同时表示，尽管预测可能有用，但它们仍可能比不上警官的直觉。Haubert也赞同这一看法，他表示用这些数据模型做辅助，有时可能会产生“更好、更快的结果”。他说，这样的分析“在可获得大量数据的大型城市区域尤其有用”。

然而，参加AIES会议的研究人员在问答环节也对此提出了担忧。该团队怎样才能保证训练数据从一开始就不存在偏见呢？如果有人被错误地打上团伙成员的标签会发生什么？Lemoine质问，研究人员是否还在开发有助于存在大量巡逻的社区预测警方突击的算式。

哈佛大学计算学家、汇报该研究Hau Chan的回应称，他并不能确定新工具将会被如何使用。“我只是一名工程师。”他说。Lemoine用浓重的德国口音引用了一首关于战争时代火箭专家Wernher von Braun的歌词说：“一旦火箭发射了，谁关心它们在哪里落下？”然后，他愤怒地走出会场。

在随后的采访中，Lemoine说，他已经和Chan沟通过了。“我认为我们没必要不给警察制造工具，或者给他们制造工具。”Lemoine说他的言论仅代表自己的看法，并不代表谷歌的立场。“我认为当你在制造强大的事物时，你有责任考虑至少它会如何被使用。”

该论文的两名高级作者在随后近20分钟的采访中都在偏离这一问题。“现在还很难说。”加州大学洛杉矶分校人类学家Jeffrey Brantingham说。“它是基础科学。”南加州大学计算学家Milind Tambe也如是回答。那么，用于辨别团伙犯罪的工具能否被用于对团伙犯罪进行分类呢？他们并没有回答。

该团队的研究人员更喜欢谈论部分生成神经网络的其他应用：对野生动物犯罪进行归类、改善草地管理以及预测哪些人最擅长将公共健康信息传播给同事。基本上，它可被用于你仅仅掌握某一情形的部分信息时，而这种时刻太多了。（晋楠编译）

更多阅读

《科学》网站相关报道（英文）