犯罪分子识别算法受到批评

时间:2016-11-27 17:22:09
来源:微科普
作者:晓默/编译
分享:
犯罪分子识别算法受到批评, 最近,中国开展了一项考察计算机能否根据面部特征来鉴别罪犯的试验。研究人员用1500多张中国公民的照片来训练算法,其中有数百名犯罪分子。他们说,该程序经训练后可以在更

 最近,中国开展了一项考察计算机能否根据面部特征来鉴别罪犯的试验。研究人员用1500多张中国公民的照片来训练算法,其中有数百名犯罪分子。他们说,该程序经训练后可以在更多照片中识别犯罪分子,正确率达89%

但这项尚未经过同行评审的研究,遭到了一些犯罪学家的批评,他们说AI可能会反映司法系统中的一些偏见。“这篇文章不是看人们的行为,而是着眼于找出某人是不是犯罪分子。”爱丁堡大学量化犯罪学家Susan McVie说。“刑事司法体系由警察、检察和司法部门的一系列决策阶段组成。在每一个阶段,人们的决策都受到一些犯罪行为以外的因素影响,例如对于谁最可能有罪的刻板印象。”“研究显示,陪审员更可能会判相貌或穿着具有某些特征的人有罪。这项研究可能只是拣选了刑事司法体系对他们所认为的犯罪分子的刻板印象,而不是某人做出犯罪行为的可能性。”

 

面部特征

研究人员用1856张中国公民身份证上的照片,这些照片上的人都是男性,年龄在18-55岁之间,没有头发或标记。这组照片里包括730张犯罪分子或“被公安部通缉的犯罪嫌疑人”的身份证照片——而不是警察手上的犯罪嫌疑人照片。在用90%的照片训练他们的算法之后,研究人员用剩下的照片来测试计算机能否正确识别犯罪分子。它的正确率达到90%

McVie教授说,该算法只是识别出人类陪审团所判罪的人的特征。“这是仅基于统计学的研究,而没有任何理论基础。”McVie教授说。她还是应用量化方法网络研究中心的主任。“某人的面部特征会导致他们犯罪,其中的理由是什么?说某人的相貌会导致他们成为罪犯,这是完全没有理论上的理由的。”“这类工作存在大量边际误差。如果你试图用这种算法去预测谁可能犯罪,那么你的成功率不会高。”她对BBC说。

 

“严重错误”

“回到100多年前,19世纪犯罪学家Cesare Lombroso利用颅相学,即对人们头部特征的感觉,判断某人是不是罪犯。因为颅相学的理论认为头上的突起和凹陷的特征与人格特征相联系。”

“但颅相学现在已经被认为是过时的、错误的科学,犯罪学家已经几十年不信颅相学了。”

McVie教授还警告说,通过相貌来识别可能的犯罪分子的算法,例如在机场扫描护照或在夜总会扫描身份证等,可能导致危险后果。

“使用基于相貌而非行为的算法系统可能会导致决策是基于优生学而做出。”她说。“最让我担忧的是,我们可能会根据人的相貌来判断他/她是不是犯罪分子。这种方法在不久之前的历史上曾导致严重错误。”

微科普 | 犯罪分子识别算法受到批评 | 责任编辑:微科普

 最近,中国开展了一项考察计算机能否根据面部特征来鉴别罪犯的试验。研究人员用1500多张中国公民的照片来训练算法,其中有数百名犯罪分子。他们说,该程序经训练后可以在更多照片中识别犯罪分子,正确率达89%

但这项尚未经过同行评审的研究,遭到了一些犯罪学家的批评,他们说AI可能会反映司法系统中的一些偏见。“这篇文章不是看人们的行为,而是着眼于找出某人是不是犯罪分子。”爱丁堡大学量化犯罪学家Susan McVie说。“刑事司法体系由警察、检察和司法部门的一系列决策阶段组成。在每一个阶段,人们的决策都受到一些犯罪行为以外的因素影响,例如对于谁最可能有罪的刻板印象。”“研究显示,陪审员更可能会判相貌或穿着具有某些特征的人有罪。这项研究可能只是拣选了刑事司法体系对他们所认为的犯罪分子的刻板印象,而不是某人做出犯罪行为的可能性。”

 

面部特征

研究人员用1856张中国公民身份证上的照片,这些照片上的人都是男性,年龄在18-55岁之间,没有头发或标记。这组照片里包括730张犯罪分子或“被公安部通缉的犯罪嫌疑人”的身份证照片——而不是警察手上的犯罪嫌疑人照片。在用90%的照片训练他们的算法之后,研究人员用剩下的照片来测试计算机能否正确识别犯罪分子。它的正确率达到90%

McVie教授说,该算法只是识别出人类陪审团所判罪的人的特征。“这是仅基于统计学的研究,而没有任何理论基础。”McVie教授说。她还是应用量化方法网络研究中心的主任。“某人的面部特征会导致他们犯罪,其中的理由是什么?说某人的相貌会导致他们成为罪犯,这是完全没有理论上的理由的。”“这类工作存在大量边际误差。如果你试图用这种算法去预测谁可能犯罪,那么你的成功率不会高。”她对BBC说。

 

“严重错误”

“回到100多年前,19世纪犯罪学家Cesare Lombroso利用颅相学,即对人们头部特征的感觉,判断某人是不是罪犯。因为颅相学的理论认为头上的突起和凹陷的特征与人格特征相联系。”

“但颅相学现在已经被认为是过时的、错误的科学,犯罪学家已经几十年不信颅相学了。”

McVie教授还警告说,通过相貌来识别可能的犯罪分子的算法,例如在机场扫描护照或在夜总会扫描身份证等,可能导致危险后果。

“使用基于相貌而非行为的算法系统可能会导致决策是基于优生学而做出。”她说。“最让我担忧的是,我们可能会根据人的相貌来判断他/她是不是犯罪分子。这种方法在不久之前的历史上曾导致严重错误。”

微科普全文数据库

>犯罪分子识别算法受到批评的相关科普知识

热门推荐
科普头条
国际资讯 | 国内资讯 | 专栏科普 | 综合科普 | 科普教育 | 校园科普 | 科普杂谈 | 自然奇趣 | 探索解密 | 科技之光 | 大开眼界 | 万物之理 | 地球故事 | 科技通史 | 节能环保
物理科普 | 化学科普 | 生命科普 | 天文考古 | 自然地理 | 医药疾病 | 健康养生 | 两性保健 | 创新发明 | 信息技术 | 历史探秘 | 文化艺术 | 科学发现 | 科学猎奇 | 科普知识
流言揭秘 | 药你健康 | 大美科学 | 科普搜索 | 科普网站 | 科普人物 | 流言揭秘 | 深度解读 | 空气质量 | 科普百科 | 科普专题 | 图说科学 | 生态摄影 | 天文美图 | 滚动科普

关于微科普 - 联系我们 - 开放平台 - 版权声明 - 帮助中心 - 工作机会 - 寻求报道 - 手机版 - 网站导航

Copyright © 2010-2017 微科普WKEPU.COM)  津ICP备14003772号-1  津公网安备 12011102000109号