使用湾区警察测试的AI预测性监管

Predpol的软件使用人工智能和不断发展的犯罪地图,以确定何时报告犯罪,所以警察可以直接巡逻努力,但涉及该技术的偏见问题。

(TNS) - 即使是Santa Cruz技术公司的负责人,销售给湾区警察部门的软件承认使用算法告诉警察在哪里以及何时巡逻巡逻的一系列复杂问题。 凭借在它发生之前试图预测犯罪的承诺,美国的警察部门正在尝试从Santa Cruz的Predpol等人工智能计划。这是“热点”犯罪地图警察的演变,这些警察已经使用了几十年来指导他们的巡逻 - 与21世纪的曲折,对手说可以加强偏见并使人们不太安全。

在张力率高的时候,警察不武装嫌疑人的不当行为和射击,预测政策正在增加隐私倡导者,看门狗甚至执法本身的审查。

预测政策的软件依赖于数据,从犯罪受害者报告中逮捕对个人的警察互动历史。然后将数据送入机器学习算法,该算法产生关于可能发生特定类型的犯罪行为的预测,并且在某些情况下,可能会预期违法行为。

但是,如果该数据源于非洲裔美国人或西班牙裔社区的不良警务,例如,或者在富裕地区缺乏执法 - 批评者表示,这些偏见感染了算法。

“犹他大学计算机科学教授Suresh Venkatasubramanian说:”你正在使用毒树的果实。“

这正是PredPol避免使用逮捕数据来避免使用逮捕数据,而是喂养其算法仅仅源于公众向警方报告的罪行的基本信息:报告的犯罪,地点和犯罪类型的时间和日期。他说,保持逮捕信息和特定于算法的个人特定的数据有助于在公式中占据警察队伍中的偏见。

数据在警察地图上可视化为代表在特定时间段可能发生犯罪的区域的500英尺箱。 “当你没有接听服务的电话时,你主动巡逻这些领域,”麦克唐纳说。他说,每小时每小时花费六分钟,是“甜蜜点”,用于阻止犯罪。

“很多人都担心AI,所以,因为它是一种可以以不同方式挥动的新技术,”麦克唐纳说。 “我们觉得我们正在帮助。在大多数情况下,我们已经看到了一些城市的戏剧性犯罪减少了。“

Predpol的软件已被美国大约50个部门使用,加利福尼亚州约10个,包括UC Berkeley,山景,圣诞老人Cruz,Los Gatos和Campbell。它寻求预测抢劫,入室盗窃,汽车闯入,汽车盗窃,加重袭击和杀人,而不是强奸和性侵犯,家庭暴力或毒品犯罪。

批评者争辩说,它是不可能从这些系统中移除偏见。 “报告犯罪的报告偏见,”Venkatasubramanian说。他说,在颜色的社区中,许多人认为呼叫警察会带来更多麻烦。

“如果您未认识到受害者报告数据本身受到同样的报告和收集偏见的事实,以及任何其他类型的数据是,如果您不考虑建立模型时,您的型号将受到同样的偏见,“Venkatasubramanian说。 “这些系统正在推出,没有任何适当检查它们的工作方式。如果我们必须等待某人在我们做任何事情之前受到伤害,那就是说这是一个错误。“

甚至限制算法的数据饮食,因为PredPol确实可以产生“反馈循环”,其中软件告诉官员继续关注同一领域,可能导致过度监管。

“也许某些社区得到过度策划,导致更多人被监禁,”电子前沿基金会的高级调查研究员Dave Maass说。 “你可能担心的其他领域是社区没有足够的地方,因为他们只是没有产生吸引算法注意力的数据。”

Predpol的研发首席Jeffrey Brantingham承认,无法避免报告偏见,但来自公众的报告提供了最可靠的数据。

Predpol,成立于2012年,目前雇用十几名人员,不是唯一生产预测政策软件的湾区公司。去年秋天,纽瓦克的Shotspotter枪声检测公司购买了Hunchlab及其预测软件。而Palo Alto's Palantir有一个产品,用于瞄准可能犯下暴力或被射击的个人。 Predpol拒绝披露其产品的价格,它为某些部门提供了一项试验。

在圣克鲁斯,警方一直在努力尝试PredPol的系统,首席安德鲁·米尔斯表示,当可能发生特定地区的特定罪行时,它有助于确定时代。 Mills说,警方已经意识到了那些热点的热点,但软件关于巡逻何时有用的指导。

湾区周围,警方与PredPol的经历变化。技术网站上个月主板 报道 该地区的一些部门似乎已经显示出对PredPol的产品的兴趣。

山景山景山景近五年来,直到6月份,称议员凯蒂纳尔逊表示。 “我们为一个令人难以置信的擅长测试和/或采用新技术的社区,这是我们希望看到它是否可能在山景中提供积极目的,”纳尔逊在一封电子邮件中说。 “我们测试了该软件并最终订阅了这项服务几年,但最终结果混合了,我们已停止服务。”纳尔逊补充说,自2018年1月以来,山景警察自2018年1月以来已有自己的内部犯罪分析师。

SGT表示,UC Berkeley警方一直在使用Predpol的产品。 Nicolas Hernandez。 “轶事,我之前用过它,似乎有效,”Hernandez说。

然而,由于警方是犯罪分子的视觉威慑力,“如果您使用预测的警务来说,也许预测犯罪将发生的地方,而且您正在巡逻该地区,您不知道您是否阻止了犯罪,“Hernandez说。

Palo Alto警察在2013年和2015年之间使用PredPol的软件在审判的基础上。“我们没有得到任何价值,”Janine De La Vega厅发言人说。 “我们通过使用它并没有解决更高的犯罪率。”

警方在Los Gatos / Monte Sereno部门从2012年使用PredPol的软件,直到去年取消其订阅,称迈克尔D'Antonio。 D'Antonio表示,该软件的指导有助于向巡逻人员简报巡逻人员,但最终每年5,000美元至7,000美元的成本不合理。 “我认为有价值,但我们的人们知道以前发生的事情,我们都会在这些地区花时间。” D'Antonio说,该部门在使用该软件时,犯罪率没有大幅减少犯罪率。

隔壁在坎贝尔,警方六年前试图Predpol的产品一年前一年前,但是加入了。加里·伯格说,“该软件为我们已经拥有的信息提供了我们的信息。”

尽管取消了取消,但PredPol认为其产品可以帮助在任何规模的社区中打击犯罪。 “绝对是最小的部门,帮助您组织巡逻计划仍然有利,”布兰廷汉说。 “大多数警察都可以说,”我知道我的顶级或两个热点。“但第四个是什么?我们还没有看到任何社区,其中归因于预测性警务返回。“

©2019 San Jose Mercury News(加利福尼亚州圣何塞),分发 Tribune Content Agency,LLC。