首页 > 娱乐前沿 > 科技
ACLU实验脸部分辨发现错误率太高,Amazon:是信度閾值设错了
梁子 2018-07-30 10:45:03
图片来源:

Amazonk2p我酷网

针对美国公民自由联盟(American△Civil△Liberties△Union,ACLU)对Amazon人脸分辨系统Rekognition所做的实验,错将28名美国国会议员分辨为罪犯的结果。Amazon回应,这结果与信度閾值设定有关,提高信度閾值便能减少错误配对,该公司举例,人们不会因为烤箱温度设定错误烤焦比萨而丢弃烤箱。k2p我酷网

ACLU使用Amazon的Rekognition系统,以25,000张公开的罪犯照片建构了脸部资料库,并使用当前国会议员的公开照片进行比对,在80%的信度下,发现535位议员被错误配对28次,也就是说有28位议员被系统认为是罪犯,正确率95%而错误率为5%。Amazon在自家博客发文回应ACLU的实验结果,由于无法取得更进一步系统设定的资料,Amazon仅能以目前ACLU公开的资料回应。k2p我酷网

Amazon提到,虽然Rekognition系统预设信度閾值为80%,但这仅适用于一般社交媒体名人分辨之用,是无法用于公共安全的。Amazon对用于公共安全目的之应用,根据他们公开的文件建议,应该要将信度閾值设为99%。k2p我酷网

Amazon重现了类似ACLU的实验,他们将学术界常用的脸部资料集850,000张照片作为脸部资料库,对所有国会成员的公开照片进行比对。Amazon提到,当他们把信度閾值设为99%的时候,尽管Amazon自己所做的实验,比ACLU的规模大30倍,复杂度更高,但是错误分辨率却是0%。而这个实验说明了信度閾值设定的重要性。Amazon也提到,ACLU使用的脸部资料集也可能是造成结果偏差的原因之一。k2p我酷网

而Amazon拿出了美国国家标准与技术研究所(NIST)的研究资料打脸ACLU,Amazon表示,一般人都以为人类在脸部比对的能力比机器优秀,但事实上并非如此,根据NIST的研究,即便使用比Rekognition落后的脸部系统,其分辨人类脸部的精准度仍然在人类之上。k2p我酷网

在现实使用案例中,Amazon强调,Rekognition系统只用于帮助人类缩小可能范围,并让人类使用自有判断能力审查系统的建议选项。这样的功能对于寻找失踪人口、打击人口贩卖或预防犯罪有很大的用处。k2p我酷网

Amazon提到,当新技术发展时,必须很清楚什么是真实的,什么不是,机器学习应用在娱乐与执法上截然不同,他们不会建议执法单位使用小于99%的信度閾值。正确使用机器学习,能为执法单位带来庞大的价值,但不应该因为没有正确使用而丢弃工具,Amazon打了个比喻,就像是错误设定烤箱温度而烤焦比萨,我们也不会把烤箱丢掉。k2p我酷网

上一篇  下一篇

I 相关 / Other

偷车被发现后跳河 [热点]

实时热点(原标题:男子偷车被人发现后跳河围观者:先救人要紧!)“先把他救上来再说嘛,毕竟生命更重要!”。26日下午6点过,成都太升桥附近河边,上演了...原标题:男子偷车被人发现后跳河围观者:先救人要紧!“先把他救上来

火星发现液态水湖 [热点]

实时热点(原标题:快讯!研究发现:火星上发现了第一个液态水湖)【环球网快讯记者赵衍龙】法新社7月25日消息称,研究发现,火星上发现了第一个液态水湖...【环球网快讯记者赵衍龙】法新社7月25日消息称,研究发现,火星上发

中国制智能吸尘机械人被发现漏洞 视像镜头映像或可被第三者截取 | 香港 UNWIRE.HK 玩生活.乐科技

现在智能家居产品都连上网,方便用户操作管理,但这些连接互联网的产品,有机会被不法份子入侵,甚至恶用。资讯保安公司就发现,有中国制具备 360 度视像镜头、Wi-Fi 上网的智能吸尘机械人,由于系统保护性能不足,如

调查发现近半资讯保安从业员重复使用密码 | 香港 UNWIRE.HK 玩生活.乐科技

最近英国一项调查发现,不少资讯保安专家都是讲一套做一套。网络保安公司 Lastline 早前在伦敦的一个资讯保安会议上,向 306 位资讯保安从业员进行问卷调查,结果有 45% 受访者承认他们会在不同的帐号使用相同的密码

学术界发公开信要AWS停止提供美国政府脸部分辨技术,微软促政府主动监管

微软总裁兼首席法务官Brad△Smith敦促政府应对脸部分辨技术的应用制定相关法令。 图片来源: 微软 学术界于ICRAC(International△Committee△for△Robot△Arms△Control)网站发表公开信给Amazon以及美国政府,除了

I 热点 / Hot