首页 > 娱乐前沿 > 科技
IBM开源统计修正框架Fairness Ki5,要阻止种族歧视机器人产生
小艾 2018-09-23 00:06:46

研究发现,人工智能不只学了人类好的部分,也学了种族与性别歧视等坏的部分,IBM实验室现在开源了AI△Fairness△360(AIF360)工具包,用来减轻人工智能的学习偏差。ud2我酷网

机器学习逐渐可以代替人们做出高风险的决策,IBM提到,虽然机器学习的本质就是一种统计歧视(Statistical△Discrimination)的形式,但是当部分拥有特权的群体处于系统优势的时候,歧视会变得令人反感。机器学习的训练资料,无论是采样不足或是过度采样,甚至标签存在偏差,最终都会造成不良的模型。ud2我酷网

ud2我酷网

IBM着手修正人工智能可能存在的偏差问题,现在对外开源AIF360专案,这是一个Python软件套件,由广泛的演算法平等研究社交开发,内含有9种不同的演算法,开发者能以类似Scikit-learn函式库的范式,呼叫使用这些演算法。AIF360不仅仅是提供人工智能模型的偏差指标,更是提供减轻偏差的方法,并专注于可用性与软件工程改良上。ud2我酷网

AIF360内建3个范例,领域包括信用评分、预测医疗支出以及以性别分类脸部图片。IBM表示,虽然他们过去已经在健康保险领域上,与许多客户合作多年,针对特定人群量身订做保险方案,但是就从未加入演算法评等研究。而这个结果离真正公平的结果是有一段差距的。ud2我酷网

ud2我酷网

AIF360能以互动式的体验,引导使用者了解套件的概念以及功能,开发者可能会在一开始对于不同案例使用的指标或是演算法产生困惑,AIF360则会提供参考资料作为引导。IBM期望,通过这个开源专案可以凝聚相关研究人员,并把研究成果转换成各产业可以使用的解决方案。ud2我酷网

上一篇  下一篇

I 相关 / Other

开源资料库MariaDB买下Clustrix以强化扩展能力

CC0授权 MySQL关联式资料库管理系统的分支MariaDB在本周四(9/20)宣布已买下另一资料库管理系统Clustrix,不论是MariaDB或Clustrix都能直接取代MySQL,而MariaDB相中的则是Clustrix的扩展能力,以满足大型客户的需

开源API管理平台Kong正式进入1.0,支援服务网状网络更易于管理丛集

开源API管理平台Kong官方正式宣布Kong进入1.0,并且加入了包括支援服务网状网络,以及增加新的资料库抽象物件,官方也提到,Kong版本名称将进行改变,原来的Kong△CE社交版(Community△Edition)将被消灭,仅使用Ko

脸书发表开源机器学习编译器Glow,要以社交力共构AI软硬件生态系

脸书创建了开源Glow框架,通过社交之力驱动建构硬件生态系,以实现机器学习硬件加速,Cadence、Esperanto、英特尔、Marvell和高通都已经承诺会在未来的晶片支援Glow。脸书为了要扩展PyTorch等深度学习框架的应用,因

解决独裁争议,Google决定放权,让AMP框架将采行公开治理模式

Google于周二(9/18)宣布,将邀请其它业者共同设立“行动网页加速”(Accelerated△Mobile△Pages,AMP)开源专案的技术指导委员会(Technical△Steering△Committee,TSC)、咨询委员会(Advisory△Committee,AC)

脸书开源可扩展且容错的分散式日志系统LogDevice

脸书(Facebook)通过GitHub开源LogDevice,LogDevice是一个分散式的日志系统,负责储存并交付日志。LogDevice能提供大规模高可靠性的各类型日志,其拥有灵活可调校的能力,能对每个使用案例进行最佳化,让使用者在耐

I 热点 / Hot