您的位置:首页 > 互联网

AI透明度引发关注 科技巨头推工具解释算法决策过程

发布时间:2018-09-27 09:28:49  来源:互联网     背景:

  北京时间9月27日消息,人工智能技术的透明度和道德伦理问题正引发越来越多的关注,这促使云计算服务提供商推出新工具,解释人工智能算法背后的决策过程。

  会计和金融等强监管行业的高管表示,数据科学家和非技术业务经理都必须能理解算法决策背后的流程。这至关重要。这样的理解在防范潜在道德违规和监管违规方面可能会带来深远影响,尤其考虑到企业级人工智能算法正变得越来越普遍。

  毕马威创新和企业解决方案部门负责智能自动化、认知和人工智能的高管维诺德·斯瓦米纳桑(Vinodh Swaminathan)表示:“我认为,除非具备这种解释能力,否则人工智能在企业中的规模不可能超过数百个试点应用。”

  对人工智能的解释问题已经促使IBM和谷歌等公司在云计算人工智能服务产品中引入透明度和道德伦理工具。

  IBM商业价值研究所近期的一项研究调查了5000名企业高管。约60%的受访者表示,他们关心如何解释人工智能使用数据作出决策,以达到监管和合规标准。这个比例较2016年时的29%大幅上升。

  甚至对数据科学家和相关企业高管来说,人工智能的决策过程有时都是“黑盒”。在深度学习工具,例如用于模式识别的神经网络中尤其如此。这样的神经网络试图模拟人脑的运转方式。

  尽管这些系统可以以前所未有的准确率和速度得出结论,但外界并不总是非常清楚,计算网络是如何做出具体的决策。

  毕马威内部的数据科学家正在开发自主的可解释性工具,此外该公司也在利用IBM新的透明度工具。斯瓦米纳桑表示,这样做的目的是确保技术和业务两方面的员工都能“打开黑盒”,准确地了解人工智能算法是如何做出结论的。

  IBM上周发布了新的云计算人工智能工具,可以向用户展示哪些主要因素影响了人工智能做出的建议。这些工具还可以实时分析人工智能决策,以识别固有偏见,并推荐数据和方法来解决这些偏见。IBM负责认知解决方案的高级副总裁大卫·肯尼(David Kenny)表示,这些工具可以与IBM人工智能服务,以及谷歌等其他云计算服务提供商的工具配合使用。

  谷歌研究科学家和软件工程师发布的博文则显示,谷歌去年开始为开源的机器学习代码发布新工具,“作为更广泛研究的一部分,满足对可解释性的政策目标”。谷歌本月早些时候发布的另一款人工智能工具允许非程序员检查和调试机器学习系统,以评估算法的公平性。

  微软正通过Azure来提供人工智能服务。该公司发言人表示,人工智能系统的设计需要有公平、透明和安全的保护,从而确保信任。微软正在这方面做出持续的努力。亚马逊没有对此问题做出回应。

  来自强监管金融行业的Capital One Financial Corp和美国银行正在研究,如何解释人工智能算法得出答案的背后原理。两家公司都表示,目标是利用人工智能来优化对欺诈的监测,但首先它们需要了解这些算法是如何工作的。






  声明:本文仅为传递更多网络信息,不代表本站观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页

本文评论
办伴科技 — 筝际智慧办公助力企业提前进入未来办公模式
成都 2018第八届GCUC 全球联合办公峰会成都分会于9月初召开,峰会以“Work Better,W......
日期:09-29
共青团中央宣传部联合美拍发起“带着国旗去旅行”短视频征集活动
为迎接祖国69岁生日,9月26日,共青团中央宣传部联合美图秀秀、美拍发起了#带着国旗去旅行#话题活动......
日期:09-30
再次来到十字路口:传腾讯正进行组织架构调整
江湖传言,腾讯将进行新一轮组织架构调整,重点突出TO B业务。中国互联网,传言大部分均非空穴来风......
日期:09-29
AI赋能营销,“狼”这回真的来了
9月19日到21日,由百度主办的AI营销创想季在上海举办“创想营”。来自群邑、电通安吉斯、......
日期:09-22
腾讯新设产业、内容两大事业群 汤道生任宇昕坐镇
9月30日上午消息,腾讯今早宣布战略升级,原有七大事业群架构调整为六大事业群,原来微信事业群等四......
日期:09-30
腾讯位置服务开放小程序解决方案 助力开发者打造个性地图
日前,腾讯位置服务面向开发者全面开放小程序解决方案,为广大开发者提供更便捷、更智能的位置服务......
日期:09-26
誓做客服机器人里的大疆 意能通ALL IN自研智能语音引擎
客服机器人市场,在客户的争夺上已经进入白热化,尤其是中大型客户的争夺已经全面进入价格战模式。处......
日期:09-26
百度云 融合ABC演进技术 推动百度商业版图扩张
据相关报告统计数据显示,2017年中国云计算市场规模接近700亿元,年增速达到了28%,预计到2020年中......
日期:09-28
天命杯创国内绝地求生赛事奖金池新高,虎牙稳坐行业第一
国庆黄金周第二天,虎牙天命杯将拉开序幕。据悉,96支海选队伍将通过海选赛决出24支队伍,与8支直邀......
日期:09-30
几经沉浮的微视会成为下一个腾讯微博吗?
从微视复活的第一天起,就被外界视为抖音的翻版,如果找不到差异化的定位,很可能再次沦为弃子。...
日期:09-28
AI时代将至 “传统企业”如何拥抓住“新动能”?
人工智能的到来已经成为大势所趋,智能化的发展趋势正在颠覆传统行业,推动焕发新的生机。普华永道......
日期:09-21
不会智能语音录入的表情包不是好输入法
年轻人喜欢Diss,Diss周一早会上收到的一分钟长语音信息,Diss“手癌”闺蜜慌慌张张打出......
日期:09-30
腾讯位置服务开放小程序解决方案 助力开发者打造个性地图
日前,腾讯位置服务面向开发者全面开放小程序解决方案,为广大开发者提供更便捷、更智能的位置服务......
日期:09-26
合作伙伴上线“顺丰打车” 顺丰:未经允许 解除合作
顺丰北京区此前与搬运帮是有达成初步合作意向,但搬运帮未经顺丰允许,擅自借用顺丰品牌宣传自身业......
日期:09-27
关于5G 我们都在期待什么?
5G 时代的智慧城市 行驶在智慧城市的道路上,智慧运输系统根据天气、拥堵、交通事故等实时路况......
日期:09-30
最美1000张脸,究竟谁才是颜“智”担当
核心提示: 9月19日,一个诺大的魔幻箱子空降上海大悦城,引来大量路人的围观,这个魔幻箱子究竟将......
日期:09-26
刚刚 腾讯宣布大变革!互联网开启下一个时代!
今天,腾讯在20岁生日之际,宣布组织架构调整方案:既保持深耕垂直领域的优势和特点,保留原有的企业发......
日期:09-30
腾讯6年后迎来新调整 互联网下半场能否突围阿里云
9月30日讯,腾讯宣布公司组织架构在时隔6年后迎来新一轮的优化调整,在原有七大事业群(BG)的基础上......
日期:09-30
谷歌让步:Chrome浏览器与谷歌账号同步 你说了算
9月27日消息 谷歌在最新的Chrome 69浏览器中引入了一项改动,用户在浏览器上登录任何谷歌旗下的服务......
日期:09-27
联通4K IPTV高配冰激凌套餐国庆再升级  同等价钱流量翻一番
国庆假期即将来临,很多人趁此机会选择外出旅行,也有一部分人选择宅在家追剧、睡觉来放松身心。不......
日期:09-28