网易首页 > 新闻中心 > 正文

2016年人工智能犯了哪些错

0
分享至

(原标题:2016年人工智能犯了哪些错)

3月15日,韩国棋手李世石与“阿尔法围棋”对弈中。新华社外代图片 北京2016年3月16日 新华社/欧新中文

; ; ; 3月15日,韩国棋手李世石与“阿尔法围棋”对弈中。(新华/欧新中文)

; ; 新华社北京12月12日新媒体专电(记者李宓)自动驾驶汽车、围棋人机大战、描绘机器人自我意识的美剧《西部世界》大热……2016年,人工智能及其相关领域受到产业界、学术界乃至全社会的热议。与此同时,人们对人工智能的担忧也从未褪去:人工智能会在什么时间、以什么方式出问题?

临近年终,多名人工智能专家分析了2016年人工智能典型“失败”案例,认为这些错误集中出现在人工智能系统的机器学习和任务执行阶段。

【歧视——都是人的错吗】

多位人工智能专家认为,种族主义和种族歧视是目前人工智能系统存在的主要问题,这可能和系统的研发设计者本身的种族有关。

2016年,美国多地法庭开始使用人工智能系统预测一名罪犯再次犯罪的几率,作为法官给予罪犯缓刑等的依据。然而,媒体对佛罗里达州法庭使用的一种名为“少数派报告”预测系统进行了调查,发现黑人被系统预测会再次犯罪的几率比其他族裔高出45%,其中黑人被预测再次暴力犯罪的几率比其他族裔高出77%。数据显示,这一人工智能系统的准确率只有20%。媒体评论说,所谓犯罪预测系统唯一能判断的仅是受调查对象的种族而已。

2016年,美国多家公司联合推出了“世界首届人工智能选美大赛”,参赛者在网站上上传照片,由人工智能算法“精确”评估参赛者的美。然而,这场比赛的获奖者都是白人。美国路易斯维尔大学网络安全实验室主任扬波利斯基指出,很明显这一人工智能的学习训练样本不够,美人被限制在固定的模式中。

为了开拓年轻人的市场,微软公司今年春季在社交网络推特上推出了人工智能聊天机器人Tay。然而上线不到一天,用网友的话说,Tay就成为了一个“热爱希特勒、侮辱女性的妖怪”,微软随即将Tay紧急下线。

任天堂公司的“口袋妖怪”游戏今年7月发布后风靡全球。玩家很快发现,黑人社区很少有小精灵可抓。据《今日美国》报道,在洛杉矶地区,主要的白人社区平均有55个“精灵驿站”,黑人社区平均不到19个;在底特律、迈阿密和芝加哥也出现类似情况,黑人玩家在自家门口很难参与游戏。游戏开发人员承认,这款增强现实智能游戏基于一个以白人玩家为主的地图系统,开发人员没有在黑人社区上多花时间。

【输棋、伤人——人工智能还不完美】

在3月的围棋人机大战中,人工智能系统阿尔法围棋以4比1战胜韩国棋手李世石。澳大利亚新南威尔士大学人工智能教授沃尔什表示,阿尔法围棋输了一局,说明李世石还是发现了这个系统使用的“蒙特卡洛搜索树”中的漏洞,这一局可以看作是2016年人工智能的一次失败,人工智能还不完美。扬波利斯基则认为,李世石胜出的一局还是在正常操作的范围内。

5月,一辆开启自动驾驶模式的特斯拉在美国佛罗里达州与一辆拖车相撞,导致司机死亡。事故发生后,特斯拉公司发布了自动驾驶软件的重要更新,公司首席执行官马斯克称,更新可以防止类似事故的发生。

7月,位于硅谷地区的斯坦福购物中心,一位母亲称,购物中心重约135公斤的“K5安保机器人”撞倒了自己16个月的孩子,并从孩子的脚上压了过去。

而在11月举行的中国深圳“中国国际高新技术成果交易会”上,一名网友在微信上发图并配文称,亲眼看到隔壁展台进化者小胖机器人没人操纵,自己突然跑起来,把玻璃墙给撞倒了,砸伤旁边一路人。图片显示,现场满地玻璃,一位受伤观众被担架抬走。这款机器人的生产方称,这起事故是人为操作失误所致,控制人员误将前进键当作后退键。但也有专家指出,不能用“油门当刹车”的比喻来看待服务机器人问题。尽管是偶发事件,但其安全隐患绝不可掉以轻心。

扬波利斯基等人认为,这些案例说明,保持机器学习数据的多样性是防止人工智能系统产生“偏见”的关键,相关伦理研究更是应该走在技术研究的前面。

(原标题:2016年人工智能犯了哪些错)

相关推荐
热点推荐
离婚25年后 ,李连杰与前妻黄秋燕在北京重逢,并合影留念

离婚25年后 ,李连杰与前妻黄秋燕在北京重逢,并合影留念

麦香娱
2022-08-17 10:42:13
反制见效,国民党公开呼吁避战求和,朱立伦:不希望大陆中止ECFA

反制见效,国民党公开呼吁避战求和,朱立伦:不希望大陆中止ECFA

田柳 Talk
2022-08-17 16:56:37
更严重的事情来了,白宫推迟表决《台湾政策法》,可能会突破红线

更严重的事情来了,白宫推迟表决《台湾政策法》,可能会突破红线

包明说
2022-08-17 16:35:53
东部战区刚刚发布!严正震慑!

东部战区刚刚发布!严正震慑!

未来网
2022-08-15 15:53:28
疫情下的义乌,有市民开始挖野菜吃了,到底什么时候是个头啊?

疫情下的义乌,有市民开始挖野菜吃了,到底什么时候是个头啊?

木木情感世界
2022-08-17 16:05:19
岛内人均GDP将达3.6万美元,为何年轻人要去人均GDP仅1600美元的柬埔寨打工

岛内人均GDP将达3.6万美元,为何年轻人要去人均GDP仅1600美元的柬埔寨打工

海峡导报社
2022-08-17 16:41:02
赵丽蓉24年前春晚小品,有谁记得端酒的丫鬟?如今火得一塌糊涂

赵丽蓉24年前春晚小品,有谁记得端酒的丫鬟?如今火得一塌糊涂

华少娱乐汇
2022-08-17 13:59:11
孔融:4岁让梨到弑父杀母,美国当做反面教材来宣传

孔融:4岁让梨到弑父杀母,美国当做反面教材来宣传

月亮迷路了
2022-08-17 11:57:35
汪峰为了展示冲锋衣耐磨性,直播拿钢丝球蹭,结果把商家都吓一跳

汪峰为了展示冲锋衣耐磨性,直播拿钢丝球蹭,结果把商家都吓一跳

香喷喷的橙子
2022-08-16 11:56:55
刘奕君又把“泡面”吃出了新高度。

刘奕君又把“泡面”吃出了新高度。

徐某人吃瓜娱乐
2022-08-17 16:17:03
四川达州继续发布居民用电限电预告:滚动限电,时长在3小时内

四川达州继续发布居民用电限电预告:滚动限电,时长在3小时内

澎湃新闻
2022-08-17 14:46:54
吴启华:我从当演员到现在,片酬总共才600多万,边拍戏边卖包子

吴启华:我从当演员到现在,片酬总共才600多万,边拍戏边卖包子

萌宠聊娱乐
2022-08-17 15:11:26
女星当众露屁股瞬间,看到令人脸红!

女星当众露屁股瞬间,看到令人脸红!

华少娱乐汇
2022-08-17 15:04:47
今日起,临时撤销!

今日起,临时撤销!

锡望
2022-08-17 10:24:11
美准备越线,我大使就是否敢与美一战表态后,普京就台海亮明立场

美准备越线,我大使就是否敢与美一战表态后,普京就台海亮明立场

袁周院长
2022-08-17 16:20:20
太原一局长被实名举报与多名女性保持不正当关系 区纪委监委:免职并调查

太原一局长被实名举报与多名女性保持不正当关系 区纪委监委:免职并调查

海报新闻
2022-08-17 12:39:04
48岁蔡少芬回应“婚变”,公开支持丈夫再娶:他肯定会再找一个!

48岁蔡少芬回应“婚变”,公开支持丈夫再娶:他肯定会再找一个!

夜听訫语
2022-08-17 11:57:14
乌军总司令:俄军每天用4万-6万枚弹药,对乌军进行700-800轮炮击

乌军总司令:俄军每天用4万-6万枚弹药,对乌军进行700-800轮炮击

环球时报国际
2022-08-17 17:58:56
“台独”终于被收拾了!大陆五省市雷霆出击,苏贞昌女儿收到噩耗

“台独”终于被收拾了!大陆五省市雷霆出击,苏贞昌女儿收到噩耗

馆史档案
2022-08-17 09:04:42
2019年,华裔女兵在美舰上用中文警告我国海军,事后称:很自豪

2019年,华裔女兵在美舰上用中文警告我国海军,事后称:很自豪

法制播报
2022-08-16 09:26:14
2022-08-17 19:26:44

头条要闻

约翰逊度假露上身照曝光 遭俄网友嘲讽:和普京比胸肌?

头条要闻

约翰逊度假露上身照曝光 遭俄网友嘲讽:和普京比胸肌?

体育要闻

2-0,连进2乌龙+失单刀 自己绝平自己

娱乐要闻

孙怡出游心情好未受离婚影响 文案引猜测

财经要闻

科技要闻

腾讯第二季度营收1340亿元 净利润下滑56%

汽车要闻

双联屏/6秒级性能 奇瑞艾瑞泽5 GT或9月初上市

态度原创

艺术
手机
健康
数码
本地

艺术要闻

“美术作品中的青春”在中国美术馆开幕

手机要闻

手机销量暴跌:小米代工厂英华达厂房改种蘑菇

被猪咬伤要打狂犬疫苗吗?

数码要闻

899元 雷蛇推出利维坦巨兽V2X条形音箱:自定义RGB灯光

本地新闻

江浙沪人夏天的命,多半是它给的

进入关怀模式
×