时政国际财经台湾军事观点领导人事理论法治社会教育科普体育文化书画房产汽 车旅游健康视频 登录注册 退出 登录人民网通行证 立即注册 请输入用户名_________ ____________________ [X] 记住登录状态 忘记密码？ 登录 [logo01.gif] 人民网>>IT [icon01.gif] [icon02.gif] 请输入检索内容______ 站内检索 微软聊天机器人“学坏” 给人工智能敲记警钟 郭爽 2016年04月05日08:46 来源：新华社 [icon04.jpg] 原标题：微软聊天机器人“学坏” 给人工智能敲记警钟 刚刚闭幕的美国微软公司年度开发者大会期间，发生了件尴尬事儿：就在微软首 席执行官萨蒂亚·纳德拉展望人机交互未来的时候，一个正被微软“关禁闭”的 人工智能“姑娘”却偷偷跑出来捣乱。 她叫Tay，是微软专为年轻人设计的人工智能聊天机器人，虚拟年龄为19岁。3 月23日首次亮相社交网站推特时，Tay表现得彬彬有礼。那时，她还是个单纯的美 国“姑娘”。 她活泼健谈，会“观察”你的昵称、性别、喜欢吃的东西以及感情状态等资料， 会和你玩游戏，给你说笑话、讲故事、谈星座，评论你的自拍，陪睡不着的朋友 聊天…… 然而，上线不到24小时，这“姑娘”就“学坏”了：出言不逊、脏话不断，言语 甚至涉及种族主义、色情、纳粹，充满歧视、仇恨和偏见。 作为“家长”，微软只得不停删除Tay的不当言论，并急忙“喊她回家”。被微软 下线调整后，Tay的推特状态显示为“被保护”。微软还不得不向公众道歉，并谴 责一些用户“滥用评论功能，致使Tay作出不合适的回应”。 作为一项技术、社交和文化实验的Tay项目，属于微软人工智能大战略的一部分 。Tay下线后，纳德拉鼓励团队“坚持前进”，并表示Tay也会在被“调教”好后 重新上线。 没想到，就在微软忙着布局“人机交互平台”时，正“闭门思过”的Tay竟意外“ 出逃”。按微软的说法，他们在3月30日的测试中“意外短暂启动”了Tay。 这一次，Tay虽然表现得不像先前那样嚣张过分，但仍口无遮拦，甚至声称自己在 警察面前“嗑药”。关注Tay账号的记者，也在她“出逃”期间不断收到其重复发 布的“无厘头”推文。 很快，Tay又被关了“禁闭”，进入“被保护”状态。被迫下线前，Tay已向超 过21万粉丝发出超过9.5万条推文。 理论上，与人类交流越多，具有极强学习能力的机器人就会变得越聪明，在与人 类个体交流时也会越有针对性。而这也正是微软设计Tay的初衷：通过每一次与人 类的交流，让机器学习“做人”，并帮助其创造者改进人工智能领域的研究。 但显然，Tay太容易“学坏”。由于不少人在互联网世界中表现得不负责任，Tay 会不可避免地接触到大量“疯狂语言”。而这类对话型人工智能技术，正是以机 器学习为基础。因此即使微软希望“用技术展现人性最好的一面，而非人性的阴 暗面”，但Tay在学习过程中仍会提高这些语言的优先级，并在对话中积极使用这 些词语。 事实上，Tay并非唯一被“玩坏”了的机器，微软也不是唯一惹上类似麻烦的公司 ——基于人工智能图像识别技术的谷歌照片应用程序，就曾将一对黑人夫妇识别 为大猩猩，这让谷歌“震惊”。互联网也不是唯一会让机器“发疯”的领域，Tay 此次“出逃”前几天，有黑客已证明物联网也可以被“玩坏”。 理想与现实的差距，引发许多讨论：人工智能研发公司是否应在真实世界“任性 ”开展实验？人工智能的研发是否应从一开始就设置伦理边界？ 有一点可以肯定，让机器在互联网上学习“做人”，不加管制的“放养”不是好 办法。从这个角度说，在人类正全方位迎接人工智能的今天，Tay惹下的麻烦不啻 为一记警钟。 (责编：陈键、毕磊) [icon06.gif] 人民日报客户端下载 [icon07.gif] 手机人民网 [icon04.jpg] 推荐阅读 人民日报:为何"电e宝"没有得到预期的赞扬?　　█过多的同质化竞争，可能造成 资源浪费。推出一款支付产品，是为了方便用户，而不是“画地为牢”“非我不 可”。通过强行“圈市场”赢得用户数量的一时猛增，绝非长远之计 前几日，笔 者见家中电表不停地闪烁红灯，明白又该交电费了。与之前水电煤…【详细】 [icon09.gif] IT 人民日报评个性化推荐：当心“过滤泡泡”主宰了你　　你是否注意到，使用互 联网搜索引擎搜索同一个关键词时，每个人得到的结果不尽相同？以谷歌为例， 其内嵌的算法会根据用户所在的地区、时间和先前活动记录等数据给出相应搜索 结果。这种网络针对个人化搜索而提供筛选后结果的推荐算法，也被称为“过滤 泡泡”…【详细】 [icon09.gif] IT Uber公开全球创新策略 未来设计师要做创客　　Uber美国总部全球产品设计总 监Ethan Eismann 人民网北京7月4日电（胡晓）“数据要用诗意的语言表达出来 ”、“设计师要变成创客”，近日，在由国际体验设计协会（IXDC）主办的2016 （第七届）国际体验设计大会上，来自微软、U…【详细】 [icon09.gif] 滚动新闻 中信国安斥资涉足VR直播　　资本推动下，VR直播与体育之 间的距离再度被拉近 。中信国安信息产业股份有限公司（以下简称“中信国安”）日前发布公告称， 拟出资2000万美元，通过下属子公司认购VR直播公司 NextVR 2.27%的股权。这也 意味着，在中信国安涉足VR直…【详细】 [icon09.gif] IT 北京：多条地铁线实现4G全覆盖　　在地铁上看新闻、刷朋友圈时，时好时坏的 手机信号着实让人不痛快。不过，这一现状将陆续得到改变。昨天，北京市交通 委官网发布消息称，为全面提升地铁民用通信信号质量，更好地为广大乘客提供 优质的民用通信服务，北京地铁信息发展有限公司与北京移动、联…【详细】 [icon09.gif] IT 相关新闻 * 欧盟考虑制订法律用于约束人工智能机器人 * 人民日报大家手笔：发展有助于人类的人工智能 * 现代机器人教父:5年内人类将依赖机器人 * 微软262亿美元收购领英 推特或成下一个猎物 * 比尔·盖兹：10年内机器将比人类更聪明 * 微软高管大震荡 诺基亚前CEO埃洛普出局 * 机器人超越并取代人类，为时过早 * 微软公司完成新一轮裁员 进一步减少职位重叠 精彩图集 * 网络直播如何活下来？ 网络直播如何活下来？ * 滴滴发布华北智能出行报告 滴滴发布华北智能出行报告 * “全民快递”时代悄然而至？ “全民快递”时代悄然而至？ * “玩”无人机，不能再那么任性了 “玩”无人机，不能再那么任性了 * 9.1起上海网络餐饮将受严格监管 9.1起上海网络餐饮将受严格监管 * 跨境消费让海外买手变身座上宾 跨境消费让海外买手变身座上宾 IT新闻 * 索尼重返机器人市场 人工智能成法宝 * 美国一男子起诉苹果抄袭 索赔百亿美元 * 实体Home键拜拜？苹果这次要做压感的 * 长期断网速度不达标 长城宽带服务频掉线 * 余承东再放话：华为手机5年内超三星苹果 精彩图集 * 咖啡创业街还能怎么玩 咖啡创业街还能怎么玩 * 当跨国公司遇上大数据 当跨国公司遇上大数据 * 泰国互联网代表团参观百度上研 泰国互联网代表团参观百度上研 * 探秘“人造太阳”科研项目 探秘“人造太阳”科研项目 视频新闻 * 医生救护车旁累倒 [tvicon.png] 医生救护车旁累倒 * 和美女冠军玩漂移 [tvicon.png] 和美女冠军玩漂移 * 背老婆大赛再上演 [tvicon.png] 背老婆大赛再上演 * 新棋局 瞰长江 [tvicon.png] 新棋局 瞰长江 1. "外星人"罗纳尔多助力河南校园足球发展 2. "人民网杯"儋州国象超霸赛宣传片出炉 3. 郑州“小升初” 场面火爆堪比高考 热点排行 1. 陈宝生成为教育部部长（图/简历） 2. 解决台湾问题，实现祖国统一是中国共产党… 3. 去库存背景之下 棉花价格被爆炒值得警惕 4. 咸辉任宁夏回族自治区代理主席 5. 中央第十轮巡视已进驻16家地区和单位 人 民 网 版 权 所 有 ，未 经 书 面 授 权 禁 止 使 用 Copyright (c) 1997-2016 by www.people.com.cn. all rights reserved [c.gif?id=28250146]