时政 国际 财经 台湾军事 观点 领导 人事 理论 法治 社会教育 科普 体育 文化 书画 房产 汽车 旅游 健康 视频 登录 注册 退出 登录 人民网 通行证 立即 注册 忘记 密码 ？ 
登录 站 内 检索 微软 聊天 机器人 “ 学 坏 ” 给 人工智能 敲 记 警钟 郭 爽 2016 年 04 月 05 日 08 : 46 来源 ： 新华社 原 标题 ： 微软 聊天 机器人 “ 学 坏 ” 给 人工智能 敲 记 警钟 刚刚 闭幕 的 美国微软公司 年度 开发者 大会 期间 ， 发生 了 件 尴尬 事儿 ： 就 在 微软 首席 执行官 萨蒂亚 ・ 纳德拉 展望 人机 交互 未来 的 时候 ， 一个 正 被 微软 “ 关禁闭 ” 的 人工智能 “ 姑娘 ” 却 偷偷 跑 出来 捣乱 。 
她 叫 Tay ， 是 微软 专为 年轻人 设计 的 人工智能 聊天 机器人 ， 虚拟 年龄 为 19 岁 。 
3 月 23 日 首 次 亮相 社交 网站 推 特 时 ， Tay 表现 得 彬彬有礼 。 
--
微软 还 不得不 向 公众 道歉 ， 并 谴责 一些 用户 “ 滥用 评论 功能 ， 致使 Tay 作出 不 合适 的 回应 ” 。 
作为 一 项 技术 、 社交 和 文化 实验 的 Tay 项目 ， 属于 微软 人工智能 大 战略 的 一部分 。 
Tay 下线 后 ， 纳德拉 鼓励 团队 “ 坚持 前进 ” ， 并 表示 Tay 也 会 在 被 “ 调教 ” 好 后 重新 上线 。 
--
理论 上 ， 与 人类 交流 越多 ， 具有 极 强 学习能力 的 机器人 就 会 变得 越 聪明 ， 在 与 人类 个体 交流 时 也 会 越 有 针对性 。 
而 这 也 正是 微软 设计 Tay 的 初衷 ： 通过 每 一 次 与 人类 的 交流 ， 让 机器学习 “ 做人 ” ， 并 帮助 其 创造者 改进 人工智能 领域 的 研究 。 
但 显然 ， Tay 太 容易 “ 学 坏 ” 。 
由于 不少 人 在 互联网 世界 中 表现 得 不负 责任 ， Tay 会 不可避免 地 接触 到 大量 “ 疯狂 语言 ” 。 
而 这 类 对话 型 人工智能 技术 ， 正是 以 机器学习 为 基础 。 
因此 即使 微软 希望 “ 用 技术 展现 人性 最好 的 一面 ， 而 非 人性 的 阴暗面 ” ， 但 Tay 在 学习 过程 中 仍 会 提高 这些 语言 的 优先级 ， 并 在 对话 中 积极 使用 这些 词语 。 
事实上 ， Tay 并非 唯一 被 “ 玩 坏 ” 了 的 机器 ， 微软 也 不是 唯一 惹 上 类似 麻烦 的 公司 ― ― 基于 人工智能 图像 识别 技术 的 谷歌 照片 应用程序 ， 就 曾将 一对 黑人 夫妇 识别 为 大猩猩 ， 这 让 谷歌 “ 震惊 ” 。 
互联网 也 不是 唯一 会 让 机器 “ 发疯 ” 的 领域 ， Tay 此次 “ 出逃 ” 前 几 天 ， 有 黑客 已 证明 物联网 也 可以 被 “ 玩 坏 ” 。 
理想 与 现实 的 差距 ， 引发 许多 讨论 ： 人工智能 研发 公司 是否 应 在 真实 世界 “ 任性 ” 开展 实验 ？ 
人工智能 的 研发 是否 应从 一 开始 就 设置 伦理 边界 ？ 
有 一 点 可以 肯定 ， 让 机器 在 互联 网上 学习 “ 做人 ” ， 不 加 管制 的 “ 放养 ” 不是 好 办法 。 
从 这个 角度 说 ， 在 人类 正 全方位 迎接 人工智能 的 今天 ， Tay 惹 下 的 麻烦 不啻 为 一记 警钟 。 
( 责编 ： 陈 键 、 毕 磊 ) 推荐 阅读 人民日报 : 为何 " 电 e 宝 " 没有 得到 预期 的 赞扬 ? 　 　 过多 的 同质化 竞争 ， 可能 造成 资源 浪费 。