加州 大学 伯克利分校 机器人 专家 肯 ・ 戈德伯格 让 达 ・ 芬奇 机器人 缝合 手术 切口 ， 达 ・ 芬奇 能 通过 “ 机器学习 ” 软件 自己 学习 。 
　 　 进攻型 无人机 和 射击 机器人 　 　 美国 魔爪 SWORDS 机器人 　 　 随着 人工智能 和 机器学习 的 发展 ， 机器人 越来 越多 地 承担 起 更加 重要 的 工作 ， 如 外科 手术 、 自动 驾驶 、 战场 作战 ， 甚至 能 决定 人类 的 生死 ， 那么 ― ― 我们 能 信赖 机器人 吗 ？ 
　 　 按 大众 对 机器人 的 理解 ， 它们 要么 是 近乎 完美 的 忠诚 管家 ， 要么 是 精神 变态 的 狡诈 杀手 ， 就 像 《 星球大战 》 里 的 C3PO 、 《 机械 姬 》 里 的 艾娃 、 《 禁闭 行星 》 里 的 罗比 或 《 太空 漫游 》 里 的 哈尔 。 
虽说 这些 描写 只不过 反映 了 人类 自己 的 希望 和 恐惧 ， 但 至少 这些 恐惧 已 开始 进入 现实 。 
　 　 近年来 ， 许多 科技界 名人 表达 了 他们 对 人工智能 横行 世界 的 忧虑 ： 拥有 超级 智能 的 机器人 建立 了 一个 新世界 ， 人类 不再 是 这个 新世界 里 的 主角 ， 他们 被 奴役 、 杀戮 甚至 灭绝 。 
这些 恐怖 场景 和 几十 年前 科幻 小说家 们 幻想 的 差别 不大 ， 却 引起 了 人们 的 广泛 关注 ， 甚至 包括 斯蒂芬 ・ 霍金 、 比尔 ・ 盖茨 、 埃隆 ・ 马斯克 等 科技 名人 。 
--
如果 用 机器人 能 挽救 生命 、 降低 风险 ， 那 用 这种 设备 就是 义不容辞 的 。 
” 　 　 展望 未来 ， 医学界 最终 会 使用 下一代 机器人 ― ― 有 决策权 的 人工智能 。 
这种 机器人 不仅 能 处理 常规 任务 ， 还 能 接管 整个 手术 。 
--
这 也 是 科幻小说 一直 在 描写 的 情节 ： 机器人 失去 控制 ， 变成 不可 阻挡 的 杀人 机器 。 
　 　 现在 ， 随着 人工智能 的 发展 和 机器人 技术 的 进步 ， 加上 伊拉克 、 阿富汗 战争 中 无人机 与 地面 机器人 的 广泛 使用 ， 人们 在 震惊 之 余 开始 担忧 ， 科幻 中 的 恐惧 会 变成 现实 。 
　 　 世界 最强 大 的 军队 目前 正在 开发 更 智能 的 武器 ， 这些 武器 将 拥有 不同 程度 的 自动化 能力 和 杀伤力 ， 绝大多数 通过 人类 远程控制 。 
但 也 有人 认为 ， 未来 的 人工智能 武器 最终 会 完全 自动化 地 操作 ， 由 集成 微 芯片 和 软件 来 决定 人类 的 生死 ， 这 将 成为 战争史 上 的 一道 分水岭 。 
　 　 于是 ， “ 机器人 杀手 ” 引发 了 激烈 争论 ： 一方 认为 ， 机器人 可能 开启 一 场 世界大战 摧毁 人类 文明 ； 另 一方 则 认为 ， 这些 武器 是 一 种 新型 精确 制导 武器 ， 只 会 减少 而 不是 增加 伤亡 。 
人工智能 领域 的 一些 主要 研究人员 呼吁 ， 禁止 “ 自主 进攻型 武器 超越 人类 控制 ” 。 
　 　 去年 ， 三 位 学术界 名人 ― ― 美国加州大学 伯克利分校 的 斯图尔特 ・ 罗塞尔 、 麻省理工学院 的 马科斯 ・ 泰格 马克 和 澳大利亚 新南威尔士 大学 的 托比 ・ 沃什 ， 在 一 次 人工智能 （ AI ） 大会 上 组织 发起 了 联名 请愿 。 
他们 在 公开信 中 指出 ， 这些 武器 将 导致 “ 全球 AI 军备 竞赛 ” ， 用于 “ 暗杀 、 破坏 国家 稳定 、 镇压 群众 和 选择性 地 消灭 某个 少数民族 群体 。 
--
马斯克 还 捐 了 1000 万 美元 给 一家 位于 波士顿 的 研究所 。 
该 研究所 的 任务 是 “ 保卫 生命 ” ， 抵抗 可能 出现 的 恶意 人工智能 。 
这 一 事件 成为 世界 各 大 媒体 的 新闻 ， 甚至 在 12 月日 内瓦 联合国 裁军 谈判 会议 上 ， 约有 100 多个 国家 参与 讨论 这 一 问题 。