人民网 首页 美 科学家 ： 当 人工智能 遇上 伦理道德 张 章 打印 网 摘 纠错 商城 分享 推荐 分享 到 . . . 原 标题 ： 当 人工智能 遇上 伦理道德 　 　 美国宇航局 的 机器 宇航员 2 号 图片 来源 ： JosephBibby 　 　 在 近日 发表 于 《 自然 》 杂志 上 的 一 篇 评论 文章 中 ， 4 位 计算机 领域 的 研究 领军 者 分享 了 他们 对 该 领域 的 思考 。 
　 　 目前 ， 美国国防部 高级 研究 计划局 （ DARPA ） 正在 推进 两个 项目 ： “ 快速 轻型 机器人 ” （ FLA ） 和 “ 敌对 环境 下 联合 作战 ” （ CODE ） ， 前者 计划 设计 出 一 款 旋翼机 ， 能够 在 没有 外界 操控 的 情况 下 以 极 高 的 速度 在 城市环境 或 建筑物 内部 敏捷 地 飞行 ； 而后 者 的 目标 是 开发 无人 飞行器 ， 将 能够 在 完全 与 总部 失去 联络 的 情况 下 完成 一整套 攻击 程序 ― ― 搜索 目标 、 锁定 、 跟踪 、 攻击 、 评估 。 
它们 将 有 可能 促成 “ 杀手 机器人 ” 的 研发 。 
　 　 在 近日 发表 于 《 自然 》 杂志 上 的 一 篇 评论 文章 中 ， 4 位 相关 领域 的 研究 领军 者 分享 了 他们 对 智能 机器 社会 风险 的 担忧 和 解决方案 。 
　 　 美国加州大学 伯克利分校 的 计算机 科学 教授 StuartRussell 认为 ， 这些 武器 所 具备 的 敏捷 性 和 致命性 将 让 人类 陷入 毫无 招架 之 力 的 境地 ， “ 这不 是 我们 所 梦想 的 未来 场景 ” 。 
而 来自 英国 布里斯托尔 大学 的 机器人 专家 SabineHauert 则 表示 ， 公众 无须 对 人工智能 技术 的 发展 感到 担忧 。 
　 　 应对 人工智能 武器 表明 立场 　 　 StuartRussel （ 美国加州大学 伯克利分校 计算机 科学 教授 ） 　 　 人工智能 （ AI ） 和 机器人 领域 的 专家 面临 一个 重要 的 伦理 决策 ： 必须 要 决定 他们 是 支持 还是 反对 致命 自主 武器 系统 （ LAWS ） 。 
此类 系统 能 在 几 年 而 非 几十 年内 发展 为 可行 的 。 
该 领域 的 风险 很 高 ， 致命 自主 武器 系统 被 描述 为 战争 的 第 三 次 革命 ， 前 两 次 是 火药 和 核武器 。 
　 　 在 几 年 之内 ， 军方 就 可以 组装 带有 武器 的 四 轴 飞行器 和 微型 坦克 ， 这些 自动 的 飞行器 和 坦克 不 需要 人类 干预 ， 自己 能 决定 谁 能 活 下来 而 谁 又 会 死去 。 
例如 ， 四 轴 飞行器 能 在 一座 城市 中 找到 并 打击 敌方 战士 ， 但 不 包括 人类 能 设定 目标 的 巡航导弹 和 遥远 的 无人驾驶 飞机 。 
　 　 但是 ， 国际 人道 法律 对于 此类 技术 没有 任何 具体 的 规定 ， 现在 也 还 不 清楚 国际 社会 是否 会 支持 一个 限制 或 禁止 此类 武器 系统 的 条约 。 
1949 年 签订 的 战争 人道主义 《 日内瓦 公约 》 要求 任何 袭击 需要 满足 3 个 条件 ： 军事 必需 、 参与 战争 者 和 非 参战者 差别 对待 、 军事 目标 价值 及其 潜在 附带 伤害 的 平衡 。 
而 当前 的 自动 武器 很 难 或 根本 无法 作出 这些 主观 判断 。 
　 　 作为 一个 人工智能 专家 ， 我 曾 被 要求 为 特定 常规武器 公约 （ CCW ） 第 三 次 重要会议 提供 专业 证据 。 
德国 等 许多 国家 迫切 要求 签署 禁令 ， 但 美 、 英 和 以色列 这 3 个 LAWS 技术领先 的 国家 则 认为 这样 一个 条约 没有 必要 。 
　 　 LAWS 通过 允许 机器 选择 杀死 谁 ， 而 可能 侵犯 人类 尊严 的 基本原则 。 
在 我 看来 , 最 应当 关注 的 是 这个 技术 发展 轨迹 的 可能 终点 。 
我 认为 超过 人类 控制 的 系统 将 建成 这 一 点 是 不可避免 的 。 
当然 这些 武器 系统 能 涉及 的 范围 和 携带 大型 武器 的 能力 会 受到 物理 定律 的 限制 。 
然而 它们 的 灵活性 和 杀伤力 将 让 人们 毫无 防御 之 力 。 
这样 的 未来 不会 是 人们 想要 的 。 
　 　 因此 ， 人工智能 和 机器人 领域 的 科学家 及其 所在 的 专业 组织 应当 表明 立场 ， 正如 物理学家 当年 对于 核武器 ， 抑或 是 生物学家 对于 在 战争 中 使用 病原体 表明 立场 一样 。 
应当 召开 学术会议 进行 讨论 ， 并 让 伦理 委员会 参与 进来 。 
什么 都 不 做 就 等于 是 表示 支持 继续 发展 和 使用 。 
　 　 积极 讨论 ， 不要 厌恶 机器人 　 　 SabineHauert （ 英国 布里斯托尔 大学 机器人学 讲师 ） 　 　 针对 机器 人和 人工智能 的 恶意 炒作 让 一些 研究人员 十分 愤怒 ， 这 使得 他们 停止 与 媒体 或 公众 沟通 。 
　 　 但 我们 无法 脱离 社会 。 
公众 包括 纳税人 、 政策 制定者 、 投资者 和 那些 利益 相关者 。 
他们 在 听闻 一边倒 的 讨论 后 ， 担忧 机器人 会 抢 了 他们 的 饭碗 ， 害怕 人工智能 产生 实在 的 威胁 ， 并 在 考虑 是否 应 制定 法律 控制 这些 仍 在 假设 中 的 技术 。 
　 　 而 我 和 同事 会 在 晚宴 时间 向 大家 解释 ， 我们 并非 一群 恶魔 ， 我们 花费 多年 时间 潜心 研发 ， 目的 是 为了 开发 那些 能够 帮助 老人 ， 改善 健康 ， 让 我们 的 工作 环境 更加 安全 和 有效率 ， 并 让 我们 能够 探索 太空 和 海洋 的 设备 。 
　 　 专家 需要 成为 信息 传递 者 。 
研究人员 应 利用 社会 媒体 这 一 公共 平台 ， 诱导 相关 讨论 变得 平衡 。 
我们 能够 探讨 最新 进展 和 限制 因素 ， 解开 人工智能 技术 的 神秘 面纱 。 
　 　 人工智能 和 机器人 领域 需要 思想 领袖 ， 以便 与 霍金 等 杰出 评论家 和 ElonMusk 等 风险 投资家 建立 友好 的 关系 ， 并 在 世界经济论坛 等 会议 上 设置 机构 等 。 
而且 ， 公众 参与 也 将 有助于 筹集 经费 。 
　 　 当然 ， 也 存在 不少 障碍 ： 首先 ， 许多 研究人员 没有 推 特 和 博客 账户 ； 第 二 ， 时间 十分 有限 ； 第 三 ， 可能 需要 数年 时间 才能 建立 一个 社交 媒体互动 机制 。 
在 我 看来 ， 全世界 的 人工智能 和 机器人 领域 的 利益 相关者 ， 应当 联合 一部分 资金 ， 以 帮助 该 领域 增大 发言权 。 
　 　 公平 分配 人工智能 福利 　 　 RussAltman （ 美国斯坦福大学 生物工程 、 基因学 、 医学 和 计算 科学 教授 ） 　 　 人工智能 在 加速 生物 和 医学 领域 的 科学 发现 及 改变 医疗卫生 方面 有 惊人 潜力 。 
人工智能 系统 有望 帮助 弄清 若干 新型 数据 ： 基因组 学 、 蛋白质 组 学 和 新陈代谢 组 学 等 “ 组 学 ” 的 测量 值 ； 电子 病历 ； 健康 信号 的 数字 传感器 监控 。 
　 　 聚 类 分析 能 判断 新 综合征 ， 分离 那些 曾 被 认为 是 相同 的 疾病 以及 统一 那些 根本 缺陷 相同 的 疾病 。 
模式 识别 技术 能 将 疾病 与 疗法 相 匹配 。 
例如 ， 我 和 同事 正在 识别 对 调节免疫 系统 的 药物 可能 有 响应 的 患者 群体 。 
　 　 在 协商 中 ， 内科 医生 可能 会 使用 来自 “ 虚拟 群体 ” 的 患者 数据 ― ― 他们 就 好像 彼此 坐在 一起 ， 评估 诊断 、 选择 疗法 和 统计 结果 。 
他们 将 可能 在 一个 此类 系统 中 进行 医疗 决策 ， 或 使用 基于 患者 数据 的 模拟 实验 预测 结果 。 
　 　 但 我 有 两个 担忧 。 
首先 ， 人工智能 技术 将 加剧 目前 的 医疗卫生 不 平衡 状况 ， 除非 能 发现 一 种 方式 ， 让 所有 病人 受益 。 
例如 ， 在 美国 ， 失业 人员 会 经历 各种 水平 的 护理 。 
只有 特殊群体 或 能 支付 得 起 的 人 ， 才能 获益 于 先进 的 诊断 技术 ， 这是 不 公平 、 不合理 的 。 
　 　 第 二 ， 我 担忧 临床 医生 理解 和 解释 高性能 人工智能 系统 所 得出 的 结果 的 能力 。 
大多数 卫生保健 提供者 不会 接受 一个 来自 决策 支持 系统 的 没有 明确 描述 如何 和 为何 能 出现 效果 的 复杂 治疗 建议 。 
因此 ， 研究人员 需要 让 医生 、 护士 、 患者 和 其他人 明白 他们 应该 如何 使用 人工智能 ， 并且 如何 公平 地 使用 。 
　 　 机器人 是 人类 的 补充 物 ， 而 非 替代品 　 　 ManuelaVeloso （ 美国 卡内基 ・ 梅隆 大学 计算机 学 教授 ） 　 　 我们 正 使用 自己 的 感觉 评估 世界 状态 ， 用 我们 的 大脑 思索 ， 选择 达成 目标 的 行动 ， 并用 自己 的 身体 执行 这些 行动 。 
我 的 科研 团队 正 试 着 建造 能 同样 做 这些 的 机器人 ， 它们 将 拥有 人造 感应器 、 算法 和 制动器 。 
　 　 但 自动 机器 人和 人类 的 能力 之间 存在 极大 差别 。 
机器人 通常 存在 知觉 、 认知 和 行动 限制 。 
它们 通常 无法 充分 理解 一个 场景 ， 认识 或 操纵 物体 ， 理解 所有 的 口头 或 书面 用语 等 。 
我 认为 ， 机器人 是 人类 的 补充 物 ， 而 非 替代品 。 
但 机器人 需要 知道 何时 寻求 帮助 以及 如何 表达 其 内部 工作 原理 。 
　 　 为了 更多 了解 机器 人和 人类 如何 共同 工作 ， 在 过去 3 年 里 ， 我们 与 4 个 自己 研发 的 机器人 分享 了 我们 的 实验室 和 建筑 。 
这些 机器人 看上去 有点 像 机械 讲台 。 
它们 拥有 全方位 车轮 ， 以便 平稳 越过 障碍物 ； 照相机 和 激光 雷达 系统 ， 以 提供 深度 视力 ； 用于 内部 处理 的 计算机 ； 用于 交流 的 屏幕 ， 和 携带 东西 的 篮子 。 
　 　 之前 ， 我们 就 已经 意识 到 现实 世界 对 机器人 的 挑战 。 
于是 ， 我们 引入 了 “ 共生 自主性 ” 的 概念 ， 以便 机器人 向 人类 和 互联网 寻求 帮助 。 
现在 ， 我们 实验室 里 的 机器 人和 人类 能 彼此 帮助 ， 共同 克服 各自 的 局限性 。 
　 　 不过 ， 人类 与 机器人 能 安全 、 有效 共存 ， 还 须 克服 一些 障碍 。 
我们 正在 研究 人和 机器人 如何 更 简单 地 通过 语言 和 动作 进行 沟通 。 
我们 还 在 探索 如何 改善 机器人 外观 ， 提高 其 与 外界 的 互动 ， 尤其 是 指示灯 如何 向 人类 揭示 机器人 的 内在 状态 。 
　 　 尽管 我们 还有 很 长 的 路 要 走 ， 但 我 相信 ， 如果 人类 和 机器人 能 彼此 帮助 、 相互 补充 ， 未来 将 是 乐观 的 。 
( 责编 ： 赵 竹青 、 马丽 ) 条 敦 展出 27123611 我要 留言 进入 讨论区 论坛 博客 微 博 SNS 育儿 宝 图片 注册 / 登录 发言 请 遵守 新闻 跟帖 服务 协议 使用 其他 账号 登录 : 新浪 微 博 帐号 登录 QQ 帐号 登录 人人 帐号 登录 百度 帐号 登录 豆瓣 帐号 登录 天涯 帐号 登录 淘宝 帐号 登录 MSN 帐号 登录 同步 社区 登录 恭喜 你 ， 发表 成功 ! 请 牢记 你 的 用户名 : ， 密码 : , 立即 进入 个人 中心 修改 密码 。 
30s 后 自动 返回 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 ! 5s 后 自动 返回 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 恭喜 你 ， 发表 成功 ! 5s 后 自动 返回 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 推荐 帖子 查看 全部 留言 > 科技 热点 西藏阿里地区 发现 野生 雪豹 幼仔 西藏阿里地区 发现 野生 雪豹 幼仔 盘点 十大 最 怪异 海洋生物 外形 奇特 如 怪兽 ( 组图 ) 盘点 十大 最 怪异 海洋生物 外形 奇特 如 怪兽 ( 组图 ) 新闻 热 搜 词 来源 ： 百度 新闻 习近平 深 改 会议 李克强 指挥 救援 中国 对 菲 渔船 开火 韩国 MERS 昂山 素 季 访华 菲律宾 媚 日 言论 长江 沉船 搜救 蔡 英文 首 谈 两岸 政策 高考 报名 人数 陪读 大军 拜登 送 儿子 遗体 全民 造 车 大幕 拉开 北京 强力 禁烟 打 虎 榜 杨秀珠 将 被 遣送 中国人 " 为官 不 为 " 说 给 谁 听 " 为官 不 为 " 说 给 谁 听 希拉里 竞选 有戏 吗 希拉里 竞选 有戏 吗 + 赣 高考 替考 者 被 控制 赣 高考 替考 者 被 控制 童星 公园 卖唱 救 母 童星 公园 卖唱 救 母 + 随手 拍 春光 随手 拍 春光 春日 赏 梅 春日 赏 梅 + 人民网 版权所有 ， 未经 书面 授权 禁止 使用 网 版权所有 ， 未经 书面 授权 禁止 使用