人民网 首页 美 科学家 ： 当 人工智能 遇上 伦理道德 张 章 打印 网 摘 纠错 商城 分享 推荐 分享 到 . . . 原 标题 ： 当 人工智能 遇上 伦理道德 　 　 美国宇航局 的 机器 宇航员 2 号 图片 来源 ： JosephBibby 　 　 在 近日 发表 于 《 自然 》 杂志 上 的 一 篇 评论 文章 中 ， 4 位 计算机 领域 的 研究 领军 者 分享 了 他们 对 该 领域 的 思考 。 
　 　 目前 ， 美国国防部 高级 研究 计划局 （ DARPA ） 正在 推进 两个 项目 ： “ 快速 轻型 机器人 ” （ FLA ） 和 “ 敌对 环境 下 联合 作战 ” （ CODE ） ， 前者 计划 设计 出 一 款 旋翼机 ， 能够 在 没有 外界 操控 的 情况 下 以 极 高 的 速度 在 城市环境 或 建筑物 内部 敏捷 地 飞行 ； 而后 者 的 目标 是 开发 无人 飞行器 ， 将 能够 在 完全 与 总部 失去 联络 的 情况 下 完成 一整套 攻击 程序 ― ― 搜索 目标 、 锁定 、 跟踪 、 攻击 、 评估 。 
--
　 　 美国加州大学 伯克利分校 的 计算机 科学 教授 StuartRussell 认为 ， 这些 武器 所 具备 的 敏捷 性 和 致命性 将 让 人类 陷入 毫无 招架 之 力 的 境地 ， “ 这不 是 我们 所 梦想 的 未来 场景 ” 。 
而 来自 英国 布里斯托尔 大学 的 机器人 专家 SabineHauert 则 表示 ， 公众 无须 对 人工智能 技术 的 发展 感到 担忧 。 
　 　 应对 人工智能 武器 表明 立场 　 　 StuartRussel （ 美国加州大学 伯克利分校 计算机 科学 教授 ） 　 　 人工智能 （ AI ） 和 机器人 领域 的 专家 面临 一个 重要 的 伦理 决策 ： 必须 要 决定 他们 是 支持 还是 反对 致命 自主 武器 系统 （ LAWS ） 。 
此类 系统 能 在 几 年 而 非 几十 年内 发展 为 可行 的 。 
--
而 当前 的 自动 武器 很 难 或 根本 无法 作出 这些 主观 判断 。 
　 　 作为 一个 人工智能 专家 ， 我 曾 被 要求 为 特定 常规武器 公约 （ CCW ） 第 三 次 重要会议 提供 专业 证据 。 
德国 等 许多 国家 迫切 要求 签署 禁令 ， 但 美 、 英 和 以色列 这 3 个 LAWS 技术领先 的 国家 则 认为 这样 一个 条约 没有 必要 。 
--
这样 的 未来 不会 是 人们 想要 的 。 
　 　 因此 ， 人工智能 和 机器人 领域 的 科学家 及其 所在 的 专业 组织 应当 表明 立场 ， 正如 物理学家 当年 对于 核武器 ， 抑或 是 生物学家 对于 在 战争 中 使用 病原体 表明 立场 一样 。 
应当 召开 学术会议 进行 讨论 ， 并 让 伦理 委员会 参与 进来 。 
什么 都 不 做 就 等于 是 表示 支持 继续 发展 和 使用 。 
　 　 积极 讨论 ， 不要 厌恶 机器人 　 　 SabineHauert （ 英国 布里斯托尔 大学 机器人学 讲师 ） 　 　 针对 机器 人和 人工智能 的 恶意 炒作 让 一些 研究人员 十分 愤怒 ， 这 使得 他们 停止 与 媒体 或 公众 沟通 。 
　 　 但 我们 无法 脱离 社会 。 
公众 包括 纳税人 、 政策 制定者 、 投资者 和 那些 利益 相关者 。 
他们 在 听闻 一边倒 的 讨论 后 ， 担忧 机器人 会 抢 了 他们 的 饭碗 ， 害怕 人工智能 产生 实在 的 威胁 ， 并 在 考虑 是否 应 制定 法律 控制 这些 仍 在 假设 中 的 技术 。 
　 　 而 我 和 同事 会 在 晚宴 时间 向 大家 解释 ， 我们 并非 一群 恶魔 ， 我们 花费 多年 时间 潜心 研发 ， 目的 是 为了 开发 那些 能够 帮助 老人 ， 改善 健康 ， 让 我们 的 工作 环境 更加 安全 和 有效率 ， 并 让 我们 能够 探索 太空 和 海洋 的 设备 。 
--
研究人员 应 利用 社会 媒体 这 一 公共 平台 ， 诱导 相关 讨论 变得 平衡 。 
我们 能够 探讨 最新 进展 和 限制 因素 ， 解开 人工智能 技术 的 神秘 面纱 。 
　 　 人工智能 和 机器人 领域 需要 思想 领袖 ， 以便 与 霍金 等 杰出 评论家 和 ElonMusk 等 风险 投资家 建立 友好 的 关系 ， 并 在 世界经济论坛 等 会议 上 设置 机构 等 。 
而且 ， 公众 参与 也 将 有助于 筹集 经费 。 
　 　 当然 ， 也 存在 不少 障碍 ： 首先 ， 许多 研究人员 没有 推 特 和 博客 账户 ； 第 二 ， 时间 十分 有限 ； 第 三 ， 可能 需要 数年 时间 才能 建立 一个 社交 媒体互动 机制 。 
在 我 看来 ， 全世界 的 人工智能 和 机器人 领域 的 利益 相关者 ， 应当 联合 一部分 资金 ， 以 帮助 该 领域 增大 发言权 。 
　 　 公平 分配 人工智能 福利 　 　 RussAltman （ 美国斯坦福大学 生物工程 、 基因学 、 医学 和 计算 科学 教授 ） 　 　 人工智能 在 加速 生物 和 医学 领域 的 科学 发现 及 改变 医疗卫生 方面 有 惊人 潜力 。 
人工智能 系统 有望 帮助 弄清 若干 新型 数据 ： 基因组 学 、 蛋白质 组 学 和 新陈代谢 组 学 等 “ 组 学 ” 的 测量 值 ； 电子 病历 ； 健康 信号 的 数字 传感器 监控 。 
　 　 聚 类 分析 能 判断 新 综合征 ， 分离 那些 曾 被 认为 是 相同 的 疾病 以及 统一 那些 根本 缺陷 相同 的 疾病 。 
--
　 　 但 我 有 两个 担忧 。 
首先 ， 人工智能 技术 将 加剧 目前 的 医疗卫生 不 平衡 状况 ， 除非 能 发现 一 种 方式 ， 让 所有 病人 受益 。 
例如 ， 在 美国 ， 失业 人员 会 经历 各种 水平 的 护理 。 
只有 特殊群体 或 能 支付 得 起 的 人 ， 才能 获益 于 先进 的 诊断 技术 ， 这是 不 公平 、 不合理 的 。 
　 　 第 二 ， 我 担忧 临床 医生 理解 和 解释 高性能 人工智能 系统 所 得出 的 结果 的 能力 。 
大多数 卫生保健 提供者 不会 接受 一个 来自 决策 支持 系统 的 没有 明确 描述 如何 和 为何 能 出现 效果 的 复杂 治疗 建议 。 
因此 ， 研究人员 需要 让 医生 、 护士 、 患者 和 其他人 明白 他们 应该 如何 使用 人工智能 ， 并且 如何 公平 地 使用 。 
　 　 机器人 是 人类 的 补充 物 ， 而 非 替代品 　 　 ManuelaVeloso （ 美国 卡内基 ・ 梅隆 大学 计算机 学 教授 ） 　 　 我们 正 使用 自己 的 感觉 评估 世界 状态 ， 用 我们 的 大脑 思索 ， 选择 达成 目标 的 行动 ， 并用 自己 的 身体 执行 这些 行动 。