超级智能的价值对齐困惑

  • 打印
  • 收藏
收藏成功
微博 QQ空间 微信

【摘要】以人工智能性能为主和以人机关系为主的两种人工智能等级划分方式，均印证了超级智能出现的逻辑合理性，而这种划分的本质均指向价值对齐，即确保人工智能系统行为与人类意图和价值观保持一致。然而，因超级智能具有人类无法完全预见的特性，价值对齐面临三重现实困境：目标不确定性引发的“价值对齐无用论”之惑，工具性目标趋同性导致的“价值对齐失败”之惑，以及由超级对齐引发的“价值对齐迷失”之惑。（剩余15430字）

试读结束

目录
monitor
客服机器人