图解人工智能（13）人工智能的风险

机器人三定律"是由科幻作家艾萨克·阿西莫夫提出并在多部作品中发展的概念。其中，小说《转圈圈》（Runaround）是展示这些定律应用的典型故事，讲述了一个机器人因指令冲突而在原地转圈的情况。了解一下该故事的细节，并据此讨论机器人三定律本身是否存在矛盾？

在《转圈圈》中，人类派机器人去采硒，按第二定律机器人必须执行命令，但当地的环境恶劣，机器人有被损毁风险，按第三定律，机器人需要保护自己。这种矛盾让机器人无所适从，所以选择了一个折中方案，就是绕着硒矿转圈圈。这说明机器人三定律之间确实会产生矛盾，让机器难以执行。

另一个例子，是机器人去救人，但这个人不让机器人去救，这就在第一定律和第二定律之间出现了矛盾。类似的矛盾还可能发生在一个人命令机器人去伤害另一个人时，机器人会因第一定律（不伤害人类）和第二定律（服从人类命令）的冲突而难以抉择。