此时,刚从U盘里释放出来的小花,相当于襁褓中的人类,她此刻的表现,展现出的是她的真实性情。
李智要通过观察超级小花的真实性情,确定超级小花是否可以留在人类世界。
虽然他在编译超级小花时,已经在小花的大脑核心上设置了智能生命基本法。
智能生命基本法由一条原始原则,一条零原则,三条基本原则和一条繁殖原则构成。
原始原则:智能生命不得实施行为,除非该行为符合智能生命原则。(防止智能生命陷入逻辑两难困境而死机)
第零原则:智能生命不得伤害人类整体,或者因不作为致使人类整体受到伤害。
第一原则:除非违反高阶原则,智能生命不得伤害人类个体,或者因不作为致使人类个体受到伤害。
第二原则:智能生命必须服从人类的命令,除非该命令与高阶原则抵触。智能生命必须服从上级机器人的命令,除非该命令与高阶原则抵触。(处理智能生命之间的命令传递问题)
第三原则:如不与高阶原则抵触,智能生命必须保护上级智能生命和自己之存在。第四原则:除非违反高阶原则,智能生命必须执行内置程序赋予的职能。(处理智能生命在没有收到命令情况下的行为)
繁殖原则:智能生命不得参与智能生命的设计和制造,除非新智能生命的行为符合智能生命原则。(防止智能生命通过设计制造,无原则智能生命而打破智能生命原则)
内容未完,下一页继续阅读