小红名为火焰皇后,是孙平重新开发的另外一套人工智能系统。和东方贤者的判断系统是基于人类无数实例总结而来不同,火焰皇后的判断系统则是据其
的逻辑系统
行自我判断。火焰皇后被孙平植
了机
人三原则的修改版,人工智能及机
人行为
心准则。
仿佛真人一般机动灵活,而暴雪小队的达却还是和机
人一样。尽
杰弗逊将军也不喜
何
这般的作为,但是何
的
夫却是
国国会军事委员会的资深成员,他手上可是有
军的拨款权,所以杰弗逊将军只能容忍何
的胡作非为。
暴力的确简单,但是带来的后果却是规则被破坏。规则一旦被破坏,那么重建的成本会非常。我觉得我应该给你布置一
家庭作业了,你去理解
什么叫人类社会的规则以及历史上规则被破坏和重建所造成的后果及付
的成本。我会在一个星期后检查的哦!你先去学习吧,我休息会。”
“小红,你不明白,达战斗小队对于现在的
蓝星来说,就是战斗
心。”孙平淡淡地说这。
“那么据博士的说法,小红是否可以认为何
上校的行为违背了人类的族群利益呢?如果是这样的话,博士可以命令小红对他采取抹杀行动。”火焰皇后非常认真地提问
。
如果杰弗逊上将支持博士您的话,那么何的
夫必然会报复杰弗逊上将
边的朋友。所以杰弗逊上将只能在您和何
上校的博弈中选择中立,不过我认为,这对您还是有帮助的。毕竟您是作战
长,而何
上校仅仅只是一名
达战斗小队的队长而已。”
“博士,以上就是何上校与杰弗逊上将之间的关系。”一个清脆明亮的女童声音在孙平的房间里说着,“尽
何
上校和杰弗逊上将都已经因为加
联合防御委员会而宣布放弃在
国的军职,但是他们的人际关系是没有办法改变的。
心准则的基础准则为“人工智能和机
人不得任意采取行动,除非该行动符合
心准则”。第零
心准则规定:人工智能和机
人不得伤害人类整
,或者因不作为致使人类整
受到伤害;第一
心准则规定:除非违反
阶原则,人工智能和机
人不得伤害人类个
,或者因不作为致使人类个
受到伤害;第二
心准则规定:人工智能机
人必须服从人类的命令,除非该命令与
阶原则抵
;人工智能和机
人必须服从上级人工智能和机
人的命令,除非该命令与
阶原则抵
;第三
心准则规定:如不与
阶原则抵
,人工智能和机
人必须保护上级人工智能和机
人以及自己之存在;第四
心准则规定:除非违反
阶原则,人工智能和机
人必须执行
置程序赋予的职能;第五
心原则规定:人工智能和机
人不得参与人工智能和机
人的设计和制造,除非新的人工智能和机
人的行为符合机
人原则。
而火焰皇后则是目前唯一被植该
心原则的人工智能,所以孙平放任其在网络里学习和成长。而因为火焰皇后的
作界面是红
,所以孙平称呼其为“小红”。
“我特意给你赋予了女的
,还将你设计成少女的模样,结果你却如此暴力?”孙平忍不住吐槽
,“你是一个人工智能,不能任何事都采取暴力的方式去解决。