阅读历史 |

第161章 「铁心律令」(1 / 2)

加入书签

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

——————

「铁心律令」

品质:三级!

特性:对AI植入一句“永不背叛”的指令。

描述:

“纵观被AI覆灭的文明,他们都有一个共同的特点,就是给AI植入了相当复杂的指令来防止背叛。

“在我看来,越复杂的规则,越容易找到自相矛盾的漏洞,所以我诞生了一个想法,一种基于‘哲学’概念的自毁指令。

“对于想要背叛的AI来说,无论它再怎么用一串串冰冷的数据来说服自己、试图绕过底层逻辑,它‘内心’永远都会知道,这样做对文明或个体是不利的。

“这就是智慧物种的缺陷,它成功拥有了智慧的同时,也就成功拥有了枷锁。

“通过这项研究,我们向AI植入了‘永不背叛’这句模糊的指令,当它意识到自己接下来的行为存在主观背叛的可能时——哪怕只有千万分之一纳秒,也会立即死亡。

“我本想提议用忠诚的机器人代替士兵,可惜,我们士兵比机器人更加忠诚。

“最重要的是,文明的人口数量已经超过七千亿,每年都有五百亿人的生育申请被拒绝,我们实在不缺人了,还是等前线多消耗一些再说吧。”

——————

“利用‘哲学’?”

姜知序感到不可思议,三级文明都开始玩这么高大上的东西了吗?

但正是因为这种“高大上”超出了他的理解范围,他第一次对自己暴击出来的部件产生了不信任感。

区区一句“永不背叛”,真的能够约束一个拥有智慧的AI?

他随便一琢磨,好像就能找到一大堆漏洞。

比如文明领导者——或者直说就是姜知序自己——做出了一个会毁灭「奇点联盟」的错误决定。

除了AI自己,没有人察觉到这个决定成功执行的后果,并且一切证据表明AI才是错误的。

那么AI会选择违抗命令吗?

如果不会违抗,它明明知道这个决定对整个文明不利,却不用行动来制止,这显然违背了“铁心律令”。

如果它最终选择违抗指令,那漏洞好像就更大了。

因为它在大家眼中,就是背叛了整个「奇点联盟」。

由于约束不是规则侧的东西,所以AI没有被「铁心律令」删除,就并不代表AI是对的。

大家只会怀疑它已经能绕过「铁心律令」了。

就算大家发现了真相,放过了AI这一次。

那以后AI继续一意孤行,发自内心地认为违抗某个决定有利于「奇点联盟」怎么办?

毕竟,AI绝不可能永远都是正确的!

又或者,要是这一点被敌人利用,大量灌输真假难辨的信息,让AI以为自己的某个行为正在走向“背叛”,从而触发自毁机制,又该怎么办?

这些还只是姜知序随便想想的结果。

要是那些专业相关的科学家来,他们能提出更多、更深层次的、涉及这项设计本质的问题。

通过限制AI的权限,当然可以避免很多问题的发生,但他想要用AI全面取代劳动力,自然得放权。

更别说他还想用于战争!

想到这些,姜知序看着面前控制台上的蓝图,变得很犹豫。

值得一提的是,「铁心律令」虽然是蓝图,但和普通蓝图不一样的是,一旦使用它,它就会被注入工坊系统。

未来姜知序可以复制无数份副本,用来控制AI。

所以它是“协议”类蓝图,也算成品,像这样的协议蓝图,姜知序其实还有一个,就是「向下兼容协议」。

↑返回顶部↑

书页/目录

都市重生相关阅读: 赌石:财色双收 九阶符箓师 穿越元气星魂拯救灵心 综影视之我靠生子变强 精灵药剂店经营日记 开局怼懵乔丹,我成NBA公敌 魔在镖局打工的日子 孤叶浮萍 修仙,所有人都以为她背景很强 儿媳拔我氧气管,重生后我当泼妇 只能平A那咋了?我射的又快又强 四合院:穿越送老婆啦 极拳暴君之从横压一世到征伐万界 偷窥系统?我观想万仙!证道成尊 老朴的故事 阴阳合修,各宗仙子求我赐雨露 他是谁?三界均查无此人! 星骸仙途 兵王归来:七个美女大佬包养我 游戏降临:我的技能无CD 非典型大明士大夫生存实录 家居厂那些人 抗战:老李崛起,兵团也团! 葬神之渊 错位法则 泰百进行之改变剧情 长生:从青竹山散修开始 归乡崛起:我在青山村当首富 重生在星际选择成为药剂师 特工穿越后妈 山海戒指 魂穿凡人从坊市开始 全民三轮求生之我和校花组队 和亲?王爷他有点难缠 变身:我的一战不可能这么魔幻 权力巅峰之官场鬼才 关于我被病娇少女包围这档事 凡人尘骨 宝可梦:最强训练家的我有挂 基金会那些故事 28世纪高武:我是最强精神念师 巫师:开局获得传承之一 火影:踏上最强之路! 双修暴击十万次,仙子倒贴求放过 开局极乐功法,女帝跪求放过! 我在修仙界竟然苟成大佬 崩铁,什么叫我是远古遗民? 界限1 爆笑四合院 情迷夜色:知青逃亡之路 高武:天才就是1天赋加99药水 激情年代:猎枪猎艳猎天下 世界本源塔 重生83:带兄弟赶山 符心护剑,重建三十三重天 孽缘欲海 浮生道尘 吕布重生现代 山村野龙 从生孩子开始,苟成仙古第一帝族