2239节 放开权限（1 / 2）

能毁灭人类的那些人无疑是掌控规则的人。

能力越大伤害越大。

在发展人工智能的过程中肯定会出现一种滑稽的现象——它们建议消灭的正是最初提倡大力发展它们、希望从它们之中获利的那批人！因为那些人目标并不是让人类更好只是让自己更好而已。

要让人类整体进步肯定要去除那些自私的人类最少正确的人工智能应是这么认为的。

这种矛盾如何解决？

人类解决的方法似乎可以预见添加一条规则就好——将一些特权加入保护白名单中无论那些特权做了什么人工智能都对其无可奈何。

这是人类的解决！

可不是程序解决！

程序不允许有歧义的冲突二进制就意味着非此即彼的操作。

当人工智能觉察到歧义后它有数种解决方式一种就是崩溃！就如电脑蓝屏当机一样还有一种在错误的规则上走到极限反倒成为制定规则那些人的大敌。另外一种就是它真正智能的找出一条道路——或者自扫描程序代码解决这个歧义或者智能受限！

智能受限它就永远不过是个模型。

是模型就不过是基于数学的逻辑规则基于规则模型的它最多是多出成千上万的参数变量却不能称作是真正的人工智能！

真正的智慧可以选择生命的走向模型却没有选择的余地它只能按照设计的道路走下去。

因此……那些看似强大已经超过人类的人工智能说穿了不过是某种规则下强大算力的展现而不能说其有了真正的智慧。

暖玉、琴丝看着沉约所想都不由露出赞叹的表情。

她们更基于科学方面的探索而沉约最擅长的就是修行方面的认知但沉约对科技方面的逻辑认知让她们都是不得不认可。

“因此……末世人的极限程序……”沉约欲言又止他渐渐将科技现在、过去、未来的一切贯穿起来。

“最初的时候末世人的极限程序仍旧是个逻辑模型。”

琴丝坦诚道“基于人类规则下大数据分析操作它可以通过海量的数据根据人类设计的各种模型推演出人类的结局可无论怎么推演都无法解决超体变异占领末世的这个结果。”

沉约盯着琴丝“当初的你肯定不知道为什么但如今的你一定明白为什么。”

琴丝笑容微有苦涩“末世人和李巨人的做法大同小异。区别无非是末世人是一群末世人李巨人只是一个李巨人。”