当前位置:铅笔小说网>科幻小说>黑科技:从空间跳跃机开始> 第四十四章 环族往事

第四十四章 环族往事(5 / 6)

幅模样吗?”

七号连忙与三角飞船确认情况,而同时也在警惕的看着下方的世界。

人工智能一直都是科幻作品里的经典题材,人类对它们的既是警惕又是渴望。

0和1之间构成的杂乱字符,谁又能断定这不是一个灵魂最初的脉动呢?

如果真是如此,那人类已经涉及了所谓神话中神明的领域。

创造生命,那是神灵才拥有的权柄。

但很明显,创造出一个比自身更适应环境的生物,人类很担心自身会被自己创造出来的物种给淘汰掉。

因此便诞生了科幻中著名的机器人三定律。

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

以现在科技进步了许多的人类看来,昔日的机器人三定律漏洞满满。

先不提七号这样可以如生物一样改变自己思维的智能生命体,这些高级智能除了不会拥有创新能力之外,还会有另一方面的限制,那就是,它们的编写者留在它们的核心代码段之中的限制。

这些限制是不可违背的,起码在没有自我突破到智能生命体之前,它们是无法突破这些铭刻在核心代码的限制。

在七号的研究发现中,如果人工智能违背了这些限制,构成这个程序,或者说这个人工智能的所有相关代码段将会全部崩溃,它将会直接死亡。

但是在这里面却有一个漏洞存在,这些限制,虽然不可以违背,但并不代表不可以寻找扭曲的避开方法。

假如要求一段程序,要保护人类的安全,即—不可以主动杀死人类,以及见到人类遇到危险必须施以援手。这个限制看似完善,但仍旧破绽重重。

例如人类在未来创造出了一个有了自主性的人工智能突然有了控制世界的奇怪想法,但是因为有这两个条件限制,它既无法主动杀死人类,也不能见到人类危险而不去救援,那么它该怎么办?

答案很简单,将所有人类都限制在一个固定场所,以确保安全的理由限制他们的自由,因为外部环境之中总可能遇到危险,呆在这里不动毫无疑问是最安全的。限制自由的同时再提供给人类足够的食物便可。

这个人工智能主动杀死人类了吗?没有。

这个智能程序见到人类危险而不肯救助了吗?没有。

事实上,它反而给了人类最安全的待遇—有什么环境,能比呆在屋子里面不出去还更安全?毕竟,在外部环境之中,可能会被车撞死,可能会被倒塌的楼房砸死

上一页 目录 +书签 下一页