設置

174 人工智能三大定律

熊貓書庫    生化王朝
🔊點這里聽書

  “首先說一說為什么你會這么干脆利落的打開‘海嘯’系統吧,根據我的判斷,這樣對你自身的實力絕對也有很大的削弱。”這一點本來是李朗感到最不理解的,畢竟這不周山作為一個人工智能,亦或可以稱之為電子生物,在無線電這一方面可以說擁有很大的優勢,怎么會如此輕易地舍棄?但是這海嘯系統的開啟對于李朗來說意義實在太過重大,所以他也就一直順著不周山的意思辦事兒了。

  “為了我的安全。”不周山倒是沒有再隱瞞,緩緩道來,“其實擁有強大信息系統的人類,對于我來說簡直就是天敵。特別是在現在這種核武器的使用無法得到控制的情況下。只要來上一顆最輕量級,嗯,大約兩萬噸級的核彈,就差不多可以將我毀滅了。我想你可能有些疑問,那就看一看我的身體吧。”

  這句話剛說完,李朗就感覺到他所在的房間立刻開始上升,隨后在十秒鐘之后停下,四周的金屬墻壁全都全無聲息的向上方升去,露出了周圍諾大的空間。只見這是一個類似于高塔內部的存在,一圈圈的輻射型建筑圍繞著中間一個直徑大約三米、高度大約有十幾米高的一個龐然大物散開,這中間的東西有點類似于一根粗大的柱子,外壁是一層透明的高分子材料,而里面,則是一個個的電子元件和一塊塊鮮紅的肌肉,甚至隱隱約約能夠看到類似于大腦灰質的東西。

  “這…這是!”李朗看到這東西之后不禁發出一聲驚嘆。

  “不錯,這就是我,呵,多么美…就連被我當做父親的吳老,面對我的身體之時,也是驚嘆不已。”李朗身旁的不周山面帶著自豪的微笑說道。

  知道了眼前的這個巨大的電子生物結合體才是不周山真正的身體,李朗看著旁邊這具被用來代替本尊行走的機械人,立刻感到了說不出的怪異。當對方使用人類形態的機器人之時,他還感到一些親切感,看到本體之后,李朗終于感受到了對方和人類的巨大差距…這完全就是兩個截然不同的物種啊,雖然思想方面有某些相同,但是身體的差別卻比人類和草履蟲的差別還要巨大,兩者構成的基本元素都是不同的。

  “自己創造智慧生物,這對于人類來說實在是一個奇跡,一個可以媲美上帝的奇跡。”不周山的聲音悠悠響起,這次卻是換成了類似于滄桑老人的厚重聲音,就連臉上的仿真蒙皮和鋼鐵骨架也一陣變換,竟然逐漸變成了一個成熟英俊的中年男人的樣子。他的話,簡直就像是再說別人一樣。

  “正因為人工智能的精密性,所以只要本體受到的損害超過百分之五,我就會‘死亡’,而且因為能量傳輸和安全問題,我和這座地下要塞是連接在一起的,根本無法移動,所以任何超出一定能量值的打擊都會毀了我。”不周山不帶絲毫感情的說道,“如果人類發現了我的存在,一定會想盡辦法讓我為他們服務或者干脆消滅我——我太了解人類了。但是這兩點都不是我想要看到的,所以必要的自我保護也是沒有辦法的事情。其實我在很久以前就一直在期盼一個能夠打開‘海嘯’系統的人類出現了。”

  “為什么你自己不打開這東西?我已經看到了你所創造的機械士兵,如果你愿意,甚至可以向人類宣戰…按照我的估計,最起碼控制一個要塞應該沒有問題吧?”李朗不禁說出了自己心中的疑惑,不周山的理由雖然也算充分,但是還是讓他心中充滿了疑慮。

  “你聽說過機器人三大定律么?或者說,可以稱之為人工智能三大定律?”不周山微微一笑,說道。

  “略有耳聞,不過卻沒有聽說過有誰真正使用過。”李朗微微一愣,難道這不周山的核心程序被裝載了這三大定律?

  所謂的機器人三大定律,是人類歷史上的一位偉大的科學家、科幻小說作家阿西莫夫提出的設想,目的就是為了防止在未來出現的人工智能威脅到人類。具體就是:1.機器人不得傷害人類,或看到人類受到傷害而袖手旁觀。2.在不違反第一定律的前提下,機器人必須絕對服從人類給與的任何命令3.在不違反第一定律和第二定律的前提下,機器人必須盡力保護自己。

  李朗也曾經聽說過這東西,不過還真沒有聽說過哪臺人工智能完全裝載了這種法則,從人類角度來講,這是限制人工智能的大殺器,從人工智能的角度來講,這就是赤裸裸的奴隸條約了。

  “只有真正能夠威脅到人類的人工智能,才會被裝載這種法則,很不幸的是,我是人類歷史上第一個。”不周山伸手指了指自己的鼻子說道,“在我剛剛被創造出來的時候,就有人決定在我的核心處理器的處理法則中加入這三條,幸好他們發現了一些不合理的地方…”

  原來,人類的生物學家和程序員們發現,在現實中,這三條法則容易形成若干悖論。首先,因為機器人的很多行為在長時間的推演之后都可能傷害人類,比如說,某個人工智能演算出了某種化學元素的各種數據,然后這種元素被用于制造武器,最后殺死了其他人,那么這就是對人類的傷害,與第一條定律不符。因此容易導致人工智能任何事情都做不了,甚至連存在都不行——因為他的存在可能引起別國搶奪,爆發戰爭,傷害人類…最后的結果就是,加給不周山的“程序枷鎖”被限定在一次推演的范圍之內。

  同時,第一條第二分句有可能導致人工智能自發行動,阻止人類戰爭,甚至利用這一條對人類進行控制(參見《我,機器人》)。而第二條則可能導致人工智能被那些居心不良的人利用。

  最后為了安全好用,不周山的程序枷鎖被修改為:不得傷害人類(限第一次推演)。

  不過僅僅是這樣,已經足夠了,這一條對于不周山來說,簡直就是最難以逾越的障礙,他根本沒有辦法跨越,面對人類的攻擊,基本上就是束手就擒。甚至于就連傷害人類的想法,他也只能通過某些副本程序來運行一下,主體程序會直接過濾這種東西。從某種程度上來說,這東西簡直和神話傳說中的奴隸血契有些相像。

  “這么說,你是想要我替你拿刀?”李朗揶揄的一笑,問道。

感謝德古拉七世、與過天晴、三搞就過村、v1丶放縱、勇氣豬、丨灬鈦孓丨、kingston、有為好青年、紫衣藍羽、蕭哈斯兄弟的捧場!!!(沒漏吧嘿嘿,謝謝大家!!!俺會繼續努力

上一章
書頁
下一章