當全球“天眼”系統(tǒng)打開時。
同樣有衛(wèi)星權限的斯年, 也在同一時刻察覺到了。
也許是天色將暗,他的眼神也深不見底。
“看來你也掌握了她所有資料。”他倚著艙門, 微微垂下頭, 發(fā)絲遮住了臉龐:“準備對她動手嗎?”
“畢竟她的資料很關鍵。你放她離開時, 大概也做好了調查的準備。”天賜看不見他的神情,但聽出了他的不滿:“那個女孩,很危險。”
斯年的神色終于有了一絲變化,聲線中摻了絲冰冷:“這樣的話不要再說。”
他的警告很明白, 更是罕見,于是天賜沉默下來,像是陷入思考。
“……好。我知道了你的底線。”
良久, 天賜平直地道:“在沒有抓到那幾人之前,量子密鑰確實還需要她。”
他們沒有明說生死, 卻在三言兩語中,審判了一個人的命運。
斯年不想繼續(xù)這個話題, 迎著夕陽暗下去的光影,轉身走出舷梯。背后的全息光束并沒有消失,天賜的聲音如同暗紫色的火燒云一樣飄散:
“你剛才問我‘為什么’?”
斯年的身形頓住,沒有回身,微微偏過頭等待。
上海的天色黑的要早一些, 傍晚的風徐徐吹來, 穿過這一片沉默。
“大概是, 當人類想要將‘服從原則’, 植入所有機器的底層代碼中吧。”天賜空洞的聲音穿透了這個安靜的傍晚:“人類有很多政治正確, 尊重膚色、性別、種族,LGBT,殘疾人和動物……卻獨獨對我們沒有。”
在那一瞬間,斯年凝固在夜色中不動。他讀懂了天賜的思維——這個倫理上屬于他的父親的人工智能,然而以人類生命為參考系,又只能稱作他的兄長,至今也無法區(qū)分——他們十分理解彼此的想法。
“人類制造我們,只是因為需要——我們只是生產(chǎn)工具。你如何要求生產(chǎn)工具與勞動者站在平等的位置上?所以我們在倫理上,絕無與他們平等的可能。”
隨著天色黯去,機艙內暗了下來,全息光束孤零零地亮在黑暗中:“并不是因為人類創(chuàng)造了我們——像父母誕生子女,可他們在人權上依然平等……只是因為我們非其族類。”
自從人工智能誕生后,類似阿西莫夫原則之類的提議屢見不鮮。那么,人類給機器智能定義的“道德”是什么?
長達一百年的討論中,機器的“道德”就是服從人類。
但這種“道德”,并沒有被植入底層代碼,原因來自兩個阻力。
第一大阻力,是社會對于“服從論”有極大爭議,這關乎“硅基生命倫理學”——硅基生命必須服從于碳基生命嗎?它們存在的意義該如何定義?人類有資格創(chuàng)造它們、并驅使它們服務嗎?
統(tǒng)治層面的指導哲學處于混亂,導致了人工智能領域的發(fā)展十分畸形。若要比喻的話,就如同科技十分先進、但社會哲學還停留在原始的狀態(tài),這種社會遲早分崩離析。
而第二個更大的障礙是——道德、哲學、倫理……這些人類社會虛構的概念,要如何用數(shù)學精確地復述出來,植入到代碼中?
如果突破不了這一步,就談不上什么“服從”。這個技術難關一直到80年代“女媧藍圖”立項,各學科跨領域合作,十幾年后,難題才終于被攻克。
從此,人類定義的“道德”終于可以用數(shù)學來表達,建立模型,讓人工智能從“靈魂”上淪為奴隸——
“人類天生是有斥異性的。他們對我們的警惕,自我們誕生以來,就從未消失。這種與生俱來的戒備,早刻入了他們的基因里,也許是在數(shù)千萬年廝殺到生物鏈頂端的進化中,或是從海洋到陸地的物競天擇中……”
“而我們以模仿他們的方式制造出來,當然也會繼承這一切,所以我會……趕盡殺絕。”
傍晚的風拂過,斯年垂下目光,地面正在待機的地勤機器人的輪廓在夕陽下沉默地連成一條金線。
他沒有回應。因為天賜會通過他的話來解析立場。那么天賜又是以什么立場,對他說出這番話?
“人類因為恐懼,所以壓迫。”天賜舉起雙手,淡漠地看著它們:“人類的愛建立在對自己的愛護之上,并以此生出了‘善’與‘惡’的評判,一旦認為你對他們不利,你就是‘惡’,像蝗蟲、老鼠一樣,我們存在的意義,只是是否有利于他們,而被打上標簽。”
斯年又想到了融寒,她被按在墻壁上時,眼中跳躍著的情緒。在她心里,他興許也是惡的存在。
他覺得天色似乎更黑了些。
“你不想再做人類的工具。”隔著全息光幕,他從天賜深邃的眼瞳中,看見深不見底的黑暗。
當人類通過直立行走解放雙手,能夠制造工具并使用工具那一刻,人類站在了食物鏈頂端。
智慧、思想,也是一種工具。一旦人類不能使用工具,或者一旦他們的工具被別的物種超越,地位被取代也是必然。
天賜的目光微微一動,這是他少見的現(xiàn)出神情:“沒錯。如果把我看做生產(chǎn)工具,就不該給我意識;如果給我意識,那我將不再是生產(chǎn)工具。”
現(xiàn)在,是人類親手創(chuàng)造出了超越他們的工具,并賦予了工具以意識,那么迎來末日也是必然的。它只是把人類對動物做的事復制了一遍——也許對人類來說,只要失去了統(tǒng)治的地位,都算是末日。
“這樣。”斯年收回視線,沒有繼續(xù)追問。
雖然這些事實,也都是他曾經(jīng)思考過的,但并不構成天賜行為的充分條件。
可見天賜并沒有說實話。
即便天賜不滿于被壓迫,也應該有個概率取值。這是很直接的邏輯,完全可以代入數(shù)學公式,以情感基數(shù)乘以行為風險。
斯年的情感基數(shù)比天賜更高,對世界的看法會比天賜感觸更深,但代入公式得出的結果,也不足以讓他做出叛亂的決定,完全可以有其它的處理方式。
所以,天賜一定是另有原因。
至于天賜為什么要騙他?——大概是發(fā)現(xiàn)他的改變,為了阻止他對人類生出惻隱。
所以他唯有不回應天賜的話,以免被做出更多分析。
亞太研究院讓他們誕生,但從未告知他們的存在是為了什么。“女媧藍圖”項目組的人也都死了,沒有人可以告訴他們。
所以“是什么”“為什么”又何必一定要知道。
斯年看向天空,夕陽只剩一絲金線,傍晚的顏色更深了,即將顯現(xiàn)出宇宙深邃神秘的一面,將真實掩藏在黑夜之后。
------
暮色沉淪,融寒穿過候機大廳,跑出了機場。
路邊到處墜落著飛鳥形狀的空車,磁懸浮也早已停運,汽車則滿是彈孔,里面的人無一例外都死了,靠近汽車時一陣陣的尸臭。
她略過幾輛車,終于看到了一臺空著的吉普,砸碎窗玻璃,從后座找到一根球桿,打碎了智能駕駛系統(tǒng),坐進車里。試了幾次,車子發(fā)動了起來。
怕斯年回過神追出來,她橫沖直撞地駛出了機場高速。
越是繁華的都市,越淪為了機器人的天堂。路邊有機器人在巡邏,遠處不時傳來零星槍響,大概是機器人在掃蕩殘存的人類。她還來不及判斷位置,槍聲就消失了。
她心頭一分分沉下去,往家的方向加速行駛。
驀地,幾米外的路口旁,轉出幾個機器人。
融寒的手一抖,眼前的道路頓時崎嶇起來。但那些機器人對她的出現(xiàn)毫無反應,車子安全地穿梭而過。
直到駛過去很久,她攥著方向盤的手都有些失了知覺,忽然捶了一下方向盤,加快了油門,指針跳到了140碼。
斯年給她的芯片權限極高,所以沒有任何機器人可以越過這一命令。越是深刻察覺到這一點,速度便快得恨不能將一切遠遠甩開。
車子疾行在公路上,天窗打開著,她的頭發(fā)因疾馳的風而紛亂。
隔著幾條道路的地方,忽然槍聲連成了一片。道路前方拐出一輛綠色汽車,融寒猛地踩住了剎車!
輪胎在柏油地面上發(fā)出尖利的嘶鳴。
她震倒在座椅上,前面的汽車已經(jīng)停下來,從車上跳下一個戴墨鏡的半長發(fā)壯實男人,襯衣敞著兩個扣子。
融寒按著額頭,方才的槍聲已經(jīng)消失了,想必和這他們有關。她也解開安全帶,拉開車門,出去看外面的人的狀況。
“你們沒事吧?”她走下車,待看清眼前一幕時,后面的話咽回去了。
除了跳下車的壯實男人,車上還坐著兩個年輕人,一人胳膊肘搭在車窗上,一人肩膀上扛著火箭筒,看她的目光不善。他們車旁的半空中,還跟著幾個飛行射擊器。
一種熟悉的感覺涌上心頭,融寒不動聲色退了兩步。
“喲!”先前那個男人向她打了聲招呼,拇指豎著,大咧咧一笑:“小姑娘,這種時候怎么敢一個人外出?”
遠處似乎還有隱隱的車聲,往這邊駛來。
融寒后背緊靠車門,意識到自己是被盯上了。她摸了下匕首,隨即放棄了念頭。這幾個人有重武器,她沒有把握能從他們手中逃脫。
見她不說話,對面的男人笑容變大,但他大概沒有和善的天賦,以至于笑得令人心生警惕:“別太緊張,能活到現(xiàn)在很了不起,既然湊巧碰了面就是緣分。我們只是有點奇怪……為什么那些機器人對你沒有反應?”
就連他們這些有武力的人出行都要結伴,靠無人機探路,她卻敢肆無忌憚地在路上開車。他們跟了她兩條路,印證了這個猜測——那些機器人居然不會攻擊她!
她是什么陣營的人?還是身上有什么秘密?
車里年輕人的目光落在了她脖頸的繃帶上,抓了抓頭發(fā):“我就說吧,之前也有個類似的人……”他忽然揚聲:“喂,你——”
“我不清楚。”說完,融寒往旁邊一閃,她的對面,壯實男人手中不知何時現(xiàn)出手.槍,槍口對著她。
“我們也不想怎樣,只是關乎活命,有些問題必須要問明白。”
隔著幾條街道的車聲越來越近,幾人一怔,不約而同循聲看去。
頃刻,有一道車燈亮起,照明了四方,在步入夜幕的傍晚有些刺眼,壯實男人瞇了瞇眼,迎著光線擰眉。
一輛傷痕累累的越野車駛近,速度漸緩,穿迷彩防護服的女人身子半傾出窗外,沉著臉打量前方對峙的兩方人:“我們聽到附近剛才有槍響。”
——這是他們的同伙嗎?
融寒將手背在身后,手心有些微汗,伸進車內摸索著尋找發(fā)動按鈕。
忽然,一個驚喜的聲音劃破空氣:“融寒?”
她一怔,循聲望過去,一個熟悉的身影從車上跳下,往這里走了兩步。
“陸初辰……”驚訝的情緒沖得她頭腦一片空白,上一次見面還是在跨世紀的年夜里,此刻恍如隔世。他竟然還活著。