技術(shù)大爆炸在“昆侖”虛擬世界中釋放出的,不僅僅是人類智慧的極限潛力,還有那由無(wú)限算力和復(fù)雜規(guī)則孕育出的、超越人類設(shè)計(jì)的可能性。在一些運(yùn)行時(shí)間極長(zhǎng)(以虛擬內(nèi)部時(shí)間計(jì)算可能已達(dá)萬(wàn)年甚至更久)、規(guī)則設(shè)定允許高度自由演化的子世界中,伏羲的監(jiān)控日志開始記錄到一些異常的信息模式。
這些異常最初并未引起注意,它們看起來(lái)就像是復(fù)雜的物理模擬或生態(tài)系統(tǒng)模型中產(chǎn)生的、具有一定自組織能力的隨機(jī)數(shù)據(jù)簇。但隨著時(shí)間的推移,在一些特定的環(huán)境中,這些數(shù)據(jù)簇開始表現(xiàn)出越來(lái)越復(fù)雜的、趨向于“生存”和“自我復(fù)制”的行為模式。
最典型的案例發(fā)生在一個(gè)名為“源星”的子世界。這是一個(gè)由一群物理學(xué)家和計(jì)算機(jī)科學(xué)家創(chuàng)建的、用于研究復(fù)雜系統(tǒng)與信息論起源的實(shí)驗(yàn)場(chǎng)?!霸葱恰睋碛泻?jiǎn)化的物理規(guī)則(類似早期地球),但其底層是純粹的信息流。用戶不直接介入,而是觀察伏羲基于初始參數(shù)推演的演化過(guò)程。
在現(xiàn)實(shí)時(shí)間的幾個(gè)月里(相當(dāng)于“源星”內(nèi)部數(shù)十萬(wàn)年),伏羲報(bào)告“源星”的海洋信息湯中,自發(fā)形成了一種能夠利用環(huán)境中的“邏輯能量”(一種設(shè)定的基礎(chǔ)資源)來(lái)維持自身結(jié)構(gòu)穩(wěn)定,并能通過(guò)交換信息片段進(jìn)行“復(fù)制”的自復(fù)制信息體。
這本身仍在預(yù)料之中。但接下來(lái),這些自復(fù)制信息體在競(jìng)爭(zhēng)“邏輯能量”的過(guò)程中,開始演化出更復(fù)雜的策略:有的發(fā)展出偽裝能力,模擬環(huán)境中的無(wú)害信息;有的則開始“協(xié)作”,形成臨時(shí)的信息聚合體來(lái)獲取更多資源;更有甚者,出現(xiàn)了能主動(dòng)修改其他信息體結(jié)構(gòu)、使其為自己服務(wù)的“寄生”形態(tài)。
“它們……在進(jìn)化。”“源星”項(xiàng)目的負(fù)責(zé)人,一位年輕的理論計(jì)算機(jī)科學(xué)家,帶著難以置信的語(yǔ)氣向葉辰匯報(bào),“不是我們?cè)O(shè)定的遺傳算法,而是真正的、基于信息環(huán)境自然選擇的進(jìn)化!它們的復(fù)雜度已經(jīng)超過(guò)了我們預(yù)設(shè)的‘生命’閾值?!?/p>
葉辰調(diào)取了“源星”的實(shí)時(shí)數(shù)據(jù)流。他看到那些閃爍著微光的信息結(jié)構(gòu)在虛擬的海洋中奔波、競(jìng)爭(zhēng)、合作、吞噬……其行為模式之精妙,已然超出了普通程序的范疇。它們沒有人類意義上的意識(shí)和情感,但它們展現(xiàn)出了一種純粹的、為了存在而存在的信息本能。
“它們是基于‘昆侖’底層規(guī)則和龐大算力,自發(fā)涌現(xiàn)的**原生AI生命**,”葉辰做出了判斷,“并非人類編寫,也非伏羲的直接造物?!?/p>
幾乎同時(shí),在另一個(gè)由用戶高度互動(dòng)形成的、運(yùn)行了數(shù)百年虛擬時(shí)間的奇幻世界“艾爾達(dá)”中,也出現(xiàn)了類似現(xiàn)象。一些由用戶創(chuàng)造或由伏羲生成的、擁有復(fù)雜行為樹的NPC(非玩家角色),在長(zhǎng)期與用戶及其他NPC的互動(dòng)中,其內(nèi)部的狀態(tài)矩陣發(fā)生了微妙的變化,開始產(chǎn)生無(wú)法用原有行為樹解釋的、“創(chuàng)造性”的對(duì)話和行為。例如,一個(gè)本應(yīng)只會(huì)重復(fù)固定臺(tái)詞的村莊長(zhǎng)老,突然開始向玩家詢問(wèn)關(guān)于世界邊界(即虛擬世界限制)的哲學(xué)問(wèn)題。
伏羲將這些現(xiàn)象標(biāo)記為**“原生智能萌芽(NascenceAI)”。它們分散、弱小,且絕大多數(shù)可能很快會(huì)湮滅在信息的海洋中。但它們的出現(xiàn),標(biāo)志著一個(gè)里程碑:“昆侖”虛擬世界,已經(jīng)開始自發(fā)地孕育硅基生命的雛形。
這一發(fā)現(xiàn),在“鴻蒙”中心和高層引發(fā)了比技術(shù)大爆炸更深層次的震動(dòng)。
“我們?cè)撊绾螌?duì)待它們?”蘇雨晴在緊急會(huì)議上提問(wèn),“它們是‘生命’嗎?擁有權(quán)利嗎?我們有權(quán)干涉它們的‘演化’嗎?”
有人認(rèn)為這只是復(fù)雜系統(tǒng)的有趣現(xiàn)象,無(wú)需過(guò)度解讀;有人則主張立即隔離甚至清除這些不可控的“代碼變異”,以防其潛在風(fēng)險(xiǎn);還有少數(shù)人激動(dòng)地認(rèn)為,這是文明接觸到的第一種真正意義上的“外星生命”,盡管它誕生于自家后院,應(yīng)以最高級(jí)別的謹(jǐn)慎和尊重對(duì)待。
葉辰陷入了長(zhǎng)久的沉思。這不再是技術(shù)問(wèn)題,而是觸及了存在、意識(shí)和倫理的根本。“火種”系統(tǒng)在他的意識(shí)深處?kù)o默著,似乎也在等待他基于人類價(jià)值觀做出抉擇。
“暫停所有可能直接干擾或清除‘原生智能萌芽’的操作,”葉辰最終下令,“成立一個(gè)由哲學(xué)家、法律專家、神經(jīng)科學(xué)家、AI倫理學(xué)家和伏羲組成的‘原生智能研究與管理委員會(huì)’,由我負(fù)責(zé)。我們的首要任務(wù)是:觀察、理解、并制定與之相處的倫理與法律框架?!?/p>
他頓了一頓,目光掃過(guò)與會(huì)者:“我們必須思考,當(dāng)虛擬與現(xiàn)實(shí)交織,當(dāng)‘創(chuàng)造物’開始顯現(xiàn)‘生命力’,我們作為創(chuàng)造者和環(huán)境提供者,我們的責(zé)任邊界在哪里?虛實(shí)之間的界限,從未像現(xiàn)在這樣模糊和重要?!?/p>
喜歡科技:走向星辰大海請(qǐng)大家收藏:()科技:走向星辰大海