記者 | 尹清露
編輯 | 黃月
ChatGPT被不少人認為打開了通用人工智慧（AGI）的大門。AGI具備和人同樣的智慧，甚至有可能超越人類，曾是科幻小說中的主要議題，現如今，人們的歡欣和恐懼似乎業已成真。
就在這波風暴來臨的前夕，小說作者慕明推出了首部中文短篇小說集《宛轉環》，從古代到今天的神經網絡，再到近未來AI對人類的超越，慕明對人機關係做出了自己的剖析和思考。
慕明畢業於北京大學智能科學系，本職工作是谷歌程式設計師，2016年開始創作中短篇科幻小說。綜合了理工科背景和科幻小說寫作的她，是如何看待機器寫作與聊天的熱潮的？又如何回應與技術相關的種種爭議？在這次專訪中，從ChatGPT聊起，她談到了技術帶來的可能性與代價以及「機器暫時寫不了的東西」——那也是慕明正在做的：編織多層次的故事，並由此恢復人的複雜性。
01 技術談：為什麼人不能通過機器的反饋來學習呢？
小說集的第一篇《鑄夢》寫下的正是機器學習的變遷史。慕明採用歷史重構的方法，讓人工智慧附身在先秦時代的機關術上。小說以兩名少年製造偶人為故事主線，指出機器的學習原本是基於規則，但是由於規則繁多，這種方法很快出現了局限性，後來，人工智慧進入了另一條道路，也就是自下而上、在賞罰和反饋中進行強化學習（ChatGPT基於的大型語言模型同樣通過強化學習實現訓練）。然而，人類無法像機器那樣快速疊代，習慣的還是自上而下的「教與學」。學習方式的差異，似乎註定了人與機器難以相互理解。
在之後的長篇里，慕明想提出「相變點」的概念。她這樣解釋這一概念：「人類和語言、信息的耦合關係從未像今天這樣密切，就像水升溫到100度會沸騰、由液態變為氣態那樣，我認為，信息對人類社會形態的塑造也正在處於一個『相變點』。有人在社交網絡上因言獲罪，素人掌握了說話技巧就能搖身一變成為大V，這都是正在發生的事。」網際網路信息建構在人類從古至今的心智總和之上，所以為了跟最新的AI打交道，我們也要去學習人類知識的精華，挖掘出其中的現代性。
界面文化：許多人認為ChatGPT開啟了通用人工智慧的未來，但是科幻作家特德·姜指出，它更像是保留了模糊文本的「壓縮軟體」。你的寫作深受特德·姜的影響，不知會怎麼看待他的觀點？
慕明：我發現，在近幾年的科技熱潮中，中文網際網路的狂熱程度甚至比英文世界還要高一點，這是非常值得觀察的現象。在高熱度中出現了兩種聲音，一種是非常看好，很多國內公司已經說要對標ChatGPT開發模型。另一種是特德·姜或者格雷格·伊根（註：科幻作家，以科學基礎嚴謹的硬科幻著稱）這樣的專業人士，他們會保持一定警惕。
我認為，首先要注意說話者的立場是什麼。特德·姜有這樣的看法，是因為他對ChatGPT的期望是大而全的專家系統，我許多做研究的朋友也希望它能給出專業的資料彙編，所以會在意它是完美的無損壓縮還是有瑕疵的有損壓縮。但是，如果你把它當做智力上和自己差不多、可以幫助激發靈感的普通人，那麼ChatGPT的模糊性反而成為了優點。
在我看來，「壓縮軟體」並不是很有力的批評。我們應該退一步先考慮人的存在，人類的學習也是一個壓縮的過程，無論是讀書還是聽課，信息的傳遞一定是有損耗的。有些新媒體文章寫得很好，但必須要取抓人眼球的標題，特德·姜這篇文章寫了幾千字，有非常精密的論證和邏輯推演，但讀者接收到的也只是單一的觀點。所以禪宗會說「不立文字」，古人早就有了這個意識。
界面文化：一些專家指出，人工智慧的表達無法超出已有的資料庫，也沒有真正的原創性，韓少功的文章《當機器人成立作家協會》就提到人機的主從關係難以改變。不過也有人看到，機器寫作衝擊到了人文學科，國外和香港地區的某些大學已禁用ChatGPT輔助寫論文。為什麼我們既覺得機器寫作無法超越人類，又擔憂它的衝擊呢？
慕明：人類作為一個整體探討起來是有難度的，而很多專家往往是拿人的最高智慧去跟機器比。作為還在學習寫作的新人作者，我對這類表述比較敏感，畢竟學習的過程就需要大量的模仿練習，所謂的創新在很多時候就來源於對已有知識的重新整合。作家維舟說：「我不會被AI取代，我就是AI。」我也說過類似的話。當我們把位置放得低一點，反而覺得ChatGPT蠻親切的，像一個學習能力強但有局限的孩子，會很期待它後面的表現。
對我來說，ChatGPT最好的地方在於，創新本來是模糊的概念，而它可能可以提出創新的參考線，也就是把人類心智勞動成果的價值量化了。比如新推出一個小說家，我們可以讓ChatGPT去看看他是否容易被模仿，還可以用ChatGPT作為計量單位，看這個人的創作是0.8倍ChatGPT還是1.5倍，這都是很有意思的應用場景。
並且，人工智慧並非憑空出現，它的疊代本身就有人類的幫助，既然機器可以通過人類來學習，為什麼人不能通過機器的反饋來學習呢？20年前，從事文字工作還要查閱圖書館資料，而現在搜尋引擎變成了標準技能。就像愛德華·阿什福德·李（註：《柏拉圖與技術呆子》《協同進化：人類與機器融合的未來》作者，計算機科學家）提出的那樣，技術和人是協同進化的，人工智慧不只是工具，而是很大程度上塑造了我們今天的樣子。
對於人文學科的衝擊，其實關鍵之處在於，機器重新定義了什麼問題更值得關注，又解放了哪些生產力。國內的人文學科向來注重資料的爬梳，但是當機器可以替代很多工作，我們就要審視還要不要重視這類功夫。文學作者通常很看重語言，但是當機器很快地學習到語言風格，我就會想怎麼寫出機器暫時寫不出的東西，比如邏輯更強、有很多隱含內容的文本。
界面文化：在ChatGPT的討論中，許多人對此抱有技術躍遷的樂觀態度；另一方面，OpenAI被曝出在非洲僱傭外包的血汗勞工，他們每天要接受關於大量虐待、謀殺的內容。你在小說中也寫過沒有高科技眼鏡而備受歧視的人。你會如何看待這種技術的矛盾性呢？
慕明：就我所在的行業和科幻圈而言，大部分人是樂觀的，而人文背景深厚的從業者會更強調技術對人的異化，《黑鏡》《人生切割術》這些影視劇也都對高科技持批判態度——狂熱和抗拒同時存在於一個社會裡，這非常有意思。當你不理解技術的細節時，就容易形成傾向性，而我本人有兩方面的背景，願意用正反兩方面的思維去推演，所以寫小說時會提供兩個POV（視角）。具體來說，我的小說處理的都是「可能性」和「代價」的問題，兩者缺一不可。
這也可以回應為什麼我要寫古代的故事。現在一提到「technology」就是20世紀以來的信息技術，實際上這個詞指的就是「技術」，手工藝也是技術。而我想去考察當時的技術變革——當然，我們現在稱其為歷史事件——考察在當時的語境下，技術對當事人產生了怎樣的衝擊，人又如何應對變化。《鑄夢》這篇故事就很明顯，它講述了從沒有青銅到大規模生產青銅的過程。張光直在《藝術、神話與祭祀》中寫到，青銅的出現和集權是相生相伴的，因為鑄造需要大量人力和精細分工，以及工頭進行管理，才會出現部落兼併到封建社會的轉制，技術的發展又產生了兵器，進一步鞏固了統治。當我們把技術放到歷史長河中去看，也許就不會對技術有如此強的恐慌了。實際上，某種意義來說，文字的出現就比人工智慧可怕許多，掌握文字的人曾經覺得自己掌握了世間的奧秘，但至少使用人工智慧的人不會再這樣想了。
02 創作談：人能寫但機器寫不出的作品是什麼？
人能寫出而機器寫不出的是什麼？在慕明看來，當人工智慧把人類引以為傲的學習行為拉下神壇，寫作者更需要的是深層理解社會機制、再有機地將信息組織起來的能力，找到分裂的體系之下萬事萬物的密切關聯。她在自序中提到，在信息爆炸的時代，類似《紅樓夢》的整體性敘事是缺失的。她引用托卡爾丘克的諾貝爾獲獎演說指出：「文學還沒有準備好講述未來，講述世界的高速轉變——缺乏隱喻、視角和新的寓言。」
同名小說《宛轉環》就是這樣一個有關複雜性的故事。晚明的一對士紳父女偶然遇到「宛轉環」，玉環內壁繪有細微的山川林泉，還被旋轉了半圈，顯然是莫比烏斯環的古代再現。莫比烏斯環實現了不同維度的時空轉移，也對應著中國園林中古人的「琢空之法」，通過巧妙地布置風景，一園山林也能容納廣闊的湖海。
界面文化：你的學科背景是智能科學，從事的也是相關行業，為什麼會在這之外去寫科幻小說？它與實踐性的工作不同在哪裡？
慕明：最開始肯定是想整合自己的兩種知識體系，一方面是理工科技術背景的工作經驗，另一方面是作為長期閱讀者的廣泛閱讀經驗，我發現當代生活中對這兩個世界的表述體系是分裂的。英國科學家C.P.斯諾在1969年提出了「兩種文化」的概念，他認為由於現代學科高度分野，了解莎士比亞的人並不了解牛頓基本定律，所以我選擇科幻這種有較強理性色彩的小說作為處理和呈現多維度信息的媒介。
我的小說常常用「合流」作為構思的起點，這也是我從劉宇昆的短篇小說中學到的技巧。在我的小說中，核心的技術概念和推演思路往往是當代的、舶來的，但是文化背景、視角、人物、思想觀念等等則是非當代的、中國的。比如《宛轉環》可以看作是晚明版本的《星際穿越》，《鑄夢》可以看作是先秦版本的《西部世界》（第一至第二季），《假手於人》則是《斷魂槍》或是《俗世奇人》在近未來環境和技術進步下的新演繹。
不過我越寫越發現，除了在領域之間「架橋」，這種寫作方式還有很多功能，有時僅僅是對技術本身進行一番社會層面的推演就能得到很好的反思。比如我去年寫的《誰能擁有月亮》，其中提到的3D建模和NFT都是特別切近的技術，已經滲透到了普通人的日常生活中。
界面文化：《宛轉環》的故事就體現了你說的合流和彌合兩個世界。你是怎麼想到這個故事的？
慕明：我在讀明史時發現了紀錄片《崑曲600年》，其中一集講的是明末政治人物祁彪佳，他看起來是嚴肅的政治領袖，但同時也是很好的戲曲和園林專家，但我們的歷史不會處理這些。這讓我看到了人的複雜性，以及人和故事的相似之處，因為故事具有模糊性，可以多層次地呈現世界的結構。
我認為，現在流行的「降維打擊」過於簡單粗暴了，是對真實世界的簡化，而文藝作品應該去做「升維」的工作，不僅是從二維升入三維空間，也是通過編織故事去還原人的複雜。「宛轉環」是一件觀之可愛、可反覆賞玩、內中又有大乾坤的小工藝品，這也是對本書的自指和期待的定位。在我看來，能否禁得住「重讀」是評判文學作品及作者思維能力的一個重要標準，而能不能以外在（較淺層的特徵）吸引可能的讀者，又能不能舉重若輕，將大問題、大手筆圓融地布置在小空間內，傳遞給有緣人，則是「技藝」或者說是「匠心」的體現。
03 女性談：科幻需要女性力量，反思技術需要女性維度
在思考「機器能否寫作」時，我們傾向於代入人類的最高水平，這其中有男性化與精英化的思考。在慕明看來，當新興技術行業對功成名就者造成衝擊，女性反而能在沒那麼在乎的情況下擁抱新技術，覺得「這個東西挺好的，跟我們差不多」。
短篇《誰能擁有月亮》就講述了建模行業中一名女性的故事，何小林從小和媽媽過著貧苦的日子，卻在機緣巧合下學習了建模技術，並開始鑄造NFT藝術品。文中寫到，非同質化代幣滿足了人們自我表達和擁有的渴望，但何小林是最早使用CC0級創作共享許可的藝術家，這意味著她放棄了所有個人權益。比起擁有，「正是不擁有讓她的作品呈現出豐富的形態。」
在採訪的最後，我們從女性與機器的親近性出發，聊到了性別維度可以如何幫助我們反思技術的變遷，如何啟發女性創作者在現在的時代中尋求變革。
界面文化：科幻小說怎樣幫我們反思人機關係？
慕明：科幻從一開始就在探討人機關係，比如瑪麗·雪萊的《弗蘭肯斯坦》，它處理的關係是「造物與被造物」。第二個層面是「控制與被控制」，許多反烏托邦作品通過這個主題引入了對權力、不平等的探討。最後，人和人工智慧還有一層相互映照的關係，人要通過人工智慧來反身理解自己。
故事是一個很好的體裁，可以把這些關係都講出來。分別闡述三個主題的經典有許多，我的作品則嘗試同時探討三者。人工智慧又是一個想像空間非常廣的話題，除了科幻作品中常見的強人工智慧（AGI），有人工智慧成分的科技大家每天都在用，它離生活很近，並不像理論物理這麼抽象，作家能利用的素材也非常多。有些國民作家在寫人工智慧，作品也有鮮明的個人特色，比如麥克尤恩在寫《我這樣的機器》時會藉此討論英國在全球化中的處境，石黑一雄的《克拉克和太陽》在情感方面深入一些。
當然，你也能看出他們的立場和局限，就像剛剛討論特德·姜那樣。這兩位作家都是男性，那麼在麥克尤恩筆下，無所不能的人工智慧一定是健壯的男性，石黑一雄寫的人工智慧則是能力有缺陷的小女孩。所以，我們每個人都可以想一想，你自己和人工智慧是怎樣的關係，你是不是滿足於現有的敘事、滿足於知名作家的看法？
界面文化：你的小說中經常出現女性角色，科技的發展提高了女性的主體性地位，但有時也會加劇女性的被剝削，這又是一重矛盾。在你看來，性別維度可以怎樣幫助我們反思技術變遷呢？
慕明：事實上，「文明中被遮蔽的女性敘事傳統」是這本書的骨架之一。《自序：從猿到神》中反覆提示，無論是在個體經驗還是在群體歷史中，女性作為母親，都是最早的講述者。「講述」是遠古人類最初也是最重要的力量。但是自從出現農業，進入了工具的時代，力量的主要形式由心靈、精神轉向身體能力，這一轉變就是技術演進帶來的後果，在某種程度上促進了父權制和私有制的出現，女性漸漸失卻了力量，「講述」也被男性壟斷了。這一理論在恩格斯、波伏娃等人的論述中都有出現。
在《鑄夢》裡，女性講述者除了故事，什麼都沒有。她們無法對抗時代，只能默默地等待有緣人的傳承。「環」除了上面提過的種種含義，也是傳承的象徵。第一次，由夏姬給了弗忌，第二次，由弗忌給了造出的偶人，第三次就是《宛轉環》裡的子岡給了茞兒。「傳承」是本書的一個隱含主題，無論是傳統的師徒、父子、父女關係，還是知音、聽者/觀者，乃至造物者與被造之物的關係。這個過程雖然帶來了種種問題，但在一定程度上釋放了自石器時代以來被禁錮的女性/弱者的能力。
那麼，「講述」重新變得重要、女性乃至人類不再受物理枷鎖、文化建構的枷鎖限制的時代，會在什麼時候到來呢？就是現在和不遠的將來。青銅降級了女性，機器則會升級女性。在這樣的圖景之下，就有了對傳統意義上的女性/弱者重新回歸舞台中央的推想。這裡的「弱者」，其實也有竹內好說的「文學是屬於弱者的」的意思。
這值得女性創作者去思考，我們所處的時代非常關鍵，作為第一代獨生子女，受過好的教育，也做了非常多的工作，但是被看到的並不多，包括國內也是最近才出版了一些女性科幻作者的選集，我開始寫作時也沒有很強的性別自覺意識。而文學就像自下而上的機器學習一樣，能解決很多居高臨下的宏大敘事解決不了的問題。這是我堅持創作的原因之一，也希望看到更多的女性創作者，大家一起努力。