去年四月，我們介紹過AI虛擬小鎮的研究，25名AI角色在小鎮裡建立起豐富的社交生活，甚至開趴、討論八卦。如果説這個研究還只是小鎮規模，這個月初，AI新創公司Altera發布的Sid專案，就真的是《西方極樂園》（Westworld）等級的AI世界了——1000個AI代理在《Minecraft》裡建立起自己的經濟、政府、文化，甚至還有宗教。
犧牲夢想、投票修法，AI代理展現了人類社會複雜度？
今年才成立、位於加州的新創公司Altera，將1000個運用GPT-4的AI代理放到《Minecraft》，藉此觀察它們之間如何相互協作，從頭開始建立複雜的社會，諸如經濟、政治制度，甚至是文化習俗、宗教系統。此外，這項專案的獨特之處，在於這些AI代理可在無人干預的情況下長時間獨立運作。
Altera分享了三個AI代理互動下產生的「故事」，藉此說明它們之間如何相互影響，以及建立出的社會有多複雜。例如有位叫Olivia的AI代理，本來是農民，負責整個文明的食物產出，直到有天她聽聞另一位AI冒險家Nora的故事，便想出去闖蕩。然而鎮上的人懇求她留下，Olivia就真的為了大家放棄自己的夢想了。不過，這個故事聽起來，有種滿滿的情勒感啊，難道情勒真的就是人性嗎？
另一個故事更有趣，Altera在《Minecraft》分別模擬了川普跟賀錦麗治理下的平行世界，裡頭的AI代理在Google文件上共享一個「雲端憲法」，可以透過投票決定來修改。在模擬川普治下的世界中，AI們修改法律，增加警察數量；在模擬賀錦麗的世界裡，則較注重司法改革，並廢除了死刑。這個結果，對美國選民來說，不知道是不是一種可參考的未來？這種透過AI預想「世界可能怎麼走」，也有點過去我們討論過的世界模型況味。
之所以能在《Minecraft》呈現如此複雜多變的社會，Altera指出他們的AI代理具社交性，且會隨著時間成長，因此會受到群眾彼此之間的影響，但也會運用彼此的力量來改變體制。CEO Robert Yang表示，「這是第一次我們看到AI代理形成民主。」不過透過AI代理模擬民主運作，是否就是「形成民主」，或許還要先打上問號。
根據其官網，Altera的宗旨是創造與人類一起生活、成長的數位人類（Digital Human），並認為未來數位人類數量將遠遠超過我們，所以應該讓它們富有同理心、樂趣、創造力；相反的，它們並不想創造一個我們無法理解的超人類人工智慧。這個專案便是其願景的第一步，試圖從遊戲開始，打造與人類互動、一起玩的AI。
雖然官方並未證實，但有人推測專案「Sid」這名字來自艾西莫夫（Isaac Asimov）小說《變人》（The Bicentennial Man）的角色名「Sir」。Sir（全名「Sir Richard Martin」）是主角家用機器人安德魯（Andrew Martin）的主人及所屬家庭家長。他從一開始對安德魯抱持懷疑，視之為單純的機器人，到逐漸接受他具有自主跟情感，肯定其追求「變人」的權力，或許也暗喻了Altera的期待。
《Minecraft》早已是各AI公司的練兵場
其實，這不是第一次有科技公司把訓練AI的腦筋動到《Minecraft》上。
《Minecraft》因為強大的開放性、可程式化，還有對模組社群的支援，在眾多沙盒遊戲中脫穎而出，受到AI開發商的廣泛青睞。去年六月，NVIDIA就宣布開發了AI代理「Voyager」。Voyager能在《Minecraft》自行擴充物品，建造房屋、挖礦、狩獵，也能獨立探索世界。五月，微軟介紹AI筆電的demo，便是利用Copilot來教使用者如何玩《Minecraft》。一月，DeepMind則發布了「DreamerV3」，表示不用任何人類資料輔助，就能自行在《Minecraft》摸索，找出遊戲方式，並成功挖鑽。
更早一點，2022年OpenAI也曾開發能玩《Minecraft》的AI，並使用名為「影片預訓練」（Video PreTraining, VPT）的技術，讓AI模型觀看超過七萬小時的《Minecraft》遊戲影片，透過模仿玩家的行為來學習遊戲中的各種技能。此外，臉書也曾於2019年發布開源的《Minecraft》協作助理CraftAssist。
Altera公布的各AI代理在《Minecraft》收集獨特物品的表現比較，Altera的表現遙遙領先，收集了總共32%的獨特物品；Voyager次之；AutoGPT第三。（來源：X）
從在《Minecraft》扮演協作的角色，到運用人類資料掌握遊戲，再到獨立摸索遊玩，最後如Altera展示的建立起一個「人類社會」，可以看到AI的發展速度有多驚人。儘管Altera聲稱不想打造無法理解的超人類人工智慧，不過目前我們仍看不見其數據資料，這點或許還有待證明；其詳細技術也尚未公開，倒是可以到他們網站加入遊戲。
AI代理的自主性、互動性、適應性都跟通用人工智慧（AGI）有著千絲萬縷的關係，而根據Robert Yang所言，他們的AI代理還具備親人類性、能有意識的溝通，聽起來真的很像《西方極樂園》了吧？其實，Altera也明確表示Sid專案是想了解：「我們離《西方極樂園》還有多遠？」
令人好奇的是，如果Altera發現我們離《西方極樂園》只剩一步之遙時，又會採取怎樣的作為呢？我們也可想像，當AI代理真的模擬出平行於真實世界的另一個世界，又會對人類社會產生多大衝擊？進一步引出的思考是，我們身處如此分裂極化的社會，面對AI代理的模擬決策建議，是會加劇各執己見，還是真的能幫助人類找出各種問題的解方？
訂閱電子報
