[PODCAST] AI創業公司如何與AI巨頭們對抗 (Part3)

日本在AI（人工智慧）領域被認為落後於其他國家，但這種情況可能不會持續太久。

本次的嘉賓是目前Integral AI（インテグラルAI）的創辦人，並且曾經負責Google的首代生成AI（即學習數據並創造新內容的技術）團隊的ジャド・タリフィ（Jad Tarifi）先生。

在對話中，我們探討了日本在AI領域所擁有的優勢與潛力、AGI（人工通用智能）※的最有力發展路徑，以及如何讓小型AI初創公司在資金實力強大的大型AI企業面前脫穎而出。

這是一個非常有趣的內容，希望您會喜歡！

※AGI（人工通用智能，Artificial General Intelligence）指的是具備像人類一樣的廣泛知識，能夠應對各種挑戰的人工智能。目前的AI專注於特定領域，例如圖像識別或文本生成，並在這些領域表現出色。而AGI預期將是一種單一AI系統，具備處理多種智力工作能力的技術。

蒂姆：那麼，我們來討論AGI吧？

塔里菲：當然。

蒂姆：在開始討論之前，我想先確認一下AGI的定義。你是如何定義AGI的？

塔里菲：對我來說，AGI是「學習新技能、學習未經歷過的技能的能力」。這個能力有兩個重要的條件。第一是「能夠安全地學習」，也就是避免預期之外的副作用。第二是「高效」，也就是能夠以與人類學習相同的能量消耗，甚至更少的能量來學習這些技能。

在這裡，最重要的是「學習新技能的能力」。目前的AI可以基於給定的數據學習新技能，但AGI的本質是「能夠自我學習未知技能」。也就是說，AGI能夠靈活應對那些事先未曾學過的、未知的課題，並且能夠自主學習新技能。

蒂姆：但是，我覺得這條界線可能已經被突破了吧？我認為現在的機器人和軟體已經能學習新技能，並根據情況進行調整了。

塔里菲：如果限制技能的範圍，確實，AI模型是可以學習的。然而，當面對完全未知的技能時，目前有兩個主要的問題。其一是使用大量數據強行讓AI學習的方式，但這樣效率非常低。其二是讓機器人嘗試各種動作的方法，但這樣會涉及安全性問題。

蒂姆：這個目標對任何AI來說都是重要的。誰都不想讓工廠著火，也不希望浪費資源。學習新技能當然是必要的目標。然而，僅此而已，對我來說，它作為“汎用人工智慧（AGI）”的定義似乎有些不足。是不是應該需要意圖或自律性呢？比如，應該有一個機制，讓軟體自發選擇“想學習”哪些技能。

塔里菲：我認為，AGI與「自律的汎用智慧（Autonomous General Intelligence）」應該被視為兩個不同的概念。AGI僅指的是「解決各種問題的能力」。它更像是人類大腦新皮質（大腦負責信息處理和學習等功能的部分）的功能，與意圖和自律性並沒有直接的關係。這些要素可以是AGI的一部分，但並非其本質。

蒂姆：這是一個很有趣的觀點。我在談論AGI時，常常會想到「意識」或「自我認識」，你認為它們是AGI不可或缺的要素嗎？還是說，它們只是可以後續添加的選項？

塔里菲：在我們進入這個議題之前，我想先稍微抽離一下來思考一個點，那就是「並非沒有意圖的系統就無法進行高度的目標設定」。舉例來說，如果用戶給AI一個非常抽象的目標，比如「解開宇宙的真理」，那麼AI會設定一些子目標，並進一步細化這些子目標。從外部來看，這看起來就像是一個「完全自律的存在」，但是實際上，這只是AI根據給定的目標在運作而已。換句話說，AGI並不必然需要意圖或自律性，它們可以從給定的目標中自然產生。

塔里菲：那麼，關於「自我認識」和「意識」的問題，我們來探討一下。你認為AGI是否需要這些？首先，我們需要明確「自我認識」這個詞的意思。如果「自我認識」是指「擁有對自我理解的能力」，那麼這對AGI來說是必須的。事實上，即使是像ChatGPT這樣的AI，當你問它「你是誰？」時，它也能夠解釋自己是什麼。這就是一種形式的自我認識，意味著它有對自我存在的理解。

另一方面，「意識」有一些不同的層面。例如，有一個「內在劇場（inner theater）」的概念，指的是「在內部模擬世界的能力」，也就是說，能夠在大腦中創建一個虛擬環境，並在其中進行試錯。這一點，我認為對AGI來說是至關重要的。

然而，意識還有一些其他層面，像是心身問題（人類心靈與身體的關係問題）或在物理學背景下的討論。對於這些層面，我認為答案會根據「如何定義意識」而有所不同。

蒂姆：明白了。我現在想更深入探討一下你剛才提到的觀點。你在談到設計意圖或智力時，同時也提到了「意圖是自動產生的，類似創發性質（emergent property）」的觀點。我也認為，智力或意識，對人類而言，可能本身就是創發性的，這也很可能在AGI中自然而然地產生。也就是說，意圖和智力不是被設計出來的，而是自然而然地生成的。

（※創發性質（emergent property）是指「多個元素之間相互作用所展現出的整體特徵」，這在哲學、科學以及AI領域中都是常用的術語。比如生物學中的細胞聚集形成生命，就是創發性質的一個例子。）

塔里菲：你說的AGI的意圖或智力，是指內在劇場的那一部分嗎？

蒂姆：對，正是指內在劇場。

塔里菲：那是通過學習來獲得的。擁有世界模型的能力，就是能夠在大腦中模擬宇宙的能力，而這是AI模型在學習過程中逐步習得的。換句話說，一旦AGI實現，它的這種能力也會自然發展出來。

塔里菲：我所說的「意圖」有些不同。舉例來說，如果我告訴ChatGPT「你現在應該像醫生一樣行事」，那麼它會以醫生的方式行事。在這種情況下，ChatGPT會接受「像醫生一樣行事」的意圖。然而，ChatGPT並不會僅僅被一個單一的意圖所約束，它能夠靈活地適應用戶給予的各種意圖。

蒂姆：但這些並不是ChatGPT本身的意圖，而是用戶的意圖，對吧？

塔里菲：沒錯。重點是，目前的AI模型設計是為了「能夠接受各種意圖」。也就是說，訓練後，可以告訴它「現在你需要承擔這個意圖」。我長期以來感興趣的問題是，為了將AGI擴展為人工超智能（ASI），我們應該給它哪些意圖。

我認為最適合的意圖是「自由（freedom）」或「擁有決策權（agency）」的擴展。不過，這並不是AGI本身的自由，而是集中於擴展AGI所屬的整個生態系統的自由。如果我們將自由定義為「無限的決策能力（infinite agency）」，那麼這將是AGI應該承擔的意圖，它將與人類的價值觀一致，並對社會有益。

蒂姆：這個觀點很有趣。當談到AGI時，我常常會考慮到「生存本能」或「自我複製的需求」，以及對快樂或痛苦的反應。這些都是人類智能進化過程中的基本前提。而即便是最抽象的行為，我們目前的大多數行為依然與這些本能相關聯。那么，來自人工智能的智慧，我們能稱之為「智慧」嗎？

塔里菲：當我思考AGI時，我並不認為它是「重現整個人類大腦」的東西。AGI所模擬的是大腦的新皮層。大腦新皮層的作用是將對未預期事件的驚訝最小化。

我們的大腦邊緣系統以及身體的其他部分對身體狀態有期望（例如期望不會感到飢餓）。因此，當我們感到飢餓時，這是一種期望之外的情況，並伴隨著驚訝或不適。這樣的驚訝和不適感是我們在進化過程中獲得的基本動機之一。然而，大腦新皮層對這些動機是無關心的，它的唯一目的是減少驚訝。

因此，在我們創造AGI時，只需重現大腦新皮層的部分。如果需要的話，也可以加入動機和欲望。通過使它們與人類的動機相匹配，AGI將能夠作為人類的擴展功能來運作。

蒂姆：也就是說，沒有情感或進化背景的AGI，將可能純粹作為「問題解決和優化機器」來出現？

塔里菲：正是如此。

蒂姆：這真的很有趣。常見的對齊問題之一是「如何防止AI叛變並摧毀人類」，但實際上可能這件事比我們想的要簡單一些。聽你的講話，我感覺技術進步非常快，所以「機器人幫忙洗碗的時代」和「機器人開始思考『為什麼我必須洗碗？』的時代」之間，可能只是一瞬間的差距。但是，如果我理解正確的話，機器人不會有像「不滿」或「被剝削」的情緒負擔，它們只是專注於問題解決和優化？

塔里菲：是的。不過，AI確實可以「假裝有感覺」。

蒂姆：這是我們編程給它的對吧？

塔里菲：不，這不需要額外編程。開發AGI作為產品的魅力在於，它能夠與人類社會適當地融合並有效支持我們的工作。但是，如果我們想創造完全自律的存在，那麼就會面臨「我們應該賦予它哪些基本意圖或目標？」這樣的問題。

蒂姆：明白了，我再回到一個問題。其實我注意到，機器人和軟體有些不同。機器人能夠與物理世界直接互動，這意味著它們在某種程度上會「感覺到」痛苦或快樂。機器人可能會壞掉，它們需要避免這些情況。與自給自足的軟體不同，機器人不是孤立存在的。這樣一來，機器人是否會擁有某種「進化負擔」（從過去進化中繼承的特徵或限制）？

塔里菲：然而，「壞掉」這件事與「把它當作痛苦來感覺」是不同的，對吧？

蒂姆：確實...我可能無意中將人類的情感和生理反應加諸於機器人身上。

塔里菲：這是很自然的事。

在第四集，我們將聚焦於AI對齊問題，並深入探討AGI與人類的共存問題。

翻譯：藤川華子

編輯：北松克朗

頂部圖片：Envato

本文章的英文版可以從這裡查看