圖靈獎得主、中國科學院院士、清華大學交叉信息研究院院長、清華大學人工智能學院院長姚期智發表演講。
姚期智演講的核心觀點有：
1.AI未來核心發展方向是達成具備類人認知推理能力的AGI，其在科學、戰略、經濟層面意義重大。
2.中國近5年在大模型、具身智能領域進步迅猛，已躋身國際第一方陣甚至領先，另外兩大方向也有發展。
3.具身智能需硬件身體與“小腦”“大腦”結合，能完成靈巧任務，可彌補傳統機器人不足，替代部分人類不愿做的工作。
4.科學智能將顛覆科研方式，未來科學家需與AI協同，AI還能助力量子計算機研發，尤其在量子糾錯上成效顯著。
5.谷歌借助AI神經網絡實現量子比特糾錯，為大規模量子計算機發展奠定基礎，中國相關團隊具備競爭力。
6.AI存在算法不魯棒、沖擊社會倫理、導致失業及失控等風險，需重視安全性與治理問題。
7.應對AI風險需研發安全對齊算法，借助多學科理論構建可證明安全的AI系統，同時建立國際治理共識。
8.中美歐科學家已發起定期對話，推動AI治理的國際合作與交流。
9.大模型革新各行業，中長期AI將向AGI邁進，賦能科學且需保障安全可靠，發展前景廣闊。
10.中國不缺AI應用人才與場景，關鍵是培養尖端創新人才，助力AI持續突破。
以下是姚期智演講正文：
非常高興有機會能夠和大家在這兒見面。
我今天想和大家談談人工智能的未來發展。無論怎么樣看，人工智能未來發展最重要的下一步就是怎么樣能夠達到大家都滿意的AGI，就是通用人工智能。AGI的定義，它能夠讓機器具有認知推理、復雜場景種種的相似人的能力。如今的人工智能既能夠實現部分功能，離AGI的理想還有一些距離。
因為AGI一旦完成了以后，它的效用非常強大，所以它不但是科學上，而且是戰略上、經濟上，各國經濟的科技高地。
未來我們走向通用人工智能，到底會在哪幾個方向發展呢？當然會有很多不同的可能性，將來會陸續涌現。但是從現在看來，下面四個方面是不可避免的。中國非常可喜的就是在過去5年里面，在“十四五”規劃里面做出了非常令人驚訝，而且欽佩的工作。特別是大模型技術演化方面，還有具身智能，就是智能機器人方面，在過去5年，中國基本上從一個和國際上有相當距離的程度，到達了能夠在第一方陣，甚至領先的地步。另外兩項，中國也有不少的發展。
大模型的演進不多講了，基本上智能越高，可以做的事兒越大。關于人工智能大模型怎么樣做得更好，甚至有一些不同的方式來做，這都是一個非常重要的方向。因為今天講AI+，所以不談大模型演化部分了。
第一，關于具身智能，顧名思義，它需要有一個硬件的身體，需要有一個小腦，像人一樣，能夠讓它的行動更加穩定、更加敏捷，同時還需要進一步有一個大腦，能夠有各種認知，各種決策，各種計劃的能力。
人工智能機器人，一方面是科學研究的高地，原因就是我們怎么樣從大語言模型變成具有物理知識，能夠了解世界的智能，這在科學上非常重要；另一方面在經濟上、產業上非常重要，因為它基本上能夠補足以前機器人產業比較呆板的不足，使得機器人加上小腦、大腦，基本上就有這個可能性，能夠替人取代很多我們不想做的工作。
國內和世界的機器人的成就，大家耳熟能詳，今天王興興王總等下也會和大家談，我現在跟大家談一下，大學里面對于具身智能也做得非常出色。今天清華大學有兩個教授設立了展示廳。
這是星動紀元，這是用強化學習做的，跳得非常高，達到世界紀錄，它能夠使用大模型做各種靈巧的事情，像這種都是不太容易的，每秒4米，是相當厲害了。
第二，關于科學智能，在科學上，AI+顧名思義就是AI能夠賦能各種行業，特別令人驚奇的，它不僅能夠賦能普通的產業，甚至在人類覺得最高智能的領域，就是科學研究，現在AI也能夠使得科學里面每個領域在以后的5年、10年會對科學研究者做科學的方式起翻天覆地的變化，基本上我們過去這幾十年，做科學的方法在5年、10年以后會很不一樣。以前我們具有的一些科學家的特性，適合做科學家的，將來5年、10年以后不見得一定就能夠成為最好的科學家。將來任何一個科學家的工作都必須是科學家加上大模型之類的人工智能。這兩個人怎么樣能夠最好地配合，這個團隊才是將來最有競爭力的單位。
舉例，這里面有很多的進步。AI能夠賦能另外一個戰略高地、戰略方向就是做量子計算機，AI有這個能力，甚至能夠幫助量子物理學家構造下一個真正的量子計算機。量子是相當深奧的科學，它最重要的觀念就是有一個量子比特，它的量子比特和普通經典的0和1不一樣，有更大的自由度。量子比特做計算的基本單位，有一個很大的缺點，就是很容易受到環境的干擾。一旦受到環境的干擾，它的值就和你想要的不一樣了。怎么樣能夠糾錯，這個事情一直困擾著物理學家。甚至早年物理學家覺得量子計算機原則上不能做，因為糾錯是物理上不能解決的問題。1996年有一個計算機科學家發現如果我們能夠把最基本的糾錯做好，就可以在一個有規模、大的量子計算機上就可以繼續穩定，怎么樣在一個最簡單的解碼上能夠做好。量子糾錯一直是做量子計算機的人的心病，如果這個做不好，做了很多的量子比特也沒有用。
怎么樣糾錯的事情，在經典的計算機里面也是一個重要的問題，Fonomen(音)想到了一個簡單的方法做糾錯。比如說一個0，如果用100個0表示，即使中間有一兩個比特發生變化，整體上還可以知道它是一個0，因為98個都是0。但是在量子上，這個事情就很困難。
差不多一年以前，谷歌發表了一篇文章，里面做好了量子芯片。這個芯片有105個量子比特，但是它長處不是有105個量子比特，有很多人也會做，主要就是利用了這100個比特，它能夠做一個量子比特的糾錯。它能夠使得一個量子比特在原則上讓它無限期的生存，能夠保持它本來的狀態，無限期的延長，這個事情最重要的是能夠低于一個1%，就是小于了剛才提到最重要的條件。這就讓量子計算機的群體非常高興，覺得有非常大的鼓舞。
這是一個重大的成就，它實現了大規模量子計算機的可能性。它和人工智能有什么關系呢？主要就是量子糾錯用人工智能來達到的。它的核心技術就是用一個AlphaQubit的手段，它是為量子糾錯而設計的解碼器。這個解碼器是一個神經網絡，它采集了很多用量子模擬得到的樣本，用機器學習的方法訓練出來，所以這個重要的方向將來在各種方面提升，在比特準確率和速度方面也有大幅提升，中國也有幾個團隊在這方面非常有競爭性。
第三，關于人工智能的安全性，我們有一個這么有能力的科學手段，它也產生了一定的危險性。所以怎么樣治理它也是大家很關心的方向。
AI的風險有哪些？一是因為AI算法有它天生的性質，就是不魯棒，不確定，不可解釋，不善于抵抗惡意。在AI的應用上也會產生一些對于社會運行的沖擊，它可能沖擊社會價值或者倫理，比如說隱私保護，同時即使我們把它用到好的方面，它能夠替代很多人的工作，它也帶來了可能大量失業的問題。現在我們已經看到，在亞馬遜、谷歌，在微軟，這些做AI特別好的公司里面有很多解雇的浪潮。
二是生存性的風險，它和以前盒子的科技、生物科技都有一點不一樣的地方。因為盒子科技、生物科技最危險就是有恐怖分子運用它做一些不好的事情。但是AI的風險除了剛剛所提到的這些非常大的風險以外，還有一個風險就是AI非常像人，我們和AI的關系可能會升級到AI失去控制，違背了人類想讓它做的事情。我們要把這個事情做好，就產生了一個新的交叉領域，特別是關于失控的處理方面，牽涉到AI、密碼學、博弈學和各種科學。研發AI算法的確定，魯棒性、可解釋性和社會價值對齊，我們要做這些對齊的算法。尤其是對于生存性風險，我們應該最有效徹底解決問題的方法就是怎么研發出可以證明安全的AI系統。
借助密碼學、博弈學等理論，同時在科學發展的基礎上，要能夠取得設置AI治理的協議，在區域和全球減少風險，需要建立國際共識。現在這方面中國做得不錯，比如說中美歐科學家發起了定期對話，這個對話有Bengio、Russell、張亞勤和我們，第一次是在2023年在英國，第二次在北京，第三次在威尼斯，差不多每半年開展一次。今年7月的時候在上海舉行了這個大會。
總結，多年的科技進步與積累，讓人工智能發展得到新動力，大模型的出現帶來了人工智能的新潮流，有無限發展機會。近期AI大模型正在革新各個行業，中長期要走向AGI，賦能科學，同時能夠建設安全可靠的，它的前景遼闊，影響深遠，我們必須不斷地創新突破，中國不缺應用人才和場景，最重要的是多培養尖端創新人才。
謝謝大家。
