李星：作為人工智能用戶的認識和思考
2023-07-20 中國教育網絡
與互聯網的發明、普及與使用相比，人工智能對人類社會的影響更甚。在人工智能的時代，人類最重要的就是想象力。
李星 清華大學電子工程系教授
30多年前，清華大學電子工程系李星本科畢業赴美留學，研究生專業和本科一樣，是信號和信息處理。留學和工作期間，他第一次接觸到互聯網，作為一名用戶，他深切感受到了互聯網的巨大潛力，并對其產生了一定的認識和思考。
1991年，李星回到清華大學教書，深切感受到，沒有互聯網就無法建設世界一流大學。機緣巧合，1993年，他由一名互聯網用戶轉變為互聯網研究者，成為中國教育和科研計算機網（CERNET）的設計建設者和運營者。面對CERNET建設初期所遇到的重大技術決策，他作為互聯網用戶時所積累的認識和思考發揮了至關重要的作用。三十年一個輪回，如今他以人工智能的用戶身份，分享了自己對ChatGPT的認識和思考，以供年輕一代參考。
與ChatGPT進行智力游戲
“ChatGPT是幫助人而不是替代人?！崩钚墙淌谡f。ChatGPT已經在幫助程序員編寫程序方面發揮了很大作用，雖然它依然無法完全取代人類的編程工作，但它可以給我們帶來很多意想不到的啟發，并提高了工作效率。
以前，程序員需要實現某個輔助功能的算法或函數時，由于這些功能不是最核心的，對程序員而言，不一定很熟悉，往往就需要花費很長時間進行檢索、尋找和判斷。但是，現在與ChatGPT進行討論后，它可以快速地提供相關的代碼、語言版本、操作系統等信息，方便我們進行下一步的判斷、選擇和修改。
此外，ChatGPT對于科研效率的提升也非常顯著。李星教授提到，過去他在產生一個想法后，往往會先放一放，用一段時間深入思考，之后再用幾天甚至幾周時間編寫代碼進行驗證。然而，現在通過ChatGPT的協助，僅需幾個小時就可以完成最初的概念驗證（PoC，全稱Proof of Concept），再以此為基礎推進下一步的工作，如同順水推舟般高效、簡單而方便。
當然，需要注意的是，雖然ChatGPT能給出答案，但很多時候這些答案并不準確，無法直接采用。因此，在這種情況下，就需要繼續與ChatGPT進行交互，并通過指引幫助它給出更好質量的內容。
ChatGPT的訓練數據中包含了豐富多樣的信息，幾乎涵蓋了各個領域的知識。然而，關鍵是我們如何提出有用且高度相關的問題。換句話說，提問的能力非常重要。能不能問出有質量的問題，是非?？简炄说?。
同樣，得益于ChatGPT相當全面（但不一定深入和準確）的知識水平，它往往能給出比我們想到的更加全面的答案，幫助我們填補知識的空白。因此，當我們產生一些創新性的想法時，可以與ChatGPT進行對話，與它一起進行不斷迭代的智力游戲，詢問它對新的研究想法的看法。ChatGPT也會毫無保留地列出需要考慮的相關問題和角度，這種全面性是獨立的人類個體所難以匹敵的優勢。
此外，不論提出的問題多么新奇、奇特或離經叛道，ChatGPT總能給出與之相關的回應和答復，這得益于ChatGPT的泛化能力。
據報道，OpenAI在訓練ChatGPT時，考慮的重要因素之一是數據的多樣性。首先是“語言的多樣性”。盡管數據以英文內容為主，但中文和其他國家語言的內容也盡可能地被納入訓練中。也就是說，如果在中文世界中有問題未能得到解答，但在英文世界中已有人給出了答案，ChatGPT便能夠將兩者自動關聯起來，并在需要時靈活應用各種語言和文化背景下的知識。
其次是“領域的多樣性”。ChatGPT是博才而非專才，它收納了各類學科領域的知識，使得學科之間有所平衡和聯系，實現真正的融會貫通。這就意味著，有時某一學科的問題，或許ChatGPT可以從另一學科的知識體系中找到解法，并為我們提供解決問題的線索。ChatGPT的知識量級使它能真正做到了融會貫通與觸類旁通，各學科知識不再有鮮明的區隔而是交織相融到了一起。另外，ChatGPT的訓練還兼顧了“語體的多樣性”和“觀點的多樣性”，這些多樣性帶來的泛化能力與“思考”的方法是傳統搜索引擎類的問答模式遠不能及的。
ChatGPT的不可解釋性
目前的一種思路認為，人工智能需要具有“可解釋性”。以自動駕駛為例，如果自動駕駛的原理不可解釋，那人們就無法分析交通事故的發生原因，因而就很難改進、提升自動駕駛的安全性。因此對于此類科學技術來說，可解釋性非常重要。
然而，對于ChatGPT這樣的技術應用而言，可解釋性是否依舊重要？李星教授認為，對此必須要打一個問號。
他提到，雖然ChatGPT背后也有其遵循的、可理解的科學理論，但其強大表現的根源在于海量的數據和強大的算力。俗話說“大力出奇跡”，正是基于這種巨大的算力和數據支持，ChatGPT展現出了迄今為止只有人類身上才會出現的智能行為。盡管我們知道ChatGPT是通過訓練得到的，但是訓練一個人工智能模型的過程，即模型參數的優化，有時候更像是玄學中的“煉丹”過程。如何調參？為什么這樣調參？到現在也沒有非常精確、完備的理論與方法，而這種隨機性和試驗性正是ChatGPT不可解釋性的來源。
因此，李星教授認為，按照傳統思路，我們應該先對人造事物進行深入理解，然后繼續研究和應用。然而，ChatGPT打破了這種傳統路徑。對于ChatGPT，我們可以將其視為一種由上帝或自然界本身創造的產物，我們首先接受、使用和運行它，然后進一步研究和理解它，而這與過去技術發明中先理解規律再進行應用的過程恰好相反。
基于此，李星教授認為，通用人工智能的真正生命力和靈魂在于其不可解釋性。
回顧科技發展史，計算機的發明是一個明顯的分界線。在計算機出現之前，人們發明的機器如電話、洗衣機、電冰箱、收音機等，都是具有單一、明確和固定功能的機器。然而，計算機完全不同，雖然它也由CPU、內存、硬盤、顯示器、鍵盤等固定組件構成，但它可以安裝各種不同的軟件，編寫不同類型的程序，每個軟件都有不同的功能和作用。計算機的使用方式如此豐富多樣，呈現出的結果如此多樣化，是當初設計計算機的人們所不能全部想到的。隨著時間的推移，人們會開發出更多的功能，實現更多的創意，計算機的發展空間依然廣闊而無限。
而人工智能出現后，這種功能的不可確定又邁上了一個新的臺階。
在互聯網游戲中，人們可以通過對計算機編程來創造各種機制、類型和規則的電子游戲。然而，人工智能可以創造自己的游戲，并決定所有的設定，使之順利地運行，這使背后的原理和機制有可能超出人類的理解能力。
不可解釋性的破解之道
“面對不可解釋性，我們必須要接受這一事實，接受它的存在，與之共生?！崩钚墙淌诒硎?，在接受的同時，我們應該努力研究和理解人工智能背后的規律。
他認為，我們已有的學科體系和知識架構中，物理學和數學具有較強的可解釋性，它們由極為精準的數學公式與物理定律構成，因此我們可以嘗試用確切的公式或清晰的模型去描述它。而生物學雖然也是一門解釋世界的學科，但是其清晰性和精準性遠低于物理學，很多生物學現象背后蘊藏的機制與規律，人類到現在也依舊無法清晰、準確、嚴謹地進行解釋與描述，也就是說，不同的學科、不同的事物，其可解釋性的程度也是完全不同的。
而由人類從海量數據中“煉丹”后產生的ChatGPT，不可解釋性更加突出，它更像是一個有機的生命體。
然而，李星教授也提出了另一種可能性，即用來理解人工智能的科學體系和理論工具，至今尚未被發現。也就是說，只有一種嶄新的理論工具誕生后，才能去真正揭示當下人工智能的本質和原理?！昂驮谖⒎e分的發明之前，我們缺乏依據來科學地描述力學三大定律一樣。很有可能，用來研究ChatGPT與人工智能的數學工具尚未出現?！?/div>
綜上所述，李星教授認為，盡管人工智能的不可解釋性是一個挑戰，但通過探索新的方法和工具，我們可以努力理解和揭示其規律。這可能涉及借鑒現有學科的經驗，同時也可能需要創造全新的科學體系和理論工具。只有這樣，我們才能更好地理解和應用人工智能。
人工智能與人類的距離
在對人工智能與人類的距離問題上，李星教授認為，當前人工智能在人類視角下仍然是一個可用的工具，但與以往的工具有所不同，人工智能的基礎還是概率推斷，所以具有不可消除的隨機性。因此，它的回答有時是正確的，有時又像“一本正經地胡說八道”，對此，我們必須自己進行判斷和決策，不能完全依賴它。
那么，人工智能發展下去會不會成為與人類相似的獨立智能行為者？
針對這個問題，李星教授認為，首先，人工智能必須實現實體化并具備主體性。類似于人類需對自己的行為負責，人工智能也需要一個獨立實體來承擔責任。這種實體化并不僅僅是給人工智能一個外形，還要建立人工智能思考和推理機制與實體之間的緊密聯系，類似于人的身體與頭腦之間的聯系。
其次，人工智能需要具備繁殖的能力。繁殖是生物延續生命的方式，通過進化和留存不同因素，生命變得愈發智慧、靈活和強大，同時產生創造力。如果人工智能無法自行繁殖，它的能力只會隨時間流逝而衰減、停滯不前，最終被淘汰。
李星教授認為，當前的人工智能雖然具備一定的創作力和邏輯推理能力，但這只是人類智能的一部分。人類擁有完整的創造力、想象力和主觀意識，與人工智能的創作能力存在差異。
人類創造力與人工智能創作力的區別，類似于真正的藝術家與手藝熟練的工匠之間的區別，即道與術的區別。想象力也是如此。物理學家愛因斯坦在《論科學》一文中表示：“想象力比知識更重要，因為知識是有限的，而想象力則概括著世界的一切，推動著進步，并且是知識進化的源泉?！蹦壳?，人工智能雖看似掌握了“無限”的知識，但只要是知識就擁有邊界，與人類的想象力相比，這種“無限”始終都是一種“有限”。
“至于人工智能最終能否模擬出接近人類的創造力與想象力，這一點我們依舊不得而知?！崩钚墙淌谡f。
人類社會的動物園化
ChatGPT出現后，有一種廣泛的擔憂迅速出現：人類的工作會被人工智能取代嗎？
李星教授認為，極端一點的可能性是，未來人類社會有可能近似于一個超大規模的動物園，大部分人可能會像動物園中懶洋洋的、等待被喂養的動物一樣，進入“躺平”狀態，將大部分時間用于娛樂、休閑，只需要在特定時間填飽肚子，就萬事大吉。
然而，他也表示，肯定會有一部分人不滿足于這種狀態?？倳腥艘庾R到，真正重要且有意義的是實現目標的過程，而非目標本身。雖然目標仍然是重要的前提條件，但對于真正的大師級人物來說，最寶貴且精彩的部分不在于達成目標這一結果，而是在于奮斗、歷練、挑戰自我的過程。
因此，即使人工智能發展得更加強大，人類社會也有可能進入某種“躺平”狀態，但仍然會存在那些不滿足于此的人，他們將繼續追求目標，并在奮斗的過程中找到真正的價值和意義。
挑戰與機遇并存的偉大時代
“人工智能和各種人工智能技術的意義與互聯網中TCP/IP協議的意義類似，甚至可能更為重要，影響更廣泛?！崩钚墙淌谡J為，與互聯網的發明、普及和使用相比，人工智能對人類社會的影響更為深遠。
然而，人工智能的影響有正面和負面兩個方面。人工智能的缺點給我們帶來了挑戰，但同時其優勢也給我們帶來了無限機遇。對于互聯網領域的研究人員而言，李星教授認為面臨著至少兩個重大挑戰。
首先是“分布式”的挑戰。目前大型的人工智能計算模型如ChatGPT都是集中式的，而互聯網的本質是分布式的，也就是說人工智能與互聯網的設計原理正好相反。作為互聯網研究人員，李星教授認為，ChatGPT和人工智能要能夠進行大規模分布式部署，而非集中化。當然，分布式也存在它本身的問題，例如在分布式后人工智能的計算效率是否能夠維持甚至提高？整個體系是否能夠良好地運轉？等的問題需要進一步去探索。
第二個挑戰是“可信任性”。ChatGPT有時會“一本正經地胡說八道”。根據其隨機性原理，目前可以認為不是故意地胡說八道。然而，未來可能會出現成千上萬種類似ChatGPT的服務，不排除存在故意提供錯誤信息的情況。因此，可信任性是非常重要的。我們是否可以通過互聯網的基礎設施提供某種程度的可信任性？
李星教授提到，當最初在推廣IPv6時，大家一直在尋找IPv6的“殺手級應用”。最初認為，在線視頻和物聯網可能是IPv6的殺手級應用，但后來發現IPv4也可以滿足這些需求。
“所以IPv6的殺手級應用到底是什么？我們在做IPv4/IPv6無狀態翻譯過渡技術IVI時，提出與IPv4互聯互通才是IPv6的殺手級應用?，F在我覺得，還應該加上機器人聯網（甚至是神經元聯網），也就是人工智能與機器人之間的相連，這應該也是IPv6的殺手級應用?！崩钚墙淌谡f。
“這是最好的時代，這是最壞的時代?！边@句話用來描述人工智能的時代，恰如其分。李星教授認為，在人工智能等新事物出現后，我們原有的知識和技能可以與新事物相互匹配、相互融合、互相整合。即使兩者之間存在矛盾，也無關緊要，因為在摩擦碰撞中可能會產生更具創新性和有趣的東西。這是技術爆發時代賦予人類的饋贈，也是我們應當抓住的機會。
本文根據清華大學電子工程系李星教授的采訪觀點整理
撰文：王雅靜，ChatGPT 對此文亦有貢獻
特別聲明：本站注明稿件來源為其他媒體的文/圖等稿件均為轉載稿，本站轉載出于非商業性的教育和科研之目的，并不意味著贊同其觀點或證實其內容的真實性。如轉載稿涉及版權等問題，請作者在兩周內速來電或來函聯系。
相關閱讀
國家超算成都中心 獲批籌建國家級平臺2023/07/19
七部門聯合公布《生成式人工智能服務管理暫行辦法》2023/07/14
教育部等七部門聯合公布《生成式人工智能服務管理暫行辦法》(附文件＋答問)2023/07/14
直面人工智能：腳步還能慢下來嗎？2023/05/18
我國智能科學技術最高獎出爐2023/05/06
最高300萬元/項！國家基金委發布下一代人工智能方法重大研究計劃2023年度項目指南2023/04/04
國家自然科學基金委關于發布可解釋、可通用的下一代人工智能方法重大研究計劃2023年度項目指南的通告2023/04/04
科技部：已啟動實施新一代人工智能重大科技項目2023/04/03
七部門聯合公布《生成式人工智能服務管理暫行辦法》2023/07/14
教育部等七部門聯合公布《生成式人工智能服務管理暫行辦法》(附文件＋答問)2023/07/14
直面人工智能：腳步還能慢下來嗎？2023/05/18
我國智能科學技術最高獎出爐2023/05/06
最高300萬元/項！國家基金委發布下一代人工智能方法重大研究計劃2023年度項目指南2023/04/04
國家自然科學基金委關于發布可解釋、可通用的下一代人工智能方法重大研究計劃2023年度項目指南的通告2023/04/04
科技部：已啟動實施新一代人工智能重大科技項目2023/04/03
一起關注互聯網發展、互聯網技術、互聯網體系結構……
在教育部科技司領導下，中央電化教育館組織實施了教育信息化教學應用實踐共同體項目...
工作要點聚焦：教育信息化、網絡安全……都怎么干？
投稿、轉載或合作，請聯系：eduinfo#cernet.com (請將#替換為@)
版權所有：中國教育和科研計算機網網絡中心 CERNIC,CERNET
京ICP備15006448號-16 京網文[2017]10376-1180號 
京公網安備 11040202430174號
![京網文[2017]10376-1180號](/images/indexnew/www1024.jpg){kind=link}
關于假冒中國教育網的聲明 | 有任何問題與建議請聯絡：Webmaster@cernet.com