全站搜尋 電子雜誌搜尋

AD

ad970250

不錯過知識訊息,立即加入國家地理官方X

Jul. 05 2024
Sponsored

專訪孔祥重院士:從脈動陣列到人工智慧的教育與產業實踐

  • 孔祥重院士為臺灣人工智慧領域的代表人物。 圖|研之有物

    孔祥重院士為臺灣人工智慧領域的代表人物。 圖|研之有物

  • 脈動陣列的簡單示意圖(一維架構)。上圖為傳統架構,處理單元(PE)每次操作後,都要回到主記憶體更新資料,存取一次記憶體就各需要花 100 奈秒,於是每秒最多只能執行五百萬次的操作。下圖為脈動陣列,有多個處理單元並行工作,最後再送回主記憶體,在當時可提升至每秒三千萬次的操作。這種架構有效地增加了計算密度和資料處理速度,對於高效能運算和 AI 晶片設計相當重要。 圖|研之有物(資料來源|孔祥重)

    脈動陣列的簡單示意圖(一維架構)。上圖為傳統架構,處理單元(PE)每次操作後,都要回到主記憶體更新資料,存取一次記憶體就各需要花 100 奈秒,於是每秒最多只能執行五百萬次的操作。下圖為脈動陣列,有多個處理單元並行工作,最後再送回主記憶體,在當時可提升至每秒三千萬次的操作。這種架構有效地增加了計算密度和資料處理速度,對於高效能運算和 AI 晶片設計相當重要。 圖|研之有物(資料來源|孔祥重)

  • TPU 裡面的矩陣乘法單元示意圖(脈動陣列),2017 年 Google 設計 256*256 的矩陣(圖中藍色大方塊),裡面有 65,536 個處理單元。紅色的控制單元負責協調資料流向,資料輸入後依序通過內部處理單元,計算結果會累加變成部分和(Partial Sums),最後再由底部的處理單元輸出結果。 圖|研之有物(資料來源|Google)

    TPU 裡面的矩陣乘法單元示意圖(脈動陣列),2017 年 Google 設計 256*256 的矩陣(圖中藍色大方塊),裡面有 65,536 個處理單元。紅色的控制單元負責協調資料流向,資料輸入後依序通過內部處理單元,計算結果會累加變成部分和(Partial Sums),最後再由底部的處理單元輸出結果。 圖|研之有物(資料來源|Google)

  • 工具機刀具切削加工物的示意圖。要確認機械加工的刀具損耗程度,通常需要停機使用人工確認。如果可以透過 AI 來偵測刀具的磨損,有助於工廠自動化,減少耗材和提昇產品良率。 圖|研之有物

    工具機刀具切削加工物的示意圖。要確認機械加工的刀具損耗程度,通常需要停機使用人工確認。如果可以透過 AI 來偵測刀具的磨損,有助於工廠自動化,減少耗材和提昇產品良率。 圖|研之有物

  • 孔祥重認為生成式 AI 可以大幅改善學生的學習效率和品質。 圖|研之有物

    孔祥重認為生成式 AI 可以大幅改善學生的學習效率和品質。 圖|研之有物

  • 孔祥重認為培養新一代 AI 專業人才至關重要。 圖|研之有物

    孔祥重認為培養新一代 AI 專業人才至關重要。 圖|研之有物

1
 

人工智慧的黃金時代

人工智慧(AI)正值當前科技浪潮的高峰,生成式人工智慧不僅能自己寫出流暢文章,還能創作令人驚艷的圖片和影像,更能為產業帶來前所未有的升級。中央研究院「研之有物」專訪孔祥重院士,他是臺灣人工智慧領域的代表人物,目前為美國哈佛大學比爾蓋茲講座教授,也是「臺灣人工智慧學校」的校長。他在 1979 年提出「脈動陣列」理論(Systolic Array),促進高效能平行運算的基礎,為現行諸多人工智慧算力加速器提供了一個有效的方案。近年,他積極回臺討論 AI 人才培育以及 AI 研發有關的議題,希望讓更多臺灣產學研界與年輕學子,一起看到 AI 的無限可能。

孔祥重院士為臺灣人工智慧領域的代表人物。 圖|研之有物

孔祥重院士為臺灣人工智慧領域的代表人物。 圖|研之有物

脈動陣列架構:革命性的平行演算法

1979 年,孔祥重院士和他的研究生 Charles Leiserson 提出了脈動陣列(Systolic Array),這是一種高效能的平行計算架構,名稱來自醫學術語「systole」(心臟收縮期),因為運作方式就像心臟有節奏地收縮和快速輸血。

脈動陣列的簡單示意圖(一維架構)。上圖為傳統架構,處理單元(PE)每次操作後,都要回到主記憶體更新資料,存取一次記憶體就各需要花 100 奈秒,於是每秒最多只能執行五百萬次的操作。下圖為脈動陣列,有多個處理單元並行工作,最後再送回主記憶體,在當時可提升至每秒三千萬次的操作。這種架構有效地增加了計算密度和資料處理速度,對於高效能運算和 AI 晶片設計相當重要。 圖|研之有物(資料來源|孔祥重)

脈動陣列的簡單示意圖(一維架構)。上圖為傳統架構,處理單元(PE)每次操作後,都要回到主記憶體更新資料,存取一次記憶體就各需要花 100 奈秒,於是每秒最多只能執行五百萬次的操作。下圖為脈動陣列,有多個處理單元並行工作,最後再送回主記憶體,在當時可提升至每秒三千萬次的操作。這種架構有效地增加了計算密度和資料處理速度,對於高效能運算和 AI 晶片設計相當重要。 圖|研之有物(資料來源|孔祥重)

想像一下,在一個巨大的精靈村落(晶片)裡面,排滿了一間一間的魔法小屋(計算陣列),每間小屋都住著一個小精靈(處理單元),這些小屋排列成整齊的矩陣,且小屋之間緊密相連。現在,數學女巫(電腦)為了解決龐大的計算任務,她讓每個小精靈都分配到一個更小的任務,當每個小精靈把自己的數據算好之後,就會傳給下一個小精靈。

就像心臟收縮的脈動一樣,數據不停地從一個小節點跳到下一個節點,在陣列中不斷地接住、傳出,最後匯集成一個大的運算結果。這種計算方式能夠讓龐大的計算量同時進行,而且每個處理單元都能夠獨立工作,大幅提高了計算效率。

脈動陣列的優點是,它允許資料在處理單元之間直接傳遞和暫存,而無需頻繁地回到主記憶體中存取。這種資料流就像數據在小屋(計算陣列)之間高速流動,小精靈計算好結果之後,可把結果送到附近的小精靈,不必再把數據帶回主城堡(主記憶體),節省大量資料存取時間。 此外,由於每個小精靈(處理單元)是獨立工作的,個別不同的「小型計算」可以同時進行,效率非常高。

脈動陣列架構特別適合處理需要大量重複計算的工作,例如圖像處理、深度學習等。目前的超級電腦和人工智慧晶片,很多都採用類似的高效能運算設計,例如 Google TPU(Tensor Processing Unit),這是專門用在神經網路任務的處理器,晶片裡面有設計一塊 256*256 的矩陣乘法單元,就是脈動陣列架構。

TPU 裡面的矩陣乘法單元示意圖(脈動陣列),2017 年 Google 設計 256*256 的矩陣(圖中藍色大方塊),裡面有 65,536 個處理單元。紅色的控制單元負責協調資料流向,資料輸入後依序通過內部處理單元,計算結果會累加變成部分和(Partial Sums),最後再由底部的處理單元輸出結果。 圖|研之有物(資料來源|Google)

TPU 裡面的矩陣乘法單元示意圖(脈動陣列),2017 年 Google 設計 256*256 的矩陣(圖中藍色大方塊),裡面有 65,536 個處理單元。紅色的控制單元負責協調資料流向,資料輸入後依序通過內部處理單元,計算結果會累加變成部分和(Partial Sums),最後再由底部的處理單元輸出結果。 圖|研之有物(資料來源|Google)

不過要注意的是,脈動陣列適合執行有規則、重複性高的計算任務。雖然 TPU 結構相對要比 CPU 和 GPU 簡單,但是要讓處理單元有效率地協作,仍需要精心設計。

脈動陣列已經成為當前人工智慧硬體的核心運算架構之一。在 2023 年,美國電腦協會(Association for Computing Machinery, ACM)選出了 68 位對當代數位社會有重大貢獻的學者,並賦予會士(ACM Fellow)榮譽,孔祥重以電腦架構和平行運算的控制方法獲得表彰。此外,孔祥重也獲得 IEEE 分散式處理技術社群(TCDP)頒發的 2023 年傑出技術成就獎,表彰他在脈動陣列的開創貢獻。

隨著高效能運算能力的提升、大量的網路文字資料,以及深度學習演算法的發展之下,人工智慧領域在 2022 年 11 月出現突破性的進展——ChatGPT 誕生了,這種運用大型語言模型技術的生成式人工智慧,引爆了 AI 的浪潮。

生成式 AI 改變了人類生活

生成式 AI,是機器能夠自動創建有意義內容的人工智慧技術。例如,基於大型語言模型的對話 AI,使用者輸入文字描述,機器利用基本單位「詞符(Tokens)」,組合成有意義、有結構的句子來回覆。或是繪圖 AI,使用者輸入文字描述,機器利用基本單位「Image Patches」,組合成有意義、有結構的圖畫。

影|OpenAI 已經發表以文字生成影像的模型 Sora

孔院士說,當前的生成式 AI 不需要標籤化的數據就能學習,現採用例如自監督學習或強化式學習等方法。換句話說,人類有多少文章和知識,AI 就可以有多少訓練資料。有足夠的文本數據之後,生成式 AI 就能將文字轉換成向量,並不斷自我學習。你給它一個文字組合,它「算對」下一個向量,並以此「猜對」下一個字的機率也會愈來愈高,之後再生成通順的語句或文章。

至於生成式 AI 的下一步,孔院士認為最重要的就是,把訓練資料的質和量提高(訓練資料也包含本次訪談內容!)。他說目前人類放進 AI 的資料量可能還不到未來幾年後的千分之一,隨著訓練資料的增加,AI 的準確度和智力將顯著提高。

但是,要讓 AI 發揮功能,背後還需要大量的高效能計算機器。孔祥重認為這就是一場軍備競賽,只有一台機器快還不夠,需要上百上千台機器一起快速運作,才能訓練出優秀的 AI。

因此,未來 AI 的突破,將取決於誰能夠先累積更多高品質的數據,並設計及擁有更多更有效率的計算機器。這場資料與計算能力的競賽,將決定 AI 技術的發展方向和各國的 AI 競爭力。

最後,生成式 AI 的應用已經遍及各行各業, 包含教育產業、市場行銷、美術設計、醫療產業等,孔祥重更看重傳統產業的實質轉型。他以臺灣的工具機產業為例,加工時若刀具磨損沒有即時發現,後續製作的產品就會不精確。如果工廠可以訓練一個 AI,從機器本身具備的訊息,例如刀具振動頻率、刀具切削速度、或馬達電流量的改變等,在第一時間察覺問題,就可以在刀具壞掉之前自動警示(自動化),讓產品良率更高。

工具機刀具切削加工物的示意圖。要確認機械加工的刀具損耗程度,通常需要停機使用人工確認。如果可以透過 AI 來偵測刀具的磨損,有助於工廠自動化,減少耗材和提昇產品良率。 圖|研之有物

工具機刀具切削加工物的示意圖。要確認機械加工的刀具損耗程度,通常需要停機使用人工確認。如果可以透過 AI 來偵測刀具的磨損,有助於工廠自動化,減少耗材和提昇產品良率。 圖|研之有物

AI 時代的人才培養和教育

除了在產業界的應用,孔祥重也十分關注 AI 技術在教育領域的潛力,他投入大量心力推動臺灣的 AI 教育發展。他認為,生成式人工智慧能夠提供個人化學習體驗,將大幅改善學習效率和品質。AI 不僅能夠輔助教育,還能夠促進知識的普及和分享,讓更多人受益於 AI 技術的發展。

訪談中,孔祥重回憶起在清華大學的一場演講,提到 ChatGPT 對學生的幫助。首先是資訊檢索和摘要,學生可以直接獲得描述性的答案,比搜尋引擎更方便。再來是互動式探索,學生可以透過對話擴充自己資料檢索的能力和相關的關鍵字。第三是內容合成,學生可以快速生成內容來輔助思考。然而,學生在使用 AI 時,需要有軟體工具去找出適合的提示詞來完成複雜任務,避免反覆試錯,浪費大量時間。

孔祥重認為生成式 AI 可以大幅改善學生的學習效率和品質。 圖|研之有物

孔祥重認為生成式 AI 可以大幅改善學生的學習效率和品質。 圖|研之有物

孔祥重認為 ChatGPT 對學生的影響可以分為三種群體來討論:主動的高成就學生、普通表現的學生以及缺乏學習動機的低成就學生。高成就學生會有效運用 AI 提昇自己的技能,取得更大的成功。普通表現的學生會使用 AI 完成作業或報告,然而可能沒有學到解決問題的能力。低成就學生則缺乏學習的動力,包含 AI 或其他學科皆是,因此當其他人使用新的 AI 工具時,他們會進一步落後。

他認為,教育體制需要幫助並激勵中低成就的學生,同時允許高成就學生持續提升自我。孔院士提出三個可能的教育方向,第一是提供個人化輔導,讓普通表現的學生可以接觸到有足夠吸引力的學習項目。至於不想學習的學生,需要先幫助他們在某些學科取得進步,開發對知識的好奇心,生成式 AI 可以輔助這個過程。

第二是提供團隊和社群的支持,人在團隊中會互相鼓勵、克服困難,學習起來更加積極和有意義。例如,大學可以提供 24 小時開放的大型實驗性空間,讓不同背景學生聚在一起,聊天、吃吃披薩或是熬夜挑戰專案競賽等等,這就是生出創意的最佳地點。最後是創造可以激勵學生的各種機會,例如論文或程式競賽、實習機會、工作坊或是國際交流名額等等,基本上鼓勵學生深入研究他們感興趣的任何領域,跨領域更好。

此外,孔祥重也積極參與推動臺灣 AI 職能教育的發展,他認為培養新一代 AI 專業人才至關重要。臺灣目前的教育體系過度偏重理論,忽略了親自動手的能力培養,讓許多喜歡動手打造實物的學生進入不適合的學習環境。如何有效培養 AI 職能?孔祥重認為在各領域動手實踐的經驗最重要。

早在 ChatGPT 出現之前,在中研院廖俊智院長的號召下,孔祥重和資訊所陳昇瑋研究員(已故),於 2017 年創立了「臺灣人工智慧學校」,現已有上萬的學員參與,目的是幫各產業培訓人工智慧的人才,協助企業解決問題,這些人才可作為技術的種子,讓人工智慧技術實際運用到臺灣產業的各個層面,期望臺灣在 AI 世代更有競爭力。

孔祥重認為培養新一代 AI 專業人才至關重要。 圖|研之有物

孔祥重認為培養新一代 AI 專業人才至關重要。 圖|研之有物

把握 AI 的黃金時代

對於臺灣在 AI 浪潮中如何站穩腳步,孔祥重認為,臺灣需要自己的 AI 國家戰略,積極布局 AI 技術及運算能力,以確保臺灣人工智慧的發展。

他強調,臺灣擁有強大的製造業和優秀的工程師,這是臺灣的本地優勢。然而,孔祥重也提醒,目前臺灣在 AI 應用的發展速度較慢,政府需要妥善準備足夠的資源,包括資料的準備,並在教育上培養學生的創新思維和實踐能力。

此外,孔祥重期望產業界積極擁抱 AI 技術,加速傳統產業的升級。擁抱技術才能抓住機會,先理解基本原理之後,加上從實作取得的經驗心得,就能嘗試控制風險的負面影響。我們需要整個社會的共同努力,臺灣才能加緊趕上先進國家的步伐。

目前臺灣企業導入 AI 的比例為何?根據財團法人人工智慧科技基金會(AIF)「2023 臺灣產業 AI 化大調查」報告結果,整體來說臺灣已經有 54.2% 的企業開始導入 AI,但都是使用現成 AI 工具為主(例如 ChatGPT),這些企業中僅 30% 有使用 AI 來開發專案。基金會也發現,臺灣企業在 AI 風險掌握能力上明顯不足。

此外,AI 人才培訓情況則更為嚴峻,約 70% 的製造業、政府機關與其他產業沒有提供 AI 人才培訓資源;就連資通訊科技業,也有 42.6% 的比例未提供。該報告提到,AI 導入短期內不太能立即看到成果,企業必須先擁抱 AI 的缺陷和轉型的陣痛期,方能收穫成果,這點與孔祥重的觀點相符合。

最後,孔院士勉勵年輕一代要好好把握這次 AI 的時代機遇,積極投入 AI 領域。AI 幾乎涉入了生活的每個層面,他認為當前正是 AI 百花齊放的黃金時期,就像早年個人電腦的機會一樣。年輕人就該盡情發揮創造力和行動力,嘗試用 AI 來解決各行各業的問題。唯有如此,才能抓住這個歷史契機,一起見證並參與 AI 新時代!

本文轉載自中央研究院《研之有物》,為中研院廣告。

 

採訪撰文|簡克志
責任編輯|田偲妤
美術設計|蔡宛潔

DEC. 2024

2024年度精選影像

跟著國家地理攝影師回顧全年精采故事

2024年度精選影像

AD

熱門精選

AD

AD

Subscribe
立即訂閱
keyboard_arrow_up

AD

ad970250