輝達攜手中原大學AI應用發展中心 在臺首辦LLM工作坊

LLM Workshop登場，中原大學副校長洪穎怡（中）與NVIDIA四位解決方案架構師合影。（中原大學提供／蔡明亙桃園傳真）

輝達NVIDIA攜手中原大學舉辦「大型語言模型工作坊」，共同培育AI人才。（中原大學提供／蔡明亙桃園傳真）

因應全球AI科技發展趨勢與培育人才需求，中原大學與輝達NVIDIA於3月簽署合作備忘錄並宣佈成立NVIDIA-中原大學AI應用發展聯合服務中心，近日舉行首場大型活動「大型語言模型工作坊（Large Language Model, LLM）」，爲該中心與NVIDIA合作在臺灣初次辦理LLM工作坊，樹立國內AI人才培育的重要里程。

中原大學副校長洪穎怡指出，中原是繼臺大、清大及陽明交大後，全臺第4所與NVIDA合作AI University的大學，雙方將以研究、教學、產學3個面向進行產學合作，中原將使用NVIDIA最新人工智慧技術與資訊，提升AI教學及研究能量。這次工作坊是今年全臺第一場大型語言模型活動，共有20位教師、57位研究生參與，其中包括10位外籍學生，因此授課採中、英雙語並行。

校方說明，「NVIDIA LLM Workshop」大型語言模型工作坊由NVIDIA的4位解決方案架構師授課，介紹個人客制GPT大語言模型並連接到個人自己的內容，包含文件、筆記或其他數據。

NVIDIA架構師強調利用檢索增強生成技術（retrieval-augmented generation, RAG）加速，另外NVIDIA架構師也介紹NVIDIA NeMo，它是一個點對點建構客製化LLM的平臺，跟過去從頭開始訓練一個模型所需的數週或數個月相比，使用NeMo LLM可協助發展客製化模型，且只需幾分鐘到幾小時即可完成。

NVIDIA解決方案架構師以清晰易懂方式讓中原師生更深入瞭解生成式大型語言模型和檢索增強生成技術，以及如何結合這2項最新技術，跳過龐雜的訓練，也能產生更準確且豐富的回答。現場使用NVIDIA雲端計算資源，讓學員更深入瞭解生成式AI的最新技術與趨勢。

校方提到，大型語言模型是基於大量資料進行預訓練的超大型深度學習模型，基礎轉換器是一組神經網路，這些神經網路由具有自我專注功能的編碼器和解碼器組成，編碼器和解碼器從一系列文字中提取含義，並理解其中的字詞和片語之間的關係，大型語言模型非常靈活，一個模型可執行完全不同的任務，例如回答問題、總結文件、翻譯語言和完成語句，著名的ChatGPT就是利用基於這種技術研發而成的生成式AI。

NVIDIA-中原大學AI應用發展聯合服務中心未來將透過NVIDIA提供最新GPU架構和技術，以及有關NVIDIA高性能計算技術，應用於機器學習、醫療診斷、量子計算及大型語言模型等方面之研究。中原大學期待透過與NVIDIA的雙方合作，加速培養臺灣AI人才及帶動產業發展。