打造你的專屬 AI：LLM 本地部署實戰課 ‹New›

點選上方日期即可報名及查閱課程費用

課程說明

這門課程專為希望在本地端部署大型語言模型（LLM）的企業和開發者設計，特別適合關注資料安全與隱私的應用場景。

課程特色

✅ 資料安全：完全離線運行，確保機密資訊不外流。

✅ 實作導向：提供詳細步驟，讓學員能迅速應用於實際業務。

✅ 客製化彈性：針對不同產業需求，提供最佳模型調整建議。

這門課程將幫助你快速掌握 LLM 本地部署與應用，打造高效、安全、可控的 AI 解決方案！

***本課程提供實體上課與遠距同步教學兩種方式，請於報名時選擇適合您的上課方式。遠距課程將使用Microsoft Teams平台，開課前會提供視訊連結。為尊重智慧財產權，課堂中請勿錄音或錄影。***

【特別提醒】

若申請政府補助，建議選擇實體上課，以符合相關規定。

課程效益

幫助企業與開發者掌握 本地端 LLM（大型語言模型）部署與應用技術，讓 AI 運行不再依賴雲端，確保資料安全與系統自主性。

學員將學會：

✅選擇適合的開源 LLM（如 Llama、Mistral、Breeze），了解其特性與應用場景。

✅搭建本地 LLM 環境，包括模型下載、管理與系統資源優化。

✅運用 RAG 技術，提升 AI 在文件檢索與問答系統中的準確度。

✅建置個人化 AI 助手，透過 LM Studio 和 AnythingLLM 打造專屬知識庫。

✅進行模型微調（Fine-tuning），讓 AI 符合企業需求，提高回應品質。

完成本課程後，學員將能 獨立部署與優化本地 LLM，並打造符合企業需求的 AI 解決方案！瞭解實務導向不同類型減排目標、課題及對應作法

課程大綱

一、基礎模型介紹

認識主流開源 LLM，如 Llama、Mistral 和 Breeze，了解它們的效能比較與適用場景。

二、本地部署實作

1.Ollama 環境建置：從安裝到設定，一步步帶你完成本地 LLM 環境搭建。

2.模型下載與管理：如何選擇合適的模型，並有效管理與更新。

3.系統資源優化：提升運行效能，確保模型穩定運行。

三、進階應用技術

1.RAG（檢索增強生成）技術：提升模型回答準確度的核心技術。

2.文件檢索與問答系統：建構能夠快速查找企業內部文件的 AI 助手。

3.Page Assist 瀏覽器擴充：將 LLM 整合到瀏覽器，提高資訊檢索與應用效率。

四、個人化 AI 工具

1.LM Studio 本地運行環境：輕鬆搭建個人或企業級 AI 運行環境。

2.AnythingLLM 私人知識庫：建立專屬 AI 助手，讓模型學習你的專屬知識。

3.資料安全與效能優化：確保 AI 應用既安全又高效。

五、客製化訓練

1.Fine-tuning 基礎：了解模型微調概念，讓 AI 更貼近你的需求。

2.實務操作：手把手帶你完成模型調校。

3.企業專屬訓練流程：打造符合特定產業需求的 AI 解決方案

教學方式

(實體上課與視訊同步，報名時請選擇上課方式)
中國生產力中心 承德教育訓練中心

台北市承德路二段81號B1

(捷運淡水線"雙連站" / 1號出口左轉)

(當天上課地點，請依報名後通知地點為準)

📌線上視訊教學注意事項

1.此課程將採遠距進行，為保持課程連線順暢，請自行安排有網路的安靜環境並保持網路暢通。

2.請自備電腦/筆電、麥克風、喇叭、鏡頭(無鏡頭者請使用手機替代)
3.本次採用 Microsoft Teams 軟體進行線上視訊教學， 若不熟悉者請於上課前務必完成線上環境測試。

4.進入線上教室時，請務必使用中文全名加入，以利辨識，維護上課權益。

5.課程進行中請先關閉麥克風，如需發問再請開啟，以維護其他學員之權利。

6.發票、受訓證明將於課後一併郵寄。

👉請尊重智慧財產權，課堂中請勿錄音、錄影👈

繳費方式

1.劃撥：帳號：0012734-1，戶名：財團法人中國生產力中心 請於劃撥單備註欄上註明課程名稱

2.銀行匯款：戶名：財團法人中國生產力中心；帳號：055-20-80000-1 收款銀行：兆豐國際商業銀行松山機場分行，總行代號017 【匯費敬請自行負擔】

3.國外匯款：SWIFT：ICBCTWTP055請註名課程名稱並將存單收據傳真確認

連絡人

陳雅鈴 小姐

TEL：02-2555-5525 #02800

FAX：02-2555-6958

E-mail：02800@cpc.org.tw

注意事項

1.課程開班人數：10人。

2.如遇不可抗力之因素，本中心保留課程之更改權力。

3.開課前三天將mail上課通知 ，若未收到任何通知敬請來電確認。

4.本中心為"經濟部終身學習護照訓練機構核章單位"