課程簡介
理解大型語言模型的基本原理。
學習如何有效地提示、微調和部署LLM。
培養(yǎng)使用LLM進行各種實際應用的技能。
了解與LLM相關的倫理考量和潛在風險。
獲得使用流行LLM平臺和工具的實踐經驗
目標收益
培訓對象
開發(fā)者、數(shù)據(jù)科學家、商業(yè)分析師、產品經理，以及所有對利用LLM感興趣的人。
課程大綱
| 模塊 1：大型語言模型（LLM）簡介 |
什么是大型語言模型？定義、特征和歷史。 自然語言處理的演變：從基于規(guī)則的系統(tǒng)到深度學習。 關鍵概念：Transformer、注意力機制、嵌入和語言建模。 流行的LLM架構：BERT、GPT、T5等。 用例和應用：內容創(chuàng)作、聊天機器人、代碼生成、翻譯、摘要等。 LLM生態(tài)：概述可用的模型（OpenAI、Google、Meta等）及其能力。 |
| 模塊 2：設置您的LLM環(huán)境 |
訪問LLM：API、云平臺和開源選項。 LLM的Python庫：Transformers、Langchain、Hugging Face。 設置開發(fā)環(huán)境：本地機器、云實例或協(xié)作平臺。 API密鑰和身份驗證：安全最佳實踐。 成本考慮：定價模式、令牌限制和優(yōu)化策略。 動手實踐：設置基本的Python環(huán)境并訪問LLM API。 |
| 模塊 3：提示工程：充分利用LLM |
什么是提示工程？定義和重要性。 基本提示技巧：輸入結構、上下文設置和溫度控制。 高級提示技巧：少量樣本學習、鏈式思考提示和自我一致性。 提示優(yōu)化：迭代改進、A/B測試和提示庫。 針對特定任務的提示設計：摘要、翻譯、問答、代碼生成。 提示注入和安全：理解并減輕提示注入攻擊。 動手實踐：設計用于各種任務的提示并評估其性能。 |
| 模塊 4：微調LLM以用于特定任務 |
什么是微調？將預訓練模型調整到特定的數(shù)據(jù)集和任務。 何時進行微調：微調有益的場景。 準備用于微調的數(shù)據(jù)：數(shù)據(jù)清理、格式化和增強。 微調技巧：完全微調、參數(shù)高效微調（LoRA、適配器）。 評估微調模型：指標、驗證集和偏差檢測。 用于微調的工具和平臺：Hugging Face Trainer、基于云的微調服務。 動手實踐：在示例數(shù)據(jù)集上微調小型LLM。 |
| 模塊 5：構建基于LLM的應用程序 |
應用程序設計原則：用戶體驗、可擴展性和可維護性。 將LLM集成到現(xiàn)有系統(tǒng)中：API、webhook和微服務。 構建聊天機器人和對話式AI：對話管理、意圖識別和響應生成。 內容創(chuàng)建和自動化：生成文章、營銷文案和代碼。 知識管理和信息檢索：構建基于LLM的搜索和問答系統(tǒng)。 動手實踐：使用LLM API和對話管理框架構建一個簡單的聊天機器人。 |
| 模塊 6：部署和擴展LLM應用程序 |
部署選項：云平臺、無服務器函數(shù)和邊緣設備。 擴展LLM推理：負載均衡、緩存和模型優(yōu)化。 監(jiān)控和日志記錄：跟蹤性能、識別錯誤并確保可靠性。 安全注意事項：保護LLM免受攻擊并確保數(shù)據(jù)隱私。 成本管理：優(yōu)化資源利用率并最大限度地減少開支。 動手實踐：將簡單的LLM應用程序部署到云平臺。 |
| 模塊 7：倫理考量與負責任的AI |
LLM中的偏見：理解LLM中偏見的來源和影響。 公平性和平等：減輕偏見并促進LLM應用程序的公平性。 隱私和數(shù)據(jù)安全：保護敏感數(shù)據(jù)并遵守隱私法規(guī)。 透明度和可解釋性：使LLM更透明和易于理解。 虛假信息和惡意使用：解決LLM可能被用于惡意目的的潛在問題。 負責任的AI框架和指南：遵守倫理原則和最佳實踐。 動手實踐：使用示例數(shù)據(jù)集識別和減輕LLM中的偏見。 |
| 模塊 8：高級主題和未來趨勢 |
多模態(tài)LLM：將文本與圖像、音頻和視頻集成。 LLM的強化學習：通過強化學習訓練LLM來執(zhí)行復雜的任務。 LLM的聯(lián)邦學習：在保護隱私的同時在分散數(shù)據(jù)上訓練LLM。 新興LLM架構：探索新的創(chuàng)新LLM架構。 LLM的未來：LLM演變的趨勢和預測。 開放討論：問答、頭腦風暴和分享未來項目的想法。 |
| 動手實踐和項目： |
在整個課程中，參與者將參與大量的動手實踐和項目，包括： 設置LLM開發(fā)環(huán)境。 設計和評估用于各種任務的提示。 在示例數(shù)據(jù)集上微調小型LLM。 構建一個簡單的聊天機器人。 將LLM應用程序部署到云平臺。 識別和減輕LLM中的偏見。 |
| 工具和技術： |
Python Transformers庫 Langchain Hugging Face Hub OpenAI API Google Cloud AI Platform AWS SageMaker Kubernetes（可選） |
| 定制選項： |
行業(yè)特定重點： 針對特定行業(yè)（例如金融、醫(yī)療保健、零售）定制案例研究和示例。 技能水平調整： 根據(jù)受眾的技能水平調整內容和練習的復雜性。 模塊化交付： 將課程分解為更小、獨立的模塊，可以單獨學習。 在線/面對面混合： 將在線講座與面對面的研討會和實踐課程相結合。 |
|
模塊 1：大型語言模型（LLM）簡介 什么是大型語言模型？定義、特征和歷史。 自然語言處理的演變：從基于規(guī)則的系統(tǒng)到深度學習。 關鍵概念：Transformer、注意力機制、嵌入和語言建模。 流行的LLM架構：BERT、GPT、T5等。 用例和應用：內容創(chuàng)作、聊天機器人、代碼生成、翻譯、摘要等。 LLM生態(tài)：概述可用的模型（OpenAI、Google、Meta等）及其能力。 |
|
模塊 2：設置您的LLM環(huán)境 訪問LLM：API、云平臺和開源選項。 LLM的Python庫：Transformers、Langchain、Hugging Face。 設置開發(fā)環(huán)境：本地機器、云實例或協(xié)作平臺。 API密鑰和身份驗證：安全最佳實踐。 成本考慮：定價模式、令牌限制和優(yōu)化策略。 動手實踐：設置基本的Python環(huán)境并訪問LLM API。 |
|
模塊 3：提示工程：充分利用LLM 什么是提示工程？定義和重要性。 基本提示技巧：輸入結構、上下文設置和溫度控制。 高級提示技巧：少量樣本學習、鏈式思考提示和自我一致性。 提示優(yōu)化：迭代改進、A/B測試和提示庫。 針對特定任務的提示設計：摘要、翻譯、問答、代碼生成。 提示注入和安全：理解并減輕提示注入攻擊。 動手實踐：設計用于各種任務的提示并評估其性能。 |
|
模塊 4：微調LLM以用于特定任務 什么是微調？將預訓練模型調整到特定的數(shù)據(jù)集和任務。 何時進行微調：微調有益的場景。 準備用于微調的數(shù)據(jù)：數(shù)據(jù)清理、格式化和增強。 微調技巧：完全微調、參數(shù)高效微調（LoRA、適配器）。 評估微調模型：指標、驗證集和偏差檢測。 用于微調的工具和平臺：Hugging Face Trainer、基于云的微調服務。 動手實踐：在示例數(shù)據(jù)集上微調小型LLM。 |
|
模塊 5：構建基于LLM的應用程序 應用程序設計原則：用戶體驗、可擴展性和可維護性。 將LLM集成到現(xiàn)有系統(tǒng)中：API、webhook和微服務。 構建聊天機器人和對話式AI：對話管理、意圖識別和響應生成。 內容創(chuàng)建和自動化：生成文章、營銷文案和代碼。 知識管理和信息檢索：構建基于LLM的搜索和問答系統(tǒng)。 動手實踐：使用LLM API和對話管理框架構建一個簡單的聊天機器人。 |
|
模塊 6：部署和擴展LLM應用程序 部署選項：云平臺、無服務器函數(shù)和邊緣設備。 擴展LLM推理：負載均衡、緩存和模型優(yōu)化。 監(jiān)控和日志記錄：跟蹤性能、識別錯誤并確?？煽啃?。 安全注意事項：保護LLM免受攻擊并確保數(shù)據(jù)隱私。 成本管理：優(yōu)化資源利用率并最大限度地減少開支。 動手實踐：將簡單的LLM應用程序部署到云平臺。 |
|
模塊 7：倫理考量與負責任的AI LLM中的偏見：理解LLM中偏見的來源和影響。 公平性和平等：減輕偏見并促進LLM應用程序的公平性。 隱私和數(shù)據(jù)安全：保護敏感數(shù)據(jù)并遵守隱私法規(guī)。 透明度和可解釋性：使LLM更透明和易于理解。 虛假信息和惡意使用：解決LLM可能被用于惡意目的的潛在問題。 負責任的AI框架和指南：遵守倫理原則和最佳實踐。 動手實踐：使用示例數(shù)據(jù)集識別和減輕LLM中的偏見。 |
|
模塊 8：高級主題和未來趨勢 多模態(tài)LLM：將文本與圖像、音頻和視頻集成。 LLM的強化學習：通過強化學習訓練LLM來執(zhí)行復雜的任務。 LLM的聯(lián)邦學習：在保護隱私的同時在分散數(shù)據(jù)上訓練LLM。 新興LLM架構：探索新的創(chuàng)新LLM架構。 LLM的未來：LLM演變的趨勢和預測。 開放討論：問答、頭腦風暴和分享未來項目的想法。 |
|
動手實踐和項目： 在整個課程中，參與者將參與大量的動手實踐和項目，包括： 設置LLM開發(fā)環(huán)境。 設計和評估用于各種任務的提示。 在示例數(shù)據(jù)集上微調小型LLM。 構建一個簡單的聊天機器人。 將LLM應用程序部署到云平臺。 識別和減輕LLM中的偏見。 |
|
工具和技術： Python Transformers庫 Langchain Hugging Face Hub OpenAI API Google Cloud AI Platform AWS SageMaker Kubernetes（可選） |
|
定制選項： 行業(yè)特定重點： 針對特定行業(yè)（例如金融、醫(yī)療保健、零售）定制案例研究和示例。 技能水平調整： 根據(jù)受眾的技能水平調整內容和練習的復雜性。 模塊化交付： 將課程分解為更小、獨立的模塊，可以單獨學習。 在線/面對面混合： 將在線講座與面對面的研討會和實踐課程相結合。 |
近期公開課推薦
