【生成式AI導論 2024】第4講：訓練不了人工智慧？你可以訓練你自己 (中)

【生成式AI導論 2024】第4講：訓練不了人工智慧？你可以訓練你自己 (中) - 拆解問題與使用工具

Рет қаралды 66,302

3 ай бұрын

投影片連結：drive.google.com/file/d/1eVC4...
語言模型如何學習使用工具：
• 【生成式AI】能夠使用工具的AI：New B...
用語言模型玩文字冒險遊戲：
• 【生成式AI】用 ChatGPT 和 Mid...
最後一部分有關語言模型合作的內容，要下週才會講到了

Пікірлер: 69

@HungyiLeeNTU 3 ай бұрын

因為本週我沒有講課，所以本週不會有錄影更新，下週課程更精采，敬請期待

@bwoyu 3 ай бұрын

老師我一定這周把芙莉蓮看完然後繼續追番

@super6704 3 ай бұрын

謝謝老師，期待老師下週精彩的課程

@susuky3832 2 ай бұрын

# 1. 不訓練模型就強化語言模型能力的方法 1. 使用神奇咒語（例如Chain of Thought） - 要求模型逐步解釋思考過程，有助於提高回答問題的正確性 - Chain of Thought的原理等同於把問題拆解成多個步驟 2. 提供額外知識 - 將相關背景資訊輸入給模型，增加模型擁有的知識量 # 2. 拆解複雜問題 1. 將大型任務拆解為較小、簡單的子任務 - 例如：撰寫長篇報告時，先列大綱、逐章節撰寫 - 模型較易完成每個子任務，從而解決整體問題 2. 在任務結尾加入自我檢查步驟 - 讓模型檢查自己的輸出是否正確 - 利用模型的自我反省能力修正錯誤 3. 對同一問題生成多個答案，取最常見者作為正確答案 (Self Consistency) # 3. 使用外部工具 1. 透過呼叫搜尋引擎獲取額外資訊 (Retrieval Augmented Generation, RAG) - 使用搜尋結果作為輸入，模型較易產生正確答案 2. 寫程式並執行程式 - 例如解聯立方程式，寫程式呼叫solver比直接文字接龍更準確 (Program of Thought) 3. 呼叫文字生成圖像AI (DALL-E) - 將模型的文字描述轉換為對應圖像 4. 使用GPT Plugin呼叫其他外部工具 - Plugin收集上千種工具，模型可選擇適合的工具使用 5. 操作流程：模型以特殊符號標記呼叫工具的開始與結束，中間輸出指令操控工具 # 4. 重點補充： - 本講次中模型參數皆未被訓練，模型能力透過上述技巧獲得強化 - GPT-4示範了更強的自我檢查及工具使用能力

@hankdonald7812 3 ай бұрын

在不训练语言模型的情况下，增强语言模型能力的方法： 00:36 方法一：拆解任务 07:23 方法二：自我反省 17:12 方法三：self consistency(同一个问题，不同答案) 24:59 方法四：使用额外工具 26:13 使用额外工具之搜索引擎（Retrieval Augmented Generation） 31:51 使用额外工具之写程序（Program of Thought） 36:00 使用额外工具之文字生图AI（DALL-E） 41:22 语言模型是怎么使用工具的（文字接龙）

@user-wb4gm9ji2u Ай бұрын

我是AnyTool的作者，看到老师放了我们paper的截图，非常开心！

@tommyyu2063 3 ай бұрын

半夜睡不著就該看這個

@mishavouse1840 3 ай бұрын

看这个，会慢慢睡着嘛？我也睡不着

@Frankium Ай бұрын

半夜睡不著看這個，結果越開越精神

@yinchuliu6914 3 ай бұрын

本季必追之深夜番!!

@simonpeter9617 3 ай бұрын

老师太勤奋， Claude3都跟新了

@e49134030ee 3 ай бұрын

感謝老師的分享，讓我們使用語言模型同時也了解後面的運作原理

@RON-Lin 3 ай бұрын

看完教學，好想知道作業三是什麼！

@theaqu8660 3 ай бұрын

1.CoT,CoT-SC,tree of thought (ToT),algorithm of thought,graph of thought … 2.tools/agent . RAG(web search,your own database),program of thought (PoT),text to image (DALL-E…),gpt plugin. [Function of tools]

@user-grkjehejiebsksj 3 ай бұрын

深夜的課堂最棒

@ninetydirectory3798 3 ай бұрын

各位深夜的同學大家好啊

@huangmel8975 3 ай бұрын

拉椅子坐好

@9834038 3 ай бұрын

愛您

@jerryfoxcp9 3 ай бұрын

太爽了~幸好我都超晚睡的~

@huangcedric1959 3 ай бұрын

謝謝老師

@haochechang279 3 ай бұрын

感謝老師

@CornuDev 3 ай бұрын

感謝分享

@hudsonvan4322 3 ай бұрын

跟我想的一樣，一定是拆解會比較順利，結果主管不相信我😂

@xaviertsai4063 3 ай бұрын

上課啦～

@shihminlo6097 3 ай бұрын

還是當初的少年，沒有一絲絲改變^^

@andyliu2435 3 ай бұрын

它還是當初那個少年,沒有自我反省,哈哈

@user-ps4vm5rr9f 3 ай бұрын

沙发

@UboyLin 3 ай бұрын

聽到 24:33 時我的腦中開始出現旋律： 'O Sole Mio

@akira19890720 3 ай бұрын

好好學AI，以後死前可以看AI幫我生出獵人的結局。

@user-mv9ul9tz1c 3 ай бұрын

謝謝老師提供的遊戲 prompt 請開始一個文字冒險遊戲。由你來描述遊戲場景，由玩家來決定要採取的動作，每次你描述完的場景之後,請根據你的描述產生一張圖。請詳細描述場景中所有的物品、生物，如果場景中的人物在對話或跟主角對話,請把對話內容完整輸出來，如果主角和場景中的任何生物互動，請把互動過程詳細描述出來，不要出現重複的場景或對話，故事要曲折離奇、高潮迭起。現在遊戲開始。

@haoweishih4967 3 ай бұрын

我好快樂

@willy7703 3 ай бұрын

15:58 這個哽應該是夢然-少年很好奇大學生真的知道嗎 😂

@lw2519 3 ай бұрын

笑死我了

@gikk-fx5zd 2 ай бұрын

在同一个对话框再次提问同一个问题，模型是会纠正答案的，上下文会有影响

@shaoe 2 ай бұрын

教授偷渡夢然的少年...他還是當年的那個少年沒有一絲絲改變，但是，反省這個行為，如果是同一個對話的情況下，理論上模型考量到整個上下文，再次的詢問應該是會有不一樣的回應，實測claude也確實是如此。 1. 請模型說說台大的玫瑰花節 2. 請模型確認回應是否正確 3. 模型回應它知道它自己唬爛了 4. 請模型說說台大的玫瑰花節 5. 模型回應台大沒有玫瑰花節以上。所以，在下得到一個粗淺的結論是，同一個對話上下文的情況下，模型的回應因為考量其上下文而記憶其反省，但換一個對話之後確實就會再次的唬爛。

@user-mv9ul9tz1c 3 ай бұрын

謝謝老師的教學請問3.29的RAG課程也會有影片嗎謝謝

@rujixie9025 3 ай бұрын

老师以后可以把3/29 Nvidia讲RAG的视频也放出来吗？

@hudsonvan4322 3 ай бұрын

我也想聽

@sxyang8135 Күн бұрын

好想听

@user-yn6tq5hb3w 3 ай бұрын

老師好，請問您也可以把作業的部分放上來嗎？讓我們也可以一起練習，非常感謝。

@willy7703 3 ай бұрын

老師官網有大家都可以找得到XD

@user-yn6tq5hb3w 3 ай бұрын

@@willy7703 謝謝

@user-jm5vi5kw9p 3 ай бұрын

请问下，老师的官网在哪里？@@willy7703

@otis9300 2 ай бұрын

不訓練模型的情況下，強化語言模型的方法：方法三：拆解任務方法四：使用工具 -------------------------------------------- 00:37 3.1 拆解任務 07:24 3.2 語言模型檢查自己的錯誤 14:25 3.3 考考大家的觀念 17:12 3.4 為什麼同一個問題，每次答案都不同？(Self-Consistency) 22:02 3.5 組合拳 Tree of Thoughts (ToT) -------------------------------------------- 24:51 4.0 使用工具 26:14 4.1 使用工具-搜尋引擎 Retrieval Augmented Generation (RAG) 31:52 4.2 使用工具-寫程式 Program of Thought (PoT) 36:00 4.3 使用工具-文字生圖 AI(DALL-E) 40:42 4.4 使用工具-GPT Plug-in 41:23 4.5 語言模型如何使用工具？ 46:35 4.6 使用工具-組合拳