戰(zhàn)指南)
個(gè)人主頁(yè)Cx330??個(gè)人專(zhuān)欄《C語(yǔ)言》《LeetCode刷題集》《數(shù)據(jù)結(jié)構(gòu)-初階》《C知識(shí)分享》《優(yōu)選算法指南-必刷經(jīng)典100題》《Linux操作系統(tǒng)》:從入門(mén)到入魔《Git深度解析》:版本管理實(shí)戰(zhàn)全解 《Qt 極境架構(gòu)》MySQL 核心技術(shù)與實(shí)戰(zhàn)心向往之行必能Cx330的簡(jiǎn)介目錄前言一、 從傳統(tǒng)數(shù)學(xué)函數(shù)到“超級(jí)加工廠”徹底搞懂什么是模型1.1 模型的本質(zhì)從數(shù)據(jù)中學(xué)習(xí)規(guī)律的數(shù)學(xué)函數(shù)1.2 傳統(tǒng)小模型的三個(gè)關(guān)鍵特點(diǎn)二、 深度拆解大語(yǔ)言模型LLM從“自動(dòng)補(bǔ)全”到“認(rèn)知涌現(xiàn)”2.1 什么是大語(yǔ)言模型1神經(jīng)網(wǎng)絡(luò)模仿人腦的復(fù)雜決策流水線2自監(jiān)督學(xué)習(xí)“完形填空” 超級(jí)大師3半監(jiān)督學(xué)習(xí)“師父領(lǐng)進(jìn)門(mén)修行在個(gè)人”4語(yǔ)言模型“超級(jí)自動(dòng)補(bǔ)全系統(tǒng)”2.2 LLM 的四大核心能力維度2.3 主流 LLM 與演進(jìn)脈絡(luò)主流大模型代表技術(shù)演進(jìn)時(shí)間線2017 - 2026三、LLM 的四大核心能力重新定義人機(jī)交互3.1 語(yǔ)言大師自然語(yǔ)言理解與創(chuàng)造的革命3.2 知識(shí)巨人可對(duì)話的全互聯(lián)網(wǎng)知識(shí)庫(kù)3.3 邏輯與代碼巫師從思維到實(shí)現(xiàn)的跨越3.4 多模態(tài)先知開(kāi)啟 “全感知” AI 時(shí)代四、 提示詞工程Prompt Engineering釋放 LLM 潛能的魔法4.1 CO-STAR 結(jié)構(gòu)化框架4.2 少樣本提示用示例教會(huì) LLM 你的需求4.3 思維鏈提示CoT讓模型學(xué)會(huì) “思考”4.4 零樣本思維鏈一句魔法短語(yǔ)提升推理準(zhǔn)確率4.5 自我批判與迭代讓模型自己優(yōu)化輸出五、 LLM 的原生接入方式與生產(chǎn)落地方案5.1 API 遠(yuǎn)程調(diào)用最主流便捷的接入方式5.2 SDK 接入API 調(diào)用的封裝與簡(jiǎn)化5.3 開(kāi)源模型本地部署私有化 LLM 能力的最佳方案5.4 原生接入的瓶頸與 LangChain 的誕生六、 語(yǔ)義世界的橋梁嵌入模型Embedding Model與向量化6.1 嵌入模型的本質(zhì)把人類(lèi)語(yǔ)言翻譯成計(jì)算機(jī)的數(shù)學(xué)語(yǔ)言6.3 嵌入模型的四大核心應(yīng)用場(chǎng)景1語(yǔ)義搜索2檢索增強(qiáng)生成RAG3推薦系統(tǒng)4異常檢測(cè)6.4 嵌入模型接入實(shí)戰(zhàn)七、LangChain連接 LLM 與業(yè)務(wù)應(yīng)用的核心橋梁結(jié)語(yǔ)前言近兩年來(lái)以 ChatGPT、DeepSeek 為代表的大語(yǔ)言模型LLM掀起了新一輪的技術(shù)革命。作為一名傳統(tǒng) C/后端開(kāi)發(fā)者面對(duì) AI 浪潮的席卷我們不僅要學(xué)會(huì)“如何使用 AI 工具”更需要從底層原理上理解大模型是如何學(xué)習(xí)與推理的以及如何在工程中高效接入與掌控大模型。本文將立足于工程實(shí)踐與底層邏輯結(jié)合圖解與代碼示例帶大家從零建立完整的大模型知識(shí)體系一、 從傳統(tǒng)數(shù)學(xué)函數(shù)到“超級(jí)加工廠”徹底搞懂什么是模型在深入 LLM 之前我們首先需要回歸 AI 的本質(zhì)什么是模型Model1.1 模型的本質(zhì)從數(shù)據(jù)中學(xué)習(xí)規(guī)律的數(shù)學(xué)函數(shù)在計(jì)算機(jī)科學(xué)中模型本質(zhì)上就是一個(gè)通過(guò)數(shù)據(jù)訓(xùn)練得出的復(fù)雜數(shù)學(xué)函數(shù)f(x)或者說(shuō)是一套經(jīng)過(guò)特殊訓(xùn)練后掌握的“程序規(guī)則”。模型的學(xué)習(xí)與推理過(guò)程可概括為[原始數(shù)據(jù)] ── [預(yù)處理] ── 數(shù)據(jù)輸入 x ── 迭代優(yōu)化 [ f(x) ] ── 預(yù)測(cè)結(jié)果 / 生成內(nèi)容 y我們可以將模型想象成一個(gè)“超級(jí)加工廠”訓(xùn)練階段訓(xùn)練師給工廠展示海量的輸入與輸出范例數(shù)據(jù)工廠通過(guò)迭代優(yōu)化調(diào)整內(nèi)部參數(shù)摸索出輸入與輸出之間的內(nèi)在數(shù)學(xué)規(guī)律。預(yù)測(cè)階段輸入未見(jiàn)過(guò)的數(shù)據(jù) x工廠根據(jù)學(xué)到的規(guī)律計(jì)算出相應(yīng)的輸出 y。最簡(jiǎn)單的推導(dǎo)比喻范例 1輸入 [1, 2, 3] 輸出 2范例 2輸入 [5, 10, 15] 輸出 10總結(jié)規(guī)律輸出始終為輸入序列的中間數(shù)值。推理應(yīng)用當(dāng)再次輸入 [8, 9, 10] 時(shí)模型就能準(zhǔn)確預(yù)測(cè)出輸出為 9。1.2 傳統(tǒng)小模型的三個(gè)關(guān)鍵特點(diǎn)在 LLM 出現(xiàn)之前傳統(tǒng)機(jī)器學(xué)習(xí)/深度學(xué)習(xí)模型通常具備以下特點(diǎn)單一特定任務(wù)Task-Specific一個(gè)模型往往只做一件事如專(zhuān)門(mén)識(shí)別圖片中是否有貓、專(zhuān)門(mén)預(yù)測(cè)天氣變化、或?qū)ｉT(mén)做評(píng)論的情感分類(lèi)。高度依賴(lài)強(qiáng)標(biāo)注數(shù)據(jù)Labeled Data訓(xùn)練需要海量的“標(biāo)準(zhǔn)答案”如成千上萬(wàn)張人工標(biāo)注了“貓/非貓”的圖片。參數(shù)量小Small Parameter Size模型的內(nèi)部“知識(shí)要點(diǎn)”參數(shù)規(guī)模相對(duì)較小模型的復(fù)雜度和表達(dá)能力有限。二、 深度拆解大語(yǔ)言模型LLM從“自動(dòng)補(bǔ)全”到“認(rèn)知涌現(xiàn)”2.1 什么是大語(yǔ)言模型大語(yǔ)言模型Large Language Model, LLM是指基于大規(guī)模神經(jīng)網(wǎng)絡(luò)參數(shù)規(guī)模通常達(dá)數(shù)十億至萬(wàn)億級(jí)別例如 GPT-3 包含了 1750 億個(gè)參數(shù)通過(guò)自監(jiān)督或半監(jiān)督方式在海量無(wú)標(biāo)注文本上訓(xùn)練而成的語(yǔ)言模型。為徹底理解 LLM我們需要拆解四個(gè)核心概念┌── 1. 神經(jīng)網(wǎng)絡(luò)復(fù)雜的條件反射流水線 ├── 2. 自監(jiān)督學(xué)習(xí)海量“完形填空”自學(xué) 大語(yǔ)言模型LLM核心四大基石 ┼── 3. 半監(jiān)督學(xué)習(xí)少量名師指導(dǎo) 海量自學(xué) └── 4. 語(yǔ)言模型計(jì)算“接下來(lái)最可能說(shuō)什么”1神經(jīng)網(wǎng)絡(luò)模仿人腦的復(fù)雜決策流水線神經(jīng)網(wǎng)絡(luò)可以理解為一個(gè)極其高效的團(tuán)隊(duì)工作流程或條件反射鏈它完全模仿人腦神經(jīng)元的工作模式就像教小朋友識(shí)別貓我們不會(huì)只給一條 “有胡子就是貓” 的規(guī)則而是讓他看海量貓的圖片大腦里的神經(jīng)元會(huì)分工協(xié)作有的識(shí)別尖耳朵、有的識(shí)別胡須、有的識(shí)別毛茸茸的尾巴最終綜合所有信息判斷 “這是貓”。神經(jīng)網(wǎng)絡(luò)就是由大量虛擬 “神經(jīng)元”即參數(shù)和連接組成的多層結(jié)構(gòu)前一層的輸出作為后一層的輸入。通過(guò)海量數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)會(huì)自主調(diào)整每個(gè)神經(jīng)元的權(quán)重參數(shù)值最終形成一套復(fù)雜的決策系統(tǒng)。參數(shù)就是 LLM 的 “腦細(xì)胞”參數(shù)規(guī)模越大模型的思考復(fù)雜度和全面性就越強(qiáng)。2自監(jiān)督學(xué)習(xí)“完形填空” 超級(jí)大師自監(jiān)督學(xué)習(xí)是 LLM 最核心的訓(xùn)練方式本質(zhì)上是讓模型自己給自己當(dāng)老師從無(wú)標(biāo)注的原始文本中自主學(xué)習(xí)規(guī)律。我們可以用學(xué)外語(yǔ)的場(chǎng)景類(lèi)比沒(méi)有老師出題和批改我們就拿一本外語(yǔ)小說(shuō)玩 “完形填空”隨機(jī)蓋住一個(gè)詞根據(jù)上下文猜測(cè)這個(gè)詞是什么。經(jīng)過(guò)億萬(wàn)次練習(xí)我們就能徹底掌握這門(mén)語(yǔ)言的語(yǔ)法、詞匯搭配和上下文邏輯。LLM 的自監(jiān)督學(xué)習(xí)正是這個(gè)過(guò)程面對(duì)互聯(lián)網(wǎng)上海量的無(wú)標(biāo)注文本它隨機(jī)遮住一句話中的某個(gè)詞嘗試根據(jù)上下文預(yù)測(cè)被遮住的內(nèi)容。通過(guò)這種方式它無(wú)需人工標(biāo)注就能高效學(xué)習(xí)到整個(gè)語(yǔ)言世界的底層規(guī)律。3半監(jiān)督學(xué)習(xí)“師父領(lǐng)進(jìn)門(mén)修行在個(gè)人”半監(jiān)督學(xué)習(xí)是自監(jiān)督學(xué)習(xí)的補(bǔ)充核心是少量標(biāo)注數(shù)據(jù)入門(mén) 海量無(wú)標(biāo)注數(shù)據(jù)自學(xué)的結(jié)合模式。就像學(xué)做菜師傅先教你幾道招牌菜少量帶標(biāo)注的數(shù)據(jù)讓你掌握基本功再讓你嘗遍天下美食自己研究其中的門(mén)道海量無(wú)標(biāo)注數(shù)據(jù)最終你不僅能復(fù)刻招牌菜還能創(chuàng)新出新菜式。這種方式能讓模型在有限的標(biāo)注數(shù)據(jù)下快速提升通用能力。4語(yǔ)言模型“超級(jí)自動(dòng)補(bǔ)全系統(tǒng)”語(yǔ)言模型的核心本質(zhì)是一個(gè)語(yǔ)言預(yù)測(cè)器它的核心任務(wù)就是 “根據(jù)前文預(yù)測(cè)下一個(gè)最合理的詞”。我們手機(jī)輸入法的聯(lián)想功能就是一個(gè)微型語(yǔ)言模型輸入 “今天天氣真”它會(huì)自動(dòng)提示 “好”“冷”“不錯(cuò)” 等后續(xù)詞匯。而強(qiáng)大的 LLM能通過(guò)逐詞預(yù)測(cè)生成一整段通順的話、一篇完整的文章甚至是復(fù)雜的代碼。基于以上核心概念我們可以把 LLM 翻譯成大白話它是用大規(guī)模神經(jīng)網(wǎng)絡(luò)搭建的、擁有數(shù)百億甚至上萬(wàn)億參數(shù)的超級(jí)自動(dòng)補(bǔ)全系統(tǒng)通過(guò)海量完形填空式的自監(jiān)督學(xué)習(xí)從互聯(lián)網(wǎng)全量文本中學(xué)會(huì)了語(yǔ)言的底層規(guī)律最終具備了跨任務(wù)的通用能力。2.2 LLM 的四大核心能力維度LLM 的能力早已突破了簡(jiǎn)單的“關(guān)鍵詞匹配”展現(xiàn)出驚人的“通用認(rèn)知涌現(xiàn)”能力維度核心本質(zhì)代表場(chǎng)景1. 語(yǔ)言大師深度理解上下文、情感與潛訂邏輯高質(zhì)量創(chuàng)作撰寫(xiě)論文引言、自動(dòng)生成禮貌且堅(jiān)決的投訴郵件2. 知識(shí)巨人壓縮并可交互的“全互聯(lián)網(wǎng)知識(shí)庫(kù)”結(jié)合角動(dòng)量守恒解釋“貓翻正反射”對(duì)比古希臘哲學(xué)與春秋戰(zhàn)國(guó)百家爭(zhēng)鳴3. 邏輯與代碼巫師跨越文本界限理解嚴(yán)格邏輯與編程語(yǔ)法自動(dòng)編寫(xiě) Python 爬蟲(chóng)腳本求解復(fù)雜微分方程4. 多模態(tài)先知連接視覺(jué)、聽(tīng)覺(jué)與文本實(shí)現(xiàn)全感知交互根據(jù)父母照片預(yù)測(cè) AI 嬰兒形態(tài)基于描述生成 3D 人偶與 Blender 渲染場(chǎng)景2.3 主流 LLM 與演進(jìn)脈絡(luò)主流大模型代表GPT-5 (OpenAI)支持 400k 上下文窗口128k 最大輸出 Token復(fù)雜多輪推理與創(chuàng)意寫(xiě)作的標(biāo)桿。DeepSeek R1 (深度求索)開(kāi)源高性能推理模型專(zhuān)注于邏輯推理與數(shù)學(xué)求解支持 128k 上下文及多語(yǔ)言20 種。Qwen2.5-72B-Instruct (阿里巴巴)通義千問(wèn)開(kāi)源主力擅長(zhǎng)代碼生成、結(jié)構(gòu)化數(shù)據(jù)JSON處理與角色扮演支持 29 種語(yǔ)言。Gemini 2.5 Pro (Google)多模態(tài)融合標(biāo)桿原生支持圖像、代碼、文本混合輸入。技術(shù)演進(jìn)時(shí)間線2017 - 20262017: Transformer (Attention Is All You Need) 奠定奠基 ├── 2018: BERT (雙向 Transformer) GPT-1 ├── 2020: GPT-3 (1750億參數(shù), Few-Shot 突破) ├── 2022: InstructGPT (RLHF 對(duì)齊) ChatGPT 爆發(fā) ├── 2023: GPT-4 CoT (思維鏈) / ReAct 框架普及 ├── 2024: OpenAI o1 (思考模式) MCP 接口協(xié)議 Agent 生態(tài)崛起 └── 2025-2026: DeepSeek R1 / OpenAI o3 / Manus / A2A (Agent間通信)三、LLM 的四大核心能力重新定義人機(jī)交互LLM 之所以能引發(fā)生產(chǎn)力革命核心在于它具備了四大跨越性的能力徹底打破了機(jī)器與人類(lèi)的溝通壁壘。3.1 語(yǔ)言大師自然語(yǔ)言理解與創(chuàng)造的革命LLM 真正實(shí)現(xiàn)了對(duì)人類(lèi)語(yǔ)言的深度理解它不僅能識(shí)別字面意思還能讀懂上下文、情感傾向甚至潛臺(tái)詞完成高質(zhì)量的語(yǔ)言創(chuàng)作。學(xué)生可以讓它生成論文引言段落快速搭建寫(xiě)作框架職場(chǎng)人可以讓它撰寫(xiě)禮貌又堅(jiān)決的投訴郵件、商務(wù)函件稍作修改即可使用創(chuàng)作者可以讓它生成故事腳本、詩(shī)歌文案提供無(wú)限的創(chuàng)作靈感3.2 知識(shí)巨人可對(duì)話的全互聯(lián)網(wǎng)知識(shí)庫(kù)LLM 通過(guò)學(xué)習(xí)海量的公開(kāi)數(shù)據(jù)構(gòu)建了一個(gè)立體的、可對(duì)話的知識(shí)網(wǎng)絡(luò)覆蓋了物理、化學(xué)、哲學(xué)、歷史等幾乎所有學(xué)科領(lǐng)域。你可以問(wèn)它 “用物理學(xué)原理解釋為什么貓咪總能四腳著地”它會(huì)從角動(dòng)量守恒的角度一步步給你講清 “貓的正反射” 原理你也可以讓它 “對(duì)比古希臘哲學(xué)和春秋戰(zhàn)國(guó)百家爭(zhēng)鳴的異同”它能從歷史背景、思想內(nèi)核、發(fā)展脈絡(luò)等維度給出完整的對(duì)比分析3.3 邏輯與代碼巫師從思維到實(shí)現(xiàn)的跨越LLM 的能力早已突破 “文科” 范疇進(jìn)入了需要極致精準(zhǔn)的邏輯推理和編程領(lǐng)域。程序員可以用自然語(yǔ)言描述需求比如 “寫(xiě)一個(gè) Python 函數(shù)自動(dòng)爬取網(wǎng)頁(yè)最新標(biāo)題并保存到 Excel”模型能瞬間生成可直接運(yùn)行的代碼學(xué)生可以把復(fù)雜的微分方程、數(shù)學(xué)題丟給它它不僅能給出答案還能一步步展示完整的解題過(guò)程成為一對(duì)一的私人家教3.4 多模態(tài)先知開(kāi)啟 “全感知” AI 時(shí)代主流 LLM 已經(jīng)打破了純文本的邊界實(shí)現(xiàn)了文本、圖像、音頻、視頻的多模態(tài)融合讓 AI 更接近人類(lèi)的感知方式。上傳一張照片搭配文字描述就能完成創(chuàng)意修圖、3D 建模、場(chǎng)景渲染等工作可以基于父母的照片生成融合雙方特征的嬰兒預(yù)測(cè)圖像可以解析技術(shù)圖紙、PDF 文檔、手寫(xiě)筆記完成信息提取和深度分析四、 提示詞工程Prompt Engineering釋放 LLM 潛能的魔法想要讓 LLM 輸出高質(zhì)量的結(jié)果核心在于編寫(xiě)合理有效的提示詞Prompt。好的提示詞能精準(zhǔn)限定需求范圍讓模型完全理解你的意圖輸出效果會(huì)有質(zhì)的提升。下面是經(jīng)過(guò)工業(yè)界驗(yàn)證的五大核心提示詞技巧覆蓋了絕大多數(shù)開(kāi)發(fā)和應(yīng)用場(chǎng)景。編寫(xiě)高效提示詞的關(guān)鍵在于限定范圍明確上下文、角色、任務(wù)與約束。4.1 CO-STAR 結(jié)構(gòu)化框架由新加坡政府技術(shù)局GovTech開(kāi)發(fā)的CO-STAR 框架是構(gòu)建高質(zhì)量提示詞的最佳實(shí)踐模塊核心說(shuō)明示例Context任務(wù)背景與上下文“你是電商客服需解答用戶關(guān)于 iPhone 17 的咨詢(xún)知識(shí)庫(kù)包含最新價(jià)格和庫(kù)存”O(jiān)bjective核心目標(biāo)“準(zhǔn)確回答價(jià)格、發(fā)貨時(shí)間推薦適配配件”Steps執(zhí)行步驟“1. 識(shí)別用戶問(wèn)題類(lèi)型2. 檢索知識(shí)庫(kù)3. 用親切語(yǔ)氣整理回復(fù)”Tone語(yǔ)言風(fēng)格“口語(yǔ)化避免專(zhuān)業(yè)術(shù)語(yǔ)使用‘親’‘呢’等語(yǔ)氣詞”Audience目標(biāo)用戶“20-35 歲年輕消費(fèi)者對(duì)價(jià)格敏感關(guān)注性?xún)r(jià)比”Response輸出格式“價(jià)格XXX 元 \n 庫(kù)存XXX 件 \n 推薦配件XXX”我們用一個(gè)實(shí)際案例看優(yōu)化效果優(yōu)化前模糊低效我該怎么吃才能更健康?優(yōu)化后清晰有效【Context】你是一個(gè)基于科學(xué)證據(jù)的 AI 營(yíng)養(yǎng)顧問(wèn)。免責(zé)聲明你提供的建議僅供通用參考不能替代專(zhuān)業(yè)醫(yī)療診斷。 【Objective】基于用戶的身體數(shù)據(jù)提供個(gè)性化的每日飲食原則建議。 【Audience】30歲男性目標(biāo)減脂增肌辦公室久坐每周 3 次力量訓(xùn)練。 【Tone】專(zhuān)業(yè)、嚴(yán)謹(jǐn)且富有鼓勵(lì)性。 【Steps】 1. 輸出免責(zé)聲明 2. 圍繞“控制總熱量保證高蛋白”制定核心原則 3. 分別提供早餐、午餐、晚餐及訓(xùn)練加餐建議 4. 推薦 2 種健康零食 5. 嚴(yán)禁推薦任何藥物或特定保健品。 【Response】按如下 Markdown 格式輸出 【免責(zé)聲明】... 【核心原則】... 【分餐建議】... 【健康零食推薦】...4.2 少樣本提示用示例教會(huì) LLM 你的需求少樣本提示的核心思想是給模型提供 1-3 個(gè)輸入 - 輸出的示例讓它 “照葫蘆畫(huà)瓢”精準(zhǔn)學(xué)習(xí)你需要的格式、風(fēng)格和邏輯比單純用文字描述規(guī)則高效得多。適用場(chǎng)景格式固定、風(fēng)格獨(dú)特、邏輯復(fù)雜的任務(wù)比如風(fēng)格仿寫(xiě)、數(shù)據(jù)提取、復(fù)雜格式生成。實(shí)際案例客戶反饋信息提取優(yōu)化前零樣本提示請(qǐng)分析以下客戶反饋提取產(chǎn)品名稱(chēng)、情感傾向和具體問(wèn)題。 反饋:我剛買(mǎi)的耳機(jī)才用了一周左邊就沒(méi)聲音了太讓人失望了。優(yōu)化后少樣本提示請(qǐng)根據(jù)以下示例分析后續(xù)的客戶反饋并提取產(chǎn)品名稱(chēng)、情感傾向和具體問(wèn)題。 示例1: 反饋:筆記本的電池續(xù)航太差了完全達(dá)不到宣傳的10小時(shí)最多就4小時(shí)。 分析: ? 產(chǎn)品名稱(chēng):筆記本電池 ? 情感傾向:負(fù)面 ? 具體問(wèn)題:續(xù)航遠(yuǎn)低于宣傳 示例2: 反饋:客服響應(yīng)很快非常專(zhuān)業(yè)地幫我解決了軟件激活問(wèn)題點(diǎn)贊! 分析: ? 產(chǎn)品名稱(chēng):客服服務(wù) ? 情感傾向:正面 ? 具體問(wèn)題:無(wú) 現(xiàn)在請(qǐng)分析這個(gè): ? 反饋:我剛買(mǎi)的耳機(jī)才用了一周左邊就沒(méi)聲音了太讓人失望了。4.3 思維鏈提示CoT讓模型學(xué)會(huì) “思考”思維鏈提示Chain of Thought, CoT核心是要求模型在給出答案前先展示完整的推導(dǎo)過(guò)程模仿人類(lèi)解決問(wèn)題的思考方式能大幅提升模型在復(fù)雜推理任務(wù)上的準(zhǔn)確率。適用場(chǎng)景數(shù)學(xué)題、邏輯推理、復(fù)雜決策、需要解釋過(guò)程的任務(wù)。實(shí)際案例示例1: Q:羅杰有五個(gè)網(wǎng)球他又買(mǎi)了兩盒網(wǎng)球每盒有3個(gè)網(wǎng)球請(qǐng)問(wèn)他現(xiàn)在總共有多少個(gè)網(wǎng)球? A:羅杰起初有五個(gè)網(wǎng)球又買(mǎi)了兩盒網(wǎng)球每盒3個(gè)所以他總共買(mǎi)了 2×36 個(gè)網(wǎng)球?qū)⑵鹗嫉臄?shù)量和購(gòu)買(mǎi)的數(shù)量相加可以得到他現(xiàn)在總共的網(wǎng)球數(shù)量: 5611 所以羅杰現(xiàn)在總共有11個(gè)網(wǎng)球 問(wèn):食堂總共有23個(gè)蘋(píng)果如果他們用掉20個(gè)蘋(píng)果然后又買(mǎi)了6個(gè)蘋(píng)果請(qǐng)問(wèn)現(xiàn)在食堂總共有多少個(gè)蘋(píng)果?模型會(huì)模仿示例中的思維鏈一步步完成計(jì)算大幅降低計(jì)算錯(cuò)誤的概率。4.4 零樣本思維鏈一句魔法短語(yǔ)提升推理準(zhǔn)確率零樣本思維鏈?zhǔn)巧贅颖舅季S鏈的簡(jiǎn)化版無(wú)需編寫(xiě)示例只需在提示詞末尾加上一句 “請(qǐng)一步步進(jìn)行推理并得出結(jié)論”就能強(qiáng)制模型先完成內(nèi)部推理再給出最終答案。這是成本最低、適用范圍最廣的推理提升技巧尤其適合你也不清楚具體推理步驟的場(chǎng)景。比如經(jīng)典的邏輯題一個(gè)雜耍者可以雜耍16個(gè)球。其中一半的球是高爾夫球其中一半的高爾夫球是藍(lán)色的。請(qǐng)問(wèn)總共有多少個(gè)藍(lán)色高爾夫球?請(qǐng)一步步進(jìn)行推理并得出結(jié)論。不加這句提示時(shí)模型很容易直接給出錯(cuò)誤答案 “8”加上之后模型會(huì)先拆解計(jì)算步驟最終得出正確答案 “4”。4.5 自我批判與迭代讓模型自己優(yōu)化輸出自我批判與迭代的核心是將 “生成” 和 “評(píng)審” 兩個(gè)步驟分離讓模型從特定角度對(duì)自己的輸出進(jìn)行審查和優(yōu)化能顯著提升內(nèi)容的嚴(yán)謹(jǐn)性和質(zhì)量。適用場(chǎng)景代碼審查、文案優(yōu)化、論證強(qiáng)化、安全檢查。實(shí)際案例Python 代碼編寫(xiě)與優(yōu)化請(qǐng)執(zhí)行以下兩個(gè)步驟: 步驟一:編寫(xiě)代碼 寫(xiě)一個(gè)Python函數(shù) find_max 用于計(jì)算一個(gè)數(shù)字列表中的最大值。 步驟二:自我審查與優(yōu)化 現(xiàn)在請(qǐng)從代碼健壯性和可讀性的角度審查你上面編寫(xiě)的代碼。 請(qǐng)回答: 1. 如果輸入是空列表函數(shù)會(huì)怎樣?如何改進(jìn)? 2. 變量命名和代碼結(jié)構(gòu)是否清晰?能否讓它更易于理解? 3. 請(qǐng)根據(jù)你的審查給出一個(gè)優(yōu)化后的最終版本。實(shí)戰(zhàn)提示在企業(yè)級(jí)開(kāi)發(fā)中以上技巧通常會(huì)組合使用比如先用 CO-STAR 框架設(shè)定基礎(chǔ)結(jié)構(gòu)和角色在執(zhí)行步驟中融入思維鏈指令對(duì)復(fù)雜格式補(bǔ)充少樣本示例最后要求模型完成自我審查能實(shí)現(xiàn)最佳的輸出效果。Cursor 官方提示詞提示詞五、 LLM 的原生接入方式與生產(chǎn)落地方案想要自己開(kāi)發(fā) AI 應(yīng)用就必須通過(guò)代碼接入 LLM 的原生能力。目前業(yè)界主流的原生接入方式有三種API 遠(yuǎn)程調(diào)用、開(kāi)源模型本地部署、官方 SDK 接入下面我們結(jié)合代碼逐一拆解。AI 應(yīng)用接入 LLM 的三種原生方式: ┌───────────────────┬───────────────────────────┬────────────────────────┐ │ 1. API 遠(yuǎn)程調(diào)用 │ 2. 開(kāi)源模型本地部署 │ 3. 官方 SDK 接入 │ │ (云端 RESTful API)│ (Ollama / vLLM / TGI) │ (Python / Node.js SDK) │ └───────────────────┴───────────────────────────┴────────────────────────┘5.1 API 遠(yuǎn)程調(diào)用最主流便捷的接入方式API 遠(yuǎn)程調(diào)用是目前最主流的接入方式通過(guò) HTTP 請(qǐng)求直接調(diào)用模型廠商部署在云端的模型服務(wù)無(wú)需管理任何硬件資源適合快速開(kāi)發(fā)、應(yīng)用集成場(chǎng)景。核心流程注冊(cè)賬號(hào)并獲取 API Key在模型廠商平臺(tái)注冊(cè)獲取用于身份驗(yàn)證的密鑰查閱 API 文檔了解請(qǐng)求端點(diǎn)、參數(shù)規(guī)范和返回?cái)?shù)據(jù)格式構(gòu)建 HTTP 請(qǐng)求使用 HTTP 客戶端庫(kù)構(gòu)建包含 API Key 和請(qǐng)求體的請(qǐng)求發(fā)送請(qǐng)求并處理響應(yīng)解析返回的 JSON 數(shù)據(jù)提取模型生成的內(nèi)容實(shí)戰(zhàn)代碼curl 調(diào)用 OpenAI API# OpenAI 對(duì)話API調(diào)用示例 curl https://api.openai.com/v1/responses \ # 設(shè)置請(qǐng)求體格式為JSON -H Content-Type: application/json \ # 攜帶API Key完成身份認(rèn)證$OPENAI_API_KEY為環(huán)境變量存儲(chǔ)的密鑰 -H Authorization: Bearer $OPENAI_API_KEY \ # 請(qǐng)求體指定模型和用戶輸入 -d { model: gpt-5, input: Write a one-sentence bedtime story about a unicorn. }響應(yīng)結(jié)果核心字段解析API 會(huì)返回 JSON 格式的響應(yīng)核心字段如下{ id: resp_xxxxxx, // 本次請(qǐng)求的唯一ID用于問(wèn)題排查 status: completed, // 請(qǐng)求狀態(tài)completed成功/incomplete失敗 model: gpt-4o-mini-2024-07-18, // 實(shí)際響應(yīng)的模型 output: [ { type: message, role: assistant, // 角色assistant模型輸出/user用戶輸入 content: [ { type: output_text, text: 你好!我是一個(gè)人工智能助手... // 模型生成的核心文本 } ] } ], usage: { input_tokens: 11, // 輸入提示詞消耗的token數(shù) output_tokens: 27, // 輸出內(nèi)容消耗的token數(shù) total_tokens: 38 // 本次請(qǐng)求總消耗token數(shù)用于計(jì)費(fèi) } }5.2 SDK 接入API 調(diào)用的封裝與簡(jiǎn)化SDK 接入并非獨(dú)立的接入方式而是對(duì)原生 API 調(diào)用的封裝和簡(jiǎn)化。模型廠商會(huì)發(fā)布對(duì)應(yīng)編程語(yǔ)言的官方 SDK封裝底層 HTTP 請(qǐng)求細(xì)節(jié)提供更符合編程習(xí)慣的函數(shù)庫(kù)讓代碼更簡(jiǎn)潔、易讀、易維護(hù)。實(shí)戰(zhàn)代碼OpenAI Python SDK 接入第一步安裝 SDKpip install openai第二步核心代碼與逐行解析# 1. 導(dǎo)入OpenAI SDK的核心客戶端類(lèi) from openai import OpenAI # 2. 初始化客戶端傳入API Key完成身份認(rèn)證 client OpenAI(api_keyyour-api-key) # 3. 調(diào)用模型接口發(fā)起生成請(qǐng)求 response client.responses.create( modelgpt-5, # 指定要調(diào)用的模型名稱(chēng) input介紹一下你自己。 # 用戶輸入的提示詞內(nèi)容 ) # 4. 提取并打印模型生成的文本 print(response.output_text)相比原生 HTTP 請(qǐng)求SDK 已經(jīng)幫我們完成了請(qǐng)求頭封裝、JSON 序列化、響應(yīng)解析等工作開(kāi)發(fā)者只需關(guān)注核心業(yè)務(wù)邏輯大幅降低開(kāi)發(fā)成本。5.3 開(kāi)源模型本地部署私有化 LLM 能力的最佳方案本地部署就是將開(kāi)源大語(yǔ)言模型如 DeepSeek-R1、Llama、Qwen 等部署在自己的硬件環(huán)境中完全掌控模型能力適合數(shù)據(jù)敏感、有私有化合規(guī)要求的場(chǎng)景。我們以業(yè)界最易用的本地部署工具 Ollama 為例完成完整的部署和接入實(shí)戰(zhàn)。步驟 1下載安裝 OllamaOllama 是一款專(zhuān)為本地 LLM 部署設(shè)計(jì)的開(kāi)源工具一鍵支持 macOS、Linux、Windows 系統(tǒng)無(wú)需復(fù)雜的環(huán)境配置。官網(wǎng)下載https://ollama.ai安裝完成后打開(kāi)終端輸入以下命令驗(yàn)證安裝ollama --version # 輸出示例ollama version is 0.9.3即安裝成功步驟 2模型拉取與配置Ollama 支持修改模型存儲(chǔ)路徑避免默認(rèn)占用 C 盤(pán)空間有兩種配置方式配置系統(tǒng)環(huán)境變量新增變量名OLLAMA\_MODELS變量值為自定義的模型存儲(chǔ)路徑圖形化設(shè)置打開(kāi) Ollama 設(shè)置界面在Model location中修改存儲(chǔ)路徑配置完成后重啟 Ollama 即可生效使用以下命令拉取模型# 拉取DeepSeek-R1 1.5B版本適合入門(mén)級(jí)設(shè)備 ollama run deepseek-r1:1.5b模型選型說(shuō)明模型名稱(chēng)中的b是Billion十億的縮寫(xiě)代表參數(shù)量級(jí)。參數(shù)量越大模型能力越強(qiáng)硬件要求越高1.5B/7B 版本適合普通 PC8GB 內(nèi)存即可流暢運(yùn)行14B/32B 版本需要 16GB 顯存的 GPU70B/671B 版本需要專(zhuān)業(yè)級(jí)服務(wù)器 GPU步驟 3命令行交互測(cè)試模型拉取完成后終端會(huì)自動(dòng)進(jìn)入對(duì)話界面可直接輸入內(nèi)容與模型交互 你好 你好!很高興見(jiàn)到你有什么我可以幫忙的嗎? 你是誰(shuí) 您好!我是由中國(guó)的深度求索(DeepSeek)公司開(kāi)發(fā)的智能助手DeepSeek-R1。如您有任何問(wèn)題我會(huì)盡我所能為您提供幫助。步驟 4本地 API 接口調(diào)用Ollama 啟動(dòng)后會(huì)默認(rèn)開(kāi)啟本地 API 服務(wù)地址為http://127\.0\.0\.1:11434可通過(guò) HTTP 請(qǐng)求調(diào)用與云端 API 使用方式完全一致。實(shí)戰(zhàn)代碼curl 調(diào)用本地模型 API# Ollama 本地對(duì)話API調(diào)用 curl http://127.0.0.1:11434/api/chat \ -d { model: deepseek-r1:1.5b, # 本地已拉取的模型名稱(chēng) messages: [ {role: user, content: 夸夸我} # 對(duì)話上下文 ], stream: false # 關(guān)閉流式輸出一次性返回結(jié)果 }5.4 原生接入的瓶頸與 LangChain 的誕生雖然原生接入很直接但在構(gòu)建企業(yè)級(jí)應(yīng)用時(shí)存在四大痛點(diǎn)輸入長(zhǎng)度限制所有 LLM 都有固定的上下文窗口如 4K、128K、400K Token無(wú)法直接將整本幾百頁(yè)的 PDF、整個(gè)公司知識(shí)庫(kù)傳入模型缺乏私有知識(shí)模型的訓(xùn)練數(shù)據(jù)有固定截止日期且不包含企業(yè)內(nèi)部文檔、個(gè)人私有數(shù)據(jù)無(wú)法精準(zhǔn)回答相關(guān)問(wèn)題極易產(chǎn)生 “幻覺(jué)”復(fù)雜任務(wù)處理能力弱原生 API 本質(zhì)是 “一問(wèn)一答” 的接口對(duì)于需要多步驟的復(fù)雜任務(wù)如分析財(cái)報(bào)→總結(jié)要點(diǎn)→生成 PPT 大綱需要開(kāi)發(fā)者手動(dòng)編寫(xiě)復(fù)雜邏輯拆解任務(wù)、管理中間狀態(tài)輸出格式不可控僅靠提示詞無(wú)法 100% 保證輸出格式合規(guī)極易出現(xiàn) JSON 格式錯(cuò)誤、內(nèi)容溢出等問(wèn)題需要額外編寫(xiě)大量后處理代碼校驗(yàn)和清洗而LangChain 框架正是為了系統(tǒng)性解決這些問(wèn)題而誕生的它就像一座堅(jiān)固的橋梁讓開(kāi)發(fā)者無(wú)需淌水過(guò)河就能輕松將 LLM 能力落地到實(shí)際應(yīng)用中。六、 語(yǔ)義世界的橋梁嵌入模型Embedding Model與向量化計(jì)算機(jī)無(wú)法直接“理解”文字或圖片的語(yǔ)義但極其擅長(zhǎng)計(jì)算數(shù)字。Embedding 的核心思想是將人類(lèi)的符號(hào)詞匯、句子、文檔、圖片映射到一個(gè)高維連續(xù)向量空間使得語(yǔ)義相似的內(nèi)容在向量空間中的距離如余弦相似度盡可能貼近。6.1 嵌入模型的本質(zhì)把人類(lèi)語(yǔ)言翻譯成計(jì)算機(jī)的數(shù)學(xué)語(yǔ)言嵌入模型Embedding Model和 LLM 有本質(zhì)區(qū)別LLM 是生成式模型核心目標(biāo)是理解輸入并生成新的文本嵌入模型是表示型模型核心目標(biāo)是為輸入的文本創(chuàng)建富含語(yǔ)義的數(shù)值表示高維向量嵌入的核心思想是將人類(lèi)語(yǔ)言的符號(hào)單詞、句子、段落轉(zhuǎn)換為計(jì)算機(jī)能夠理解的數(shù)值向量并且這種轉(zhuǎn)換能完整保留原始文本的語(yǔ)義和關(guān)系。通俗來(lái)說(shuō)嵌入模型就是一個(gè) “翻譯官”把人類(lèi)語(yǔ)言翻譯成計(jì)算機(jī)的 “數(shù)學(xué)語(yǔ)言”。翻譯完成后我們就能用數(shù)學(xué)方法度量文本之間的語(yǔ)義相似度業(yè)界最常用的是余弦相似度在向量空間中向量的方向代表語(yǔ)義含義向量的長(zhǎng)度代表文本長(zhǎng)度余弦相似度只關(guān)注向量方向的差異不受文本長(zhǎng)度影響完美適配語(yǔ)義匹配場(chǎng)景兩個(gè)向量的余弦相似度越高代表它們的語(yǔ)義越接近┌─────────────────────────────────────────────────────────────────┐ │ 嵌入模型 (Embedding) 核心應(yīng)用 │ ├───────────────┬─────────────────┬────────────────┬──────────────┤ │ 1. 語(yǔ)義搜索 │ 2. 檢索增強(qiáng)生成 │ 3. 智能推薦 │ 4. 異常檢測(cè) │ │ (Semantic) │ (RAG) │ (Recommender) │ (Anomaly) │ └───────────────┴─────────────────┴────────────────┴──────────────┘6.3 嵌入模型的四大核心應(yīng)用場(chǎng)景1語(yǔ)義搜索傳統(tǒng)搜索依賴(lài)關(guān)鍵詞精確匹配搜 “蘋(píng)果” 只能找到包含 “蘋(píng)果” 這個(gè)詞的文檔而語(yǔ)義搜索通過(guò)向量相似度匹配即使文檔中沒(méi)有精確關(guān)鍵詞只要語(yǔ)義相關(guān)就能被檢索到。比如用戶搜 “電池電量不增加”語(yǔ)義搜索能精準(zhǔn)找到 “如何解決筆記本電腦無(wú)法充電的問(wèn)題” 的相關(guān)文檔這是傳統(tǒng)搜索無(wú)法實(shí)現(xiàn)的。2檢索增強(qiáng)生成RAG這是當(dāng)前 LLM 企業(yè)級(jí)應(yīng)用的核心模式也是解決 LLM 私有知識(shí)缺失、幻覺(jué)問(wèn)題的最佳方案。核心流程當(dāng)用戶向 LLM 提問(wèn)時(shí)系統(tǒng)首先用嵌入模型在私有知識(shí)庫(kù)中做語(yǔ)義搜索找到最相關(guān)的內(nèi)容再把這些內(nèi)容和用戶問(wèn)題一起交給 LLM讓模型基于精準(zhǔn)的私有知識(shí)生成答案而非僅憑訓(xùn)練數(shù)據(jù)泛泛而談。比如企業(yè)內(nèi)部客服機(jī)器人員工問(wèn) “今年新增的帶薪育兒假政策是怎樣的”系統(tǒng)會(huì)先從人事制度文檔中檢索到相關(guān)條款再交給 LLM 生成精準(zhǔn)回答完全避免過(guò)時(shí)信息和幻覺(jué)。3推薦系統(tǒng)將用戶的歷史行為、偏好和商品、內(nèi)容的特征都轉(zhuǎn)換為向量喜歡相似物品的用戶向量會(huì)高度接近相似的物品向量也會(huì)聚集。通過(guò)計(jì)算用戶和物品的向量相似度就能實(shí)現(xiàn)精準(zhǔn)的個(gè)性化推薦。4異常檢測(cè)正常業(yè)務(wù)數(shù)據(jù)的向量會(huì)在空間中形成固定的聚集區(qū)當(dāng)一個(gè)新數(shù)據(jù)的向量遠(yuǎn)離這個(gè)聚集區(qū)時(shí)就大概率是異常點(diǎn)。這個(gè)能力被廣泛應(yīng)用于垃圾郵件識(shí)別、信用卡交易反欺詐、工業(yè)設(shè)備故障預(yù)警等場(chǎng)景。6.4 嵌入模型接入實(shí)戰(zhàn)主流嵌入模型模型名稱(chēng)廠商核心參數(shù)text?embedding?3?largeOpenAI默認(rèn)維度 3072支持降維輸入令牌長(zhǎng)度 8192多語(yǔ)言能力優(yōu)異Qwen3?Embedding?8B阿里巴巴開(kāi)源模型支持 100 語(yǔ)言上下文長(zhǎng)度 32k最高維度 4096支持自定義輸出維度gemini?embedding?001Google支持 100 語(yǔ)言默認(rèn)維度 3072支持降維多語(yǔ)言檢索表現(xiàn)突出實(shí)戰(zhàn)代碼OpenAI 嵌入模型 Python SDK 接入第一步安裝 SDK已安裝可跳過(guò)pip install openai第二步核心代碼與逐行解析# 1. 導(dǎo)入OpenAI SDK客戶端類(lèi) from openai import OpenAI # 2. 初始化客戶端傳入API Key完成身份認(rèn)證 client OpenAI(api_keyyour-api-key) # 3. 準(zhǔn)備需要向量化的輸入文本 text 這是一段需要轉(zhuǎn)換為向量的文本。 # 4. 調(diào)用嵌入模型API生成語(yǔ)義向量 response client.embeddings.create( modeltext-embedding-3-large, # 指定使用的嵌入模型 inputtext, # 待向量化的輸入文本 dimensions1024 # 可選自定義輸出向量維度可從3072維降到1024維 ) # 5. 從響應(yīng)結(jié)果中提取嵌入向量 embedding response.data[0].embedding # 6. 打印向量維度和內(nèi)容 print(f向量維度:{len(embedding)}) print(embedding)代碼運(yùn)行后會(huì)輸出 1024 維的浮點(diǎn)數(shù)向量這個(gè)向量就完整保留了輸入文本的語(yǔ)義信息可直接用于語(yǔ)義檢索、聚類(lèi)、RAG 等場(chǎng)景。像我們之前的LLM還有API接入和本地接入這個(gè)也有七、LangChain連接 LLM 與業(yè)務(wù)應(yīng)用的核心橋梁回到最開(kāi)始的比喻直接調(diào)用原生 LLM 接口就像淌水過(guò)河會(huì)遇到上下文限制、私有知識(shí)缺失、復(fù)雜任務(wù)拆解難等各種問(wèn)題而 LangChain就是為我們搭建的一座堅(jiān)固、全面的橋梁。LangChain 是一個(gè)開(kāi)源的大語(yǔ)言模型應(yīng)用開(kāi)發(fā)框架它封裝了 LLM 接入、嵌入模型、向量數(shù)據(jù)庫(kù)、任務(wù)拆解、工具調(diào)用、Agent 編排等全鏈路能力系統(tǒng)性解決了原生 LLM 的所有核心局限。它的核心價(jià)值體現(xiàn)在統(tǒng)一的接口抽象適配所有主流 LLM 和嵌入模型一套代碼可無(wú)縫切換不同廠商的模型無(wú)需大量重復(fù)開(kāi)發(fā)內(nèi)置 RAG 全鏈路能力提供了文檔加載、文本分塊、嵌入、檢索、重排、生成的全流程組件幾行代碼就能搭建企業(yè)級(jí) RAG 系統(tǒng)智能 Agent 與任務(wù)編排內(nèi)置 ReAct、CoT 等推理框架能讓 LLM 自主拆解復(fù)雜任務(wù)調(diào)用外部工具完成多步驟操作實(shí)現(xiàn)真正的智能體應(yīng)用強(qiáng)格式輸出管控內(nèi)置多種輸出解析器能 100% 保證 JSON、XML、Pydantic 等格式的輸出合規(guī)無(wú)需額外后處理豐富的生態(tài)集成對(duì)接了數(shù)百種第三方工具、數(shù)據(jù)庫(kù)、文檔加載器開(kāi)箱即用大幅降低 AI 應(yīng)用的開(kāi)發(fā)門(mén)檻結(jié)語(yǔ)從基礎(chǔ)的數(shù)學(xué)函數(shù) f(x) 到具備涌現(xiàn)能力的 LLM再到將萬(wàn)物數(shù)值化的 Embedding 向量大模型技術(shù)正在徹底重構(gòu)軟件開(kāi)發(fā)的范式。作為開(kāi)發(fā)者理解 Prompt 工程能幫助我們更好地“指揮”AI而掌握本地部署、API 接入及 Embedding 機(jī)制則是我們通往 AI Agent 與 RAG 系統(tǒng)開(kāi)發(fā)的必經(jīng)之路。 【LangChain】 LLM 與 Embedding 深度解析：底層原理、提示詞工程、原生接入與實(shí)戰(zhàn)指南
個(gè)人主頁(yè)Cx330??個(gè)人專(zhuān)欄《C語(yǔ)言》《LeetCode刷題集》《數(shù)據(jù)結(jié)構(gòu)-初階》《C知識(shí)分享》《優(yōu)選算法指南-必刷經(jīng)典100題》《Linux操作系統(tǒng)》:從入門(mén)到入魔《Git深度解析》:版本管理實(shí)戰(zhàn)全解 《Qt 極境架構(gòu)》MySQL 核心技術(shù)與實(shí)戰(zhàn)心向往之行必能Cx330的簡(jiǎn)介目錄前言一、 從傳統(tǒng)數(shù)學(xué)函數(shù)到“超級(jí)加工廠”徹底搞懂什么是模型1.1 模型的本質(zhì)從數(shù)據(jù)中學(xué)習(xí)規(guī)律的數(shù)學(xué)函數(shù)1.2 傳統(tǒng)小模型的三個(gè)關(guān)鍵特點(diǎn)二、 深度拆解大語(yǔ)言模型LLM從“自動(dòng)補(bǔ)全”到“認(rèn)知涌現(xiàn)”2.1 什么是大語(yǔ)言模型1神經(jīng)網(wǎng)絡(luò)模仿人腦的復(fù)雜決策流水線2自監(jiān)督學(xué)習(xí)“完形填空” 超級(jí)大師3半監(jiān)督學(xué)習(xí)“師父領(lǐng)進(jìn)門(mén)修行在個(gè)人”4語(yǔ)言模型“超級(jí)自動(dòng)補(bǔ)全系統(tǒng)”2.2 LLM 的四大核心能力維度2.3 主流 LLM 與演進(jìn)脈絡(luò)主流大模型代表技術(shù)演進(jìn)時(shí)間線2017 - 2026三、LLM 的四大核心能力重新定義人機(jī)交互3.1 語(yǔ)言大師自然語(yǔ)言理解與創(chuàng)造的革命3.2 知識(shí)巨人可對(duì)話的全互聯(lián)網(wǎng)知識(shí)庫(kù)3.3 邏輯與代碼巫師從思維到實(shí)現(xiàn)的跨越3.4 多模態(tài)先知開(kāi)啟 “全感知” AI 時(shí)代四、 提示詞工程Prompt Engineering釋放 LLM 潛能的魔法4.1 CO-STAR 結(jié)構(gòu)化框架4.2 少樣本提示用示例教會(huì) LLM 你的需求4.3 思維鏈提示CoT讓模型學(xué)會(huì) “思考”4.4 零樣本思維鏈一句魔法短語(yǔ)提升推理準(zhǔn)確率4.5 自我批判與迭代讓模型自己優(yōu)化輸出五、 LLM 的原生接入方式與生產(chǎn)落地方案5.1 API 遠(yuǎn)程調(diào)用最主流便捷的接入方式5.2 SDK 接入API 調(diào)用的封裝與簡(jiǎn)化5.3 開(kāi)源模型本地部署私有化 LLM 能力的最佳方案5.4 原生接入的瓶頸與 LangChain 的誕生六、 語(yǔ)義世界的橋梁嵌入模型Embedding Model與向量化6.1 嵌入模型的本質(zhì)把人類(lèi)語(yǔ)言翻譯成計(jì)算機(jī)的數(shù)學(xué)語(yǔ)言6.3 嵌入模型的四大核心應(yīng)用場(chǎng)景1語(yǔ)義搜索2檢索增強(qiáng)生成RAG3推薦系統(tǒng)4異常檢測(cè)6.4 嵌入模型接入實(shí)戰(zhàn)七、LangChain連接 LLM 與業(yè)務(wù)應(yīng)用的核心橋梁結(jié)語(yǔ)前言近兩年來(lái)以 ChatGPT、DeepSeek 為代表的大語(yǔ)言模型LLM掀起了新一輪的技術(shù)革命。作為一名傳統(tǒng) C/后端開(kāi)發(fā)者面對(duì) AI 浪潮的席卷我們不僅要學(xué)會(huì)“如何使用 AI 工具”更需要從底層原理上理解大模型是如何學(xué)習(xí)與推理的以及如何在工程中高效接入與掌控大模型。本文將立足于工程實(shí)踐與底層邏輯結(jié)合圖解與代碼示例帶大家從零建立完整的大模型知識(shí)體系一、 從傳統(tǒng)數(shù)學(xué)函數(shù)到“超級(jí)加工廠”徹底搞懂什么是模型在深入 LLM 之前我們首先需要回歸 AI 的本質(zhì)什么是模型Model1.1 模型的本質(zhì)從數(shù)據(jù)中學(xué)習(xí)規(guī)律的數(shù)學(xué)函數(shù)在計(jì)算機(jī)科學(xué)中模型本質(zhì)上就是一個(gè)通過(guò)數(shù)據(jù)訓(xùn)練得出的復(fù)雜數(shù)學(xué)函數(shù)f(x)或者說(shuō)是一套經(jīng)過(guò)特殊訓(xùn)練后掌握的“程序規(guī)則”。模型的學(xué)習(xí)與推理過(guò)程可概括為[原始數(shù)據(jù)] ── [預(yù)處理] ── 數(shù)據(jù)輸入 x ── 迭代優(yōu)化 [ f(x) ] ── 預(yù)測(cè)結(jié)果 / 生成內(nèi)容 y我們可以將模型想象成一個(gè)“超級(jí)加工廠”訓(xùn)練階段訓(xùn)練師給工廠展示海量的輸入與輸出范例數(shù)據(jù)工廠通過(guò)迭代優(yōu)化調(diào)整內(nèi)部參數(shù)摸索出輸入與輸出之間的內(nèi)在數(shù)學(xué)規(guī)律。預(yù)測(cè)階段輸入未見(jiàn)過(guò)的數(shù)據(jù) x工廠根據(jù)學(xué)到的規(guī)律計(jì)算出相應(yīng)的輸出 y。最簡(jiǎn)單的推導(dǎo)比喻范例 1輸入 [1, 2, 3] 輸出 2范例 2輸入 [5, 10, 15] 輸出 10總結(jié)規(guī)律輸出始終為輸入序列的中間數(shù)值。推理應(yīng)用當(dāng)再次輸入 [8, 9, 10] 時(shí)模型就能準(zhǔn)確預(yù)測(cè)出輸出為 9。1.2 傳統(tǒng)小模型的三個(gè)關(guān)鍵特點(diǎn)在 LLM 出現(xiàn)之前傳統(tǒng)機(jī)器學(xué)習(xí)/深度學(xué)習(xí)模型通常具備以下特點(diǎn)單一特定任務(wù)Task-Specific一個(gè)模型往往只做一件事如專(zhuān)門(mén)識(shí)別圖片中是否有貓、專(zhuān)門(mén)預(yù)測(cè)天氣變化、或?qū)ｉT(mén)做評(píng)論的情感分類(lèi)。高度依賴(lài)強(qiáng)標(biāo)注數(shù)據(jù)Labeled Data訓(xùn)練需要海量的“標(biāo)準(zhǔn)答案”如成千上萬(wàn)張人工標(biāo)注了“貓/非貓”的圖片。參數(shù)量小Small Parameter Size模型的內(nèi)部“知識(shí)要點(diǎn)”參數(shù)規(guī)模相對(duì)較小模型的復(fù)雜度和表達(dá)能力有限。二、 深度拆解大語(yǔ)言模型LLM從“自動(dòng)補(bǔ)全”到“認(rèn)知涌現(xiàn)”2.1 什么是大語(yǔ)言模型大語(yǔ)言模型Large Language Model, LLM是指基于大規(guī)模神經(jīng)網(wǎng)絡(luò)參數(shù)規(guī)模通常達(dá)數(shù)十億至萬(wàn)億級(jí)別例如 GPT-3 包含了 1750 億個(gè)參數(shù)通過(guò)自監(jiān)督或半監(jiān)督方式在海量無(wú)標(biāo)注文本上訓(xùn)練而成的語(yǔ)言模型。為徹底理解 LLM我們需要拆解四個(gè)核心概念┌── 1. 神經(jīng)網(wǎng)絡(luò)復(fù)雜的條件反射流水線 ├── 2. 自監(jiān)督學(xué)習(xí)海量“完形填空”自學(xué) 大語(yǔ)言模型LLM核心四大基石 ┼── 3. 半監(jiān)督學(xué)習(xí)少量名師指導(dǎo) 海量自學(xué) └── 4. 語(yǔ)言模型計(jì)算“接下來(lái)最可能說(shuō)什么”1神經(jīng)網(wǎng)絡(luò)模仿人腦的復(fù)雜決策流水線神經(jīng)網(wǎng)絡(luò)可以理解為一個(gè)極其高效的團(tuán)隊(duì)工作流程或條件反射鏈它完全模仿人腦神經(jīng)元的工作模式就像教小朋友識(shí)別貓我們不會(huì)只給一條 “有胡子就是貓” 的規(guī)則而是讓他看海量貓的圖片大腦里的神經(jīng)元會(huì)分工協(xié)作有的識(shí)別尖耳朵、有的識(shí)別胡須、有的識(shí)別毛茸茸的尾巴最終綜合所有信息判斷 “這是貓”。神經(jīng)網(wǎng)絡(luò)就是由大量虛擬 “神經(jīng)元”即參數(shù)和連接組成的多層結(jié)構(gòu)前一層的輸出作為后一層的輸入。通過(guò)海量數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)會(huì)自主調(diào)整每個(gè)神經(jīng)元的權(quán)重參數(shù)值最終形成一套復(fù)雜的決策系統(tǒng)。參數(shù)就是 LLM 的 “腦細(xì)胞”參數(shù)規(guī)模越大模型的思考復(fù)雜度和全面性就越強(qiáng)。2自監(jiān)督學(xué)習(xí)“完形填空” 超級(jí)大師自監(jiān)督學(xué)習(xí)是 LLM 最核心的訓(xùn)練方式本質(zhì)上是讓模型自己給自己當(dāng)老師從無(wú)標(biāo)注的原始文本中自主學(xué)習(xí)規(guī)律。我們可以用學(xué)外語(yǔ)的場(chǎng)景類(lèi)比沒(méi)有老師出題和批改我們就拿一本外語(yǔ)小說(shuō)玩 “完形填空”隨機(jī)蓋住一個(gè)詞根據(jù)上下文猜測(cè)這個(gè)詞是什么。經(jīng)過(guò)億萬(wàn)次練習(xí)我們就能徹底掌握這門(mén)語(yǔ)言的語(yǔ)法、詞匯搭配和上下文邏輯。LLM 的自監(jiān)督學(xué)習(xí)正是這個(gè)過(guò)程面對(duì)互聯(lián)網(wǎng)上海量的無(wú)標(biāo)注文本它隨機(jī)遮住一句話中的某個(gè)詞嘗試根據(jù)上下文預(yù)測(cè)被遮住的內(nèi)容。通過(guò)這種方式它無(wú)需人工標(biāo)注就能高效學(xué)習(xí)到整個(gè)語(yǔ)言世界的底層規(guī)律。3半監(jiān)督學(xué)習(xí)“師父領(lǐng)進(jìn)門(mén)修行在個(gè)人”半監(jiān)督學(xué)習(xí)是自監(jiān)督學(xué)習(xí)的補(bǔ)充核心是少量標(biāo)注數(shù)據(jù)入門(mén) 海量無(wú)標(biāo)注數(shù)據(jù)自學(xué)的結(jié)合模式。就像學(xué)做菜師傅先教你幾道招牌菜少量帶標(biāo)注的數(shù)據(jù)讓你掌握基本功再讓你嘗遍天下美食自己研究其中的門(mén)道海量無(wú)標(biāo)注數(shù)據(jù)最終你不僅能復(fù)刻招牌菜還能創(chuàng)新出新菜式。這種方式能讓模型在有限的標(biāo)注數(shù)據(jù)下快速提升通用能力。4語(yǔ)言模型“超級(jí)自動(dòng)補(bǔ)全系統(tǒng)”語(yǔ)言模型的核心本質(zhì)是一個(gè)語(yǔ)言預(yù)測(cè)器它的核心任務(wù)就是 “根據(jù)前文預(yù)測(cè)下一個(gè)最合理的詞”。我們手機(jī)輸入法的聯(lián)想功能就是一個(gè)微型語(yǔ)言模型輸入 “今天天氣真”它會(huì)自動(dòng)提示 “好”“冷”“不錯(cuò)” 等后續(xù)詞匯。而強(qiáng)大的 LLM能通過(guò)逐詞預(yù)測(cè)生成一整段通順的話、一篇完整的文章甚至是復(fù)雜的代碼。基于以上核心概念我們可以把 LLM 翻譯成大白話它是用大規(guī)模神經(jīng)網(wǎng)絡(luò)搭建的、擁有數(shù)百億甚至上萬(wàn)億參數(shù)的超級(jí)自動(dòng)補(bǔ)全系統(tǒng)通過(guò)海量完形填空式的自監(jiān)督學(xué)習(xí)從互聯(lián)網(wǎng)全量文本中學(xué)會(huì)了語(yǔ)言的底層規(guī)律最終具備了跨任務(wù)的通用能力。2.2 LLM 的四大核心能力維度LLM 的能力早已突破了簡(jiǎn)單的“關(guān)鍵詞匹配”展現(xiàn)出驚人的“通用認(rèn)知涌現(xiàn)”能力維度核心本質(zhì)代表場(chǎng)景1. 語(yǔ)言大師深度理解上下文、情感與潛訂邏輯高質(zhì)量創(chuàng)作撰寫(xiě)論文引言、自動(dòng)生成禮貌且堅(jiān)決的投訴郵件2. 知識(shí)巨人壓縮并可交互的“全互聯(lián)網(wǎng)知識(shí)庫(kù)”結(jié)合角動(dòng)量守恒解釋“貓翻正反射”對(duì)比古希臘哲學(xué)與春秋戰(zhàn)國(guó)百家爭(zhēng)鳴3. 邏輯與代碼巫師跨越文本界限理解嚴(yán)格邏輯與編程語(yǔ)法自動(dòng)編寫(xiě) Python 爬蟲(chóng)腳本求解復(fù)雜微分方程4. 多模態(tài)先知連接視覺(jué)、聽(tīng)覺(jué)與文本實(shí)現(xiàn)全感知交互根據(jù)父母照片預(yù)測(cè) AI 嬰兒形態(tài)基于描述生成 3D 人偶與 Blender 渲染場(chǎng)景2.3 主流 LLM 與演進(jìn)脈絡(luò)主流大模型代表GPT-5 (OpenAI)支持 400k 上下文窗口128k 最大輸出 Token復(fù)雜多輪推理與創(chuàng)意寫(xiě)作的標(biāo)桿。DeepSeek R1 (深度求索)開(kāi)源高性能推理模型專(zhuān)注于邏輯推理與數(shù)學(xué)求解支持 128k 上下文及多語(yǔ)言20 種。Qwen2.5-72B-Instruct (阿里巴巴)通義千問(wèn)開(kāi)源主力擅長(zhǎng)代碼生成、結(jié)構(gòu)化數(shù)據(jù)JSON處理與角色扮演支持 29 種語(yǔ)言。Gemini 2.5 Pro (Google)多模態(tài)融合標(biāo)桿原生支持圖像、代碼、文本混合輸入。技術(shù)演進(jìn)時(shí)間線2017 - 20262017: Transformer (Attention Is All You Need) 奠定奠基 ├── 2018: BERT (雙向 Transformer) GPT-1 ├── 2020: GPT-3 (1750億參數(shù), Few-Shot 突破) ├── 2022: InstructGPT (RLHF 對(duì)齊) ChatGPT 爆發(fā) ├── 2023: GPT-4 CoT (思維鏈) / ReAct 框架普及 ├── 2024: OpenAI o1 (思考模式) MCP 接口協(xié)議 Agent 生態(tài)崛起 └── 2025-2026: DeepSeek R1 / OpenAI o3 / Manus / A2A (Agent間通信)三、LLM 的四大核心能力重新定義人機(jī)交互LLM 之所以能引發(fā)生產(chǎn)力革命核心在于它具備了四大跨越性的能力徹底打破了機(jī)器與人類(lèi)的溝通壁壘。3.1 語(yǔ)言大師自然語(yǔ)言理解與創(chuàng)造的革命LLM 真正實(shí)現(xiàn)了對(duì)人類(lèi)語(yǔ)言的深度理解它不僅能識(shí)別字面意思還能讀懂上下文、情感傾向甚至潛臺(tái)詞完成高質(zhì)量的語(yǔ)言創(chuàng)作。學(xué)生可以讓它生成論文引言段落快速搭建寫(xiě)作框架職場(chǎng)人可以讓它撰寫(xiě)禮貌又堅(jiān)決的投訴郵件、商務(wù)函件稍作修改即可使用創(chuàng)作者可以讓它生成故事腳本、詩(shī)歌文案提供無(wú)限的創(chuàng)作靈感3.2 知識(shí)巨人可對(duì)話的全互聯(lián)網(wǎng)知識(shí)庫(kù)LLM 通過(guò)學(xué)習(xí)海量的公開(kāi)數(shù)據(jù)構(gòu)建了一個(gè)立體的、可對(duì)話的知識(shí)網(wǎng)絡(luò)覆蓋了物理、化學(xué)、哲學(xué)、歷史等幾乎所有學(xué)科領(lǐng)域。你可以問(wèn)它 “用物理學(xué)原理解釋為什么貓咪總能四腳著地”它會(huì)從角動(dòng)量守恒的角度一步步給你講清 “貓的正反射” 原理你也可以讓它 “對(duì)比古希臘哲學(xué)和春秋戰(zhàn)國(guó)百家爭(zhēng)鳴的異同”它能從歷史背景、思想內(nèi)核、發(fā)展脈絡(luò)等維度給出完整的對(duì)比分析3.3 邏輯與代碼巫師從思維到實(shí)現(xiàn)的跨越LLM 的能力早已突破 “文科” 范疇進(jìn)入了需要極致精準(zhǔn)的邏輯推理和編程領(lǐng)域。程序員可以用自然語(yǔ)言描述需求比如 “寫(xiě)一個(gè) Python 函數(shù)自動(dòng)爬取網(wǎng)頁(yè)最新標(biāo)題并保存到 Excel”模型能瞬間生成可直接運(yùn)行的代碼學(xué)生可以把復(fù)雜的微分方程、數(shù)學(xué)題丟給它它不僅能給出答案還能一步步展示完整的解題過(guò)程成為一對(duì)一的私人家教3.4 多模態(tài)先知開(kāi)啟 “全感知” AI 時(shí)代主流 LLM 已經(jīng)打破了純文本的邊界實(shí)現(xiàn)了文本、圖像、音頻、視頻的多模態(tài)融合讓 AI 更接近人類(lèi)的感知方式。上傳一張照片搭配文字描述就能完成創(chuàng)意修圖、3D 建模、場(chǎng)景渲染等工作可以基于父母的照片生成融合雙方特征的嬰兒預(yù)測(cè)圖像可以解析技術(shù)圖紙、PDF 文檔、手寫(xiě)筆記完成信息提取和深度分析四、 提示詞工程Prompt Engineering釋放 LLM 潛能的魔法想要讓 LLM 輸出高質(zhì)量的結(jié)果核心在于編寫(xiě)合理有效的提示詞Prompt。好的提示詞能精準(zhǔn)限定需求范圍讓模型完全理解你的意圖輸出效果會(huì)有質(zhì)的提升。下面是經(jīng)過(guò)工業(yè)界驗(yàn)證的五大核心提示詞技巧覆蓋了絕大多數(shù)開(kāi)發(fā)和應(yīng)用場(chǎng)景。編寫(xiě)高效提示詞的關(guān)鍵在于限定范圍明確上下文、角色、任務(wù)與約束。4.1 CO-STAR 結(jié)構(gòu)化框架由新加坡政府技術(shù)局GovTech開(kāi)發(fā)的CO-STAR 框架是構(gòu)建高質(zhì)量提示詞的最佳實(shí)踐模塊核心說(shuō)明示例Context任務(wù)背景與上下文“你是電商客服需解答用戶關(guān)于 iPhone 17 的咨詢(xún)知識(shí)庫(kù)包含最新價(jià)格和庫(kù)存”O(jiān)bjective核心目標(biāo)“準(zhǔn)確回答價(jià)格、發(fā)貨時(shí)間推薦適配配件”Steps執(zhí)行步驟“1. 識(shí)別用戶問(wèn)題類(lèi)型2. 檢索知識(shí)庫(kù)3. 用親切語(yǔ)氣整理回復(fù)”Tone語(yǔ)言風(fēng)格“口語(yǔ)化避免專(zhuān)業(yè)術(shù)語(yǔ)使用‘親’‘呢’等語(yǔ)氣詞”Audience目標(biāo)用戶“20-35 歲年輕消費(fèi)者對(duì)價(jià)格敏感關(guān)注性?xún)r(jià)比”Response輸出格式“價(jià)格XXX 元 \n 庫(kù)存XXX 件 \n 推薦配件XXX”我們用一個(gè)實(shí)際案例看優(yōu)化效果優(yōu)化前模糊低效我該怎么吃才能更健康?優(yōu)化后清晰有效【Context】你是一個(gè)基于科學(xué)證據(jù)的 AI 營(yíng)養(yǎng)顧問(wèn)。免責(zé)聲明你提供的建議僅供通用參考不能替代專(zhuān)業(yè)醫(yī)療診斷。 【Objective】基于用戶的身體數(shù)據(jù)提供個(gè)性化的每日飲食原則建議。 【Audience】30歲男性目標(biāo)減脂增肌辦公室久坐每周 3 次力量訓(xùn)練。 【Tone】專(zhuān)業(yè)、嚴(yán)謹(jǐn)且富有鼓勵(lì)性。 【Steps】 1. 輸出免責(zé)聲明 2. 圍繞“控制總熱量保證高蛋白”制定核心原則 3. 分別提供早餐、午餐、晚餐及訓(xùn)練加餐建議 4. 推薦 2 種健康零食 5. 嚴(yán)禁推薦任何藥物或特定保健品。 【Response】按如下 Markdown 格式輸出 【免責(zé)聲明】... 【核心原則】... 【分餐建議】... 【健康零食推薦】...4.2 少樣本提示用示例教會(huì) LLM 你的需求少樣本提示的核心思想是給模型提供 1-3 個(gè)輸入 - 輸出的示例讓它 “照葫蘆畫(huà)瓢”精準(zhǔn)學(xué)習(xí)你需要的格式、風(fēng)格和邏輯比單純用文字描述規(guī)則高效得多。適用場(chǎng)景格式固定、風(fēng)格獨(dú)特、邏輯復(fù)雜的任務(wù)比如風(fēng)格仿寫(xiě)、數(shù)據(jù)提取、復(fù)雜格式生成。實(shí)際案例客戶反饋信息提取優(yōu)化前零樣本提示請(qǐng)分析以下客戶反饋提取產(chǎn)品名稱(chēng)、情感傾向和具體問(wèn)題。 反饋:我剛買(mǎi)的耳機(jī)才用了一周左邊就沒(méi)聲音了太讓人失望了。優(yōu)化后少樣本提示請(qǐng)根據(jù)以下示例分析后續(xù)的客戶反饋并提取產(chǎn)品名稱(chēng)、情感傾向和具體問(wèn)題。 示例1: 反饋:筆記本的電池續(xù)航太差了完全達(dá)不到宣傳的10小時(shí)最多就4小時(shí)。 分析: ? 產(chǎn)品名稱(chēng):筆記本電池 ? 情感傾向:負(fù)面 ? 具體問(wèn)題:續(xù)航遠(yuǎn)低于宣傳 示例2: 反饋:客服響應(yīng)很快非常專(zhuān)業(yè)地幫我解決了軟件激活問(wèn)題點(diǎn)贊! 分析: ? 產(chǎn)品名稱(chēng):客服服務(wù) ? 情感傾向:正面 ? 具體問(wèn)題:無(wú) 現(xiàn)在請(qǐng)分析這個(gè): ? 反饋:我剛買(mǎi)的耳機(jī)才用了一周左邊就沒(méi)聲音了太讓人失望了。4.3 思維鏈提示CoT讓模型學(xué)會(huì) “思考”思維鏈提示Chain of Thought, CoT核心是要求模型在給出答案前先展示完整的推導(dǎo)過(guò)程模仿人類(lèi)解決問(wèn)題的思考方式能大幅提升模型在復(fù)雜推理任務(wù)上的準(zhǔn)確率。適用場(chǎng)景數(shù)學(xué)題、邏輯推理、復(fù)雜決策、需要解釋過(guò)程的任務(wù)。實(shí)際案例示例1: Q:羅杰有五個(gè)網(wǎng)球他又買(mǎi)了兩盒網(wǎng)球每盒有3個(gè)網(wǎng)球請(qǐng)問(wèn)他現(xiàn)在總共有多少個(gè)網(wǎng)球? A:羅杰起初有五個(gè)網(wǎng)球又買(mǎi)了兩盒網(wǎng)球每盒3個(gè)所以他總共買(mǎi)了 2×36 個(gè)網(wǎng)球?qū)⑵鹗嫉臄?shù)量和購(gòu)買(mǎi)的數(shù)量相加可以得到他現(xiàn)在總共的網(wǎng)球數(shù)量: 5611 所以羅杰現(xiàn)在總共有11個(gè)網(wǎng)球 問(wèn):食堂總共有23個(gè)蘋(píng)果如果他們用掉20個(gè)蘋(píng)果然后又買(mǎi)了6個(gè)蘋(píng)果請(qǐng)問(wèn)現(xiàn)在食堂總共有多少個(gè)蘋(píng)果?模型會(huì)模仿示例中的思維鏈一步步完成計(jì)算大幅降低計(jì)算錯(cuò)誤的概率。4.4 零樣本思維鏈一句魔法短語(yǔ)提升推理準(zhǔn)確率零樣本思維鏈?zhǔn)巧贅颖舅季S鏈的簡(jiǎn)化版無(wú)需編寫(xiě)示例只需在提示詞末尾加上一句 “請(qǐng)一步步進(jìn)行推理并得出結(jié)論”就能強(qiáng)制模型先完成內(nèi)部推理再給出最終答案。這是成本最低、適用范圍最廣的推理提升技巧尤其適合你也不清楚具體推理步驟的場(chǎng)景。比如經(jīng)典的邏輯題一個(gè)雜耍者可以雜耍16個(gè)球。其中一半的球是高爾夫球其中一半的高爾夫球是藍(lán)色的。請(qǐng)問(wèn)總共有多少個(gè)藍(lán)色高爾夫球?請(qǐng)一步步進(jìn)行推理并得出結(jié)論。不加這句提示時(shí)模型很容易直接給出錯(cuò)誤答案 “8”加上之后模型會(huì)先拆解計(jì)算步驟最終得出正確答案 “4”。4.5 自我批判與迭代讓模型自己優(yōu)化輸出自我批判與迭代的核心是將 “生成” 和 “評(píng)審” 兩個(gè)步驟分離讓模型從特定角度對(duì)自己的輸出進(jìn)行審查和優(yōu)化能顯著提升內(nèi)容的嚴(yán)謹(jǐn)性和質(zhì)量。適用場(chǎng)景代碼審查、文案優(yōu)化、論證強(qiáng)化、安全檢查。實(shí)際案例Python 代碼編寫(xiě)與優(yōu)化請(qǐng)執(zhí)行以下兩個(gè)步驟: 步驟一:編寫(xiě)代碼 寫(xiě)一個(gè)Python函數(shù) find_max 用于計(jì)算一個(gè)數(shù)字列表中的最大值。 步驟二:自我審查與優(yōu)化 現(xiàn)在請(qǐng)從代碼健壯性和可讀性的角度審查你上面編寫(xiě)的代碼。 請(qǐng)回答: 1. 如果輸入是空列表函數(shù)會(huì)怎樣?如何改進(jìn)? 2. 變量命名和代碼結(jié)構(gòu)是否清晰?能否讓它更易于理解? 3. 請(qǐng)根據(jù)你的審查給出一個(gè)優(yōu)化后的最終版本。實(shí)戰(zhàn)提示在企業(yè)級(jí)開(kāi)發(fā)中以上技巧通常會(huì)組合使用比如先用 CO-STAR 框架設(shè)定基礎(chǔ)結(jié)構(gòu)和角色在執(zhí)行步驟中融入思維鏈指令對(duì)復(fù)雜格式補(bǔ)充少樣本示例最后要求模型完成自我審查能實(shí)現(xiàn)最佳的輸出效果。Cursor 官方提示詞提示詞五、 LLM 的原生接入方式與生產(chǎn)落地方案想要自己開(kāi)發(fā) AI 應(yīng)用就必須通過(guò)代碼接入 LLM 的原生能力。目前業(yè)界主流的原生接入方式有三種API 遠(yuǎn)程調(diào)用、開(kāi)源模型本地部署、官方 SDK 接入下面我們結(jié)合代碼逐一拆解。AI 應(yīng)用接入 LLM 的三種原生方式: ┌───────────────────┬───────────────────────────┬────────────────────────┐ │ 1. API 遠(yuǎn)程調(diào)用 │ 2. 開(kāi)源模型本地部署 │ 3. 官方 SDK 接入 │ │ (云端 RESTful API)│ (Ollama / vLLM / TGI) │ (Python / Node.js SDK) │ └───────────────────┴───────────────────────────┴────────────────────────┘5.1 API 遠(yuǎn)程調(diào)用最主流便捷的接入方式API 遠(yuǎn)程調(diào)用是目前最主流的接入方式通過(guò) HTTP 請(qǐng)求直接調(diào)用模型廠商部署在云端的模型服務(wù)無(wú)需管理任何硬件資源適合快速開(kāi)發(fā)、應(yīng)用集成場(chǎng)景。核心流程注冊(cè)賬號(hào)并獲取 API Key在模型廠商平臺(tái)注冊(cè)獲取用于身份驗(yàn)證的密鑰查閱 API 文檔了解請(qǐng)求端點(diǎn)、參數(shù)規(guī)范和返回?cái)?shù)據(jù)格式構(gòu)建 HTTP 請(qǐng)求使用 HTTP 客戶端庫(kù)構(gòu)建包含 API Key 和請(qǐng)求體的請(qǐng)求發(fā)送請(qǐng)求并處理響應(yīng)解析返回的 JSON 數(shù)據(jù)提取模型生成的內(nèi)容實(shí)戰(zhàn)代碼curl 調(diào)用 OpenAI API# OpenAI 對(duì)話API調(diào)用示例 curl https://api.openai.com/v1/responses \ # 設(shè)置請(qǐng)求體格式為JSON -H Content-Type: application/json \ # 攜帶API Key完成身份認(rèn)證$OPENAI_API_KEY為環(huán)境變量存儲(chǔ)的密鑰 -H Authorization: Bearer $OPENAI_API_KEY \ # 請(qǐng)求體指定模型和用戶輸入 -d { model: gpt-5, input: Write a one-sentence bedtime story about a unicorn. }響應(yīng)結(jié)果核心字段解析API 會(huì)返回 JSON 格式的響應(yīng)核心字段如下{ id: resp_xxxxxx, // 本次請(qǐng)求的唯一ID用于問(wèn)題排查 status: completed, // 請(qǐng)求狀態(tài)completed成功/incomplete失敗 model: gpt-4o-mini-2024-07-18, // 實(shí)際響應(yīng)的模型 output: [ { type: message, role: assistant, // 角色assistant模型輸出/user用戶輸入 content: [ { type: output_text, text: 你好!我是一個(gè)人工智能助手... // 模型生成的核心文本 } ] } ], usage: { input_tokens: 11, // 輸入提示詞消耗的token數(shù) output_tokens: 27, // 輸出內(nèi)容消耗的token數(shù) total_tokens: 38 // 本次請(qǐng)求總消耗token數(shù)用于計(jì)費(fèi) } }5.2 SDK 接入API 調(diào)用的封裝與簡(jiǎn)化SDK 接入并非獨(dú)立的接入方式而是對(duì)原生 API 調(diào)用的封裝和簡(jiǎn)化。模型廠商會(huì)發(fā)布對(duì)應(yīng)編程語(yǔ)言的官方 SDK封裝底層 HTTP 請(qǐng)求細(xì)節(jié)提供更符合編程習(xí)慣的函數(shù)庫(kù)讓代碼更簡(jiǎn)潔、易讀、易維護(hù)。實(shí)戰(zhàn)代碼OpenAI Python SDK 接入第一步安裝 SDKpip install openai第二步核心代碼與逐行解析# 1. 導(dǎo)入OpenAI SDK的核心客戶端類(lèi) from openai import OpenAI # 2. 初始化客戶端傳入API Key完成身份認(rèn)證 client OpenAI(api_keyyour-api-key) # 3. 調(diào)用模型接口發(fā)起生成請(qǐng)求 response client.responses.create( modelgpt-5, # 指定要調(diào)用的模型名稱(chēng) input介紹一下你自己。 # 用戶輸入的提示詞內(nèi)容 ) # 4. 提取并打印模型生成的文本 print(response.output_text)相比原生 HTTP 請(qǐng)求SDK 已經(jīng)幫我們完成了請(qǐng)求頭封裝、JSON 序列化、響應(yīng)解析等工作開(kāi)發(fā)者只需關(guān)注核心業(yè)務(wù)邏輯大幅降低開(kāi)發(fā)成本。5.3 開(kāi)源模型本地部署私有化 LLM 能力的最佳方案本地部署就是將開(kāi)源大語(yǔ)言模型如 DeepSeek-R1、Llama、Qwen 等部署在自己的硬件環(huán)境中完全掌控模型能力適合數(shù)據(jù)敏感、有私有化合規(guī)要求的場(chǎng)景。我們以業(yè)界最易用的本地部署工具 Ollama 為例完成完整的部署和接入實(shí)戰(zhàn)。步驟 1下載安裝 OllamaOllama 是一款專(zhuān)為本地 LLM 部署設(shè)計(jì)的開(kāi)源工具一鍵支持 macOS、Linux、Windows 系統(tǒng)無(wú)需復(fù)雜的環(huán)境配置。官網(wǎng)下載https://ollama.ai安裝完成后打開(kāi)終端輸入以下命令驗(yàn)證安裝ollama --version # 輸出示例ollama version is 0.9.3即安裝成功步驟 2模型拉取與配置Ollama 支持修改模型存儲(chǔ)路徑避免默認(rèn)占用 C 盤(pán)空間有兩種配置方式配置系統(tǒng)環(huán)境變量新增變量名OLLAMA\_MODELS變量值為自定義的模型存儲(chǔ)路徑圖形化設(shè)置打開(kāi) Ollama 設(shè)置界面在Model location中修改存儲(chǔ)路徑配置完成后重啟 Ollama 即可生效使用以下命令拉取模型# 拉取DeepSeek-R1 1.5B版本適合入門(mén)級(jí)設(shè)備 ollama run deepseek-r1:1.5b模型選型說(shuō)明模型名稱(chēng)中的b是Billion十億的縮寫(xiě)代表參數(shù)量級(jí)。參數(shù)量越大模型能力越強(qiáng)硬件要求越高1.5B/7B 版本適合普通 PC8GB 內(nèi)存即可流暢運(yùn)行14B/32B 版本需要 16GB 顯存的 GPU70B/671B 版本需要專(zhuān)業(yè)級(jí)服務(wù)器 GPU步驟 3命令行交互測(cè)試模型拉取完成后終端會(huì)自動(dòng)進(jìn)入對(duì)話界面可直接輸入內(nèi)容與模型交互 你好 你好!很高興見(jiàn)到你有什么我可以幫忙的嗎? 你是誰(shuí) 您好!我是由中國(guó)的深度求索(DeepSeek)公司開(kāi)發(fā)的智能助手DeepSeek-R1。如您有任何問(wèn)題我會(huì)盡我所能為您提供幫助。步驟 4本地 API 接口調(diào)用Ollama 啟動(dòng)后會(huì)默認(rèn)開(kāi)啟本地 API 服務(wù)地址為http://127\.0\.0\.1:11434可通過(guò) HTTP 請(qǐng)求調(diào)用與云端 API 使用方式完全一致。實(shí)戰(zhàn)代碼curl 調(diào)用本地模型 API# Ollama 本地對(duì)話API調(diào)用 curl http://127.0.0.1:11434/api/chat \ -d { model: deepseek-r1:1.5b, # 本地已拉取的模型名稱(chēng) messages: [ {role: user, content: 夸夸我} # 對(duì)話上下文 ], stream: false # 關(guān)閉流式輸出一次性返回結(jié)果 }5.4 原生接入的瓶頸與 LangChain 的誕生雖然原生接入很直接但在構(gòu)建企業(yè)級(jí)應(yīng)用時(shí)存在四大痛點(diǎn)輸入長(zhǎng)度限制所有 LLM 都有固定的上下文窗口如 4K、128K、400K Token無(wú)法直接將整本幾百頁(yè)的 PDF、整個(gè)公司知識(shí)庫(kù)傳入模型缺乏私有知識(shí)模型的訓(xùn)練數(shù)據(jù)有固定截止日期且不包含企業(yè)內(nèi)部文檔、個(gè)人私有數(shù)據(jù)無(wú)法精準(zhǔn)回答相關(guān)問(wèn)題極易產(chǎn)生 “幻覺(jué)”復(fù)雜任務(wù)處理能力弱原生 API 本質(zhì)是 “一問(wèn)一答” 的接口對(duì)于需要多步驟的復(fù)雜任務(wù)如分析財(cái)報(bào)→總結(jié)要點(diǎn)→生成 PPT 大綱需要開(kāi)發(fā)者手動(dòng)編寫(xiě)復(fù)雜邏輯拆解任務(wù)、管理中間狀態(tài)輸出格式不可控僅靠提示詞無(wú)法 100% 保證輸出格式合規(guī)極易出現(xiàn) JSON 格式錯(cuò)誤、內(nèi)容溢出等問(wèn)題需要額外編寫(xiě)大量后處理代碼校驗(yàn)和清洗而LangChain 框架正是為了系統(tǒng)性解決這些問(wèn)題而誕生的它就像一座堅(jiān)固的橋梁讓開(kāi)發(fā)者無(wú)需淌水過(guò)河就能輕松將 LLM 能力落地到實(shí)際應(yīng)用中。六、 語(yǔ)義世界的橋梁嵌入模型Embedding Model與向量化計(jì)算機(jī)無(wú)法直接“理解”文字或圖片的語(yǔ)義但極其擅長(zhǎng)計(jì)算數(shù)字。Embedding 的核心思想是將人類(lèi)的符號(hào)詞匯、句子、文檔、圖片映射到一個(gè)高維連續(xù)向量空間使得語(yǔ)義相似的內(nèi)容在向量空間中的距離如余弦相似度盡可能貼近。6.1 嵌入模型的本質(zhì)把人類(lèi)語(yǔ)言翻譯成計(jì)算機(jī)的數(shù)學(xué)語(yǔ)言嵌入模型Embedding Model和 LLM 有本質(zhì)區(qū)別LLM 是生成式模型核心目標(biāo)是理解輸入并生成新的文本嵌入模型是表示型模型核心目標(biāo)是為輸入的文本創(chuàng)建富含語(yǔ)義的數(shù)值表示高維向量嵌入的核心思想是將人類(lèi)語(yǔ)言的符號(hào)單詞、句子、段落轉(zhuǎn)換為計(jì)算機(jī)能夠理解的數(shù)值向量并且這種轉(zhuǎn)換能完整保留原始文本的語(yǔ)義和關(guān)系。通俗來(lái)說(shuō)嵌入模型就是一個(gè) “翻譯官”把人類(lèi)語(yǔ)言翻譯成計(jì)算機(jī)的 “數(shù)學(xué)語(yǔ)言”。翻譯完成后我們就能用數(shù)學(xué)方法度量文本之間的語(yǔ)義相似度業(yè)界最常用的是余弦相似度在向量空間中向量的方向代表語(yǔ)義含義向量的長(zhǎng)度代表文本長(zhǎng)度余弦相似度只關(guān)注向量方向的差異不受文本長(zhǎng)度影響完美適配語(yǔ)義匹配場(chǎng)景兩個(gè)向量的余弦相似度越高代表它們的語(yǔ)義越接近┌─────────────────────────────────────────────────────────────────┐ │ 嵌入模型 (Embedding) 核心應(yīng)用 │ ├───────────────┬─────────────────┬────────────────┬──────────────┤ │ 1. 語(yǔ)義搜索 │ 2. 檢索增強(qiáng)生成 │ 3. 智能推薦 │ 4. 異常檢測(cè) │ │ (Semantic) │ (RAG) │ (Recommender) │ (Anomaly) │ └───────────────┴─────────────────┴────────────────┴──────────────┘6.3 嵌入模型的四大核心應(yīng)用場(chǎng)景1語(yǔ)義搜索傳統(tǒng)搜索依賴(lài)關(guān)鍵詞精確匹配搜 “蘋(píng)果” 只能找到包含 “蘋(píng)果” 這個(gè)詞的文檔而語(yǔ)義搜索通過(guò)向量相似度匹配即使文檔中沒(méi)有精確關(guān)鍵詞只要語(yǔ)義相關(guān)就能被檢索到。比如用戶搜 “電池電量不增加”語(yǔ)義搜索能精準(zhǔn)找到 “如何解決筆記本電腦無(wú)法充電的問(wèn)題” 的相關(guān)文檔這是傳統(tǒng)搜索無(wú)法實(shí)現(xiàn)的。2檢索增強(qiáng)生成RAG這是當(dāng)前 LLM 企業(yè)級(jí)應(yīng)用的核心模式也是解決 LLM 私有知識(shí)缺失、幻覺(jué)問(wèn)題的最佳方案。核心流程當(dāng)用戶向 LLM 提問(wèn)時(shí)系統(tǒng)首先用嵌入模型在私有知識(shí)庫(kù)中做語(yǔ)義搜索找到最相關(guān)的內(nèi)容再把這些內(nèi)容和用戶問(wèn)題一起交給 LLM讓模型基于精準(zhǔn)的私有知識(shí)生成答案而非僅憑訓(xùn)練數(shù)據(jù)泛泛而談。比如企業(yè)內(nèi)部客服機(jī)器人員工問(wèn) “今年新增的帶薪育兒假政策是怎樣的”系統(tǒng)會(huì)先從人事制度文檔中檢索到相關(guān)條款再交給 LLM 生成精準(zhǔn)回答完全避免過(guò)時(shí)信息和幻覺(jué)。3推薦系統(tǒng)將用戶的歷史行為、偏好和商品、內(nèi)容的特征都轉(zhuǎn)換為向量喜歡相似物品的用戶向量會(huì)高度接近相似的物品向量也會(huì)聚集。通過(guò)計(jì)算用戶和物品的向量相似度就能實(shí)現(xiàn)精準(zhǔn)的個(gè)性化推薦。4異常檢測(cè)正常業(yè)務(wù)數(shù)據(jù)的向量會(huì)在空間中形成固定的聚集區(qū)當(dāng)一個(gè)新數(shù)據(jù)的向量遠(yuǎn)離這個(gè)聚集區(qū)時(shí)就大概率是異常點(diǎn)。這個(gè)能力被廣泛應(yīng)用于垃圾郵件識(shí)別、信用卡交易反欺詐、工業(yè)設(shè)備故障預(yù)警等場(chǎng)景。6.4 嵌入模型接入實(shí)戰(zhàn)主流嵌入模型模型名稱(chēng)廠商核心參數(shù)text?embedding?3?largeOpenAI默認(rèn)維度 3072支持降維輸入令牌長(zhǎng)度 8192多語(yǔ)言能力優(yōu)異Qwen3?Embedding?8B阿里巴巴開(kāi)源模型支持 100 語(yǔ)言上下文長(zhǎng)度 32k最高維度 4096支持自定義輸出維度gemini?embedding?001Google支持 100 語(yǔ)言默認(rèn)維度 3072支持降維多語(yǔ)言檢索表現(xiàn)突出實(shí)戰(zhàn)代碼OpenAI 嵌入模型 Python SDK 接入第一步安裝 SDK已安裝可跳過(guò)pip install openai第二步核心代碼與逐行解析# 1. 導(dǎo)入OpenAI SDK客戶端類(lèi) from openai import OpenAI # 2. 初始化客戶端傳入API Key完成身份認(rèn)證 client OpenAI(api_keyyour-api-key) # 3. 準(zhǔn)備需要向量化的輸入文本 text 這是一段需要轉(zhuǎn)換為向量的文本。 # 4. 調(diào)用嵌入模型API生成語(yǔ)義向量 response client.embeddings.create( modeltext-embedding-3-large, # 指定使用的嵌入模型 inputtext, # 待向量化的輸入文本 dimensions1024 # 可選自定義輸出向量維度可從3072維降到1024維 ) # 5. 從響應(yīng)結(jié)果中提取嵌入向量 embedding response.data[0].embedding # 6. 打印向量維度和內(nèi)容 print(f向量維度:{len(embedding)}) print(embedding)代碼運(yùn)行后會(huì)輸出 1024 維的浮點(diǎn)數(shù)向量這個(gè)向量就完整保留了輸入文本的語(yǔ)義信息可直接用于語(yǔ)義檢索、聚類(lèi)、RAG 等場(chǎng)景。像我們之前的LLM還有API接入和本地接入這個(gè)也有七、LangChain連接 LLM 與業(yè)務(wù)應(yīng)用的核心橋梁回到最開(kāi)始的比喻直接調(diào)用原生 LLM 接口就像淌水過(guò)河會(huì)遇到上下文限制、私有知識(shí)缺失、復(fù)雜任務(wù)拆解難等各種問(wèn)題而 LangChain就是為我們搭建的一座堅(jiān)固、全面的橋梁。LangChain 是一個(gè)開(kāi)源的大語(yǔ)言模型應(yīng)用開(kāi)發(fā)框架它封裝了 LLM 接入、嵌入模型、向量數(shù)據(jù)庫(kù)、任務(wù)拆解、工具調(diào)用、Agent 編排等全鏈路能力系統(tǒng)性解決了原生 LLM 的所有核心局限。它的核心價(jià)值體現(xiàn)在統(tǒng)一的接口抽象適配所有主流 LLM 和嵌入模型一套代碼可無(wú)縫切換不同廠商的模型無(wú)需大量重復(fù)開(kāi)發(fā)內(nèi)置 RAG 全鏈路能力提供了文檔加載、文本分塊、嵌入、檢索、重排、生成的全流程組件幾行代碼就能搭建企業(yè)級(jí) RAG 系統(tǒng)智能 Agent 與任務(wù)編排內(nèi)置 ReAct、CoT 等推理框架能讓 LLM 自主拆解復(fù)雜任務(wù)調(diào)用外部工具完成多步驟操作實(shí)現(xiàn)真正的智能體應(yīng)用強(qiáng)格式輸出管控內(nèi)置多種輸出解析器能 100% 保證 JSON、XML、Pydantic 等格式的輸出合規(guī)無(wú)需額外后處理豐富的生態(tài)集成對(duì)接了數(shù)百種第三方工具、數(shù)據(jù)庫(kù)、文檔加載器開(kāi)箱即用大幅降低 AI 應(yīng)用的開(kāi)發(fā)門(mén)檻結(jié)語(yǔ)從基礎(chǔ)的數(shù)學(xué)函數(shù) f(x) 到具備涌現(xiàn)能力的 LLM再到將萬(wàn)物數(shù)值化的 Embedding 向量大模型技術(shù)正在徹底重構(gòu)軟件開(kāi)發(fā)的范式。作為開(kāi)發(fā)者理解 Prompt 工程能幫助我們更好地“指揮”AI而掌握本地部署、API 接入及 Embedding 機(jī)制則是我們通往 AI Agent 與 RAG 系統(tǒng)開(kāi)發(fā)的必經(jīng)之路。