AI智能體開(kāi)發(fā)框架，怎么開(kāi)發(fā)一個(gè)AI智能體（AI Agent）

行業(yè)新聞|Industry News|

2025-03-03 17:13:09 509

背景：

1、AI智能體作為當(dāng)前最優(yōu)AI應(yīng)用模式已然成為必會(huì)的開(kāi)發(fā)能力。

2、AI智能體開(kāi)發(fā)框架已然成為程序員必須掌握的新開(kāi)發(fā)環(huán)境，類(lèi)似visual studio這樣的開(kāi)發(fā)工具。

3、AI Agent 讓 “人機(jī)協(xié)同” 成為新常態(tài)，個(gè)人與企業(yè)步入 AI 助理時(shí)代。AI Agent 能夠幫助未來(lái)企業(yè)構(gòu)建以 “人機(jī)協(xié)同” 為核心的智能化運(yùn)營(yíng)新常態(tài)。

4、AI Agent 變革未來(lái)生產(chǎn)力的組織形式，對(duì)抗組織熵增。未來(lái)企業(yè)工作任務(wù)將在 AIGC 的助推作用下變得日益原子化和碎片化，復(fù)雜的流程將被無(wú)限拆解，再進(jìn)行靈活的編排和組合，每個(gè)環(huán)節(jié)的效能和潛力都將被 AI 持續(xù)挖掘。

5、從供給端看，“人 + AI 數(shù)字員工”的高效協(xié)同模式將為大型企業(yè)對(duì)抗組織熵增提供理想的解法。

一、AI Agent是是啥？

1、基于大模型的AI應(yīng)用

1）如果把大模型比作大腦，那 AI Agent 可以理解為小腦 + 手腳。

2）AI Agent可以接收外部信息，基于大模型的推理進(jìn)行理解判斷，基于判斷做出決策，調(diào)用外部接口執(zhí)行動(dòng)作的一個(gè)自動(dòng)執(zhí)行的工作流應(yīng)用。AI AGent可以與外部接受信息和交互。

2、對(duì)話AI就是一個(gè)智能體

DeepSeek，豆包，Kimi，元寶，這些都是對(duì)話智能體，接受外部提問(wèn)，經(jīng)過(guò)推理給生成答案內(nèi)容。AI AGent可以獨(dú)立運(yùn)行，自動(dòng)化執(zhí)行。

3、舉例

比如你做一個(gè)簡(jiǎn)歷篩選，他可以把各種文件格式的，各種排版形式的簡(jiǎn)歷放在一起按條件檢索，這種用傳統(tǒng)軟件開(kāi)放方式是比較復(fù)雜，利用AI AGent開(kāi)發(fā)就簡(jiǎn)單很多，把簡(jiǎn)歷導(dǎo)入知識(shí)庫(kù)，利用RAG技術(shù)通過(guò)AI AGent開(kāi)發(fā)框架調(diào)用就可以了，把月量級(jí)的工作，變成周的工作。

4、與Copilot的區(qū)別

1）如果說(shuō) Copilot 是 “副駕駛”，那么 Agent 則可以算得上一個(gè)初級(jí)的 “主駕駛”。

2）Copilot提出生成結(jié)果，由人篩選，AI Agent可以自動(dòng)化執(zhí)行。

二、智能體開(kāi)發(fā)需要的技術(shù)棧

1、智能體的關(guān)鍵組件組成

Agent=LLM（選擇大腦） + 規(guī)劃技能（拆解工作，規(guī)劃工作流） + 記憶（外部知識(shí)庫(kù)，本地上下文） + 工具使用（對(duì)接外部應(yīng)用）的基礎(chǔ)架構(gòu)。

1）基礎(chǔ)大模型

負(fù)責(zé)知識(shí)推理和內(nèi)容生成， LLM 扮演了 Agent 的 “大腦”，在這個(gè)系統(tǒng)中提供推理、規(guī)劃等能力。

2）RAG開(kāi)發(fā)框架，開(kāi)發(fā)知識(shí)庫(kù)

用來(lái)建立智能體或者企業(yè)的私有知識(shí)庫(kù)，用來(lái)防止幻覺(jué)和增強(qiáng)行業(yè)知識(shí)和領(lǐng)域知識(shí)。

RAG就是通過(guò)檢索獲取相關(guān)的知識(shí)并將其融入Prompt，讓大模型能夠參考相應(yīng)的知識(shí)從而給出合理回答。可以將RAG的核心理解為“檢索+生成”，前者主要是利用向量數(shù)據(jù)庫(kù)的高效存儲(chǔ)和檢索能力，召回目標(biāo)知識(shí)；后者則是利用大模型和Prompt工程，將召回的知識(shí)合理利用，生成目標(biāo)答案。

3）智能體開(kāi)發(fā)框架

1）AI Agent開(kāi)發(fā)平臺(tái)和工具

應(yīng)用開(kāi)發(fā)的工具鏈，開(kāi)發(fā)包的集合，各種組件和插件不斷被開(kāi)發(fā)出來(lái)。拖拉拽的開(kāi)發(fā)工作流引擎，可以調(diào)用RAG，調(diào)用外部系統(tǒng)。發(fā)展越來(lái)越完善，越來(lái)能力越強(qiáng)。

2）智能體工作流開(kāi)發(fā)框架，接收外部信息，檢索知識(shí)庫(kù)，檢索結(jié)果疊加輸入信息，調(diào)用基礎(chǔ)大模型推理，根據(jù)生成內(nèi)容進(jìn)行工作流執(zhí)行。

4）RPA工具

應(yīng)用系統(tǒng)集成自動(dòng)化工具，可以模仿用戶輸入操作，實(shí)現(xiàn)自動(dòng)化應(yīng)用執(zhí)行。可以與AGent框架集成外部應(yīng)用。

5）向量數(shù)據(jù)庫(kù)，外部長(zhǎng)期記憶

用來(lái)存儲(chǔ)私有知識(shí)庫(kù)，并提供檢索索引能力，提高效率的的向量數(shù)據(jù)庫(kù)和工具

三、智能體開(kāi)發(fā)的技術(shù)架構(gòu)選型

核心的選擇是大模型，大模型選擇就是DeepSeek+其他，然后就是智能體開(kāi)發(fā)框架，智能體開(kāi)發(fā)框架langchain用的比較多，這兩個(gè)選擇了，其他的就圍繞這兩個(gè)選就可以了。

1、選擇基礎(chǔ)大模型

選擇應(yīng)用合適的大模型，有商業(yè)化的也有開(kāi)源的，現(xiàn)在的話LLM模型就選擇DeepSeek就對(duì)了，多模態(tài)的沒(méi)有公認(rèn)的的，看看業(yè)務(wù)需要吧

2、選擇智能體開(kāi)發(fā)框架

1）國(guó)內(nèi)：字節(jié)coze，阿里百煉，

2）國(guó)外開(kāi)源：langchain，langgragh，dify這兩個(gè)是公認(rèn)比較好的，autoGPT，crewAI。

3）舉例Dify軟件的主要功能

（1）低代碼/無(wú)代碼開(kāi)發(fā)：提供用戶友好的界面，通過(guò)可視化的方式允許開(kāi)發(fā)者輕松定義Prompt、上下文和插件等。

（2）模塊化設(shè)計(jì)：采用模塊化的設(shè)計(jì)，每個(gè)模塊都有清晰的功能和接口，可以根據(jù)需求選擇性地使用。

（3）豐富的功能組件：包括AI工作流、RAG管道、Agent、模型管理、可觀測(cè)性功能等。

（4）支持多種大語(yǔ)言模型：已支持OpenAI GPT系列等模型，并計(jì)劃進(jìn)一步擴(kuò)展。

（5）數(shù)據(jù)處理和特征工程工具：提供了數(shù)據(jù)清洗、特征選擇、特征變換等功能。

集成外部知識(shí)源：允許自定義API接入外部知識(shí)源，讓大型語(yǔ)言模型深入理解企業(yè)知識(shí)和業(yè)務(wù)。

3、選擇RAG框架，知識(shí)庫(kù)管理

1）智能體開(kāi)發(fā)框架一般會(huì)集成一個(gè)RAG的框架。RAGFlow圖形化操作比較友好，txtai功能比較全，比較閉環(huán)。llamaindex。

2）RAG一般會(huì)集成向量數(shù)據(jù)庫(kù)，數(shù)據(jù)治理結(jié)果存儲(chǔ)在向量數(shù)據(jù)庫(kù)。進(jìn)行數(shù)據(jù)治理，基于RAG技術(shù)開(kāi)發(fā)私有知識(shí)庫(kù)，對(duì)知識(shí)庫(kù)進(jìn)行拆分。

四、基于 DeepSeek-R1 + langchain 的 AI Agent 開(kāi)發(fā)舉例

1. 環(huán)境準(zhǔn)備
bash
安裝核心依賴
pip install langchain langchain-community transformers chromadb gradio

---

2. 核心代碼實(shí)現(xiàn)

(1) 初始化本地模型
python
from langchain_community.llms import HuggingFacePipeline
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline

加載 DeepSeek-R1 本地模型
model_path = "/path/to/deepseek-r1"   替換為實(shí)際模型路徑
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(model_path)

創(chuàng)建 HuggingFace 推理管道
text_generation_pipe = pipeline(
    "text-generation",
    model=model,
    tokenizer=tokenizer,
    max_new_tokens=512,
    temperature=0.3,
    repetition_penalty=1.1
)

封裝為 LangChain 兼容的 LLM
local_llm = HuggingFacePipeline(pipeline=text_generation_pipe)

(2) 創(chuàng)建知識(shí)庫(kù)工具
python
from langchain_community.vectorstores import Chroma
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain.text_splitter import RecursiveCharacterTextSplitter

初始化嵌入模型
embeddings = HuggingFaceEmbeddings(model_name="BAAI/bge-small-zh-v1.5")

加載本地文檔（示例使用 TXT 文件）
with open("knowledge_base.txt", "r") as f:
    text = f.read()

文檔分塊處理
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)
docs = text_splitter.split_text(text)

創(chuàng)建向量數(shù)據(jù)庫(kù)
vector_db = Chroma.from_texts(docs, embeddings, persist_directory="./chroma_db")

封裝為檢索工具
retriever = vector_db.as_retriever(search_kwargs={"k": 3})

(3) 添加實(shí)時(shí)搜索工具
python
from langchain_community.tools import DuckDuckGoSearchRun

初始化 DuckDuckGo 搜索工具
search_tool = DuckDuckGoSearchRun()

(4) 構(gòu)建 Agent 系統(tǒng)
python
from langchain.agents import Tool, initialize_agent
from langchain.memory import ConversationBufferMemory

定義工具集
tools =
    Tool(
        name="知識(shí)庫(kù)查詢",
        func=lambda query: str(retriever.get_relevant_documents(query)),
        description="用于查詢本地知識(shí)庫(kù)中的專(zhuān)業(yè)信息"
    ),
    Tool(
        name="實(shí)時(shí)搜索",
        func=search_tool.run,
        description="用于獲取實(shí)時(shí)新聞、天氣、股票等最新信息"
    )

創(chuàng)建對(duì)話記憶
memory = ConversationBufferMemory(memory_key="chat_history", return_messages=True)

初始化 Agent
agent = initialize_agent(
    tools,
    local_llm,
    agent="conversational-react-description",
    memory=memory,
    verbose=True
)

(5) 創(chuàng)建交互界面
python
import gradio as gr

定義 Gradio 交互函數(shù)
def chat(message, history):
    response = agent.run(message)
    return response

啟動(dòng) Web 服務(wù)
gr.ChatInterface(
    chat,
    title="DeepSeek-R1 智能助手",
    description="支持本地知識(shí)庫(kù)查詢和實(shí)時(shí)網(wǎng)絡(luò)搜索"
).launch(share=True)

---

3. 應(yīng)用場(chǎng)景演示

場(chǎng)景 1：查詢本地知識(shí)庫(kù)
用戶輸入：
"我們公司的售后服務(wù)政策是什么？"

Agent 響應(yīng)流程：
1. 調(diào)用 `知識(shí)庫(kù)查詢` 工具檢索相關(guān)文檔
2. 將檢索結(jié)果輸入 DeepSeek-R1 生成自然語(yǔ)言回復(fù)
3. 輸出："根據(jù)公司政策，所有產(chǎn)品享受3年質(zhì)保，7天內(nèi)無(wú)理由退貨..."

---

場(chǎng)景 2：實(shí)時(shí)信息檢索
用戶輸入：
"今天北京的天氣怎么樣？"

Agent 響應(yīng)流程：
1. 識(shí)別需要實(shí)時(shí)數(shù)據(jù)，調(diào)用 `實(shí)時(shí)搜索` 工具
2. 獲取 DuckDuckGo 返回的天氣信息
3. 使用 DeepSeek-R1 總結(jié)搜索結(jié)果
4. 輸出："根據(jù)最新天氣數(shù)據(jù)，北京今日晴轉(zhuǎn)多云，氣溫18-25℃，空氣質(zhì)量*..."

---

場(chǎng)景 3：混合查詢
用戶輸入：
"對(duì)比我們產(chǎn)品A和競(jìng)品B的技術(shù)參數(shù)"

Agent 響應(yīng)流程：
1. 通過(guò) `知識(shí)庫(kù)查詢` 獲取產(chǎn)品A的規(guī)格參數(shù)
2. 使用 `實(shí)時(shí)搜索` 獲取競(jìng)品B的最新信息
3. DeepSeek-R1 進(jìn)行對(duì)比分析
4. 生成對(duì)比表格和總結(jié)建議

---

4. 關(guān)鍵優(yōu)化技巧

(1) 提示詞工程優(yōu)化
在 Agent 初始化前添加系統(tǒng)提示：
python
from langchain.prompts import MessagesPlaceholder

system_prompt = """你是一個(gè)專(zhuān)業(yè)助理，請(qǐng)遵守以下規(guī)則：
1. 優(yōu)先使用知識(shí)庫(kù)查詢工具獲取準(zhǔn)確信息
2. 涉及實(shí)時(shí)數(shù)據(jù)時(shí)必須使用搜索工具
3. 用中文分點(diǎn)回答，重要數(shù)據(jù)用加粗顯示"""

agent.agent.llm_chain.prompt.messages =
    SystemMessage(content=system_prompt),
    MessagesPlaceholder(variable_name="chat_history"),
    HumanMessagePromptTemplate.from_template("{input}"),
    MessagesPlaceholder(variable_name="agent_scratchpad")

(2) 結(jié)果后處理
添加響應(yīng)格式校驗(yàn)：
python
from langchain.output_parsers import StructuredOutputParser
from langchain.schema import OutputParserException

output_parser = StructuredOutputParser.from_response_schemas(
    ResponseSchema(name="answer", type="string", description="主要回答內(nèi)容"),
    ResponseSchema(name="sources", type="list", description="數(shù)據(jù)來(lái)源")
)

def format_response(raw_response):
    try:
        return output_parser.parse(raw_response)
    except OutputParserException:
        return {"answer": raw_response, "sources": }

(3) 性能監(jiān)控
集成 Prometheus 監(jiān)控：
python
from prometheus_client import start_http_server, Counter

REQUEST_COUNTER = Counter('agent_requests', 'Total API requests')
RESPONSE_TIME = Histogram('agent_response_time', 'Response time in seconds')

@RESPONSE_TIME.time()
def chat(message, history):
    REQUEST_COUNTER.inc()
     ...原有邏輯...

---

5. 部署架構(gòu)
mermaid
graph TD
    A用戶界面 --> B(Gradio Web Server)
    B --> CLangChain Agent
    C --> D{決策路由}
    D -->本地知識(shí) EChroma DB
    D -->實(shí)時(shí)數(shù)據(jù) FDuckDuckGo API
    C --> GDeepSeek-R1 模型
    G --> H響應(yīng)生成
    H --> B

---

6. 常見(jiàn)問(wèn)題解決

問(wèn)題 1：模型加載內(nèi)存不足
解決方案：
python
使用 4-bit 量化加載
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    load_in_4bit=True,
    device_map="auto"
)

問(wèn)題 2：檢索結(jié)果不準(zhǔn)確
優(yōu)化方法：
python
混合檢索策略
from langchain.retrievers import BM25Retriever, EnsembleRetriever

bm25_retriever = BM25Retriever.from_texts(docs)
ensemble_retriever = EnsembleRetriever(
    retrievers=vector_db.as_retriever(), bm25_retriever,
    weights=0.6, 0.4
)

問(wèn)題 3：響應(yīng)速度慢
加速技巧：
python
啟用流式響應(yīng)
text_generation_pipe = pipeline(
    ...,
    streamer=TextStreamer(tokenizer, skip_prompt=True)
)

啟用緩存
from langchain.cache import SQLiteCache
import langchain
langchain.llm_cache = SQLiteCache(database_path=".langchain.db")

---

擴(kuò)展方向建議
1. 多模態(tài)支持：集成 LLaVA 等視覺(jué)模型處理圖片/PDF
2. API 擴(kuò)展：添加企業(yè)內(nèi)部系統(tǒng)接口（CRM/ERP）
3. 分布式部署：使用 Ray 框架實(shí)現(xiàn)計(jì)算資源擴(kuò)展
4. 審計(jì)日志：記錄完整的 Agent 決策過(guò)程

這個(gè)示例展示了如何將本地部署的大模型與 LangChain 生態(tài)結(jié)合，構(gòu)建具備實(shí)際應(yīng)用價(jià)值的 AI Agent。開(kāi)發(fā)者可以根據(jù)具體需求調(diào)整工具組合和業(yè)務(wù)流程。

免責(zé)聲明：本文來(lái)源于“數(shù)字化轉(zhuǎn)型分享”公眾號(hào)，本文僅代表作者個(gè)人觀點(diǎn)，不代表薩科微及行業(yè)觀點(diǎn)，只為轉(zhuǎn)載與分享，支持保護(hù)知識(shí)產(chǎn)權(quán)，轉(zhuǎn)載請(qǐng)注明原出處及作者，如有侵權(quán)請(qǐng)聯(lián)系我們刪除。

企業(yè)咨詢和陪跑請(qǐng)掃碼聯(lián)系

上一篇：: RAG框架，知識(shí)庫(kù)開(kāi)發(fā)和知識(shí)庫(kù)應(yīng)用

下一篇：: 金航標(biāo)冠名“廠BA中青籃球聯(lián)賽”圓滿落幕，總經(jīng)理宋仕強(qiáng)為*球隊(duì)頒獎(jiǎng)（薩科微3月3日每日芯聞）

AI智能體開(kāi)發(fā)框架，怎么開(kāi)發(fā)一個(gè)AI智能體（AI Agent）

客服QQ2635709730

客服QQ
2635709730