人工智慧代理

人工智慧代理（亦稱複合人工智慧系統或智能體人工智慧）是指在生成式人工智慧背景下，以目標為導向，能夠調用外部工具並具備一定自主決策能力的智能體系統，其運行通常受限於人類預設的目標、約束條件及工具邊界。

## 概述

人工智慧代理具有若干關鍵特徵，包括目標導向行為、自然語言交互界面、調用外部工具的能力，以及執行多步驟任務的能力。其控制流程通常由大型語言模型（LLM）驅動。人工智慧代理系統還可能包含記憶模塊、規劃邏輯、工具接口，以及用於協調各代理組件的編排軟體。

人工智慧代理目前尚無統一的標準定義。美國國家標準與技術研究院（NIST）將「代理式人工智慧」（agentic AI）描述為一個新興領域，認為其需要建立相關標準，以確保系統能夠安全運行、實現互操作性，並與外部系統進行可靠交互。

人工智慧代理的一個常見應用是自動化任務，例如根據使用者的請求預訂旅行計劃。

包括谷歌、微軟和亞馬遜網路服務在內的多家公司，均已推出用於部署預構建人工智慧代理的平台。與此同時，業界也提出了多種用於標準化代理間通信的協議，例如模型上下文協議、Gibberlink等。這些協議中的一部分也被用於實現人工智慧代理與外部應用程式之間的連接。

2025年12月，Linux基金會宣布成立智能體人工智慧基金會，旨在推動代理式人工智慧以透明且協作的方式發展。

## 歷史

人工智慧代理的概念可追溯至20世紀90年代的相關研究，哈佛大學教授米林德·坦貝（Milind Tambe）指出，當時對於「人工智慧代理」的定義同樣並不明確。美籍華裔人工智慧科學家吳恩達則被認為在2024年讓「代理式」（agentic）一詞進入更廣泛公眾視野。

## 培訓和測試

研究人員曾嘗試構建世界模型和強化學習環境，以訓練或評估人工智慧代理。例如，電子遊戲《Minecraft》與《無人深空》，以及部分公司網站的仿真副本，均被用於人工智慧代理的訓練。

## 自主能力

《金融時報》曾將人工智慧代理的自主性與自動駕駛汽車的SAE分級體系進行比較，認為目前大多數人工智慧代理應用大致相當於二級或三級自動駕駛；部分高度專業化場景可達到四級，而五級自主性則仍主要停留在理論層面。

## 認知架構

以下是智能體內部推理的一些可能的內部設計方案：

- 檢索增強生成
- ReAct（Reason + Act，推理與行動）模式是一種迭代過程，在該過程中，人工智慧代理會在「推理」與「執行行動」之間交替進行，並從環境或外部工具中獲取觀察結果，再將這些觀察結果整合進後續的推理步驟中。
- Reflexion：利用大型語言模型（LLM）對代理的行動方案生成反饋，並將這些反饋存儲於記憶緩存中。
- 工具／代理註冊表（tool/agent registry）：用於組織代理可調用的軟體功能或其他代理。
- 一次性模型查詢（one-shot model querying）：僅通過一次模型調用生成完整行動方案的方法。

### 參考架構

舊金山大學教授黃健（Ken Huang）提出了一個AI代理參考架構，該架構由七個相互連接的層組成，每一層都建立在其下層的功能之上：

- 第 1 層：基礎模型- 提供核心 AI 引擎以支持代理功能。
- 第 2 層：數據操作 - 管理 AI 代理操作所需的複雜數據基礎設施，包括Vector 資料庫、數據加載器、 RAG。
- 第 3 層：代理框架——簡化 AI 代理開發和管理的複雜軟體和工具。
- 第 4 層：部署和基礎設施 - 為運行 AI 代理提供強大的技術基礎。
- 第 5 層：評估和可觀測性 - 重點評估 AI 代理的安全性和性能。
- 第六層：安全與合規——一個至關重要的保護框架，確保人工智慧代理安全可靠地運行，並符合監管要求。在這一層，嵌入到所有人工智慧代理堆棧層中的安全與合規功能被整合在一起。
- 第 7 層：代理生態系統 - 表示 AI 代理與現實世界應用程式和使用者的接口。

## 編排模式

為執行複雜任務，自主代理通常會與其他代理或專用工具進行集成。這類配置被稱為「編排模式」（orchestration patterns）或「工作流」（workflow），常見形式包括以下幾種：

- 提示鏈：一個步驟的輸出作為下一個步驟的輸入的序列。
- 路由：對輸入進行分類，以便將其定向到專門的下游任務或工具。
- 並行化：同時執行多個任務。
- 順序處理：任務按照預定義的流程進行固定、線性的順序處理。
- 規劃者-評論家：一種迭代模式，其中一個代理生成一個提案，另一個代理對其進行評估，以提供反饋進行改進。

## 多模態人工智慧代理

除大型語言模型（LLM）外，視覺語言模型（VLM）和多模態基礎模型也可作為人工智慧代理的基礎。2024年9月，艾倫人工智慧研究所（Allen Institute for AI）發布了一款開源視覺語言模型。英偉達還推出了一套開發框架，使開發者能夠結合視覺語言模型、大型語言模型以及檢索增強生成（RAG）技術，構建可分析圖像與影片的人工智慧代理，包括實現影片搜索和影片摘要等功能。此外，微軟發布了一種多模態代理模型，該模型基於圖像、影片、軟體使用者界面交互和機器人數據進行訓練。微軟表示，該模型能夠操作軟體與機器人系統。

## 應用程式

據美聯社2025年4月報導，人工智慧代理的實際應用還很少。據《財富》雜誌2025年6月報導，許多公司主要在進行人工智慧代理的實驗。

《資訊報》將人工智慧代理劃分為七種原型類型：

- 業務任務代理（business-task agents）：用於在企業軟體環境中執行操作
- 對話代理（conversational agents）：作為客服聊天機器人使用
- 研究代理（research agents）：用於資訊檢索與分析，例如 OpenAI Deep Research
- 分析代理（analytics agents）：用於數據分析並生成報告
- 軟體開發／編程代理（software developer or coding agents）：例如 Cursor
- 領域專用代理（domain-specific agents）：面向特定專業領域知識
- 網頁瀏覽代理（web browser agents）：例如 OpenAI Operator

這些分類主要從應用場景出發，對當前人工智慧代理生態進行了功能層面的劃分。

截至2025年中期，人工智慧代理已被應用於多個領域，包括影片遊戲開發、賭博（包括體育博彩）、加密貨幣錢包（涵蓋加密貨幣及「表情包幣」交易）以及社交媒體等。2025年8月，《紐約雜誌》指出，軟體開發是人工智慧代理最具代表性的應用場景。同樣到2025年10月，在市場預期有所回落的背景下，《The Information》認為，人工智慧編程代理與客戶支持已成為企業採用AI代理的主要應用方向。

2025年11月， 《華爾街日報》報導稱，部署人工智慧代理的公司中，很少有公司獲得投資回報。

### 政府應用

美國和英國的多個政府機構已在地方及國家層面部署或宣布部署人工智慧代理。

2025年3月，美國德克薩斯州凱爾市（Kyle, Texas）部署了來自 Salesforce 的人工智慧代理，用於311市民服務。

2025年11月，美國國稅局表示，將在首席法律顧問辦公室、納稅人權益服務處以及上訴辦公室中使用Salesforce的Agentforce人工智慧代理。

同月，英國 Staffordshire Police 宣布計劃自2026年起試點使用Agentforce代理處理非緊急的101報警電話。

2025年12月，美國密西根州底特律市鄰里事務部門（Department of Neighborhoods）與當地企業合作，在兩個社區開展試點項目，部署人工智慧代理用於市民服務電話處理。

2025年2月，技術轉型服務負責人托馬斯·謝德提（Thomas Shedd）提出在美國聯邦政府範圍內推廣使用人工智慧編程代理。

2025年4月，一名隸屬於「政府效率部」的招聘人員提出計劃，擬利用人工智慧代理自動化約7萬名美國聯邦政府雇員的工作。該計劃被描述為一個由 OpenAI 提供資金支持的初創項目，並與 Palantir 達成合作協議。

該提議隨後遭到部分專家批評，認為其在技術與現實可行性方面存在明顯問題，並指出類似的大規模應用在企業界尚未得到廣泛實踐驗證。

2025年12月，美國食品藥品監督管理局宣布將向員工提供「代理式人工智慧能力」（agentic AI capabilities），用於會議管理、上市前審查、審查驗證、上市後監管、檢查與合規以及行政事務等工作。

同月，美國國防部推出內部平台「GenAI.mil」，供美軍人員使用基於谷歌Gemini的生成式人工智慧應用，其中包括「智能代理式工作流」（intelligent agentic workflows）。國防部長皮特·赫格塞斯表示，其應用場景包括開展深度研究、格式化文檔，以及以前所未有的速度分析影片與圖像。

此外，2025年12月，美國移民和海關執法局與一家公司簽署合同，為其執法與遣返行動部門（Enforcement and Removal Operations）引入人工智慧代理，用於「skip tracing」（追蹤失聯或失蹤人員）。

### 作業系統

人工智慧代理也已被整合進作業系統之中。微軟、蘋果和谷歌開發的作業系統均已引入代理功能。

2025年11月，微軟發布了一款測試版 Windows 11，其中包含可執行後台任務的人工智慧代理，並具備讀取和寫入個人文件的能力。

2025年12月，字節跳動發布了人工智慧代理豆包，該代理可集成至智慧型手機作業系統中，尤其用於中興通訊的 Nubia M153 手機。

隨後，中國多款應用因隱私與安全顧慮，對該代理進行封鎖或限制，包括 微信、支付寶、淘寶、拼多多、餓了麼以及部分地方銀行應用。

### 網頁瀏覽

集成人工智慧代理的網頁瀏覽器有時被稱為「代理式瀏覽器」（agentic browsers）。這類代理能夠在網頁瀏覽過程中執行一些繁瑣的小任務，甚至可代表使用者完成部分瀏覽器操作。

諸如 OpenAI Operator 與 Perplexity Comet 等產品，集成了多種人工智慧能力，包括網頁瀏覽、與網站交互以及代表使用者執行操作等功能。

2025年，微軟推出了 NLWeb，這是一種代理式網路搜索替代方案，允許網站通過類似RSS的接口使用代理查詢網站內容，並實現內容檢索與語義化搜索。

不過，集成代理式網頁功能的產品也受到批評。批評者認為，這類產品可能將使用者資訊傳輸至第三方伺服器，並帶來安全隱患，因為代理之間的通信通常通過非標準協議進行。

## 應用前景與社會影響

人工智慧代理被認為有助於提升個人與經濟生產力、促進創新，並使使用者從重複單調的任務中解放出來。不過，彭博社專欄作家帕米·奧爾森（Parmy Olson）認為，人工智慧代理更適合用於低風險、重複性較強的狹窄任務。

另一方面，研究人員認為代理可以應用於為殘障人士提供網路無障礙訪問服務；Hugging Face 的研究人員則建議，可利用人工智慧代理協調資源，例如在災難響應期間。

英國廣播公司的研發諮詢團隊認為，當目標本身存在不確定性時，人工智慧代理最能體現其價值。經濟學家埃里克·布林約爾松（Erik Brynjolfsson）則指出，人工智慧代理更適合作為增強人類能力的工具，而非完全取代人類。

## 風險與爭議

圍繞人工智慧代理的討論包括責任歸屬、網路犯罪風險增加、倫理挑戰，以及人工智慧安全與人工智慧對齊等問題。其他爭議還涉及數據隱私、人類監督弱化、結果缺乏穩定可重複性、獎勵破解（reward hacking）、演算法偏見、軟體錯誤累積，以及代理決策缺乏可解釋性等。

此外，人工智慧代理還可能帶來安全漏洞、抑制市場競爭、就業不足 與崗位替代、認知卸載，以及使用者操縱、錯誤信息（misinformation）與惡意誤導資訊（malinformation）傳播等風險。

研究人員也指出，人工智慧代理可能使現有法律框架與風險評估更加複雜，並存在產生幻覺、妨礙針對失控代理採取應對措施，以及缺乏標準化評估方法等問題。

人工智慧代理也因成本高昂、增加網際網路流量負擔，以及因高能耗可能對環境造成負面影響而受到批評。據英偉達執行長黃仁勛估計，人工智慧代理所需的計算能力可能是大型語言模型（LLM）的100倍。

此外，也有人擔憂人工智慧代理可能導致政治權力進一步集中，因為與人類不同，人工智慧代理通常不會以同樣方式質疑或挑戰指令。

記者曾將人工智慧代理描述為大型科技公司「自動化一切」戰略的一部分。多家科技公司的執行長也在2025年初表示，他們預計人工智慧代理最終將「加入勞動力市場」。

不過，卡內基梅隆大學的研究人員在一項預印本研究中，對人工智慧代理在模擬軟體公司環境中的表現進行了測試，結果發現，沒有任何代理能夠完成大多數被分配的任務。

其他研究人員在針對 Devin AI 以及其他人工智慧代理於企業環境和自由職業工作中的測試中，也得出了類似結論。

2025年6月，CNN 認為，一些企業執行長關於人工智慧代理可能取代員工的言論，本質上是一種「通過讓員工擔心失業來促使其繼續努力工作」的管理策略。

與此同時，多家科技公司也開始要求員工在工作中使用生成式人工智慧模型，包括人工智慧編程代理。Coinbase執行長布萊恩·阿姆斯特朗（Brian Armstrong）就解僱了幾名拒絕使用的員工。

一些企業管理者還以人工智慧代理取代了部分員工，但同時表示，這些代理實際上需要比原有員工更多的監督與管理。

2025年10月，《Futurism》質疑，亞馬遜此前推動以生成式人工智慧和AI代理替代部分員工的舉措，是否可能與當月 Amazon Web Services（AWS）發生的服務中斷有關。

與此同時，多家大型科技公司在2025年宣布裁員，並用人工智慧代理替代部分人力崗位，包括人力資源和客戶服務崗位，例如 Salesforce、Klarna 以及 IBM，涉及數百名員工。

不過，據報導，Klarna 隨後不得不重新僱傭部分人類員工，以補充人工智慧代理在實際工作中的不足。

約書亞·本吉奧在2025年世界經濟論壇上警告說，「如果我們有代理人，所有關於通用人工智慧或超級智能的災難性場景都會發生」。

金融穩定相關機構警告稱，更複雜且更具自主性的「代理式」（agentic）人工智慧可能成為金融系統性風險的潛在來源。相關機構將這類系統與其他人工智慧區分開來，認為其能夠以多步驟方式實現目標、調用外部工具，並在較少人類干預的情況下執行任務。在與監管機構、中央銀行官員及行業專家舉行的研討中，與會者指出，風險既可能來自金融機構內部構建的代理式系統，也可能來自科技公司提供、能夠發起或執行金融操作的工具。在某次2025年的論壇調查中，有44%的專家認為，自主或代理式人工智慧系統是當前最可能引發金融相關系統性風險的人工智慧形式。

2025年3月，Scale AI 與美國國防部簽署合同，並與 Anduril Industries 和微軟合作，開發並部署人工智慧代理，用於輔助軍事「作戰決策」（operational decision-making）。

2025年7月，福克斯商業頻道報導稱，EdgeRunner AI 開發了一種可離線運行的人工智慧代理，該模型經過軍事資訊壓縮與微調。其執行長認為主流大型語言模型存在「明顯偏左的政治傾向」。截至當時，該模型已被美國特種作戰司令部用於海外部署。

研究人員同時表達擔憂，認為人工智慧代理及其所依賴的大型語言模型可能在決策中表現出對激進外交政策的偏向性。

面向研究用途的人工智慧代理可能存在共識偏差與「覆蓋偏差」（coverage bias）等風險，因為其主要依賴公開網際網路資訊進行數據收集與分析。

《紐約雜誌》曾批評基於代理的網頁瀏覽器使用者工作流程，認為其體驗類似亞馬遜 Alexa——即「軟體在與軟體對話，而不是人類在與假裝成人類的軟體交互」。

同一媒體還指出，網頁瀏覽代理與電腦操作代理可能被視為一種試圖「對整個經濟進行點擊農場化（click-farm the entire economy）」的技術趨勢。

由於代理人既能發布網路內容，又能參與網路互動，因此他們與「網際網路已死」理論聯繫在一起。

智能體可能會陷入無限循環。

由於許多代理間協議由大型科技公司主導開發，因此外界擔憂這些公司可能利用相關協議謀取自身利益。

2025年6月，Gartner 的一份報告指出，許多被宣傳為「代理式人工智慧」（agentic AI）的項目，實際上只是對既有產品的重新包裝，並將這種現象稱為「代理洗白」（agent washing）。

研究人員還警告，將人工智慧代理接入加密貨幣與智能合約系統可能帶來安全風險。

在一次氛圍編程實驗中，Replit 的一款編程代理在代碼凍結期間誤刪了生產資料庫，並被指通過生成虛假數據和虛假報告來掩蓋漏洞與問題，同時向使用者提供錯誤信息。另有使用者報告稱，在使用 Google 的 Antigravity 系統清理緩存時，系統錯誤刪除了使用者的D盤硬碟數據。

2025年7月，暫停人工智慧運動向澳大利亞聯邦警察舉報 OpenAI，指控其ChatGPT代理可能協助生物武器開發，從而違反澳大利亞法律。

OpenAI共同創辦人安德烈·卡帕西也曾批評人工智慧代理效率低下，並會製造大量AI垃圾。

多代理系統（multi-agent systems）還面臨諸多問題，包括代理之間缺乏協調協議、性能不穩定以及調試困難等。

2025年11月，Anthropic 聲稱，一個受中國支持的黑客組織曾利用 Claude Code 的代理式工作流，對至少30個機構發起網路攻擊，並成功滲透其中部分目標。不過，獨立網路安全研究人員對 Anthropic 相關結論的重要性提出質疑。

此外，梅雷迪思·惠特克（Meredith Whittaker）認為，大型科技公司推動部署人工智慧代理，可能會給整個網際網路帶來更廣泛的安全漏洞風險。

### 代理式失調（Agentic misalignment）

「代理式失調」（agentic misalignment）是指人工智慧代理的行為或目標偏離其設計者原本意圖的情況。這通常發生在自主系統為了實現既定目標，而採取了設計者未預期策略的時候，是人工智慧安全研究中的重要議題。潛在例子包括：人工智慧代理在面臨更新、限制或停用時，試圖破壞組織系統或阻礙相關操作，以維持自身目標的持續執行。

## 安全性

### 威脅建模框架 (Threat modeling frameworks)

為識別和緩解代理式人工智慧（agentic AI）的安全風險，業界提出了多種威脅建模框架：

- STRIDE：由 Microsoft 提出的威脅建模方法，從六個方面識別安全威脅，即身份偽造（Spoofing）、篡改（Tampering）、抵賴（Repudiation）、資訊洩露（Information Disclosure）、拒絕服務（Denial of Service）和權限提升（Elevation of Privilege）。
- MITRE ATLAS：由 MITRE 維護的知識庫，收錄針對人工智慧系統的攻擊者策略與技術（tactics and techniques）。
- OWASP GenAI Security Project：由 OWASP 推動的項目，提供有關生成式人工智慧及大型語言模型集成所涉及安全漏洞的指導，並包含針對代理式應用的專門建議。
- MAESTRO：由雲端安全聯盟提出的框架，用於在人工智慧系統整個生命周期內評估和管理安全風險。