後AI時代的多代理 AI Agent 實作:使用 CrewAI 與 LiteLLM 打造自動化專案程式架構分析
在「後AI時代」,AI Agent 正逐步改變我們對人工智慧的想像。本文從 Generative AI 年會談起,介紹 MCP(Model Context Protocol)、CrewAI 與 LiteLLM 的整合實作,說明如何打造能協作、自主決策的多代理(Multi-Agent)AI 系統。從單一 LLM 到智能協作架構,這正是 AI 演化的新篇章。 前言 前陣子在觀賞 2025 Generative AI 年會 ,聽到有位分享者提到「後AI時代」,為什麼說後AI時代呢,因為AI Agent的概念出現,加上MCP逐漸成熟,前兩年的超大LLM霸主時期不免出現一些小變化,在過去,我們人類先是提出了Auto Regressive,接著整理出大量的訓練語料,接著我們用Text-Generation解決了很多問答、總結的NLP難題,下一步則開始考慮多模態問題,接著需要更多更好的機制來解決Token轉換問題,還要有更多機器來支援算力消耗,屬實不容易,大部分LLM走在一條用單一模型解決所有問題的道路上,但這實在不容易,畢竟很多任務是這樣的,你讓他執行單一任務,他可以做到很精確,像是圖像辨識,CNN幾乎就有了碾壓性的效果,但是你要讓他兼顧幾個不同任務,這是個大課題。 於是就有人想了,那如果我把幾個Model結合起來,會是什麼感覺呢?我先破個梗,如果處理得不好,大概就是以下這種狀況。 這沒亂蓋吧?這張圖要多傳神就有多傳神,更何況他還說出了LLM的特色。 好啦,回歸主題,接著介紹說幾個在本次實作會應用到概念。 AI Agent 是能自主理解任務、規劃步驟、執行行動並根據結果調整策略的概念,結合了大語言模型(LLM)、記憶、工具與回饋機制,能完成多步驟任務。例如自動撰寫報告、分析資料或審查程式碼,不再只是被動回答,而能主動行動。 MCP 是一種標準化協定,用來讓 AI Agent 與工具、資料、記憶庫之間交換上下文與任務資訊。它幫助 Agent 保留任務狀態、共享工具清單、追蹤進度,實現多代理協作,MCP 讓 AI 系統有「記憶」與「任務持續性」。 CrewAI 是一個多代理(Multi-Agent)開發框架,讓開發者能定義多個 AI Agent 角色、任務與互動流程。它支援任務拆解、工具整合與自動協作,可讓不同專長的 Agent 協同完成目標。CrewAI 常用於自動化工作流與智...