大模型开发框架认识

发表于 2024-09-01 更新于 2025-02-02 分类于 2-深度学习， LLM开发工程师指南阅读次数：本文字数： 343 阅读时长 ≈ 1 分钟

框架	主要特点	应用场景	文档	模型中立	上手
LangChain	全能型框架	RAG、Agent、FLow	⭐⭐	⭐⭐⭐	⭐⭐
LlamaIndex	主要是针对 RAG	RAG	⭐⭐⭐	⭐⭐⭐	⭐⭐⭐
SemanticKernel	微服务集成与部署		⭐⭐	⭐⭐⭐	⭐⭐
Dify	通过界面操作	RAG、Agent、FLow	⭐⭐	⭐⭐⭐	⭐⭐⭐
CrewAI	基于 langchian 开发的 Multi-Agent	Agent、Flow	⭐⭐⭐	⭐⭐⭐	⭐⭐⭐
MetaGPT	Multi-Agent	RAG、FLOW	⭐⭐	⭐⭐	⭐⭐
AutoGen	Multi-Agent	-	⭐	⭐	⭐

目前计划的框架使用优先级：

RAG 应用：LlamaIndex>langchian>dify
多 Agent：CrewAI>MetaGPT>langchian>dify