一口气讲明白所有的LLM相关工作岗位 - 讲座总结

随着大语言模型（Large Language Model，LLM）的快速发展，人工智能正在从单纯的模型研究逐渐进入软件工程、数据分析、企业应用、云计算、安全和产品管理等更加广泛的领域。与此同时，围绕LLM产生的职业岗位也越来越细分。很多人因此产生了一个疑问：如果自己不是人工智能专业，也没有亲自训练过大语言模型，还有没有机会进入LLM相关行业？

答案是肯定的。理解这一问题的关键，是首先认识到“LLM相关工作”并不等于“训练一个大语言模型”。从基础模型研发到企业级AI应用，中间存在非常长的技术链条，不同岗位所需要的知识结构和工程能力差异很大。

一、LLM工作远不止“训练大模型”

大语言模型的训练是一项高度复杂的工程。以GPT-3为例，其模型规模达到约1750 亿参数。真正从海量数据开始训练基础模型，需要大规模计算资源、分布式训练系统、数据处理流水线、模型架构、优化算法以及大量工程基础设施支持。这类工作通常由专门的机器学习研究人员、机器学习工程师和基础模型工程团队承担。

因此，一个非常重要的职业认知是：从事LLM相关工作，并不意味着必须亲自从零训练一个基础大模型。

大量LLM岗位关注的是模型训练完成之后的工作，例如模型微调、推理部署、检索增强生成（RAG）、Agent、模型评测、数据处理、应用开发、系统运维、安全以及企业解决方案等。

当然，这并不意味着基础知识不重要。即使一个岗位不要求从零训练模型，工程师仍然需要理解Transformer、大语言模型的基本工作机制、Token、上下文、提示工程、模型调用、微调以及模型评估等概念。只有理解模型的能力边界和运行机制，才能合理地设计围绕模型构建的系统。

因此，进入LLM行业真正需要避免的两个极端是：一方面，不应该认为“不会训练基础模型就不能做AI”；另一方面，也不能认为“只会调用模型API就已经掌握了LLM 技术”。

二、LLM职业体系可以看成三个层次

从技能结构来看，LLM相关职业大致可以理解为三个层次。

第一层是工程基础。这包括Python、TypeScript等编程语言，以及后端开发、API、数据库、数据处理、云计算和软件工程基础。对于软件工程师、数据科学家和数据工程师而言，这部分能力往往已经具备。

第二层是LLM核心技术。这一层包括Transformer架构及其基本原理，也包括 Token、上下文、提示工程、结构化输出、模型API、RAG、Agent等技术。对于希望进入LLM领域的人来说，这一层决定了你是否真正理解“大语言模型应用”究竟是如何工作的。

第三层则更加接近具体应用和行业场景，包括Agent、MCP、工具调用、多模态应用、模型微调、评测、模型部署、LLM Operations、Agent Operations、AI基础设施以及企业级解决方案等。

这三个层次并不是互相割裂的。一个成熟的LLM工程师通常需要把软件工程基础、模型知识和具体应用场景结合起来。不同岗位的区别，主要在于三者的侧重点不同。

三、模型工程师：更接近模型本身

LLM相关岗位中，最接近模型研发的是大语言模型工程师、机器学习工程师以及与模型训练和后训练相关的岗位。

这类岗位可能涉及模型训练、微调、推理优化、数据流水线、分布式训练以及模型部署等工作。与基础模型预训练相比，模型微调和后训练通常更加容易成为普通工程师能够参与的实践方向。

例如，个人或小型团队很难从零训练一个具有现代基础模型规模的大语言模型，但可以基于已有的开源模型进行微调、量化、推理部署和性能优化。通过这些实践，可以理解模型数据、训练过程、推理过程以及模型性能之间的关系。

对于原本从事机器学习工程的人来说，这条路线具有较强的连续性，因为其已有的建模、Python、机器学习框架和数据处理经验，可以直接迁移到LLM领域。

四、RAG工程师：让模型能够利用外部知识

RAG，即检索增强生成，是目前企业级LLM应用中的重要技术路线。

大语言模型本身并不是一个实时数据库，也不能保证其参数中包含某个企业最新、最准确的内部信息。RAG的基本思想，是在模型生成答案之前，从外部知识库中检索与问题相关的信息，再把这些信息作为上下文提供给模型，从而帮助模型生成更加符合特定知识范围的回答。

因此，RAG工程师面对的问题并不仅仅是“如何调用一个大模型”。一个完整的RAG系统涉及数据采集、文本切分、向量表示、向量数据库、检索策略、上下文构造、生成以及评测等环节。

随着企业应用深入，RAG本身也正在进一步细分，例如企业知识库、数据保护、检索质量、系统评估和安全等。因此，RAG更适合被理解为一个完整的系统工程问题，而不是某一个简单的API调用技巧。

五、Agent工程师：让模型从“回答问题”走向“执行任务”

如果说普通LLM应用主要解决“生成内容”，那么Agent则进一步尝试解决“完成任务”。

Agent通常以大语言模型作为核心决策组件，并结合工具、记忆、规划和循环执行机制，使系统能够根据目标进行任务分解、调用外部工具、观察结果、调整策略并继续执行。

例如，一个Agent不只是告诉用户“有哪些航班”，而可以根据用户给出的时间、预算和偏好搜索航班，再调用相关工具获取信息，并根据结果进一步筛选。真正执行订票、付款等具有现实影响的操作时，则通常还需要明确的权限控制和人工确认机制。

因此，Agent 工程实际上是模型能力与传统软件工程的结合。它要求开发者理解大语言模型，同时也需要掌握 API、数据库、工具调用、状态管理、工作流和系统安全。

Agent的发展也带来了新的工程问题。例如模型可能产生幻觉，错误地选择工具；系统可能进入无休止的循环；工具返回错误数据后，模型可能继续基于错误信息行动；如果没有权限和成本限制，Agent甚至可能执行大量不必要的操作。

因此，一个真正可靠的Agent系统不仅需要“智能”，还需要最大执行步数、成本预算、权限管理、日志记录、评测和人工审批等工程控制。

六、LLMOps、AgentOps与AI基础设施

随着企业开始大规模使用模型，另一个重要方向是LLM Operations，即围绕大语言模型进行部署、监控、评测和运行维护。

这一领域与传统DevOps、云计算和基础设施工程有很强的联系。熟悉容器、Kubernetes、CI/CD、云平台、监控和分布式系统的工程师，可以将原有经验迁移到LLMOps和AgentOps。

例如，企业需要考虑模型如何部署、如何管理GPU资源、如何监控推理服务、如何记录模型调用、如何评估系统效果以及如何控制成本。当 Agent 需要进行多轮工具调用时，模型调用次数可能迅速增加，因此成本管理也成为生产系统的重要组成部分。

对于大型企业而言，模型的安全性和数据隐私同样重要。在某些场景下，企业可能选择自托管模型或建立内部推理基础设施，以降低敏感数据直接发送到外部服务所带来的风险。

七、AI 安全正在成为独立的职业方向

大语言模型和Agent的普及，也产生了新的安全问题。

传统网络安全关注的是操作系统、网络、应用程序和数据等对象，而LLM系统增加了新的攻击面。例如提示注入（Prompt Injection）、越狱（Jailbreak）、训练数据投毒、敏感信息泄露以及工具滥用等，都可能影响模型系统的安全性。

尤其是在Agent可以调用外部工具的情况下，安全问题会更加复杂。一个模型产生错误信息本身可能只是一次错误回答，但如果 Agent 拥有发送邮件、修改数据库、访问文件或执行其他操作的权限，那么错误决策就可能转化为现实世界中的实际影响。

因此，未来AI安全不仅需要传统安全知识，也需要理解模型、提示、上下文、工具调用和Agent工作机制。

八、FDE、Solution Architect 与AI产品岗位

并不是所有LLM工作都以写模型代码为核心。

FDE（Forward Deployed Engineer）以及 Solution Architect 等岗位，通常更加关注如何把 AI 技术真正落地到客户和企业业务中。他们需要理解客户需求，设计系统架构，选择合适的模型和技术方案，并推动从原型到实际部署的全过程。

这类岗位往往要求较强的综合能力，包括软件工程、LLM技术、产品理解、沟通能力以及解决复杂业务问题的能力。

与此同时，产品经理、项目经理和商业分析师也可以进入AI领域。区别在于，他们需要理解LLM的基本能力和限制，并将这些技术转化为产品需求、项目规划和商业解决方案，而不一定需要成为模型训练专家。

九、不同背景的人应该选择不同的转型路径

LLM职业转型最重要的原则，不是“从头学一遍人工智能”，而是充分利用已有能力，再补充LLM所需要的技能。

后端或全栈工程师通常已经掌握API、数据库、异步编程、测试和云服务，因此可以重点学习模型API、提示工程、结构化输出、RAG和Agent，进入LLM Application Engineer、Agent Engineer或FDE等方向。

数据科学家已经具备统计、建模、Python和实验设计能力，可以进一步学习NLP、向量表示、RAG、模型微调、评测和LLM应用。

机器学习工程师则可以向模型微调、后训练、推理优化、数据流水线和LLM基础设施等方向发展。

DevOps和云计算工程师可以重点补充模型部署、GPU基础设施、LLMOps、AgentOps和AI Infrastructure。

安全工程师则可以将已有的安全知识迁移到AI Security，进一步研究提示注入、越狱、数据投毒和模型应用安全。

而产品经理、项目经理和商业分析师，可以重点学习AI产品设计、LLM应用架构、RAG、Agent 以及解决方案设计。

对于学生而言，与其只学习理论，不如通过完整的AI应用项目建立实践经验。一个真正有价值的项目，不应该只是“调用一次模型API得到一个结果”，而应该尽可能体现完整的软件工程过程，包括需求、数据、模型、应用、评测、部署和运行成本等。

十、进入LLM行业需要建立完整的能力闭环

对于准备进入这一行业的人，可以把职业准备概括为几个步骤。

第一，明确目标岗位。不要笼统地说“我要做AI”，而应该明确自己希望成为模型工程师、RAG工程师、Agent工程师、LLMOps工程师、AI安全工程师、FDE还是AI产品人员。

第二，分析技能差距。将目标岗位需要的技能与自己的现有能力进行比较，找出真正需要补充的部分。

第三，通过项目建立实践能力。项目最好具有真实应用场景，并能够展示完整的技术链路。对于求职而言，能够解释为什么这样设计、遇到了什么问题、如何评测以及如何控制成本，往往比简单罗列若干技术名词更加重要。

第四，构建能够体现成长路径的简历。简历应该清楚展示过去的专业背景、已有能力，以及如何一步一步补充LLM技能并最终形成与目标岗位匹配的能力组合。

结语：LLM行业的核心不是“人人训练大模型”

大语言模型的发展正在推动人工智能职业体系不断细分。过去人们可能习惯于把AI工作简单理解为“算法工程师”或“模型训练”，但今天的LLM产业已经形成从模型、数据、应用、平台、基础设施、安全到解决方案的完整技术链条。

因此，判断一个人能否进入LLM行业，不能只看他是否训练过基础模型，更应该看他能够在哪个环节创造价值。

对于软件工程师而言，可以从AI应用和Agent入手；对于数据科学家，可以向 RAG、评测和模型应用延伸；对于机器学习工程师，可以进入微调、后训练和推理；对于云计算和DevOps人员，可以进入LLMOps、AgentOps和AI基础设施；对于安全人员，可以进入AI Security；而产品和项目人员，则可以进入AI产品和解决方案领域。

更重要的是LLM相关岗位正在快速细分。RAG、Agent、模型运维、安全和FDE等方向都可能进一步形成更加专业化的岗位。因此，与其追逐一个所谓“最热门”的职位，不如根据自己的知识结构和职业经验，找到与自身优势最匹配的切入点。

从这个角度看，LLM带来的并不是一个只有少数模型专家才能进入的新行业，而是一组正在重新组合的软件工程、数据科学、机器学习、云计算、安全和产品岗位。真正值得掌握的能力，也不是某一个短期流行的工具，而是理解大语言模型的基本原理，并能够把模型能力可靠地嵌入真实的软件和业务系统之中。

感谢阅读！你还可以订阅我们的YouTube频道，观看大量大数据行业相关公开课：https://www.youtube.com/channel/UCa8NLpvi70mHVsW4J_x9OeQ；在LinkedIn上关注我们，扩展你的人际网络！https://www.linkedin.com/company/dataapplab/。

点击免费看往期公开课回放视频：https://study.dataapplab.com/course?courseid=llm-webinars