LLM 基础篇:大语言模型到底是什么
LLM 不是普通的搜索引擎,也不是传统规则系统,它的核心能力是基于上下文生成语言、代码、结构化结果和行动计划。
栏目
按年份
LLM 不是普通的搜索引擎,也不是传统规则系统,它的核心能力是基于上下文生成语言、代码、结构化结果和行动计划。
Prompt 的目标不是把话写得神秘,而是把角色、任务、上下文、约束和输出格式说清楚。
RAG 用检索把外部知识送进上下文,让模型基于企业文档、代码库、规范和数据库说明回答问题。
向量数据库负责存储 embedding 并做相似度检索,是 RAG、语义搜索和推荐召回中的重要基础设施。
Tool Calling 让模型不只会回答,还能选择调用搜索、数据库、代码执行、业务 API 等外部能力。
Agent 是围绕目标持续观察、规划、调用工具并根据结果调整行动的 LLM 应用形态。
一个可用 Agent 不只是一个循环调用模型的脚本,还需要任务状态、工具注册、错误处理、日志追踪和退出条件。
多 Agent 适合把复杂任务拆给不同角色处理,但它带来的协调成本、上下文同步和结果一致性也不能忽视。
生产级 LLM 应用需要模型调用层、Prompt 管理、会话存储、任务队列、监控、限流和降级机制。