资源介绍
视频数量：44个
总时长：2小时54分
课程介绍：
人工智能应用设计与经济学：从模型到成本的完整路径
你可能有过这样的经历：用几个例子测一个AI功能，感觉又便宜又快；等真正上线，用户一多、上下文一长，账单和延迟开始不受控制。问题往往不在模型本身，而在你围绕模型搭起来的那套系统。这门课要解决的就是这个问题：当成本、性能、可扩展性和商业价值都得考虑时，AI应用到底该怎么设计。
一、先看懂大模型：从神经网络到智能体
课程前半段把大模型的基础打牢。不是泛泛讲概念，而是从语言模型讲起，一路走到Transformer。你会弄明白Query、Key、Value矩阵在干什么，自注意力和交叉注意力分别解决什么问题，为什么这些机制让模型能处理长距离依赖。接着讲预训练，包括自监督学习、自回归和掩码语言建模，这些是GPT类模型的地基。微调部分很实用，会对比全参数微调和参数高效微调，具体讲LoRA、QLoRA、Prefix Tuning、Adapters和指令微调。为什么很多人不去全量微调？因为贵、吃内存、还可能灾难性遗忘，这些坑课程里都会点出来。后训练会讲RLHF和RLAIF，让你知道模型是怎么从“会说话”变成“会听话”的。还有缩放定律，帮你理解模型大小、数据量和计算量之间的关系，以及智能体这种把模型变成行动者的思路。
二、从模型到应用：中间隔着一整套工程
知道模型原理不等于能做出产品。课程第二部分专门讲从LLM到AI应用的跨越。先回答一个看似简单的问题：什么才算AI应用？然后拆解它的解剖结构，分成模型层、推理层和应用层。模型层讲怎么选模型，推理层讲怎么让模型跑得快、跑得省，会涉及FlashAttention、vLLM、TensorRT-LLM、llama.cpp、Ollama这些工具，以及不同的生成策略。应用层是重头戏。提示工程分了六讲，从基础技巧到思维链、自一致性、思维树，再到用DSPy、LangSmith、Promptfoo做优化和评估。机制设计会讲怎么让多个模型或工具配合，包括ReAct、Toolformer、MRKL这些思路。工具使用会涉及API调用、数据库、检索、浏览器自动化，像LlamaIndex、MCP、MongoDB、Pinecone、Playwright、Tavily都会出现。编排部分讲AutoGen、CrewAI、LangGraph、Semantic Kernel，帮你把多个智能体组织起来。上下文管理讲怎么在有限窗口里塞进最有用的信息，包括LLMLingua、Mem0、Zep Graphiti这些方案。RAG部分用五讲把检索增强生成讲透，从语义搜索、经济学、完整管道到结论，还会涉及GraphRAG、Self-RAG、向量数据库和重排模型。最后讲KV缓存管理，这是推理成本的大头，PagedAttention、H2O、PyramidKV等技术都在这里。
三、算清经济账：AI应用的生命周期成本
很多人以为AI应用的成本就是API调用费，课程最后一部分会打破这个错觉。Token经济学告诉你输入输出怎么计费，上下文长度为什么直接影响开销。推理经济学对比不同部署方式的真实成本，不只是看单价，还要看吞吐、延迟和硬件利用率。知识成本讲RAG系统背后的隐性支出：文档解析、向量化、索引维护、检索深度，每一步都在烧钱。不确定性成本讲模型犯错、幻觉和重试带来的浪费。AI成本规模化会用到LCOAI这样的指标，帮你算清楚长期部署的经济账。最后落到经济可持续的AI系统，讨论怎么在设计阶段就把成本、性能和商业价值放在一起权衡。课程里有一个核心观点：你的应用架构往往比模型本身更决定成本。用几个例子测试时觉得便宜，规模一上来，请求量、上下文膨胀、知识库更新都会让成本结构完全不同。
适合谁学？如果你是在做AI产品的工程师或产品经理，已经会调用API，但说不清上线后到底要花多少钱，这门课会给你一套算账和设计的框架。如果你是技术负责人，需要决定用哪个模型、要不要自建推理、RAG做多深，课程里的权衡思路能直接用在决策里。如果你对LLM有基本了解，想从“会调提示词”走到“能设计系统”，这门课会把中间缺的工程和经济学补上。它不要求你从头训练模型，但需要你能看懂Python和基本的机器学习概念。
学完这门课，你不会只是多知道几个工具的名字。你会拿到一张从模型原理到应用架构再到成本控制的地图，知道每个环节在做什么、为什么这样做、代价是什么。下次有人问你“这个AI功能上线要花多少钱”，你至少能说出该从哪些地方开始算，而不是只盯着token单价。