本文探讨了AI领域的发展现状与未来趋势。随着模型参数的指数级增长AI性能提升逐渐受限于数据搬运速度和成本。硬件方面GPU和内存价格短期内不会下降但端侧AI推理成本快速下降混合模式成为未来趋势。软件栈逐渐成熟小模型配合Test-time compute也能表现出色。对于从业者AI将重新定义工作内容从“写代码”转变为“定义问题”和“判断结果”建议学会用AI工具、理解业务、成为AI架构师并关注端侧AI的机会。国庆假期你在干嘛我在家折腾 AI 工作流。用 Claude Code 搭了个自动化 pipeline让 Agent 帮我写周报、整理会议纪要、甚至帮我 review 代码。以前要花半天干的事现在两小时搞定。效率提升了大概 3 倍。但我没觉得轻松。反而有点慌。因为我发现我搭的这个 workflow可能明年就没人需要了。不是因为它不好用而是因为AI 自己就能搭了。这不是危言耸听这是一个每天跟 AI 打交道的开发工程师在假期里的真实感受。我今天想聊的不是哪个模型又刷新了 benchmark也不是哪个公司又融了几个亿。我想聊的是AI 走到哪了接下来会怎样我们普通人该怎么办。这不是新闻综述是一个工程师的深度思考。你看完这篇文章应该能回答三个问题。AI 现在走到哪了接下来会发生什么你该怎么做我们先说个反直觉的事。过去五年AI 的进步是指数级的。2018 年到 2023 年模型参数从几亿涨到几千亿能力跟着飙升。大家都觉得只要参数够大AI 就能解决一切问题。但 2026 年了这个逻辑开始松动了。SK hynix 和 KAIST 在 9 月初发了一份研究报告标题很直接2018 到 2023 年的指数级进步正在 plateauing。不是变慢了是触顶了。为什么会这样因为 AI 性能不再受限于 GPU 算力而是受限于数据搬运速度。这叫做“内存墙”(Memory Wall)。我给你算笔账。一个 70B 参数的模型在长上下文推理中它的 KV cache 可以超过140GB。140GB 是什么概念比模型权重本身还大。你 GPU 算力再强数据搬不过来就只能干等。这就像你买了辆跑车但高速公路上堵得水泄不通。引擎再猛也跑不起来。除了内存墙还有数据枯竭。高质量训练数据是有限商品。这个互联网上的文字、图片、视频总量是有上限的。你可以用 AI 生成数据来训练 AI但这条路走不远。研究表明用合成数据训练会导致“模型崩溃”(model collapse)一代不如一代最后变成一坨屎。最后还有经济账。训练一个 frontier model 的基础设施投资只有少数几个玩家能负担。每提升一个点的性能边际成本在急剧上升。这不是技术问题是物理问题和经济问题的叠加。参数不是越大越好就像人不是越胖越壮。你想想一个人从 100 斤涨到 200 斤可能是变壮了。但从 200 斤涨到 300 斤大概率是变胖了。AI 模型也是一样的道理。那接下来怎么办方向有两个硬件层面的突破让数据搬得更快软件层面的优化让模型变得更小、更聪明这两个方向现在都在跑。硬件什么时候降价先说结论短期不会。TSMC 的 CEO 最近说了句话原话我记不清了大意是“supply can meet demand”要等到2027 年。CNAS 今年的报告也印证了这一点。产能卖到 2027 年这意味着什么意味着接下来一年半GPU 和高端内存的价格都不会降。不只是 GPU。DRAM 价格今年翻了 2-3 倍。为什么因为 HBM(高带宽内存) 的需求把常规 DRAM 的供应挤压了。大家都去抢 HBM 做 AI 芯片普通内存反而不够用了。具体到消费级显卡现在的价格是这样的显卡型号官方指导价美元RTX 4090$1,599 ~ $1,999RTX 5090$1,999 ~ $2,199这还只是官方指导价实际到手价可能更高。听起来很绝望对吧但反转来了。端侧推理成本在快速下降9 月 17 号PrismML 发布了Ternary Bonsai 2。他们把一个 27B 模型从 54GB 压缩到了5.9GB9.1 倍的压缩率性能保留了98.2%。5.9GB 是什么概念一台 16GB 内存的普通笔记本就能跑。不是服务器不是云 GPU是你的笔记本。还有英伟达的Jetson Orin Nano Super。$24967 TOPS 算力功耗 7 到 25 瓦信用卡大小的 AI 电脑。这玩意能做的事情比你想象的多。再看手机。Apple 的 NPUQualcomm 的 NPU都在往端侧 AI 发力。对比维度手机端侧数据中心 GPU内存带宽50 ~ 90 GB/s2 ~ 3 TB/s差距—30 ~ 50 倍但压缩技术正在弥补这个差距。你可以把模型压小把精度降低把不重要的参数砍掉。Train in 16-bit, deploy at 4-bit。GPTQ、AWQ 这些量化技术能保留大部分质量同时把内存占用砍掉 4 倍。数据中心在抢显卡但你的笔记本已经够用了。至少够用了80%的场景。那剩下的 20% 呢那就是下一部分要聊的事了。端侧 AI 会怎样先说个数据。Deloitte 2026 年的预测推理算力占所有 AI 算力的2/3。2023 年这个数字是 1/3。推理需求在爆炸式增长而且这个增长主要发生在端侧。为什么四个驱动力延迟你在手机上问 AI 一个问题不想等 3 秒才收到回答隐私你的医疗数据、财务数据不想传到云端成本云端推理有 API 费用日积月累是笔不小的开支可用性你在飞机上、地铁里、地下室里没有网络AI 就该罢工吗这些问题端侧 AI 都能解决。混合模式是未来端侧 AI 不是要取代云端。未来的模式是混合的。简单的任务在本地跑复杂的任务去云端。场景端侧本地云端整理文件、总结会议✅ 快、安全、免费—回答常见问题✅ 低延迟—大型项目、代码重构—✅ 需要大算力高质量视频生成—✅ 需要大内存这种混合模式对普通开发者意味着什么意味着你的机会来了。你可以用端侧设备做原型、做测试、做轻量级应用。$249 的 Jetson Orin Nano Super就能开始。你不需要抢 GPU不需要等云端 API 的配额不需要担心数据安全。软件栈也在成熟ExecuTorchPyTorch 官方出的端侧推理框架footprint 只有50KBllama.cpp社区驱动的推理引擎支持各种量化格式MLXApple Silicon 专属的机器学习框架性能优化得相当不错这些工具在降低门槛。以前你想在端侧跑 AI需要懂硬件、懂底层优化、懂内存管理。现在你只需要懂 Python懂模型格式转换懂怎么把量化做到极致。Test-time compute 让小模型也能很强还有一个有意思的现象。Llama 3.2 1B配合合适的搜索策略可以击败 8B 模型。这不是玩笑是真实发生的事。为什么因为小模型虽然参数少但如果你给它足够的时间去思考、去验证、去纠错它就能做到大模型一次就能做到的事。这是用时间换空间的思路。大模型是天才学生看一眼就会了。小模型是普通学生但给他更多时间复习、做题、验证答案他也能考出好成绩。在实际应用中这意味着什么至少有一半住在口袋里。失业者应该关注什么这部分可能有点扎心。先看数据公司/指标数据来源甲骨文裁员2.1 万人官方承认“AI 导致员工减少”Meta 裁员8,000 人同时 7,000 人转岗 AI 项目谷歌新代码75% 由 AI 生成—2026 Q1 全球科技裁员超 4 万人其中65% 是软件工程师这些数字看起来挺吓人的。但反转来了。SignalFire 在 6 月底发了一份报告标题很反直觉2025 年工程岗位是抗风险最强的职能岗位。12 家科技巨头的新员工中工程师占比从 2019 年的46%上升到 2025 年的55%初创企业招聘工程师总人数较 2019 年增长了 7%这是怎么回事这就是经济学里的“杰文斯悖论”效率提升不降低需求反而扩大需求。我给你举个例子。以前写一个中等复杂度的功能需要一个工程师花一周。现在有了 AI 辅助一个工程师两天就能搞定。看起来效率提升了需求应该减少对吧但实际上公司发现 AI 降低了开发成本于是开始做以前不敢做的项目。需求变多了反而需要更多工程师来驾驭 AI、做架构决策、判断 AI 的输出是否靠谱。AI 替代的不是“程序员”是“不思考的编程行为”。三层分化这里有个三层分化的概念我觉得很准确1. AI 操作员会用 AI 写代码但只是把需求丢给 AI然后复制粘贴结果。竞争激烈可替代性强2. AI 架构师懂业务、能做技术决策、指导 AI 工作。知道什么问题该交给 AI什么问题必须自己解决。很抢手3. AI 创造者创造新工具、新范式定义 AI 应该怎么用。不可替代因为他们就是规则的制定者虎嗅在 6 月 15 号发了篇文章里面有句话很到位AI 时代的门槛从“会不会写代码”变成了“会不会定义问题、组织上下文、判断结果”。这才是核心。我的个人视角我每天用 Claude Code 写代码但我不是在“写代码”。我在定义问题、组织上下文、判断 AI 的输出是否靠谱。比如我要搭一个自动化 workflow我不是告诉 AI“帮我写个脚本”。我是先想清楚这个 workflow 要解决什么问题输入是什么输出是什么边界条件是什么异常情况怎么处理。然后我才去组织上下文让 AI 理解我的意图。最后我要判断 AI 生成的代码是否符合我的预期有没有潜在的问题。这个过程AI 做了80% 的执行工作。但剩下20% 的思考工作才是我的价值。四个行动方向所以失业者应该关注什么1. 学会用 AI 工具不是学会写代码是学会定义问题。你要知道怎么把模糊的需求翻译成清晰的指令2. 理解业务AI 不懂业务你懂。你要知道公司的痛点在哪客户的需求在哪产品的机会在哪3. 成为 AI 架构师不是 AI 操作员你要能判断 AI 的输出是否靠谱能做技术决策能指导 AI 工作4. 关注端侧 AI 的机会$249 的 Jetson Orin Nano Super 就能开始。你不需要昂贵的 GPU不需要云端的 API 费用你只需要一台笔记本和一块小开发板端侧 AI 是下一个蓝海因为云端 AI 的玩法已经固化了大厂在卷模型、卷算力、卷数据。但端侧 AI 还在早期工具在成熟场景在涌现机会在扩散。你不需要跟大厂竞争。你只需要找到一个具体的场景用端侧 AI 解决一个具体的问题。比如智能家居工业检测教育辅助医疗诊断这些场景不需要千亿参数的模型只需要一个足够聪明、足够快、足够便宜的小模型。这就是你的机会。写在最后国庆假期已经过去两天了。我搭的 workflow 还在跑。它在帮我整理这几天的笔记帮我写这篇文章的初稿帮我检查数据的准确性帮我润色我的一些表达。明年它可能就不需要了。不是因为 workflow 出了问题而是因为 AI 自己就能搭新的 workflow 了。但我不会慌。workflow 会变但我会变通。AI 不是来取代我的是来重新定义我的工作内容的。从“写代码”变成「定义问题」从“执行任务”变成「判断结果」从“操作员”变成「架构师」这个转变不是 AI 逼我做的是我自己选择的。我选择了主动拥抱变化而不是被动等待被淘汰。我选择了思考而不是只是执行。我选择了成为架构师而不是操作员。你呢问题是你准备好了吗如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。大模型入门到实战全套学习大礼包1、大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通2、大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。3、AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。4、大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。5、大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。适用人群第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】