当前位置: 首页 > article >正文

Sutton《苦涩的教训》早已预言:一切**人工精巧设计的专用智能系统**,终将被算力与数据驱动的通用范式无情取代

《The Bitter Lesson》《苦涩的教训》3条极简核心背诵版人类总爱把领域知识、手工设计、精巧架构塞进AI短期有用长远全没用。AI 历史规律通用规模化算力数据大模型永远碾压 人工定制智能小系统。未来趋势别再做各种精巧小众智能小系统大模型大一统专用智能小系统逐步被淘汰。强化学习之父Richard Sutton理查德·萨顿在2019年写的短文《The Bitter Lesson》中文常译为《苦涩的教训》也有人叫《惨痛的教训》。核心要点对应你说的“大模型淘汰智能小系统专家系统”文章的核心思想常被引申为长期看靠算力和数据的通用方法终将碾压靠人工精心设计的“小而精”方案。AI史上反复重演国际象棋人工写的开局/残局规则 → 被更强算力的搜索算法深蓝淘汰围棋人类千年棋谱/定式 → 被AlphaGo/AlphaZero自我对弈海量算力淘汰语音/视觉手工特征工程 → 被深度学习大数据大模型淘汰。放到今天大模型LLM靠规模和算力优势会系统性地淘汰各种“专用小模型”和“人工调优方案”。为什么叫“苦涩”因为这对研究者很“残酷”你花几年做的精巧设计、领域知识、专家规则在足够算力面前全是无用功真正赢的往往是“看起来更笨”、但能无限堆算力、自动学习的通用架构。一句话总结《苦涩的教训》 通用算力终将战胜专用人工大模型的胜利是这一规律的最新验证。Sutton《苦涩的教训》早已预言一切人工精巧设计的专用智能系统终将被算力与数据驱动的通用范式无情取代。AI最残酷的真相人类的领域巧思、手工规则与专家经验都只是短期红利通用规模化才是终极碾压。不必再执着于定制化垂直专属方案历史规律早已注定通用智能会逐步覆盖、替代所有人工设计的专用智能路径。人类苦心架构的匠心设计终究抵不过数据与算力的朴素规模化——这是AI发展留给所有人最悲情的一课。纠正 Sutton 在《The Bitter Lesson》里从来不是在说现在 7B/13B 这类参数量不大的LLM小模型。他真正批判、预言会被淘汰的是依靠人类手工设计、人工植入领域知识、手写规则、定制专属结构、靠专家经验堆砌出来的「专用人工智能系统」。核心分界很清晰被淘汰的人工巧思硬编码、领域规则、手工特征、专用定制架构跟参数量大小无关不会被淘汰的只要是走通用学习、数据驱动、可随算力规模化的模型哪怕参数不大、属于轻量化模型也不在他批判的范畴里。一句话终极定调输的不是“小参数模型”输的是“人类自作聪明手工硬造的专用智能系统”赢的永远是通用、可规模化、靠数据和算力自学习的路线。《The Bitter Lesson》Richard Sutton 完整原文 精准中译英文原文The Bitter LessonBy Richard S. Sutton2019There is a bitter lesson to be learned from 70 years of AI research:We have consistently overestimated the value of our human knowledge about how to build intelligent systems. Again and again, we have tried to build into our systems our understanding, our intuitions, our domain expertise, our handcrafted features, our special architectures, our prior assumptions.And every single time, in the long run,none of that has mattered. What has won out every time has been simple scaling: more computation, more data, bigger models, simpler general methods that learn from experience.Chess, Go, speech recognition, computer vision, machine translation, game playing—all followed the same pattern. Handcrafted expert systems were dominant for decades, then completely swept away by brute-force computation and large-scale machine learning.The bitter lesson is this:Human ingenuity and domain knowledge are not the long-term drivers of AI progress. Raw computational scale and general learning are.Any approach that relies on clever human design, specialized structures, or built-in domain knowledge will eventually be superseded by larger, simpler, general systems that just scale up compute and data.For the future, the clear path is not to design ever-more clever small models and specialized tricks. It is to embrace generality, simplicity, and unlimited scaling. All small niche models, hand-tuned architectures, domain-specific solutions will gradually become obsolete.完整精准中译苦涩的教训作者理查德·萨顿2019回望70年人工智能研究历程我们能得出一个苦涩的教训我们始终高估了人类自身的知识高估了我们设计智能系统的经验与智慧。我们一次次试图把自己的理解、直觉、领域专业知识、手工特征、定制架构、先验假设全部硬塞进AI系统里。但从长远视角来看这些人为设计全都毫无意义。每一次技术迭代最终胜出的永远是最简单的规模化路径更多算力、更多数据、更大模型、更通用的自学习方法。国际象棋、围棋、语音识别、计算机视觉、机器翻译、游戏博弈无一例外。依靠人工精心打造的专家系统统治行业数十年最终却被暴力算力 大规模机器学习彻底颠覆、淘汰。这就是最残酷的核心结论人类的精巧设计与领域经验并不是AI长期进步的核心动力原始算力规模与通用学习才是。任何依赖人工巧思、专用网络结构、内置领域知识的方案最终都会被更大、更简洁、通用化的系统取代——后者只靠堆砌算力和数据就能实现碾压。未来的方向很明确不用再执着于设计精巧的智能小系统、定制化技巧。拥抱通用、极简、无限规模化才是正道。所有小众智能小系统、手工调优架构、垂直领域专用方案终将慢慢被时代淘汰。一句话贴合你最初的理解萨顿这篇文章的核心预判就是所有靠人工设计、领域定制、精巧调优的智能小系统长期一定会被纯堆算力、纯规模化的通用大模型全部淘汰。

相关文章:

Sutton《苦涩的教训》早已预言:一切**人工精巧设计的专用智能系统**,终将被算力与数据驱动的通用范式无情取代

《The Bitter Lesson》《苦涩的教训》3条极简核心背诵版 人类总爱把领域知识、手工设计、精巧架构塞进AI,短期有用,长远全没用。AI 历史规律:通用规模化(算力数据大模型)永远碾压 人工定制智能小系统。未来趋势&#x…...

提升boardgame.io游戏加载速度的终极指南:客户端缓存策略全解析

提升boardgame.io游戏加载速度的终极指南:客户端缓存策略全解析 【免费下载链接】boardgame.io State Management and Multiplayer Networking for Turn-Based Games 项目地址: https://gitcode.com/gh_mirrors/bo/boardgame.io boardgame.io是一款专注于回合…...

联发科与威睿电通合作:深度解析全球模式SoC如何实现CDMA与LTE融合

1. 项目概述:一次芯片设计领域的“握手”每年的国际消费电子展(CES)总是热闹非凡,各种炫目的消费电子产品占据着舞台中央。但作为从业者,我们更关注的是那些隐藏在光鲜产品背后、驱动一切的技术基石。2014年的CES上&am…...

【花雕学编程】Arduino动手做(252)---ESP32-S3-RGB-LED矩阵开发板之全屏循环显示七种颜色

37款传感器与模块的提法,在网络上广泛流传,其实Arduino能够兼容的传感器模块肯定是不止37种的。鉴于本人手头积累了一些传感器和执行器模块,依照实践出真知(一定要动手做)的理念,以学习和交流为目的,这里准备逐一动手试试多做实验,不管成功与否,都会记录下来——小小的…...

【花雕学编程】Arduino动手做(252)---ESP32S3矩阵Matrix开发板之搭建开发环境

37款传感器与模块的提法,在网络上广泛流传,其实Arduino能够兼容的传感器模块肯定是不止37种的。鉴于本人手头积累了一些传感器和执行器模块,依照实践出真知(一定要动手做)的理念,以学习和交流为目的,这里准备逐一动手试试多做实验,不管成功与否,都会记录下来——小小的…...

jdk1.8.0_05 在 SpringBootTest Debug模式下奔溃

之前好好的项目,最近换了之前的电脑,但是在使用SpringBootTest 启动debug模式时,虚拟机就会奔溃,通过修改如果把 junit5 import org.junit.jupiter.api.Test; 修改为 junit4 ,就不奔溃了 import org.junit.Test; 但是这样的话就得在测试类上加上 @RunWith(SpringRunn…...

ARM错误恢复中断机制与ERRERICR2寄存器详解

1. ARM错误恢复中断机制概述在ARM架构的可靠性、可用性和可维护性(RAS)系统中,错误恢复中断是实现硬件容错的关键机制。当处理器检测到可恢复的错误条件时,通过这套机制能够快速通知系统进行错误处理,而ERRERICR2寄存器…...

Git冲突解决终极指南:5步掌握hello-git实战视频中的冲突处理技巧

Git冲突解决终极指南:5步掌握hello-git实战视频中的冲突处理技巧 【免费下载链接】hello-git Curso para aprender a trabajar con el sistema de control de versiones Git y la plataforma GitHub desde cero y para principiantes. 项目地址: https://gitcode.…...

苹果果梗检测数据集VOC+YOLO格式1141张2类别有增强

注意数据集大约450张是原图剩余均为增强生成图片数据集格式:Pascal VOC格式YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)图片数量(jpg文件个数):1141标注数量(xml文件个数):1141…...

LLM长上下文建模技术全景:从高效注意力到RAG与评测实践

1. 项目概述:一份关于长上下文建模的“藏宝图”如果你正在研究大语言模型(LLM)的长上下文处理能力,无论是为了优化推理速度、降低内存消耗,还是为了构建能理解超长文档、视频或多轮对话的智能体,那么你大概…...

告别JSON臃肿:手把手教你用MessagePack为C++微服务瘦身(附性能对比)

告别JSON臃肿:手把手教你用MessagePack为C微服务瘦身(附性能对比) 在当今高性能后端服务开发中,微服务架构已成为主流选择。然而,随着服务规模的扩大,服务间通信的数据量急剧增长,传统的JSON序列…...

Linaria与Bun集成:极速JavaScript运行时的样式处理终极指南 [特殊字符]

Linaria与Bun集成:极速JavaScript运行时的样式处理终极指南 🚀 【免费下载链接】linaria Zero-runtime CSS in JS library 项目地址: https://gitcode.com/gh_mirrors/li/linaria 在现代前端开发中,CSS-in-JS技术已经成为构建可维护、…...

基于MCP协议与WebDAV构建AI智能体统一数据访问层

1. 项目概述与核心价值最近在折腾个人知识库和自动化工作流时,我又一次被“数据孤岛”问题绊住了脚。手头的信息散落在各种地方:Notion里的项目规划、Obsidian的零散笔记、Google Calendar的日程、甚至是一些本地文件夹里的PDF和图片。想要让这些数据联动…...

PyTorch深度学习资源大全:如何快速找到最佳教程和项目库的终极指南

PyTorch深度学习资源大全:如何快速找到最佳教程和项目库的终极指南 【免费下载链接】the-incredible-pytorch The Incredible PyTorch: a curated list of tutorials, papers, projects, communities and more relating to PyTorch. 项目地址: https://gitcode.c…...

147.YOLOv8 vs YOLOv5 核心差异 + 缺陷检测完整代码,从原理到落地一步到位

摘要 YOLO(You Only Look Once)系列算法是目标检测领域最具影响力的单阶段检测模型。本文从零开始,系统讲解YOLOv8的核心原理与完整实践流程。通过一个工业级缺陷检测案例,覆盖从数据准备、模型训练、评估到部署的全链路。所有代码均基于Ultralytics官方库实现,确保可复现…...

【紧急通告】DeepSeek-R1毒性分类器存在语境盲区?3小时内验证并热修复的4种API级补丁

更多请点击: https://intelliparadigm.com 第一章:【紧急通告】DeepSeek-R1毒性分类器存在语境盲区?3小时内验证并热修复的4种API级补丁 近期社区报告指出,DeepSeek-R1毒性分类器在处理嵌套反讽、多轮对话上下文拼接及跨语言混合…...

146.轻量化部署口罩检测!YOLOv8 模型导出(ONNX/TensorRT)实战教程

摘要 YOLO(You Only Look Once)作为目标检测领域里程碑式的算法,以其端到端、单阶段、高实时性的特点,成为工业界最广泛应用的检测框架。本文从YOLO的进化脉络出发,深入剖析其核心原理,包括网格划分、边界框回归、损失函数设计与非极大值抑制。通过一个完整的可运行案例…...

开发者效率革命:用dotfiles打造可移植的个性化开发环境

1. 项目概述:dotfiles,开发者效率的基石 如果你在终端里敲命令时,总觉得默认的配置不够顺手,或者每次在新机器上都要花半天时间重新配置一遍开发环境,那“dotfiles”这个概念对你来说就是救星。jesuserro/dotfiles 这个…...

如何利用co与Web Workers实现前端多线程异步编程:完整指南

如何利用co与Web Workers实现前端多线程异步编程:完整指南 【免费下载链接】co The ultimate generator based flow-control goodness for nodejs (supports thunks, promises, etc) 项目地址: https://gitcode.com/gh_mirrors/co/co co是一个基于生成器的No…...

AI代理如何通过MCP协议实现DeFi自动化操作与安全交互

1. 项目概述:当DeFi遇上AI代理,一场链上金融的自动化革命如果你和我一样,在DeFi(去中心化金融)世界里摸爬滚打了好几年,从早期的流动性挖矿到后来的各种收益聚合器,一个深刻的体会是&#xff1a…...

告别Appium!用Python+uiautomator2搞定Android自动化测试(保姆级环境搭建指南)

告别Appium!用Pythonuiautomator2搞定Android自动化测试(保姆级环境搭建指南) 如果你正在为Appium的复杂配置、缓慢执行速度而头疼,或者厌倦了那些莫名其妙的连接问题,那么是时候尝试更轻量高效的解决方案了。uiautoma…...

如何快速掌握co:异步代码复用与模块化终极指南

如何快速掌握co:异步代码复用与模块化终极指南 【免费下载链接】co The ultimate generator based flow-control goodness for nodejs (supports thunks, promises, etc) 项目地址: https://gitcode.com/gh_mirrors/co/co co是Node.js生态中一款强大的基于生…...

终极指南:OR-Tools启发式评估函数设计——快速掌握搜索方向引导技巧

终极指南:OR-Tools启发式评估函数设计——快速掌握搜索方向引导技巧 【免费下载链接】or-tools Googles Operations Research tools: 项目地址: https://gitcode.com/gh_mirrors/or/or-tools OR-Tools是Google开发的强大运筹学工具库,其中启发式评…...

如何利用The Incredible PyTorch离线文档:深度学习者的终极学习宝典

如何利用The Incredible PyTorch离线文档:深度学习者的终极学习宝典 【免费下载链接】the-incredible-pytorch The Incredible PyTorch: a curated list of tutorials, papers, projects, communities and more relating to PyTorch. 项目地址: https://gitcode.…...

如何快速集成DatePicker到你的Android项目

如何快速集成DatePicker到你的Android项目 【免费下载链接】DatePicker Useful and powerful date picker for android 项目地址: https://gitcode.com/gh_mirrors/da/DatePicker DatePicker是一款功能强大且易于使用的Android日期选择器,支持单选和多选模式…...

Thermal Clad金属基板设计与成本优化实战指南

1. 电路设计基础与Thermal Clad特性解析在电子工程领域,电路板设计直接决定了最终产品的性能、可靠性和成本。作为一名有十年硬件设计经验的工程师,我深刻体会到优秀的设计需要在电气性能、热管理和机械强度之间取得平衡。Thermal Clad(热覆金…...

QConf灰度发布策略详解:零风险配置变更的完整方案

QConf灰度发布策略详解:零风险配置变更的完整方案 【免费下载链接】QConf QConf是奇虎360开源的一款分布式配置管理平台,能够集中管理和分发应用程序的配置数据,并支持高可用性和水平扩展,尤其适用于大规模分布式系统的配置管理。…...

mysql数据库响应缓慢如何排查_使用EXPLAIN分析执行计划

type为ALL表示全表扫描,说明MySQL未使用索引;若rows接近总行数且Extra含Using where但无Using index,则索引失效。应检查WHERE字段是否建索引、遵循联合索引最左匹配、确保类型一致、避免索引列上函数操作。EXPLAIN 显示 type 是 ALL&#xf…...

Python 爬虫进阶技巧:本地 Cookies 导入实现免登录爬取

前言 在 Python 爬虫实际开发场景中,大量资讯平台、社交站点、电商后台、个人中心类页面均设置了登录权限校验,未携带有效登录身份标识的请求会直接跳转登录页、返回权限不足提示或拒绝数据响应。常规账号密码模拟登录存在诸多弊端,接口加密、验证码拦截、账号风控封禁、参…...

ARM生态产品创新评估:从芯片到系统的技术选型方法论

1. 从一次投票看ARM生态的演进与产品创新逻辑2015年秋天,EE Times上的一则投票通知,可能被很多人当作一次普通的行业活动而滑过。标题很简单——“Vote for Best ARM-Based Product”。但如果你恰好是一位嵌入式开发者、半导体行业的从业者,或…...