【Reading Notes】Favorite Articles from 2024

1、January

2、February

3、March

1. Sora外部测试翻车了！3个视频都有Bug（ 2024年03月01日）
   不仔细看还真看不出来（类似找穿帮镜头）
   

2. 

4、April

5、May

6、June

7、July

1. 突破不可解释性！视频异常新检测框架精度90.67%拿下SOTA｜华科&百度&密歇根大学（ 2024年07月04日）
2. 大模型集体失智！9.11和9.9哪个大，几乎全翻车了（2024年07月16日）
   也就是问题本身对人类来说，一看就知道问的是算数问题，但对AI来说是一个模糊的问题，并不清楚这两个数字代表什么。
   eg：日期、版本号

8、August

1. 英特尔「芯」痛！全球裁员1.5万人，利润暴跌85%（ 2024年08月02日）

   • 前有英伟达，后有AMD
   • 在传统的通用服务器中，英特尔CPU是绝对的主角。而在基于GPU的服务器中，最重要的是英伟达芯片——一台AI GPU服务器，可能会配置8个英伟达GPU，和1个英特尔CPU。
   • 晶体管制程推进迟缓，目前还 PK 不过台积电
   • 13/14代酷睿处理器不稳定情况，曾有人测试后发现故障率高达50%，饱受诟病。

2. 英特尔股价暴跌 26%，40 年来最大跌幅（ 2024年08月03日）
   北京时间今天凌晨，英特尔股价暴跌逾 26%，单日总市值蒸发达 323.7 亿美元（约合 2317 亿元人民币），经历了 40 年来表现最差的交易日之一。

3. AI失业潮来了，23年游戏行业万人被裁！暴雪员工岗位被AI抢走，悲痛万分（2024年08月17日）
   目前大家基本已经达成共识：概念艺术家、平面设计师、资产艺术家和插画师是迄今为止受AI影响最大的群体。
   

4. 超6亿！文心大模型日调用量半年增长超10倍，AI成百度最强加速引擎（2024年08月23日）
   在大模型加持之下，百度文库已经从一款纯粹的 “内容工具” 转变为 “生产力工具”，拥有智能PPT、智能文档、智能画本等上百项多模态AI功能。

5. RTX3090可跑，360AI团队开源最新视频模型FancyVideo，红衣大叔都说好（ 2024年08月26日）
   《FancyVideo: Towards Dynamic and Consistent Video Generation via Cross-frame
   Textual Guidance》

6. 时薪高达342元！特斯拉为机器人招募“人类老师”，明确要求：身高170-180cm，每天步行7+小时（2024年08月27日）
   近日，特斯拉的一则最新招聘引起了广泛关注：为旗下的 Optimus 人形机器人招募“人类老师”，具体岗位名称为数据收集操作员（Data Collection Operator）。该岗位的工作内容，大体就是穿戴着动作捕捉服和 VR 头盔，根据要求执行站立、行走等特定动作，以此为机器人 Optimus 的训练提供数据支持。
   

9、September

1. 陶哲轩力荐，哈佛反向学习法火了：教会AI就是教会自己（ 2024年09月02日）
   利用提示工程，让学生尝试教AI完成平时数学作业（不纳入正式考核），期末再让这些AI参加考试。

2. 电脑CPU依然得看英特尔酷睿：新一代性能提升20%，AI能力翻5倍；网友：感谢AMD（2020年09月03日）
   英特尔第十一代「酷睿家族」终于登场了！代号Tiger Lake，10nm SuperFin 工艺

3. 英伟达市值暴跌2万亿！一夜蒸发3个英特尔，创美国历史纪录（2024年09月04日）
   据悉，美国司法部已经向英伟达发出传票，寻找这家芯片巨头违反反垄断法的证据。
   
   
   仅看今年的利润，英伟达已经超过了最接近自己的竞争对手——AMD的总销售额。
   

4. 支付宝突然推出新App，竟想用AI让日常生活开挂（2024年09月05日）

   • TA 生动展示了大语言模型的应用如何从理解（ Chat ）转向采取实际行动( Act ）。
   • 当产品体验丝滑到「无感」后，人们反而容易忽视沉淀在下面的深刻技术，甚至会有「这也不难做到」的错觉。
     
     支付宝首页下拉就是同样的功能

5. 华为离职副总裁徐家骏：透露年薪千万的工作感悟，太震撼！（2024年09月05日）

6. 李飞飞携24人最强天团打造「大世界模型」！Hinton站台力挺，获2.3亿融资（2024.09.14）
   她将人类智能归结为两大智能，一是语言智能，另一个便是空间智能。
   「如果想让AI超越其自身当前的能力，我们需要的是，不仅仅能够看到、会说话的AI，而是一个可以行动的AI」。

10、October

1. 海外博士一般朝九晚五，国内博士动辄十几个小时科研时间。为什么普遍认为海外博士水平比较高？（2024年10月01）
   白龙马西天取经 vs 驴原地拉磨

2. 纯国产万卡集群炼出万亿参数大模型，被这家央企率先做到了！（2024年10月01）
   

3. 一张人脸照片，Meta眼镜识别全部个人信息，两位哈佛开发者：只为警醒世人（ 2024年10月03日）

4. 激光雷达明星崩了！市值缩水96%，危在旦夕。。。（2024年10月04日）
   报告显示，在2023年的车载激光雷达市场，中国厂商依然是领跑全球，禾赛科技、速腾聚创、图达通、华为以及览沃等中国激光雷达供应商，合力拿下了全球84%的市场份额。

5. 最新AI生图模型Flux1.1刷屏！添加单反相机文件名获得超写实图像，网友：我分不清啊（2024年10月06日）

   • 在提示词中模仿单反相机的文件命名格式即可。比如“CR2”就是佳能相机使用的原始图像文件格式，输入“IMG”+随机编号+“.CR2”，就能去除图中的“AI味”，无论人物还是风景都能达到照片级效果。
   • 代号蓝莓，最新SOTA文生图模型
   • Stable Diffusion原班人马打造
     

6. AI逆向绘画火了！一键重绘梵高《星空》，来自华盛顿大学（2024年10月08日）
   

7. 李飞飞：不要数字孪生，要数字表兄弟，一张照片生成机器人训练场景（2024年10月12日）
   数字孪生（digital twin）、数字表亲（digital cousin），用于仿真
   
   Dai T, Wong J, Jiang Y, et al. Acdc: Automated creation of digital cousins for robust policy learning[J]. arXiv preprint arXiv:2410.07408, 2024.

8. AI翻译界杀手诞生！阿里国际翻译大模型吊打谷歌和GPT-4（2024年10月16日）
   大模型 Marco，光腿神气、可盐可甜，场景是跨境电商
   

9. 骁龙8至尊版登场：CPU牙膏挤爆，AI生成速度创纪录，奥特曼也来助阵（ 2024年10月22日）

   • 骁龙 8 至尊版采用台积电 3nm 工艺制造，与骁龙 8 Gen3 相比，CPU 性能提升 45%，能效提升 44%。
   • 高通表示，华硕、荣耀、iQOO、摩托罗拉、努比亚、一加、OPPO、红魔、Redmi、真我 realme、三星、vivo、小米和 ZTE 等各大厂商都准备在未来几周内推出搭载骁龙 8 至尊版芯片的机型。

10. 先让不懂代码的来测？通义这个新产品，代码刚写完，预览就出来了 （2024年10月24日）
    通义千问2.5 代码模式

    • 你在叙述完具体功能需求后，系统会创建一个工作空间，AI 在其中与你协同工作。在后续对话过程中，AI 可以实时查看你的新要求，持续编辑代码。问题随时解决，效果实时呈现，就像是在现实世界中的多人协作一样。
    • 这相当于让用户拥有一个 24 小时随时提需求的『贴身程序员』，不用排期、随时上线，且能满足你专属需求。

11. 一句话的事儿，手机自动驾驶来了！首款国产AI智能体手机引爆端侧革命（2024年10月26日）
    荣耀，视频通话时换脸检测，一句话帮忙点咖啡，一句话帮忙取消自动续费

12. DAU(Daily Active User)，日活跃用户数量

13. 靠AI，2年时间大涨4倍！扒一扒你每天都用的这只小绿鸟（2024年10月26日）
    
    路易斯·冯·安（Luis von Ahn，以下简称冯·安），多邻国的创始人兼CEO。验证码被命名为 CAPTCHA，是“自动区分计算机和人类的图灵测试”（Completely Automated Public Turing test to tell Computers and Humans Apart）的缩写，以一种在线表格测试的形态存在，用来验证用户是真人而非机器人。

14. 苹果地表最强AI PC诞生，M4 Max猛兽加持性能暴涨！顶配6万，续航飙至24小时（2024年10月31日）
    M4 Pro、M4 Max、M4，均采用业界领先的第二代 3nm 工艺。
    

11、November

1. 怎么才能优雅地向博士导师表达「这周科研没什么进展」？（2024年11月11日）

2. AI毒液刷屏抖音小红书！闲鱼10元代生成一次，但官网其实免费（2024年11月10日）
   PixVerse V3，来自国内AI视频公司爱诗科技。

3. Scaling Laws终结，量化无用，AI大佬都在审视这篇论文（2024年11月13日）

   • 研究发现，在较低精度下训练模型（例如INT3和INT4）会导致较高的损失，而随着精度的提高，损失会减少；同时，随着模型规模的增加，损失也会减少。
   • 直觉可能是，当你训练更多的数据时，更多的知识被压缩成权重，给定的扰动会对模型性能造成更大的损害。
   • 推理时使用较低精度（例如INT3和INT4）会导致性能下降，即损失的增加；而随着精度的提高，损失会逐渐减少，接近没有进行后训练量化的模型性能。
     
     

4. 刚刚，谷歌宣布35岁Keras之父Francois Chollet离职（2024年11月14日）
   单刷CVPR的男人——Xception，深度学习的启蒙老师之一

5. 不做Sora背后：百度的多模态路线是什么？(2024.11.16)
   iRAG巧妙地将认知智能（检索）与生成智能（创作）结合在一起，取长补短，相得益彰。
   如今百度“曦灵”数字人、“慧播星”数字人已广泛应用于新闻播报、直播电商等场景。

6. 生成证件照，https://github.com/Zeyi-Lin/HivisionIDPhotos

7. Grok 3证明黎曼猜想，训练遭灾难性事件？数学家称不夸张，两年内AI将解出千禧年难题（ 2024年11月18日）

8. 对标o1，Kimi放出了最能打的国产模型（2024年11月18日）
   Kimi 的最新一代推理模型 k0-math，在数学能力已实现对标 OpenAI o1-mini 和 o1-preview。
   
   

9. 逼真到离谱！1000个人类「克隆」进西部世界，AI相似度85%细节太炸裂（2024年11月19日）

   • 通过招募1052名参与者，涵盖了不同性别、年龄、地区等，每人接受GPT-4o采访了2个小时。
   • 然后将得到的访谈内容作为文字提示，输入语言模型中，复刻出每个个体对应的AI智能体。
   • 所有智能体在综合社会调查中的回答，与原参与者两周后自我复现答案准确率接近85%，并在人格预测、实验复制中表现与人类相当。

10. 登上Nature的AI芯片设计屡遭质疑，谷歌发文反击，Jeff Dean：质疑者连预训练都没做（2024年11月19日）

    • 2020 年，谷歌发表了预印本论文《Chip Placement with Deep Reinforcement Learning》，介绍了其设计芯片布局的新型强化学习方法 AlphaChip。在 2021 年，这项研究发表在 Nature 上并开源了出来。

    • 此后，AlphaChip 激发了 AI 芯片设计方面的大量工作，并在谷歌母公司 Alphabet 三代 TPU、数据中心 CPU 和其他芯片中部署，并由外部芯片制造商扩展。

    • https://github.com/google-research/circuit_training

11. 腾讯AI大牛，被曝投身视频生成创业（ 2024年11月19日）
    刘威——腾讯杰出科学家、腾讯混元大模型技术负责人之一，腾讯 AI Lab 早期的三剑客
    
    创业公司，Video Rebirth，视频生成，行业内有快手可灵、爱诗科技、生数科技等团队的AI视频应用

12. AI版周扒皮！打字速度慢、鼠标超30秒未动，就被AI「警告」，Karpathy下场评论（2024年11月24日）
    
    

13. GAN之父新冠后惊传罹患双重顽疾！听力减退心动过速，全网求医（2024年11月25日）
    除了「GAN」之父的名号，他还是「花书」的作者，这本书原名就叫做「深度学习」
    Goodfellow在斯坦福大学计算机科学系读完了本科和硕士，师从AI大牛吴恩达。
    博士生涯，就读于加拿大蒙特利尔大学，师从Yoshua Bengio 和 Aaron Courville，

14. AI推演OpenAI内斗结果：奥特曼仅有20%胜率，马斯克也有机会接盘？？？（2024年11月25日）
    

15. 和梁朝伟同获港科荣誉博士，黄仁勋与沈向洋对谈Scaling Law、后训练、机器人和爱情（2024年11月25日）

    • 11 月 23 日，香港科技大学举行了今年度的学位颁授典礼。英伟达创始人和 CEO 黄仁勋又新增一个荣誉工程学博士头衔，与他一同获得荣誉博士学位的还有著名影星梁朝伟、2013 年诺贝尔化学奖得主 Michael Levitt、菲尔兹奖得主 David Mumford。
    • 我们需要后训练，也就是深入学习特定技能的过程。后训练涉及强化学习、人类反馈、人工智能反馈、合成数据生成、多路径学习等多种技术。
    • 核心在于，你开始进入一个特定领域的深度学习，试图深入理解其中的某些内容。这就是后训练的过程。一旦你选择了一份职业，你会再次进行大量的学习。
    • 然后，在后续阶段，就到了我们所说的 「思考」。这可以被称为 test time scaling。在这个阶段，有些问题的答案可以直截了当地知道，而有些问题则需要你将其分解，逐步追溯到第一性原理，再从原点出发，为每个问题找到解决方案。这可能需要你进行迭代，可能需要你分情况讨论，模拟不同的结果。

16. 博世将裁员5500人，汽车行业寒冬来了？（ 2024年11月26日）

17. 大模型创业太累大牛逃回大厂：融资1亿美金捉襟见肘，没日没夜加班胖了30斤（ 2024年11月26日）
    Yi Tay，曾是Reka AI联合创始人，也曾是谷歌大模型PaLM、UL2、Flan-2、Bard的重要参与者。
    

18. 2024全球无人机市场洞察报告（ 2024年11月27日）
    
    微型化、高速长续航化、智能化

19. 周鸿祎黑客短剧震撼首秀，直接带火纳米搜索！搜学写创，开启AI搜索3.0时代（2024年11月28日）

    • 11月初，ChatGPT正式推出AI搜索体验，成为一款搜索引擎；11月中，奥特曼正式官宣ChatGPT新域名——chat.com，据称为此豪掷了1500-2000万美金。
    • 我们可以根据其中的「AI含量」将路线简单分为三个阶段——1.0（网页搜索引擎）、2.0（答案生成引擎）、3.0（多模态创作引擎）。
    • 拍照问问

20. 当AI创造AI，就是库兹韦尔「奇点」临近时？人类正处于自我改进AI爆炸边缘（2024年11月28日）

21. 吴恩达出手，开源最新Python包！助力开发者大模型开发！（2024年11月29日）
    pip install aisuite
    统一接口设计，支持多个 AI 提供商的模型
    当前，aisuite 支持的提供商包括：OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace、Ollama

12、December

1. 腾讯AI视频生成曝光！与Sora同提示词PK，你来投票（2024年12月01日）
   提示词：一只大象站在漂浮在蓝色水面的白色轻薄床单上来回踱步。
   你说AI它懂物理吧，大象这么重压上去居然不沉底？但你说他不懂物理吧，床单被踩出的褶皱好像又是那么回事。
   

2. 2024年AI投资138亿美元暴增6倍！OpenAI市场份额下降16%，Anthropic谷歌双赢（ 2024年12月01日）
   设计模式：RAG（Retrieval-Augmented Generation），而非微调
   RAG的工作流程通常包括以下几个步骤：

   • 检索：根据用户的查询内容，从外部知识库中检索出最相关的文档或段落。这一步通常使用各种搜索引擎技术，如倒排索引、向量检索等，以确保快速且准确地找到相关信息。
   • 增强：将检索到的相关信息与用户查询一起嵌入到一个预设的提示词模板中，以增强模型对特定问题的理解和回答能力。
   • 生成：将经过检索增强的提示词内容输入到大型语言模型中，以生成所需的输出。这一步通常利用预训练的序列到序列模型，如T5、BART等，来生成连贯、准确且信息丰富的回答或文本。

3. 吉利系智驾或再将整合（2024年12月03日）
   Smart汽车（奔驰和吉利）与极斯的智驾团队正在接触，未来双方在智驾上或许有合作的可能性。
   Smart汽车与极斯同时作为吉利旗下的整车品牌，随着吉利最近大规模整合旗下各个整车品牌，Smart汽车与极斯在智驾方面合作的可能性非常高。

4. 腾讯版Sora发布即开源！130亿参数，模型权重、推理代码全开放（ 2024年12月03日）
   目前该模型已上线腾讯元宝APP，用户可在AI应用中的“AI视频”板块申请试用。
   HunyuanVideo
   

5. 高中辍学天才、谷歌ViT三大将集体跳槽OpenAI！组队Sora决战AGI（2024年12月05）
   OpenAI从谷歌DeepMind挖走了3名顶级工程师！
   2020年曾一起提出了神经网络架构Big Transfer (BiT)
   2021年作为共同一作发布的论文 ViT
   

6. 豆包代码大模型曝光！在字节最新开源基准里，多种编程语言性能仅次于OpenAI/Claude（2024年12月05日）
   Doubao-Coder
   
   解决难题，闭源模型普遍优于开源模型
   Liu S, Zhu H, Liu J, et al. FullStack Bench: Evaluating LLMs as Full Stack Coder[J]. arXiv preprint arXiv:2412.00535, 2024.

7. 严禁AI评审！CVPR 2025重申大模型审稿0容忍，一首拒稿小诗爆笑全场（2024年12月08日）
   

8. 曾硬刚小米，估值 60 亿美元的独角兽被宣布破产！（ 2024年12月09日）
   PMF（Product Market Fit），指的是产品市场匹配度
   2014年，柔宇科技率先成功开发0.01毫米全球最薄柔性显示屏引发行业关注。
   2015年7月，柔宇科技正式启动了世界上首条超薄柔性显示模组和柔性传感器的量产线。
   产线投产后仅5个多月，柔宇科技便发布了全球第一款可折叠柔性屏手机FI­ex Pai柔派手机，8999元起售。

9. 大众集团爆发大罢工！员工挤满总部广场，9大工厂停产（ 2024年12月10日）
   

10. 诺奖青睐AI的这一年，这些人工智能公司&人物&产品值得关注（ 2024年12月11日）
    

11. Robotaxi全球三强之一突然倒下：烧光700亿落地百余辆…（ 2024年12月12日）
    Cruise，这家自动驾驶赛道曾经的明星独角兽，和Waymo、百度Apollo并列三强的Robotaxi玩家，烧光700亿后，走向自己的终局。
    Waymo、Apollo的落地进展，以及小马、文远等等L4玩家成功上市，也说明无人驾驶正在迎来新又一波高潮。
    Cruise的退出，反倒更好的证明，L4从技术体系、落地场景、商业模式、运营管理等等，都是和L2+完全泾渭分明的另一桩生意。

12. 贾樟柯李少红都用AI拍电影了，还传递经验：哪个功能最实用？（ 2024年12月12日）
    
    快手可灵。联手国内最知名的9名影视工作者：李少红（《大明宫词》）、贾樟柯（《三峡好人》）、叶锦添（《英雄本色》）、薛晓路（《不要和陌生人说话》）、俞白眉（《战狼2》）、董润年（《年会不能停！》）、张吃鱼（《独行月球》）、王子川（《朱同在三年级丢失了超能力》）、王卯卯（“兔斯基”原创者）。每人和AIGC创作者打配合，用可灵生成，各AIGC了1部3-5分钟的电影短片，涵盖奇幻、志怪、亲情、动画等多种类型。