会后复盘
机器学习理论
雷峰网 · GAIR DAO · 2026-07-23
一套数学上优雅、逻辑上自洽的框架方法,为什么就是跑不成功? 作者丨幸丽娟 编辑丨马晓宁 AI 训练有个很棘手的问题:数据越来越多,但质量参差不齐,直接往里倒反而可能把模型练坏。 那怎么办? 2018年,一篇 ICML 论文提出了一个想法:让 AI 自己学会挑选训练数据。 这个想法后来有了名字,叫做 Meta-learning for Training-data Selection(MTS) ...
会后复盘
机器学习理论
雷峰网 · GAIR DAO · 2026-07-23
极简二次模型,还原 LLM 预训练的本质。 作者丨幸丽娟 编辑丨岑 峰 当大模型预训练还在靠一堆“炼丹术”般的启发式规则苦苦调参时,哈佛大学计算机科学系 Gordon McKay 教授 、Kempner 研究所联合主任 Sham Kakade 抛出了一项反直觉的研究:一个简单到离谱的二次模型,就能精准预测大语言模型在动态预训练中的绝大部分优化效果。 他在 ICML 2026 的特邀演讲《Ho...
会后复盘
具身智能
雷峰网 · GAIR DAO · 2026-07-13
作者丨吴思梦 编辑丨岑 峰 “Transformer 能写诗、能编程、能证明数学定理,为什么迟迟造不出真正上市的 AI 新药?” 7月8日,在 ICML 2026 大会上,Genentech(基因泰克)执行副总裁兼研发负责人 Aviv Regev 登台发表主旨演讲,直面了这个困扰 AI 制药圈已久的核心质疑。 在这场题为Lab in the Loop for drug R&D(面向药...
会后复盘
大语言模型
雷峰网 · GAIR DAO · 2026-07-13
作者丨吴思梦 编辑丨岑 峰 7月7日,国际机器学习大会(ICML)在首尔召开。在首日Keynote演讲中,斯坦福大学商学院技术经济学教授、前美国司法部反垄断部门首席经济学家Susan Athey发表了一场跨越经济学、统计学与机器学习边界的演讲,题为“Causal Inference with Transformer Models”(基于 Transformer 模型的因果推断)。 Athey...