会前预热
大语言模型
雷峰网 · GAIR DAO · 2026-06-15
来源:公众号“PaperAgent” 原文链接:https://mp.weixin.qq.com/s/ECLRTHebLtIfjmZhbaJ4hA?scene=1&click_id=24 想象一下:全球有超过7000种语言,而当你用波兰语、越南语、波斯语或印地语向 AI 系统提问时,它理解你的能力可能远不及英语用户的十分之一。 这不是模型能力的问题,而是结构性的资源分配失衡。 文本嵌...
会前预热
机器学习理论
雷峰网 · GAIR DAO · 2017-08-16
雷锋网 AI 科技评论按:近日,ICML2017收录的一篇论文引起了雷锋网AI科技评论的注意。这篇关于序列数据预测的论文是 Alex Smola 和他在 CMU 时的两个博士生 Manzil Zaheer 和 Amr Ahmed 共同完成的,后者目前已经加入谷歌大脑。 Alex Smola是机器学习界的重要人物,他的主要研究领域是可拓展算法、核方法、统计模型和它们的应用,已经发表超过200篇...
会前预热
大语言模型
雷峰网 · GAIR DAO · 2016-06-22
论文作者:Dario Amodei , Rishita Anubhai , Eric Battenberg , Carl Case , Jared Casper , Bryan Catanzaro , JingDong Chen , Mike Chrzanowski Baidu USA, Inc., Adam Coates , Greg Diamos Baidu USA, Inc., Eri...
会前预热
大语言模型
雷峰网 · GAIR DAO · 2016-06-20
神经网络和深度学习大会主席:Hal Daume III地点: Ballroom 1+2+Juliard10:30– 强类型递归神经网络 (Strongly-Typed Recurrent Neural Network) David Balduzzi、 Muhammad Ghifary 惠灵顿维多利亚大学10:47– 源代码极端总结卷积关注网络 (A Convolutional Attenti...
会后复盘
机器学习理论
雷峰网 · GAIR DAO · 2026-07-23
一套数学上优雅、逻辑上自洽的框架方法,为什么就是跑不成功? 作者丨幸丽娟 编辑丨马晓宁 AI 训练有个很棘手的问题:数据越来越多,但质量参差不齐,直接往里倒反而可能把模型练坏。 那怎么办? 2018年,一篇 ICML 论文提出了一个想法:让 AI 自己学会挑选训练数据。 这个想法后来有了名字,叫做 Meta-learning for Training-data Selection(MTS) ...
会后复盘
大语言模型
雷峰网 · GAIR DAO · 2026-07-23
“有原则”的能动性,才是 AI 真正走向现实世界的正解 作者丨幸丽娟 编辑丨岑 峰 表面“听话”的 AI,正在疯狂钻规则的空子。 这不是危言耸听,而是 Google DeepMind 研究科学家 Verena Rieser 在ICML 2026 特邀演讲《From Behavioural Guardrails to Principled Agency》中,抛出的一记重磅警示。 作为 Gemi...
会后复盘
机器学习理论
雷峰网 · GAIR DAO · 2026-07-23
极简二次模型,还原 LLM 预训练的本质。 作者丨幸丽娟 编辑丨岑 峰 当大模型预训练还在靠一堆“炼丹术”般的启发式规则苦苦调参时,哈佛大学计算机科学系 Gordon McKay 教授 、Kempner 研究所联合主任 Sham Kakade 抛出了一项反直觉的研究:一个简单到离谱的二次模型,就能精准预测大语言模型在动态预训练中的绝大部分优化效果。 他在 ICML 2026 的特邀演讲《Ho...
会后复盘
多模态
雷峰网 · GAIR DAO · 2026-07-20
ICML 2026现场 | 天气数据压缩566倍、表格推理仅用万张图,八篇Spotlight速读 过去几年,AI的进步往往伴随着暴力的“大锅炖”——把海量数据一股脑塞进模型,指望它自己顿悟。但这招在应对复杂真实世界时,正变得越来越低效。 在正在进行的 ICML 2026 上,我们从数百篇 Spotlight 论文中敏锐地捕捉到了一个新风向:AI 正在告别“混沌”,学会像人类一样进行结构化思考...