来源：公众号“机器之心” 原文链接：https://mp\.weixin\.qq\.com/s/aJQTpQtyd5Xka3CpoTWu4g?scene=1&click\_id=28 本文第一作者张芝翔为复旦大学本科四年级学生，即将前往香港科技大学CSE系攻读博士，研究方向为AI Security&Trustworthy AI。通讯作者是香港科技大学佘东冬教授。 在当前...

作者丨潘黎铖 *                                                                                                     * 在大语言模型对齐研究中，一个看似自然、却值得重新审视的问题长期存在： 一方面，RLHF、RLAIF、GRPO等方法不断推动模型对齐能力演进；另一方面，奖励模型训练...

原文链接：https://mp\.weixin\.qq\.com/s/fNmWtYp3C63b8p1wmqtShw?scene=1&click\_id=27 雨雪、雾霾、镜头噪点、压缩失真、夜间弱光…… 现实里拍到的照片，几乎没有一张是绝对“干净”的。 可偏偏就是这种再正常不过的真实画面，一旦交给多模态大模型，其表现往往会大幅下滑—— 原本答得对的问题，画面一糊就开始答错。 ...

来源：公众号“专知” 原文链接：https://mp\.weixin\.qq\.com/s/wKPyQKCqzNw9a2FyhcEAxg?scene=1&click\_id=26 大语言模型智能体进入真实环境后，常常需要连续完成一组相关任务：与同一用户长期协作、反复调用工具、持续探索一个环境，或者多轮面对具有稳定行为模式的对手。此时，真正重要的不只是模型能否完成单次任务，而是它能...

来源：公众号“PaperAgent” 原文链接：https://mp\.weixin\.qq\.com/s/ECLRTHebLtIfjmZhbaJ4hA?scene=1&click\_id=24 来源：公众号“PaperAgent” 原文链接：https://mp\.weixin\.qq\.com/s/ECLRTHebLtIfjmZhbaJ4hA?scene=1&c...

大模型的安全研究，没有赶上 AI 的发展速度。 7 月微软蓝屏事件，像是新老交替之际的一记警钟。每一项新技术的发明，都伴随着一种新责任的出现。假使 AI 集成到每个应用，那么发生在微软的蓝屏事件，同样也会成为 AI 潜在的危险。 “大模型能力的提升并不能代表它的安全也能得到改进，大家还是要有意识的发现模型潜在的风险和漏洞。” ICML 2024 大会期间，AI 科技评论访谈 ICML T...

近日，备受关注的第十九届机器学习国际会议（ICML 2022）在美国马里兰州巴尔的摩市举办。自新冠疫情以来，大会首次恢复线下形式，采取线上线下结合的方式举办。 本届大会共收到5630 篇投稿，其中，1117 篇被接收为short oral，118篇被接收为long oral。接收率为21.94%，与以往几年基本持平。前几日，本届大会的全部奖项公布，共评选出15 篇杰出论文奖和 1 项时...

作者 | 任洁 编辑 | 王晔 随着深度神经网络的应用日益广泛，可解释性也逐渐受到更多学者的关注。目前对神经网络的可解释性研究主要分为两个方面，一方面是语义层面的解释，另一方面是数学层面对网络表达能力推导。 在语义层面，最直接的方法是可视化神经网络的中层特征，同时很多研究也致力于估计输入样本中不同单元对于神经网络输出的重要性（attribution/importance/salie...

作者：琰琰 去中心化：机器学习系统的最优解 理论下界：迭代复杂度的极限 ICML获奖者 雷锋网雷锋网雷锋网

本文提出了一个新的损失函数，混合交叉熵损失（Mixed CE），用于替代在机器翻译的两种训练方式（Teacher Forcing和 Scheduled Sampling）里常用的交叉熵损失函数（CE）。 Mixed CE实现简单，计算开销基本和标准的CE持平，并且在多个翻译数据的多种测试集上表现优于CE。这篇文章我们简要介绍Mixed CE的背景和一些主要的实验结果。 文章和附录：h...