来源：公众号“机器之心” 原文链接：https://mp.weixin.qq.com/s/aJQTpQtyd5Xka3CpoTWu4g?scene=1&click_id=28 本文第一作者张芝翔为复旦大学本科四年级学生，即将前往香港科技大学CSE系攻读博士，研究方向为AI Security&Trustworthy AI。通讯作者是香港科技大学佘东冬教授。 在当前大语言模型（L...

SelectiveRM：从点对点拟合噪声偏好，转向带选择机制的分布对齐，重构奖励模型的训练目标。作者丨潘黎铖 在大语言模型对齐研究中，一个看似自然、却值得重新审视的问题长期存在： 一方面，RLHF、RLAIF、GRPO等方法不断推动模型对齐能力演进；另一方面，奖励模型训练阶段却普遍默认一个前提——收集到的偏好标注能够准确反映真实人类偏好。 但现实并非如此。无论是人工标注、众包反馈，还是LLM...

来源：公众号“量子位” 原文链接：https://mp.weixin.qq.com/s/fNmWtYp3C63b8p1wmqtShw?scene=1&click_id=27 雨雪、雾霾、镜头噪点、压缩失真、夜间弱光…… 现实里拍到的照片，几乎没有一张是绝对“干净”的。 可偏偏就是这种再正常不过的真实画面，一旦交给多模态大模型，其表现往往会大幅下滑—— 原本答得对的问题，画面一糊就开始...

来源：公众号“专知” 原文链接：https://mp.weixin.qq.com/s/wKPyQKCqzNw9a2FyhcEAxg?scene=1&click_id=26 大语言模型智能体进入真实环境后，常常需要连续完成一组相关任务：与同一用户长期协作、反复调用工具、持续探索一个环境，或者多轮面对具有稳定行为模式的对手。此时，真正重要的不只是模型能否完成单次任务，而是它能否从已经发生...

来源：公众号“PaperAgent” 原文链接：https://mp.weixin.qq.com/s/ECLRTHebLtIfjmZhbaJ4hA?scene=1&click_id=24 想象一下：全球有超过7000种语言，而当你用波兰语、越南语、波斯语或印地语向 AI 系统提问时，它理解你的能力可能远不及英语用户的十分之一。 这不是模型能力的问题，而是结构性的资源分配失衡。 文本嵌...

雷锋网 AI 科技评论按：彼时，为期 7 天（6 月 9 日至 15 日）的 ICML 2019（国际机器学习大会）正在美国加州如火如荼地举行。据 ICML 2019 前不久公布的论文结果，今年大会共收到 3424 篇有效投稿论文，最终收录的论文数量为 774 篇，接收率为 22.6%。而今天，万众瞩目的 ICML 2019 最佳论文结果最新出炉，将会议推向了高潮。 （图片来源：Twitte...

雷锋网 AI 科技评论按：今年 6 月 9 日至 15 日，ICML 2019（国际机器学习大会）将于美国加州举行。随着会议临近，ICML 2019 近期也公布论文收录结果：大会共收到 3424 篇有效投稿论文，最终收录的论文数量为 774 篇，接收率为 22.6%，要比去年的 25% 的接收率（ICML 2018 共收到 2473 篇有效投稿论文，最终收录论文 621 篇）稍低些。随后，多...

雷锋网 AI 科技评论按：机器学习顶会 ICML 2019 近期公布了接收论文清单，多家企业研究院也按惯例介绍了自己的录用论文。不过新鲜的是，今年卡耐基梅隆大学（CMU）也专门发博客列出了来自 CMU 师生的录用论文，一共有 33 篇之多。其实 UC 伯克利、斯坦福、CMU 等计算机领域实力很强的高校每年都有许多顶会论文，多样性和深度也都很好，但是宣传力度往往比不上企业级 AI 研究机构。所...

本文为 AI 研习社编译的技术博客，原标题 ： Structured Control Nets for Deep Reinforcement Learning Tutorial (ICML Published Long Talk Paper) 作者 | Mario Srouji 翻译 | 永恒如新的日常、召唤神龙 校对 | 斯蒂芬·二狗子 审核 | 酱番梨 整理 | 立鱼王 原文链接： ht...

雷锋网AI科技评论按：ICML 是 International Conference on Machine Learning 的缩写，即国际机器学习大会。如今，ICML 已发展为由国际机器学习学会（IMLS）主办的年度机器学习国际顶级会议。 与其他机器学习会议一样，近年来 ICML 的投稿数量持续暴涨。ICML 2017 的数字是 1676 篇投稿、434 篇接受论文，2018 年则是 24...