原文作者：公众号“深圳市大数据研究院” 原文链接：https://mp.weixin.qq.com/s/ex36drATo7qIy_MwFFp5hA 近日，深圳市大数据研究院四项科研成果同时发表于第43届国际机器学习大会（International Conference on Machine Learning, ICML）。 会议介绍 国际机器学习大会（International C...

原文作者：公众号“为机器立心” 原文链接:https://mp.weixin.qq.com/s/ZkUNbTfyXY5-zMRpiJxdQg 大语言模型已广泛落地代码生成场景，但模型训练数据包含海量开源漏洞代码，导致其天生会复刻漏洞（如SQL注入、缓冲区溢出、不安全函数调用等）。这类漏洞往往由单个Token/单行代码的局部错误引发，并非整段代码逻辑问题，对工程安全构成严重威胁。 目...

来源：公众号“PaperWeekly” 原文链接：https://mp\.weixin\.qq\.com/s/DNji8Z9tgNZcMW3oeMW\-bw?scene=1&click\_id=29 对于刚结束前两天 ACL 投稿的同学来说，现在或许正准备一鼓作气，将手头剩下的工作，或者没赶上 ACL 的存货转投 ICML。 此时此刻，各大实验室里应该都在进行最后的实验收尾、微...

作者丨潘黎铖 *                                                                                                     * 在大语言模型对齐研究中，一个看似自然、却值得重新审视的问题长期存在： 一方面，RLHF、RLAIF、GRPO等方法不断推动模型对齐能力演进；另一方面，奖励模型训练...

原文链接：https://mp\.weixin\.qq\.com/s/fNmWtYp3C63b8p1wmqtShw?scene=1&click\_id=27 雨雪、雾霾、镜头噪点、压缩失真、夜间弱光…… 现实里拍到的照片，几乎没有一张是绝对“干净”的。 可偏偏就是这种再正常不过的真实画面，一旦交给多模态大模型，其表现往往会大幅下滑—— 原本答得对的问题，画面一糊就开始答错。 ...

来源：公众号“专知” 原文链接：https://mp\.weixin\.qq\.com/s/wKPyQKCqzNw9a2FyhcEAxg?scene=1&click\_id=26 大语言模型智能体进入真实环境后，常常需要连续完成一组相关任务：与同一用户长期协作、反复调用工具、持续探索一个环境，或者多轮面对具有稳定行为模式的对手。此时，真正重要的不只是模型能否完成单次任务，而是它能...

来源：公众号“PaperAgent” 原文链接：https://mp\.weixin\.qq\.com/s/ECLRTHebLtIfjmZhbaJ4hA?scene=1&click\_id=24 来源：公众号“PaperAgent” 原文链接：https://mp\.weixin\.qq\.com/s/ECLRTHebLtIfjmZhbaJ4hA?scene=1&c...

大模型的安全研究，没有赶上 AI 的发展速度。 7 月微软蓝屏事件，像是新老交替之际的一记警钟。每一项新技术的发明，都伴随着一种新责任的出现。假使 AI 集成到每个应用，那么发生在微软的蓝屏事件，同样也会成为 AI 潜在的危险。 “大模型能力的提升并不能代表它的安全也能得到改进，大家还是要有意识的发现模型潜在的风险和漏洞。” ICML 2024 大会期间，AI 科技评论访谈 ICML T...

近日，备受关注的第十九届机器学习国际会议（ICML 2022）在美国马里兰州巴尔的摩市举办。自新冠疫情以来，大会首次恢复线下形式，采取线上线下结合的方式举办。 本届大会共收到5630 篇投稿，其中，1117 篇被接收为short oral，118篇被接收为long oral。接收率为21.94%，与以往几年基本持平。前几日，本届大会的全部奖项公布，共评选出15 篇杰出论文奖和 1 项时...

原定于在奥地利维也纳召开的ICML 2021，受疫情影响已于近日在线上召开。根据官方消息，会议将在7月18日~7月24日内完成所有的日程。 本次会议共收到5513篇论文投稿，接收1184篇论文，其中包含1018篇短论文和166篇长论文，接收率为21.48%，近五年最低。 在接收的一千多篇论文中，组委会最终挑出了四篇论文，分别颁发了一个杰出论文奖，三个杰出论文提名奖。 杰出论文奖...