0 个结果

暂无内容
25 个结果
CLIP 后门样本检测:揭示网络数据集中的后门风险丨ICLR 2025
CLIP后门样本检测领域取得重要突破——5分钟内清洗百万数据,发现自然后门样本并揭示OpenCLIP预训练模型中的后门风险。随着多模态模型的快速发展,其安全问题日益受到关注,尤其是潜在的后门投毒风险。近日,墨尔本大学、复旦大学与新加坡管理大学的研究团队在CLIP后门样本检测领域取得重要突破,提出了一种面向工业场景的大规模数据集轻量化后门检测方法(4卡A100可在5分钟内清洗一百万条图文数据)。该方法不仅能高效识别潜在的后门投毒样本,还在现有数据集中首次发现了自然存在的后门样本。同时,研究团队发现热门开源项目OpenCLIP发布的预训练模型中已被植入后门,为多模态大模型的安全性研究提供了重要依据。相关论文已被国际顶级会议ICLR 2025接收。论文地址:https://arxiv.org/pdf/2502.01385GitHub链接:https://github.com/HanxunH/Detect-CLIP-Backdoor-Samples项目网站:https://hanxunh.github.io/Detec1、研究背景对比语言-图像预训练(Contrastive...

on 2025-04-18
揭秘多轮越狱攻击新框架:RACE 如何利用大模型推理能力突破安全防线?
北航等单位提出RACE框架,攻击成功率高达96%,OpenAI、DeepSeek等主流模型均被攻破。 本文一作为博士生应宗浩,现就读于北航复杂关键软件环境全国重点实验室,师从陶大程教授与刘祥龙教授,并由刘艾杉教授共同指导,目前研究兴趣为大模型越狱攻防。他所在的智能安全团队由刘祥龙教授负责,近年在大模型安全评测体系方面进行了系列研究工作,包括对抗攻击、后门投毒、越狱攻击、偏见调控等,发表TPAMI、IJCV、ICML、NeurIPS、USENIX等人工智能、信息安全领域顶级论文100余篇。 大模型(LLMs)的推理能力在各类任务中表现出色,但这也为越狱攻击提供了新的突破口。近日,来自北京航空航天大学、360 AI安全实验室、新加坡国立大学和南洋理工大学的研究团队提出了一种名为RACE(Reasoning-Augmented Conversation)的多轮越狱攻击框架,通过将有害查询转化为良性推理任务,成功突破了多个主流大模型的安全防线,攻击成功率高达96%。这一研究不仅揭示了当前大模型安全机制的脆弱性,也为未来的安全防御提供了新的思路。 ...

on 2025-04-18
上交大冷静文:模型发展需要和芯片、系统厂商协同
从数据流芯片切入,走异于英伟达的道路是国内机会点所在。 作者丨朱可轩 编辑丨陈彩娴 近期,上海交通大学与 AI Infra 创企魔形智能联合研究团队在由 IEEE 计算机协会主办的 HPCA 2025(International Symposium on High-Performance Computer Architecture)会议上,发表了论文《VQ-LLM: High-performance Code Generation for Vector Quantization Augmented LLM Inference》。 论文提出的 VQ-LLM 框架通过分层代码本缓存和代码本中心计算引擎两大核心技术,成功实现了超过 50% 的推理延迟降低,性能超越同比特宽度的传统逐元素量化方法。 这一突破为向量量化(VQ)技术的实际部署提供了可行方案,在保持大语言模型高精度的同时,显著提升了推理效率。 当前,业界前沿在大模型压缩方面涌现出不少研究成果,不过很大一部分都聚焦于单元素量化,而向量量化的好处则在于,极限、等效的比特压缩位宽会低很多,这也是论文研究所考虑的核心点。...

on 2025-04-30
相关用户