天眼查App显示,2025年6月6日,「多模态大模型的对抗样本生成方法及相关设备」正式进入专利公布阶段。申请人为三六零数字安全科技集团有限公司,该项人工智能专利涉及多模态大模型的安全性与对抗性研究领域。据专利信息显示,该技术方案能够显著优化多模态对抗样本的生成效率,突破性进展体现在一次攻击即可生成不同数据形式的多模态对抗样本。发明人为邓森友、黄绍莽、潘剑锋。
专利摘要指出,本申请提供了一种多模态大模型的对抗样本生成方法及相关设备。具体包括:将多模态数据组多次输入目标多模态大模型进行迭代训练,得到迭代损失和对抗样本组;判断对抗样本组中各对抗样本间的一致性,得到一致性损失;根据迭代损失和一致性损失对目标多模态大模型进行参数更新,直至达到预定结束条件,最终得到目标对抗样本组。此技术方案提升了生成多模态对抗样本的效率,为相关领域的安全性研究提供了新思路。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。