天眼查App显示,近日,成都佳发安泰教育科技股份有限公司公开了一项名为“基于大语言模型的攻击防御方法、系统、设备和存储介质”的发明专利(专利号:CN202411409845.6)。该专利旨在提升大语言模型在面对各种攻击时的鲁棒性,确保其在实际应用中的稳定性和可靠性。
发明人竺颖林、张越和谢维义提出了一种创新的方法,通过构造目标攻击指令和目标防御指令,模拟攻击与防御过程。具体而言,该方法基于原始任务指令和目标任务指令,构建模型输入指令集,并调用大语言模型输出响应内容,最终确定出有效的防御指令。这种方法不仅能够有效抵御恶意攻击,还能提高大语言模型的安全性能。
此专利申请于2024年10月10日提交,并于同日公布,标志着公司在人工智能安全领域取得了重要进展。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。