美国加利福尼亚州律师阿米尔・穆斯塔法维因在上诉文件中使用ChatGPT生成虚假法律引文，被第二区上诉法院裁定罚款1万美元（约合71149元人民币）。

判决书显示，其提交的23条判例引文中，有21条系虚构。法院强调，律师必须亲自核实所有引用内容的真实性，不得提交未经确认的来源。

这是加州法院就AI伪造内容问题开出的最重罚单之一。该裁决被视为对法律界滥用人工智能的严厉警告。全美多地法院 increasingly 面临类似问题，加州司法委员会已要求各法院在12月中旬前制定AI使用政策或实施禁令。

穆斯塔法维承认未审阅AI生成内容，称仅用ChatGPT优化表达，未料其会捏造判例。他指出AI已成为执业重要工具，但警示从业者必须谨慎对待其“幻觉”风险。

此前，加州联邦地区法院曾裁定两家律所赔偿超3.1万美元，因其依赖AI生成错误信息，法官称感到被误导，须建立惩戒机制。

专家指出，美国已记录超600起律师引用AI虚构判例案件，其中约52起发生在加州。虚假信息风险正推动行业加强培训与监管，加州律师协会正重新审视职业行为准则。

法律观察人士警告，AI“幻觉”可能导致虚假判例进入司法系统，甚至影响法官判决，问题影响范围可能超出律师群体，亟需提升全行业识别与验证能力。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。