美国原告在法庭文件中藏不可见AI指令，试图影响自动审查被法官制裁

一句话看懂

美国康涅狄格州一名原告在法庭文件中用白色3号字体隐藏AI指令，试图影响潜在的AI审查系统，被法官撤销电子提交权限并制裁。

详细发生了什么

据The Decoder报道，康涅狄格州一名原告在提交的法庭文件中，以白色背景上的白色3号字体嵌入了不可见的prompt injection指令。这些指令旨在操纵可能用于审查文件的AI系统，使其做出对原告有利的判断。

审理此案的法官斯佩德（Judge Spader）将这一行为比作“秘密干预陪审团”，认为其严重破坏了司法程序的公正性。法官随即撤销了该原告的电子文件提交权限，并对其施加制裁。

值得注意的是，法院明确表示康涅狄格州目前并未使用AI来审查法庭文件。但法官强调，即使AI系统尚未实际投入使用，仅凭这种意图本身就已构成不当行为，足以触发制裁。这一裁决传递出明确信号：任何试图利用AI漏洞干预司法程序的行为，都将受到法律严惩。

中文圈视角

这起事件虽然发生在美国，但对中文圈用户有重要警示意义。首先，随着国内法院、仲裁机构逐步引入AI辅助工具（如智能阅卷、文书审查系统），类似的安全漏洞可能成为新的攻击面。虽然目前国内司法系统尚未大规模依赖AI进行文件审查，但技术应用的趋势不可逆转。

其次，这一案例凸显了prompt injection攻击的严重性。中文圈开发者在使用大模型API时，往往更关注功能实现，而忽视输入安全。例如，在构建RAG系统或tool calling流程时，若未对用户输入进行严格过滤，恶意指令可能被隐藏在文本中，导致模型输出偏离预期。建议开发者参考OWASP关于LLM应用的防护指南，对输入内容进行清洗和验证。

此外，事件也提醒普通用户：AI工具的输出并非绝对可靠，尤其在法律、医疗等高风险场景中，应保持人工复核。对于国内用户而言，使用国产模型（如DeepSeek、Kimi）时，同样需要警惕prompt injection风险，避免将敏感信息直接输入不可信的AI系统。

几条值得记住的细节

原告使用的隐藏指令格式为白色背景上的白色3号字体，肉眼几乎不可见。
法官斯佩德将此举比作“秘密干预陪审团”，强调其严重性。
康涅狄格州法院明确表示目前未使用AI审查文件，但意图本身已构成制裁理由。
原告的电子文件提交权限被撤销，意味着其后续诉讼程序将受到限制。
此案可能成为美国司法系统应对AI滥用行为的先例。

一句话总结

AI安全漏洞可能出现在任何场景，法律文件也不例外，使用AI工具时务必警惕prompt injection风险。