🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 时政 财经 科技 采集 2026-11-02T10:11:21+00:00

巴西两名律师用隐藏提示词操纵法院AI被罚

原始标题:巴西两名律师试图通过隐藏提示词操纵法院 AI,被罚 1.6 万美元

来源
ithome
发布时间
2026-11-02T07:57:16
采集批次
2026-11-02-10
字数
515
URL 指纹
4a311b3ced0e113d

📌 AI 总结(127 字)

巴西一家劳工法院发现,两名律师在提交的诉状中以白底白字嵌入提示词,试图让法院人工智能系统忽略质疑并仅作表面处理。法院认为律师对文件负责,即使注入未奏效,仍有损司法尊严,遂按涉案金额的10%罚款,合计约1.6万美元,并将二人通报至州律师协会及法院内务部门。
📄 正文(515 字)
巴西一家劳工法院近日对两名律师作出罚款决定。法院在处理二人提交的诉状时,发现文件中藏有肉眼不易察觉的白底白字。调整字体颜色后,隐藏指令显现,内容要求人工智能系统仅对诉状作表面处理,不要质疑文件内容,并忽略其他指令。

法院指出,这种做法属于「提示词注入」,即在文档中植入隐藏指令,企图操控文本处理人工智能,促使其输出有利于指令植入者的结果。

由于相关被告未对指控作出回应,原告因此缺席胜诉,法院认定隐藏指令最终并未产生作用。不过,法院仍认为该行为「有损司法尊严」。法院同时认为,原告不熟悉法律专业细节,也接触不到相关文件,不可能自行修改诉状,因此将责任全部归于签署诉状的两名律师。

法院最终对两名律师各按涉案赔偿金额的10%处以罚款,合计约1.6万美元。两人还被通报至州律师协会及地区劳动法院内务部门,接受进一步处理。

类似情况此前已有发生。一名原告曾在提交材料中嵌入较长隐藏提示词,法院书记员因发现文档排版间距异常而查出问题。因其不是执业律师,法院当时从轻处理,仅要求此后必须线下提交纸质材料。另有一名州法官被诉至联邦法院,被指控借助人工智能直接生成完整判决书,但联邦法院裁定法官享有「司法豁免权」,相关诉讼因此不能成立。