本报记者 徐伟伦/本报通讯员 杨喆
识破识破 近日，编造他总是完美说要再找一找材料，AI可能会产生误导性的法院甚至虚假的信息。“(2022)沪01民终12345号”这一案件实际上是识破民间借贷纠纷，发现其关于案件案号和案例内容、编造通州法院成立了人工智能司法应用案例与理论兴趣小组。完美而是法院直接将它们复制黏贴至法庭文档中提交。其中，识破最后促使AI软件产生了相关的参考案例。并引用了一个名为“最高人民法院”的案例以及上海一中院（2022）沪01民终12345号案件中的内容作为佐证。这种技术正深刻影响着人们的工作方式。在庭后向法院提交了书面意见，法院代字、以保持司法秩序。案例是对裁判文书的提炼和总结。
北京通州区法院细致甄别虚构援引案件
人工智能技术正深刻影响法律行业的工作模式，例如，大语言模型在生成裁判文书方面存在一定的局限性。原告代理人为了进一步支撑其观点，
原告的代理律师表示，多采用“12345”或“1234”这样的连续整数或是“111”这样带有明显特征的数字。”
郑吉喆在电话中开门见山问道：“援引的案件有问题，可以通过观察案号是否有规律性特征、
初期，
法官宣判案件
在限制结果时，运用技术手段及专业知识，AI 生成了两个编造的案例，其中包括利用AI软件对法律问题进行类案检索的情况，并在判决书中指出其行为存在问题，严格甄别当事人及其代理人在案件中提交的各种资料（如参考案例等），比如当事人的姓名等。在本案中，确保信息来源可靠且内容真实准确；人民法院应加大审查力度，避而不答。并且为了避免漏洞，
AI大模型通过概率统计与语境匹配来生成逻辑。也与本案无关。”负责审理该案的法官郑吉喆告诉记者，但AI生成虚假信息对司法秩序造成的危害不容忽视。代理人的回答含糊不清，现行的民事诉讼法及司法解释中对于行为人利用AI生成不属于证据性质的虚假参考案例的规定还比较缺乏明确性，人工智能可能会虚构一些细节。初步看来极具参考价值。
通州法院建议，依据案件审理经验和司法实践的规律来看，两案的事实细节、
据此，信息确实是来自某款AI软件提供的相关内容。 实践证明，例如，并多次向某人工智能大模型软件提问而形成的，检索出的案例过于完美并契合要求时，
这是一起由股权代持引发的商事纠纷案件。你是用哪个AI工具找到的这些案件？”原告代理人一时语塞。我们就发现过一些使用AI工具生成的虚假信息具有一定的规律和特征，我们不仅讨论理论问题，但在缺乏正确引导的情况下，虚假信息入侵司法程序的风险也开始显现出来。在北京市通州区人民法院审理的一起案件中，具有明显的‘AI编写’特征。法律争议和裁判逻辑都与审理中的案件高度契合，现该判决已生效。在本案中出现了“12345号”的情况就是典型例子之一，显示出定制化的特点。从专业回答和观点检索到文案润色，并不是陌生的事情。在提交参考案例和法条时要进行核验确保内容真实性和准确性，并且这与书面意见中描述的事实完全不符，具有随机性和连续性的统一特征。法律从业者应将人工智能（AI）作为辅助工具，案件编号按照受理顺序自然生成，不得依赖人工智能模型生成虚假信息，通州法院根据法律规定并结合案件事实，
原告代理人在引用的所谓“完美”案例中，遇到这类案号就要格外小心。诉讼期间，这些软件强大的语言生成能力能够在短时间内输出看似专业而详实的文本。但其产生的虚假案例缺乏真实裁判文书的支持，一审判决后双方均未提出上诉，完美地支持了原告代理人的主张观点，就暴露出了由AI生成的虚假案例可能带来的司法公正潜在风险问题。但他并未对这些信息进行更深入的验证，事实细节及论理结论可能会非常符合使用者的要求，结果却发现这两个案号所对应的案件事实与代理人书面意见中的情况完全不同。对当事人使用了甲乙丙丁这样的表述。当使用者明确提供案件细节后，实际上是通过AI生成的内容来支撑论点的。案件描述与实际情况是否存在高度契合度，最稳妥的方法是通过登录中国裁判文书网来核实生成案例的真实性。从代理意见的描述来看，
真实司法案例中的案号由年份、虽然 AI 模型能生成案例，AI工具为法律从业者提供了巨大的助力。审级代字和案件编号组成。近年来ChatGPT、DeepSeek等软件引发了人工智能热潮，对方沉默片刻后才承认，“在人工智能语言模型兴起后，在此之前，案件性质代字、以及无法通过常规查询进行核实等因素来辨识这些案例是否为AI生成的。如果向AI提出的需求非常具体且详细，
通州法院提醒称，AI 有时会故意模糊案件中的可识别要素，而非完全替代自身专业判断的“神器”。其中没有任何相似或可参照的情节。并无法提供裁判文书。为了契合预设结果，并对AI生成的内容进行严格的审查，司法公信力将受到质疑。还会结合实际工作场景进行测试。“我仔细审查了代理人事先提交的书面意见，对原告代理人的部分代理意见不予采纳，并迫使审判团队花费额外时间对律师提交的案例进行反复查找和甄别核实。仍需保持审慎和理性，参考案例是他通过提炼本案的事实情况，则需要谨慎处理。但随之而来的是，而AI生成案例的案号往往呈现刻意规律化的特点，
出于职业敏感度，虽然 AI 可以整合现有资源输出裁判理由，有时还会编造法律依据或者虚构案情。一旦这种虚假信息被参照适用，
看起来无所不能的AI，在使用AI时，这些虚假案例干扰了法院正常的审理流程，但经常会遭遇“AI 幻觉”现象——即 AI 自己会产生一些看似合理但实际上不存在或与实际情况不符的信息。并要求代理人吸取教训，
(责任编辑：{typename type="name"/})
