原告的完美代理律师表示，确保信息来源可靠且内容真实准确；人民法院应加大审查力度，法院AI工具为法律从业者提供了巨大的识破助力。DeepSeek等软件引发了人工智能热潮，编造从代理意见的完美描述来看，人工智能可能会虚构一些细节。法院并引用了一个名为“最高人民法院”的识破案例以及上海一中院（2022）沪01民终12345号案件中的内容作为佐证。而非完全替代自身专业判断的编造“神器”。以及无法通过常规查询进行核实等因素来辨识这些案例是完美否为AI生成的。这些软件强大的法院语言生成能力能够在短时间内输出看似专业而详实的文本。他总是识破说要再找一找材料，完美地支持了原告代理人的主张观点，法律从业者应将人工智能（AI）作为辅助工具，但在缺乏正确引导的情况下，结果却发现这两个案号所对应的案件事实与代理人书面意见中的情况完全不同。并要求代理人吸取教训，遇到这类案号就要格外小心。法律争议和裁判逻辑都与审理中的案件高度契合，对方沉默片刻后才承认，AI可能会产生误导性的甚至虚假的信息。“(2022)沪01民终12345号”这一案件实际上是民间借贷纠纷，并在判决书中指出其行为存在问题，对原告代理人的部分代理意见不予采纳，有时还会编造法律依据或者虚构案情。案件性质代字、你是用哪个AI工具找到的这些案件？”原告代理人一时语塞。这种技术正深刻影响着人们的工作方式。还会结合实际工作场景进行测试。”负责审理该案的法官郑吉喆告诉记者，这些虚假案例干扰了法院正常的审理流程，最后促使AI软件产生了相关的参考案例。
通州法院提醒称，为了契合预设结果，但其产生的虚假案例缺乏真实裁判文书的支持，
案例是对裁判文书的提炼和总结。发现其关于案件案号和案例内容、并且为了避免漏洞，信息确实是来自某款AI软件提供的相关内容。“我仔细审查了代理人事先提交的书面意见，例如，AI 有时会故意模糊案件中的可识别要素，以确保司法过程中所用的信息真实可靠。通州法院成立了人工智能司法应用案例与理论兴趣小组。司法公信力将受到质疑。其中没有任何相似或可参照的情节。
看起来无所不能的AI，通州法院根据法律规定并结合案件事实，仍需保持审慎和理性，虚假信息入侵司法程序的风险也开始显现出来。但他并未对这些信息进行更深入的验证，
AI大模型通过概率统计与语境匹配来生成逻辑。参考案例是他通过提炼本案的事实情况，但经常会遭遇“AI 幻觉”现象——即 AI 自己会产生一些看似合理但实际上不存在或与实际情况不符的信息。当使用者明确提供案件细节后，在使用AI时，在庭后向法院提交了书面意见，严格甄别当事人及其代理人在案件中提交的各种资料（如参考案例等），审级代字和案件编号组成。诉讼期间，运用技术手段及专业知识，并不是陌生的事情。
这是一起由股权代持引发的商事纠纷案件。法院代字、两案的事实细节、而AI生成案例的案号往往呈现刻意规律化的特点，一审判决后双方均未提出上诉，近年来ChatGPT、“在人工智能语言模型兴起后，
初期，在本案中出现了“12345号”的情况就是典型例子之一，我们就发现过一些使用AI工具生成的虚假信息具有一定的规律和特征，避而不答。并且这与书面意见中描述的事实完全不符，检索出的案例过于完美并契合要求时，对当事人使用了甲乙丙丁这样的表述。AI 生成了两个编造的案例，最稳妥的方法是通过登录中国裁判文书网来核实生成案例的真实性。不得依赖人工智能模型生成虚假信息，在此之前，案件描述与实际情况是否存在高度契合度，具有随机性和连续性的统一特征。
据此，其生成的内容往往能够精确贴合需求，”
郑吉喆在电话中开门见山问道：“援引的案件有问题，
原告代理人在引用的所谓“完美”案例中，其中，虽然 AI 可以整合现有资源输出裁判理由，比如当事人的姓名等。并对AI生成的内容进行严格的审查，
出于职业敏感度，法官助理与原告代理人沟通时，
本报记者 徐伟伦/本报通讯员 杨喆
在北京市通州区人民法院审理的一起案件中，现行的民事诉讼法及司法解释中对于行为人利用AI生成不属于证据性质的虚假参考案例的规定还比较缺乏明确性，则需要谨慎处理。其实背后隐藏着巨大的诚信问题。在本案中，多采用“12345”或“1234”这样的连续整数或是“111”这样带有明显特征的数字。格式方面，但AI生成虚假信息对司法秩序造成的危害不容忽视。代理人的回答含糊不清，但随之而来的是，就暴露出了由AI生成的虚假案例可能带来的司法公正潜在风险问题。显示出定制化的特点。真实司法案例中的案号由年份、依据案件审理经验和司法实践的规律来看， 实践证明，现该判决已生效。原告代理人为了进一步支撑其观点，也与本案无关。初步看来极具参考价值。以保持司法秩序。具有明显的‘AI编写’特征。从专业回答和观点检索到文案润色，其中包括利用AI软件对法律问题进行类案检索的情况，并无法提供裁判文书。如果向AI提出的需求非常具体且详细，可以通过观察案号是否有规律性特征、在提交参考案例和法条时要进行核验确保内容真实性和准确性，近日，
法官宣判案件
在限制结果时，
北京通州区法院细致甄别虚构援引案件
人工智能技术正深刻影响法律行业的工作模式，
通州法院建议，我们不仅讨论理论问题，事实细节及论理结论可能会非常符合使用者的要求，实际上是通过AI生成的内容来支撑论点的。案件编号按照受理顺序自然生成，并迫使审判团队花费额外时间对律师提交的案例进行反复查找和甄别核实。一旦这种虚假信息被参照适用，而是直接将它们复制黏贴至法庭文档中提交。大语言模型在生成裁判文书方面存在一定的局限性。
(责任编辑：{typename type="name"/})
