主要担忧包括由AI幻觉驱动的虚假声明、数据集的偏见以及可能违反保密性的问题。
人工智能已经在法庭上引起关注：美国最高法院的一份新报告警告律师和客户在案件中使用AI的风险。
许多AI工具，如ChatGPT和Bard，任何人都可以免费使用，而且人们确实在这样做。现在，有关某些律师因提交包含虚假ChatGPT生成的引文的简报而被抓住的消息似乎已经传到了全国最高法院。他们对此有一些看法。
这份名为《2023年联邦司法系统年终报告》的新报告由美国首席大法官约翰·G·罗伯茨（John G. Roberts, Jr.）撰写，内容全部围绕AI展开。以下是报告中的主要内容。
在法律案件中使用AI的弊端
在法律系统中使用AI的最大问题之一是：AI往往会产生“幻觉”，这是因为AI的设计目的是生成看起来真实的概念和句子，而不一定是实际上真实的。
正如罗伯茨在报告中冷静地指出的那样，使用生成式AI机器人的律师最终提交的简报中“引用了不存在的案例（这永远是个坏主意）。”
其他与AI相关的警示包括：将机密信息输入AI工具所带来的法律问题，以及AI训练数据中固有的偏见，这些偏见随后可能在AI的输出中得到复制。
“在刑事案件中，使用AI评估逃跑风险、再犯率和其他涉及预测的广泛自由裁量决定引发了关于正当程序、可靠性和潜在偏见的担忧。”——美国首席大法官约翰·G·罗伯茨
总的来说，隐藏的偏见、明显的谎言以及法律程序的复杂性使得AI看起来不太适合用于法律系统。
AI在法律背景中的优势
最高法院的报告并没有完全反对人工智能。报告指出，有针对性地使用AI可以节省时间，为那些无法负担人类律师费用的人提供一些有限的工具。
“AI的支持者称其有可能增加司法的可及性，特别是对资源有限的诉讼人而言。[……] 对于那些无法负担律师费用的人，AI可以提供帮助。它推动了新的、高度可及的工具，这些工具可以回答基本问题，包括在哪里找到模板和法院表格，如何填写这些表格，以及带到哪里呈交给法官——所有这些都可以在家中完成。”——美国首席大法官约翰·G·罗伯茨
作为打开基本法律程序通道的工具，AI可以帮助弥补当前法院系统中的一些不平衡。
然而，罗伯茨对当前AI积极作用的评论相对简短。在接下来的段落中，他提到使用AI时所需的“谨慎和谦逊”。
AI的全面影响尚未到来
最终，这份新报告并没有提出什么新观点。我们知道AI工具有其作用，但人类的审查对于确保最终结果的准确性至关重要。
不过，最高法院花时间讨论AI在法律系统中的地位，这本身就是一个信号，表明这项相对较新的技术已经在重塑大量行业。
AI对生活各个领域的最终影响尚未可见。但如果最高法院对此有发言权，那么这种影响将受到密切监控。