“如果一个系统无法生成准确和透明的结果，它就不能用于生成关于个人的数据。”
OpenAI广受欢迎的AI机器人ChatGPT一直面临许多法律问题。现在，一项新的隐私投诉再次引发了一个重大问题：ChatGPT倾向于捏造信息并将其呈现为真实的内容。
这次投诉由隐私权组织noyb发起，焦点是一位未具名的公众人物，他向ChatGPT询问自己的生日日期，却得到了错误的回答。
多年来，ChatGPT和类似的生成式AI工具在简单对话中经常出现撒谎的情况。这次新的投诉可能会使他们因传播不准确的个人数据而面临法律后果。
ChatGPT被指责什么问题？
“AI幻觉”一词指的是AI模型生成的任何不正确或误导性结果。由于这些模型都是大型语言模型，它们接受了大量数据的训练，能够以看似真实的方式复制或重组这些数据。然而，这些模型往往优先考虑逼真性而非事实。
在一个最著名的例子中，谷歌的聊天机器人Gemini 在2023年2月的发布会上给出了一个错误答案，错误地声称詹姆斯·韦伯太空望远镜拍摄了太阳系外行星的首张照片。
这些幻觉问题可以很简单，例如ChatGPT拒绝承认它不知道某位公众人物的生日，但对于一个被宣传为可以处理简单任务的工具来说，这是一个大问题。新的投诉希望通过法律行动来迫使公司解决这个问题。
“很明显，当前公司无法让像ChatGPT这样的聊天机器人在处理个人数据时遵守欧盟法律。如果一个系统无法生成准确和透明的结果，它就不能用于生成关于个人的数据。技术必须遵循法律要求，而不是反过来。”——Maartje de Graaf，noyb数据保护律师。
为什么新的隐私投诉很重要
noyb项目——其名字的意思是“与你无关”（none of your business）——是一个非营利组织，致力于解决“欧洲范围内的商业隐私问题，也就是公司和企业对你作为私人公民的数字权利的侵犯”，根据其网站介绍。
由于欧盟《通用数据保护条例》（GDPR）在2018年的推出，像noyb这样的监督机构能够突出那些可能影响全欧洲人民的最大隐私侵犯问题。
GDPR合规失败可能导致高达全球年营业额4%的罚款，这绝非小事。合适的GDPR裁决可以为如何处理所有生成式AI机器人设立先例，而不仅仅是以ChatGPT为标准的AI工具。
AI和其他新技术是否应受到更严格的监管？
当然，还有许多其他比弄错生日更显而易见的负面影响的故事。例如，一些不道德的电子书作者通过AI生成了整本关于蘑菇采集的指南，这些指南可能会毒害那些将其视为真理的人。
但与AI的其他、更令人震惊的问题相比，这项新投诉有一个优势：它明确指出OpenAI的ChatGPT是值得关注的一方，而不是那些电子书商贩。该投诉旨在揭示ChatGPT对虚假信息的偏好，特别是为了设定法律标准。
对技术世界来说，监管是否有益？由于硅谷半个多世纪以来的自由主义者、技术理性主义者和“快速行动、打破常规”的倡导者，反监管精神已经成为硅谷精神的重要组成部分。
最终，你的答案可能取决于你对当今数据饥渴的科技公司所做的一切有多大的舒适度。有些人更喜欢慢慢前进并修复问题。
然而，对于大型AI公司来说，他们仍在走得太快：在谷歌Bard发布失败后不久，有报道称谷歌推翻了一项发现该AI工具撒谎的风险评估。