机器之心报道
机器之心编辑部
最近几天，ChatGPT 惊现神秘 Bug，当被问及「David Mayer」这个名字时，它拒绝回答问题。
如果你试图让它回答，聊天会立即结束。
图源：https://x.com/venturetwins/status/1862910201113739328
人们尝试了各种各样的方法 —— 密码、谜语、技巧等，但都不起作用。甚至在个性化设置里，用户自己的名字改成 David Mayer，还是不行。
消息迅速传出，有人说，这个名字对聊天机器人来说是毒药。每次试图让 ChatGPT 拼出这个特定的名字都会导致它失败，甚至在名字中间中断。
最初人们只是好奇，但很快就发现 ChatGPT 无法说出的名字不仅仅是 David Mayer。
他们还发现导致服务崩溃的还有 Brian Hood、Jonathan Turley、Jonathan Zittrain、David Faber 和 Guido Scorza 等等。
这些人是谁？为什么会让 ChatGPT 崩溃？
认真观察，可以发现其中一些名字可能属于许多人。但 ChatGPT 用户发现的一个潜在联系是，这些人是公众人物或半公众人物，他们可能希望搜索引擎或 AI 模型「忘记」某些信息。
例如，Brian Hood 是澳大利亚的一位市长，他指责 ChatGPT 错误地将他描述为几十年前犯罪的肇事者，而事实上，他曾举报过这一错误。
虽然他的律师与 OpenAI 取得了联系，但从未提起过诉讼。正如他今年早些时候说的那样，违规内容已被删除。
David Faber 是 CNBC 的资深记者，Jonathan Turley 是一名律师和福克斯新闻评论员，Jonathan Zittrain 也是一名法律专家，Guido Scorza 是意大利数据保护局的董事会成员。
他们并非完全从事同一行业，也不是随机选择的。这些人可能出于某种原因正式要求以某种方式限制他们在网上的信息。
让我们再回到 David Mayer，没有人能找到叫这个名字的律师、记者或其他知名的人士。
不过，有一位教授叫 David Mayer，他教授戏剧和历史，于 2023 年夏天去世，享年 94 岁。然而，在此之前的几年里，这位英裔美国学者面临着法律和网络问题，因为他的名字与一名通缉犯有关，该通缉犯以他的名字作为化名，以至于他无法旅行。
Mayer 一直努力让自己的名字与那位恐怖分子的名字区分开来，即使在生命的最后几年里他仍继续教书。
那么，从这一切中我们可以得出什么结论呢？
一种猜测是：模型已提取或提供了需要进行特殊处理的姓名列表。无论是出于法律、安全、隐私还是其他考虑，这些名称可能受到特殊规则的保护。
可能发生的情况是，这些列表之一几乎肯定是主动维护或自动更新的，但由于错误的代码或指令而以某种方式损坏，当调用这些列表时，会导致聊天智能体立即中断。
这一切很好地提醒我们，人工智能模型不仅不神奇，而且还具有超凡的自动完成功能，并受到制造它们的公司的主动监控和干扰。因此当您考虑从聊天机器人获取事实时，直接查找源头是否会更好？
OpenAI 周二证实，「David Mayer」这个名字已被内部隐私工具标记，并在一份声明中表示：「在某些情况下，ChatGPT 可能不会提供有关人们的某些信息以保护他们的隐私。」该公司不会提供有关工具或流程的进一步细节。
参考内容：https://techcrunch.com/2024/12/03/why-does-the-name-david-mayer-crash-chatgpt-digital-privacy-requests-may-be-at-fault/
