OpenAI 承认正研发 ChatGPT 文本水印技术

近日，据《华尔街日报》报道，OpenAI 已经开发出一款能够高精度识别 ChatGPT 生成文本的工具，但该工具迟迟未发布。对此，OpenAI 进行了回应，承认正在研究文本水印技术，但表示这项技术仍存在诸多挑战。

据报道，通过文本水印，OpenAI 将只专注于检测来自 ChatGPT 的文字，而不是其他公司模型的文字。这项技术通过对 ChatGPT 选择单词的方式进行微小的更改来实现，本质上是在文字中创建一个不可见的水印，以后可以被一个单独的工具检测到。

尽管在某些情况下，文本水印技术表现出色，但 OpenAI 指出，这项技术在面对以下几种情况时效果会下降：

1. 翻译：文本被翻译成另一种语言时，水印可能丢失。

2. 改写：文本被重新改写或重述时，水印可能被破坏。

3. 特殊字符插入：文本中插入特殊字符或符号时，水印可能受到影响。

此外，文本水印技术可能对某些群体产生不成比例的影响，例如非英语母语人士，这也使得这项技术的推广面临更多复杂性。

OpenAI 表示，文本水印是他们探索的多种解决方案之一，其他还包括分类器和元数据，旨在确定文本的来源。尽管文本水印在某些场景中表现出色，但由于其局限性和潜在影响，OpenAI 将谨慎推进文本溯源技术的研究，并优先考虑视听内容的认证工具。