ChatGPT的所有者推出了“不完美”的工具来检测人工智能生成的文本

ChatGPT是一款免费应用程序，可以根据提示生成文本，包括文章、散文、笑话甚至诗歌。自去年11月发行以来，它在短时间内大受欢迎，同时也不可避免地引发了对版权和剽窃的担忧。

的人工智能分类器OpenAI的语言模型是在同一主题的人类和人工智能文本对数据集上训练的，旨在区分由后者编写的文本。该公司表示，它使用各种提供商来解决诸如自动错误信息活动和学术不诚实等问题。

OpenAI在今天(2月1日星期三)的一篇博客文章中宣布，在公测模式中，OpenAI承认该检测工具目前在1000个字符以下的文本上“非常不可靠”，而且人工智能编写的文本也可以被编辑以欺骗分类器。

OpenAI写道:“我们已经训练了一个分类器来区分人类编写的文本和来自各种供应商的人工智能编写的文本。”

“虽然不可能可靠地检测到所有人工智能编写的文本，但我们相信，好的分类器可以为人工智能生成的文本是由人类编写的虚假声明提供缓解措施:例如，运行自动错误信息活动，使用人工智能工具进行学术欺诈，以及将人工智能聊天机器人定位为人类。”

“我们认识到，识别人工智能编写的文本一直是教育工作者讨论的一个重要问题，同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响。我们正在公开这个分类器，以获得像这样不完美的工具是否有用的反馈。”

自去年年底ChatGPT推出以来——几乎立即吸引了数百万用户——包括纽约市在内的一些美国最大的学区已经禁止了这款人工智能聊天机器人，原因是担心学生会利用这款文本生成器在课堂作业中作弊或抄袭。

其他公司已经创建了第三方检测工具，如GPTZeroX，以帮助教育工作者检测人工智能生成的文本。

OpenAI表示，它正在与教育工作者讨论ChatGPT的功能和局限性，并将继续致力于检测人工智能生成的文本。

上周，据透露，ChatGPT已经成功地生成了符合可接受的学术标准的论文，主题从宪法到税收，从理论上讲，这使聊天机器人能够通过法律考试在明尼苏达大学法学院．