【新唐人北京时间2023年07月29日讯】随着生成式人工智能（AI）竞赛的升温，ChatGPT、GPT-4、Google Bard和其它新的AI服务可以创建令人信服且有用的书面内容。但如何区分文本是机器写的，还是人写的成为科技行业必须回答的最重要的问题之一。
AI可以使编写内容变得更快、更容易，但也会产生错误和谎言。因此，开发一种方法来识别人工智能文本和人类文本尤为重要。
ChatGPT和GPT-4的创建者OpenAI不久前就意识到了这一点。1月份，它推出了一个“分类器”，以区分人类编写的文本和来自不同制造商的人工智能编写的文本。
OpenAI公司警示说，无法可靠地检测到所有人工智能编写的文本，然而，好的分类器对于解决一些情况非常重要，其中包括虚假声称人工智能生成的文本是由人类编写的、运行自动错误信息活动，以及使用人工智能工具做作业。
但不到7个月后，该项目被取消。OpenAI 在最近的博客中写道：“自2023年7月20日起，AI分类器由于准确率较低而不再可用。我们正在努力整合反馈，目前正在研究更有效的文本出处技术。”
一旦人类无法区分人工智能和人类文本，在线信息世界就会变得问题多多。已经有垃圾网站使用新的人工智能模型生产自动化内容并散布谎言。
如果科技公司无意中使用人工智能生成的数据来训练新模型，一些研究人员担心这些模型会变得更糟。他们将以自己的自动化内容为食，并导致所谓的人工智能“模型崩溃”。
研究人员一直在研究以GPT式AI模型（如GPT-4）生成的文本作为下一个模型的大部分训练数据集时会发生什么。他们在最近的一篇研究论文中总结道：“我们发现在训练中使用模型生成的内容会导致生成的模型出现不可逆转的缺陷。”
在微软的支持下，OpenAI被认为是人工智能领域最好的。但目前OpenAI无法识别人工智能生成的内容。其它公司正在积极行动，如一家名为GPTZero的初创公司。
去年寒假，在美国普林斯顿大学读大四的多伦多华裔男生田溯宁（Edward Tian）开发了面向ChatGPT生成内容的检测工具GPTZero。他于1月份在网上推出了该产品，并立即大受欢迎。尤其是教育工作者发现，该工具对于检测学生在论文和其它写作作业中是否作弊非常有用。
虽然自GPTZero推出以来出现了更多的人工智能探测器，但它们充满了错误。田溯宁和GPTZero团队承认GPTZero也可能发生错误，但专注于“人类”检测可能是解决这个问题的一种方法。
该初创公司最近推出了其最新工具“Origin”，这工具可以集成到Microsoft Word并跟踪学生的写作过程，以验证它确实是由该人创作的。
田溯宁和他的团队希望未来GPTZero的检测范围可以扩展到作弊检测之外，成为更广泛的人工智能检测实用程序。
（记者李昭希综合报导/责任编辑：林清）
