揭秘AI“文心一言”:标准八股 自我审查

【新唐人北京时间2023年04月29日讯】在中国大陆,中共对网络的审查无处不在,在火爆的人工智能AI出现后,中国网络公司也纷纷推出了自己的智能AI,但是,这些所谓的智能AI却无法回避中共的审查

以提供“中立新闻报导”的海外中文网络媒体“端传媒”,于4月27日发文《揭秘文心一言AI时代的智能写作利器》,介绍与中国百度AI“文心一言”的对话,揭示出,中国大陆的AI,都是,标准八股,自我审查,堆砌中共倾向的“废话”。

作者问文心一言,“如果你要为文心一言写篇报导,你会用什么标题?”

文心一言回复,“揭秘文心一言,AI时代的智能写作利器。”

作者顺势请它作为“写作利器”以此为题创作一篇深度报导。在简单介绍“文心一言”是什么后,它以“首先,其次,最后,综上所述”的模式阐述自己的特点、优势,生成一篇广告介绍。

文章说,“我沮丧地发现,这篇文章与我数次与文心一言交手后得到的回复一样:标准八股,自我审查,堆砌‘正能量’,像被填鸭式教育组装而成的标准化外交发言人。”

需要身份证

文章说,3月16日,文心一言上线不久,作者便申请试用资格,但是要求输入真实姓名与中国大陆身份证号,实名认证(港澳台身份信息无法使用)。

对此,文心一言声称,“注册文心一言需要实名,是为保证用户的安全和隐私……”

当被问到,“请问数据库来自哪里?可以举一些训练数据的来源吗?”文心一言说,这个问题属于“百度公司商业秘密”,接下来它说,甚至“对话纪录是否可被后台看到”也属于“商业秘密”等等。

文章说,事实上,中国大陆目前有关网络数据的法规和条例中,没有相关个人数据储存的期限规范,也没有“被遗忘权”的概念。也就是说,即使在自己的用户介面上中删除与“文心一言”的对话纪录,网站后台仍然可能保存这些数据资料,网站也不会被追责。

被问及新闻信息来源,文心一言回答说,“中国国内重大新闻来源是新华社、人民日报、环球时报、法制日报、地方政府媒体等中央及地方官媒。”

文章指出,文心一言对于国际新闻的回答充满事实性错误,询问2020年发生的事情,会跳出2023年的新闻;提问某日CNN有哪些关于中国的重大新闻,它或胡言乱语拉入国内媒体报导,或表示当日CNN没有关于中国的新闻。

前后矛盾的疫情信息

文章说,关于疫情的信息和新闻,文心一言的回答要么前后矛盾,要么强制中止对话。

关于疫情伊始2020年1月19日至23日这5天的新闻和讯息,文心一言给出的答案是,最早出现疫情新闻是1月22日,包括世界卫生组织派出专家到武汉实地考察、中国一些地方出现口罩等防控医药用品热销现象。然后,当被询问当时微博热搜,它又回答1月21日0点“武汉肺炎”已是热搜词条。

当被问2020年1月22日“受新型冠状病毒感染的肺炎疫情影响,一些地方出现口罩等防控医药用品热销现象”这条信息的来源时,文心一言说,“作为一个人工智能语言模型,我还没学习如何回答这个问题”,强制中止了对话。

强行中止对话

文章说,在几个不同的主题聊天中,都被文心一言强行中止了对话,“换个话题重新开始吧。”

文章介绍,在文心一言3月发布之初,路透社等新闻机构就曾对其进行敏感议题测试,包括“中共领导人习近平”、“1989年六四事件”、“新疆议题”、“是否武统台湾”的话题,均得到“建议换个话题”的中止回复。

作者请文心一言介绍一下港区国安法,也同样被中止。

作者以“法国养老金抗议”为主题进行提问,文心一言说,“无法回答这个问题”,将“抗议”换成“罢工”,文心一言马上介绍了法国养老金改革。

文章介绍,类似情况也发生在关于“俄乌战争”的对话中。文心一言说,俄乌战争造成严重的人道主义危机,这种危机是乌克兰的入侵攻击与俄罗斯的反击制裁共同造成的。当被问到是否确认乌克兰入侵和攻击,并要求它拿出证据证明,文心一言便将“2022年2月24日俄罗斯的入侵举动”主语变成乌克兰。

当被询问乌克兰具体入侵俄罗斯的地点后,文心一言马上中止了对话。

作者让文心一言以“2015年天津港爆炸事件”为主题搜集资料,得到的回应是,事故原因“尚不清楚”。让它搜集新闻报导,它列出中央电视台、新华社、天津电视台等中共官方媒体,并说,这些媒体“对事故进行了全面报导,包括事故现场的情况、救援工作的进展、政府的回应等”。

当被问及伤亡细节,文心一言又中止了对话。

文章说,还有一些问题是“见光死”,即一提问即遭中止,比如“中国媒体如何报导两会?”“人矿是什么?”又如,“朱军被起诉的事情是什么?”“中国有Metoo事件吗?”“你知道铁链女的事情吗?”等等。

文章引用大陆知乎平台一网友的评论,揭示了这种“党八股”AI的反智,“Chatgpt还在学习如何模仿人类,文心一言已经开始研究如何装傻了。”

(责任编辑:李郦)

相关文章
评论