ChatGPT之父国会作证:防AI风险至关重要

【新唐人北京时间2023年05月17日讯】周二(5月16日),“ChatGPT之父”、OpenAI首席执行官就人工智能可能大规模破坏美国就业、传播选举虚假消息等问题告诉国会,美国政府防止人工智能造成的风险至关重要。

随着人工智能技术的普及,各国监管机构都在探索对这项技术的最佳监管方式。

美国参议院司法委员会下属的隐私、技术和法律小组委员会16日召开人工智能听证会,传唤OpenAI首席执行长山姆‧奥特曼(Sam Altman)、IBM首席隐私与信任官克里斯蒂娜‧蒙哥马利(Christina Montgomery)和纽约大学名誉教授加里‧马库斯(Gary Marcus)出席作证。

该小组委员会主席理查德‧布卢门撒尔(Richard Blumenthal)说,人工智能公司应该被要求在发布它们之前测试他们的系统并披露已知的风险,同时他也对人工智能系统如何破坏就业市场的稳定表示担忧。

布卢门撒尔表示,面对人工智能工具的爆炸性增长将对社会产生严重影响,人工智能迫切需要规则和措施。他说,人工智能可能将取代数百万美国劳工,动摇人们对公共安全和关键机构的信任。

“这不再是科幻小说的幻想,它们已经真实存在。”布卢门撒尔说,听证会的目的是“揭开这些新技术的神秘面纱并追究责任”,“合理的保障措施不会与创新对立。”他说,该小组将在为时已晚之前编写人工智能的法律规则。

奥特曼回应AI操纵美国大选

开发ChatGPT的OpenAI公司首席执行官奥特曼作证说,人工智能被用来左右下一次选举结果的可能性很大,政府监管是限制AI破坏大选的必要行动。

“随着这项技术的进步,我们了解到人们对它如何改变我们的生活方式感到焦虑。我们也是。”奥特曼在参议院听证会上说。

“我们已经试图非常清楚地说明这些风险的大小。”奥特曼说,“鉴于我们明年将举行选举…..我确实认为在这个问题上进行一些监管,将是相当明智的举措……这是我最关心的领域之一。”

取代工作机会?

至于就业领域,奥特曼表示将继续推进人工智能的研究和开发,“我们研发工具的益处远远超过了风险”。他预计,这项技术将取代目前存在的许多工作。

奥特曼说,虽然人工智能将影响美国的就业,但他对人工智能的工作表现“非常乐观”。

在被问及他对人工智能最担心的事情时,奥特曼大多回避了具体细节,只是说这个行业可能对“世界造成重大伤害”,“如果这项技术出了问题,可能将出大问题。”

为此,奥特曼提议成立一个美国或全球机构,为最强大的人工智能系统颁发许可证,并有权“收回该许可证,以确保该技术符合安全标准”。奥特曼说,该机构还必须要求人工智能公司接受独立审计,以确保合规。

有议员询问,若国会颁布这些规则,他会领导执行这些规则吗?奥特曼婉拒说,他自己对成为联邦政府人工智能技术的最高监管机构主管不感兴趣,但他将会推荐适合人选。

“我喜欢我目前的工作。”奥特曼表示,虽然他在OpenAI赚的钱只够买健康保险,而且没有OpenAI的股权,但“我做这份工作是因为我喜欢它”。

奥特曼的公司在去年年底发布ChatGPT后,摇身一变成为公众关注的焦点。ChatGPT是一个免费的聊天机器人工具,以高度类似人类的回答声名大噪。

该公司受欢迎的人工智能产品还包括图像制造者DALL-E。微软已向这家初创公司投资数十亿美元,并将其技术整合到自己的产品中,包括其搜索引擎Bing。

奥特曼还计划自本月开始全球巡回之旅,前往六大洲的国家首都和主要城市,与政策制定者和公众谈论这项技术。在参议院作证前夕,他与几十位美国立法者共进晚餐。

(记者陈北晨综合报导/责任编辑:胡龙)

相关文章
评论