AI之父离开谷歌 后悔推动AI发展

【新唐人北京时间2023年05月02日讯】被称为人工智能AI)之父的著名计算机科学家辛顿上周辞去了谷歌的工作,并对自己推进这项新兴技术感到后悔。他担心AI会对社会构成直接和深远的威胁。

75岁的辛顿(Geoffrey Hinton)在谷歌工作了十多年,他被认为奠定了人工智能的基础,并最终促成诸如OpenAI的ChatGPT和其它先进聊天机器人的诞生。

辛顿在推特上说,他辞职是为了能够公开谈论AI不受限制发展的风险,包括传播错误信息、扰乱就业市场以及其它更邪恶行为的可能性。

“我用一个常见的借口来安慰自己“如果我不做,别人也会做”。辛顿在《纽约时报》(The New York Times)5月1日发表的一篇采访中说,但如何防止坏人利用它做坏事,这很难。

辛顿担心,人工智能在未来只会变得更加危险,“坏的行为者”可能会利用先进的系统“做坏事”,这是难以预防的。

辛顿离开谷歌公司的时候,正值生成性人工智能产品的开发进入白热化竞赛阶段,辛顿几十年前在人工智能领域的成就为这些聊天机器人的创造奠定了基础,他告诉《纽约时报》,他现在担心这项技术会伤害人类

他谈到了人工智能技术如何最终取代人力劳动,包括律师助理、翻译和助理。

据今年3月高盛发布的一份报告,估计有3亿个全职工作岗位可能会受到ChatGPT等人工智能系统的“影响”,主要是法律和行政人员。软件工程师也越来越担心担心他们的工作将被人工智能取代。

辛顿还对目前科技巨头之间正在进行的人工智能竞赛表示担忧,并质疑这项技术是否已经走得太远而无法被踩下刹车。

辛顿担心,随着AI系统获得创建和运行自己的计算机代码的能力,人类最终可能会失去对先进人工智能的控制,其甚至可以在无人控制的情况下发射武器。

“这种东西实际上可以变得比人类更聪明——一些人相信这一点”,辛顿补充道,“但大多数人认为那还很遥远。我也曾认为还很遥远。我认为需要30到50年甚至更长的时间。显然,我不再那么想了。”

英国理论物理学家霍金(Stephen Hawking)在大约10年前就警告说,人工智能可能意味着人类的末日。

霍金在2014年接受BBC采访时说:“人工智能的充分发展可能意味着人类的终结。”

霍金指出,最基本的AI形式已经被证明是强大的,但创造出能与人类智慧相媲美或超越人类智慧的系统,对人类来说,这可能是灾难性的。

“它将自己启动,并不断加速重新设计自己”,他说,人类可能会被取代。

虽然辛顿在对人工智能的担忧中似乎没有单独提到谷歌,但据说谷歌的其他员工也对该公司的AI聊天机器人表示担忧。

据彭博社报导,在谷歌员工完成测试巴德(Bard)聊天机器人的工作后,一些员工说他们认为这项技术可能是危险的。接受彭博社采访的员工说,他们认为谷歌没有优先考虑人工智能的道德问题,而是试图快速开发该技术,以赶上OpenAI的ChatGPT。

据《纽约时报》之前报导,两名谷歌员工曾试图阻止公司发布巴德。

(记者李昭希综合报导/责任编辑:林清)

相关文章
评论
新版即将上线。评论功能暂时关闭。请见谅!