登陆注册
31396

谷歌前CEO警告(AI被滥用的风险极高,迟早会威胁人类生存)

大财经2023-05-25 23:01:190

由于聊天机器人ChatGPT的迅速走红,引发了人们对人工智能(AI)这项技术的狂热,全球许多科技公司都想推出ChatGPT的竞品,其中就包括了施密特的“老东家”谷歌公司,这些企业希望以此展示他们的AI实力。

“零日漏洞”又叫零时差攻击,是指被发现后立即被恶意利用的安全漏洞。通俗地讲,即安全补丁与瑕疵曝光的同一日内,相关的恶意程序就出现。这种攻击往往具有很大的突发性与破坏性。

施密特在一场伦敦举行的活动中表示,他所述的“生存风险”(existential risks)是指“许多、许多、许多人会受到伤害或死亡”。

施密特表示,“当这种情况发生时,我们希望能做好准备,知道如何确保这些东西不被邪恶的人滥用。”

但施密特认为,人工智能系统迟早有一天能够找到网络的“零日漏洞”(zero-day),或者发现新的生物种类,“虽然这可能在今天还难以实现,但这将很快就会出现。”

值得一提的是,施密特并不是第一个警告AI风险的技术人物。此前,ChatGPT开发商OpenAI的首席执行官山姆·阿尔特曼也承认,他对一些潜在的滥用行为“有点害怕”。

不过,施密特认为,美国不太可能成立一个专门监管人工智能的新机构。他说这实质上是一个“更广泛的社会问题”。

本文源自财联社

当地时间周三(5月24日),谷歌前首席执行官埃里克·施密特警告称,人工智能可能带来“生存风险”,各国政府需要知道如何确保该技术不被“坏人滥用”。

先前,有一些参议员主张设立一个新的监管机构,将人工智能在内的一众新兴技术纳入管辖。阿尔特曼对这一建议表达了欢迎,认为这种方式有望让美国本土的技术继续领跑。

施密特于2001年至2011年担任谷歌CEO,目前他在美国人工智能国家安全委员会担任主席。该委员会在2021年发表的审查报告中警告称,美国对人工智能时代的准备不足。

而OpenAI创始人之一的埃隆·马斯克也表示,人工智能是未来人类文明最大的风险之一。在2018年的一次采访中,他更是强调,人工智能要比核武器危险得多。

0000
评论列表
共(0)条
热点
关注
推荐