登陆注册
28620

谁在反ChatGPT()

大财经2023-05-10 16:57:221

数据安全是核心原因

前两起案件已分别导致三星公司的半导体设备测量资料、产品良率等机密内容录入到ChatGPT的学习资料库中,这让三星很是担忧其数据将通过人工智能平台最终落入其他用户手中。

首先对ChatGPT发出“不友好”声音的企业,来自金融行业。

不久之前,三星推出了一项新政策,要求员工不得在工作场所使用OpenAI的ChatGPT和谷歌Bard等生成式人工智能。

据了解,今年3月三星的半导体事业暨装置解决方案事业部(DS)部门允许员工使用ChatGPT,随后20天内就发生了三起将公司内部半导体数据上传到ChatGPT的事件。

其中,员工A用ChatGPT帮自己查一段代码的bug;员工B想用ChatGPT帮自己优化一段代码;员工C想先用AI语音助手Naver Clova将自己的会议录音转成文字,再用ChatGPT帮他总结一下会议内容,做成摘要。

生成式AI工具,离不开大数据的帮助。它的进化,需要海量的数据来训练,通过感应器采集数据,进行信息存储、加工,通过算力进行计算,最后形成决策机制,进行反馈。庞大的数据训练,造就了ChatGPT强大功能,但这也意味着,ChatGPT实际上在不断地接触各种对话,其中可能包含相关的敏感信息。

日本方面,软银、日立、富士通、日本瑞穗金融集团等企业也开始限制ChatGPT等交互式人工智能服务在商业运作中的使用。

ChatGPT掀起热潮不久后,今年2月,JP 摩根大通 、 美国银行 、花旗、 富国银行 等华尔街巨头陆续表示将禁止或限制使用ChatGPT。据了解, 摩根大通 不准员工在办公室使用ChatGPT,其表示,有关禁令并非源自任何特定事件,而是基于公司对第三方软件的正常管控。

ChatGPT的火爆,实际上是“深度学习”大模型的成功。

自ChatGPT发布后,无数的用户和企业仿佛看到了“未来”,投入到了狂热的拥抱。然而在硬币的另一面,ChatGPT也在经历一场“围剿”。

事实上,在三星这项“严厉”的新政策之前,全球范围内,不少企业便陆续发布了“限制”自家员工使用ChatGPT的公告。

相比金融行业,科技行业的动作丝毫不慢。

三星无疑是一个典型的“受害者”。

科技企业里,三星、软银、松下、LG、台积电、SK海力士等均已宣布对员工使用ChatGPT的限制。金融企业里,摩根大通已禁止其员工使用 ChatGPT。电商领域里,亚马逊也曾禁止团队成员将机密客户数据输入ChatGPT......

今年3月初,台积电发布了一系列内部公告,提醒员工谨慎使用网络工具如ChatGPT或Bing AI Chat等。除三星外,同属韩国企业的全球第二大 存储芯片 巨头SK海力士亦称“除必要时刻外”,禁止公司内网使用ChatGPT。

相比国家和某一领域,全球范围内的不少大型企业,对于ChatGPT表现的更为“敏感”。

科技突破不止会带来变革,往往也会带来一些潜在的风险。

美国银行 例行提醒员工切勿使用未经授权软件时,也特别点名提到ChatGPT。 德意志银行 更是表明,严禁员工在公司内用ChatGPT,并从内部阻断连接OpenAI网站。而尽管 高盛 鼓励编程人员采用AI来辅助编程,但禁止旗下交易员使用ChatGPT。

企业越大, 数据安全 和隐私枷锁余也会越重越牢固,自然也会更加谨慎地去对待类似ChatGPT的工具。

在国家层面,继意大利宣布禁用ChatGPT后,多国政府和企业开始调查或采取措施限制使用该软件。在领域层面,包括乔治华盛顿大学、巴黎政治学院在内的全球多所高校,都已宣布禁止学生在其学校的设备和网络上使用ChatGPT,以预防学生作弊的行为。

无论是个人、企业,还是国家层面,机密数据、文件隐私,都有可能在使用过程中被ChatGPT采集到,从而被大规模地扩散。这些数据的泄露,也很有可能会对个人、企业,甚至是国家造成重大的损失。

能够预料的是,禁用ChatGPT的企业,仍然会持续增加。

多家企业之所以对ChatGPT保持非常谨慎的态度,甚至是限用,并非不明白生成式AI所意味着的时代机遇,而是在意ChatGPT对企业“隐私安全”造成的威胁。

Cyberhaven还发现,随着ChatGPT的应用率越来越高,给它上传企业数据的打工人数量也越来越多。一天之内(3月14日),每10万名员工就平均给ChatGPT发送了5267次次企业数据。

不可否认,ChatGPT这样的生成式AI对提高工作效率很有帮助,但对于这样一个还不足够成熟的AI工具来说,它所展现出的负面效应,并不小于它的正面效应。就如同一把双刃剑,在没有“剑鞘”作为一种保护机制出现之前,对于ChatGPT的“围剿”绝对不会停止。

大厂“禁用”ChatGPT

目前,三星员工被禁止在公司设备上使用人工智能工具,包括电脑、平板电脑、手机等。但员工仍可以在个人设备上使用人工智能工具,不过仅限于与工作无关的事情。备忘录中还强调,要求员工认真遵守安全准则,若违规并导致公司信息或数据泄露的话,员工将得到纪律处分,情节严重者将被解雇。

不止三星,数据安全服务Cyberhaven曾检测到并阻止了其客户公司160万名员工中,4.2%的人将数据输入ChatGPT的请求,因为存在泄露机密信息、客户数据、源代码或监管信息的风险。

0001
评论列表
共(0)条
热点
关注
推荐