您的位置:首页 >观察 >

意大利封禁、加拿大宣布调查……ChatGPT屡屡撞上数据安全质疑

以ChatGPT为代表的人工智能大模型还未全面进入普及应用,就迎头撞上了数据安全的质疑。

近日,已有多个国家的监管部门宣布或透露了将对这一技术限制使用的消息。“在缺乏有效的法律规制之前,ChatGPT或将涉及到大量隐私问题和网络安全问题,对世界各国来说都是一种挑战。”深度科技研究院院长张孝荣表示。

多国监管部门发声 科技界人士深表担忧


(相关资料图)

当地时间4月4日,加拿大隐私专员办公室官网宣布开始调查OpenAI,涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。此前,德国联邦数据保护专员在德国《商报》中表示,出于对数据安全问题的考量,德国存在暂时禁止使用ChatGPT的可能性。

更早的还有意大利宣布对ChatGPT的封禁。当地时间3月31日,意大利个人数据保护局宣布禁止使用ChatGPT,在并限制开发这一平台的OpenAI公司处理意大利用户信息。同时,个人数据保护局开始对ChatGPT立案调查。

意大利个人数据保护局认为,3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。该平台没有就收集处理用户信息进行告知,缺乏大量收集和存储个人信息的法律依据。意大利因此成为首个禁止ChatGPT的西方国家。

另据韩媒报道,三星半导体业务部门引入ChatGPT后,短短20天内已爆出三起机密资料外泄事故。三星称,如日后再有类似事故,可能会在公司网络禁用ChatGPT。

与此同时,科技界人士也对人工智能的潜在问题深表担忧。当地时间3月29日,美国非营利组织未来生命研究所发布了一封名为“暂停巨型AI实验”的公开信。上千名人工智能专家和行业高管在信中呼吁,所有人工智能实验室应当暂停对更强大的人工智能系统的开发和训练,至少暂停半年。“人工智能教父”杰弗里·辛顿、特斯拉和推特CEO埃隆·马斯克、图灵奖得主约书亚·本希奥等在这封公开信上签下了自己的名字。

争议不断的ChatGPT会带来哪些挑战?

ChatGPT问世只有短短几个月,但它引发的讨论和争议却是空前的。美国福布斯网站和英国《卫报》等媒体曾指出,ChatGPT能够收集不同的数据,可能触发隐私问题。

欧盟执法机构欧洲刑警组织也曾提出警告称,ChatGPT可能被滥用于网络钓鱼、虚假信息和网络犯罪等方面。

更多的质疑声音出现在教育领域。包括美国纽约市在内的多个地区,已在公立学校的网络和设备上限制使用ChatGPT。“虽然ChatGPT可能为问题提供快速简单的答案,但它并不能培养学生批判性思维和解决问题的技能,而这些技能对学业和终身成功至关重要。”当地教育监管部门负责人表示。

知名互联网专家郭涛认为,包括ChatGPT在内的人工智能研发与应用相关法律法规、标准体系和伦理规范还不健全,存在数据安全风险、著作侵权风险、深度伪造风险、商业秘密泄露风险等问题。

张孝荣则进一步表示,由于缺乏有效的法律法规规制,ChatGPT对信息的“索取”是肆无忌惮的。“据了解,为了训练模型,GPT5已经抓取了约2000P的互联网视频内容,这几乎是整个互联网上的视频文件。”张孝荣说。因此,个人用户上传的信息,涉及到的问题不只是个人信息安全,还可能带来国家安全的隐患。

眼下,有关ChatGPT的争议仍在持续。如何应对这一新技术带来的挑战,规避其带来的数据安全、网络安全与等方面的挑战,将是各国监管部门不得不面对的考验。

标签:

热门资讯

精彩新闻