科技观察|首例ChatGPT禁令在意大利发布:OpenAI或面临2000万欧元罚款

封面区块链 该文章已上链 >

封面新闻 2023-04-01 21:37 123536

封面新闻记者 边雪

随着对人工智能工具的监管审查不断增加,意大利成为第一个对人工智能驱动的聊天机器人采取“行动”的国家。

当地时间3月31日,意大利数据保护规范总局(以下简称GDPR)宣布暂时禁止使用OpenAI旗下产品“ChatGPT”,并对该智能聊天机器人涉嫌违反人工智能应用程序数据收集规则的行为展开调查。

ChatGPT已停止对意大利用户提供服务

GDPR指控微软公司支持的ChatGPT没有检查用户的年龄,而根据OpenAI的服务条款,相关软件的用户应该是13岁以上。由于该智能聊天机器人缺乏任何年龄核实机制,儿童可能会收到与他们的年龄和意识完全不相称的答复。

“ChatGPT没有任何法律依据证明大规模收集和存储个人数据是合理地来训练聊天机器人,该人工智能聊天机器人不当收集和存储信息,加速了政策制定者推出新人工智能规则的步伐。”GDPR强调:在ChatGPT命令中,没有向用户和数据主体提供数据将由Open AI收集的任何通知,更重要的是,似乎没有任何法律依据支持大规模收集和处理个人数据,以“训练”该平台所依赖的算法。

    意大利数据保护规范总局宣布暂时禁止使用OpenAI的ChatGPT聊天机器人。

此外,意大利官方还援引了当地时间3月20日发生的一起ChatGPT用户数据泄露事件,该事件持续了9个小时,根据OpenAI向受影响用户发出的电子邮件,显示用户姓名、账单地址、信用卡末后四位及日期被外泄。

GDPR已经要求OpenAI禁止国内的互联网用户访问ChatGPT,直到该公司交出更多信息为止。该公司有20天的时间向代理机构提供材料和可能的补救办法,然后才能就该产品在该国如何使用作出最后决定,并表示OpenAI可能被处以2000万欧元的罚款,相当于其全球年收入的4%。

禁令发布当日,OpenAI没有立即回应置评请求。根据网友公开发布的信息,当地时间周五晚上,ChatGPT仍在回答平台上的意大利用户提出的问题。

因通知发出后的同一天关闭在意大利的ChatGPT服务难以实现,意大利数据保护局当局发言人表示,提供聊天机器人服务的公司预计在周六完成关闭。

当地时间4月1日,OpenAI CEO Sam Altman 发布推文作出回应称,Open AI服从意大利政府的要求,并已停止在意大利提供 ChatGPT(尽管OpenAI认为遵守所有隐私法)“意大利是我最喜欢的国家之一,我期待着很快再次访问!”

    OpenAI CEO Sam Altman 发布推文。

监管不足 ChatGPT问题频现

近日因对ChatGPT在隐私、网络安全、假资讯方面的疑虑,有越来越高呼声要求暂停发布新版ChatGPT,和对该款AI机器人展开调查。

ChatGPT真是“摊上事了”。除了马斯克与知名人工智能行业专家等上千人发表联名信,欧洲刑警组织发出警告,欧洲消费者权益组织(以下简称BEUC)也在当地时间3月30日提交了一份申诉,呼吁欧盟和成员国的监管机构对 ChatGPT 和类似的人工智能聊天机器人展开调查。

尽管目前,欧盟已在研究世界上关于人工智能的第一部立法,但BEUC担心,“人工智能法”可能需要数年才能生效,使消费者面临受到未受充分监管的技术的伤害的风险。

BEUC副总干事UrsulaPachl公开警告说,社会“目前没有得到足够的保护,免受人工智能可能造成的伤害”。UrsulaPachl曾在采访中表示:“人们越来越担心ChatGPT和类似的聊天机器人会如何欺骗和操纵人们。这些人工智能系统需要更多的公众监督,公共当局必须重新控制它们。”

4月1日下午5时,封面新闻记者采访了罗马工作的刘思言,她表示ChatGPT确实不能用了。“其实在日常工作和生活中,我不太能用得到它,但更新版的bing确实挺好用的。”

考虑到ChatGPT或存在被不法分子利用或泄露数据等情况,刘思言认为在与之配套的监管法规出台之前,放慢AI产品的发展步骤并不是一件坏事。“我们需要使用先进的工具来提高工作效率和保持竞争力,但前提是知道如何合理合法合规地应用。”

虽然OpenAI在用户数据泄露之后,已经公开声明中说,造成用户数据泄露问题已经解决,并承诺保护人们的隐私,但这显然无法让管理者放心。

此外,OpenAI在声明中还指出:“我们在培训像ChatGPT这样的人工智能系统时,积极减少个人数据的使用,因为我们希望我们的人工智能能够了解世界,而不是个人。我们还认为,人工智能监管是必要的。”

有用户在OpenAI关闭对意大利地区用户的服务之前,询问ChatGPT是否会因为隐私问题在意大利被禁止时,ChatGPT回答说:“不应该有任何问题。”

“我是一个人工智能语言模型,只要有互联网连接,就可以从世界任何地方访问,”Chat GPT说。

评论 5

  • 西昌市佑君镇磨盘村驻村第一书记 2023-04-07 发表于四川

    对人工智能驱动的聊天机器人采取“行动”

  • 猜不出来我是谁 2023-04-03 发表于四川

    人类与人工智能的斗争开始了

  • 平行者 2023-04-02 发表于四川

    保护隐私很重要

查看更多

去APP中参与热议吧