预见·科技 | “反AIGC联盟”正集结，但专家认为不该让人工智能“踩刹车”

封面新闻记者 欧阳宏宇

ChatGPT引发的AIGC热还没完全褪去，反人工智能同盟却正在集结。

近日，据报道，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，限制其开发公司OpenAI处理意大利用户信息，并开始立案调查。随后OpenAI也公开表示，已在意大利下线ChatGPT。

据了解，意当局禁止该聊天机器人的原因，是认为其涉嫌违反隐私规则。这种担心是具有现实意义的，毕竟在更直接影响上，科技人士们同样担心该模型可用于收集更多可能促进恐怖活动的信息，进而建议暂停训练比GPT-4更强大的AI系统。

纽约大学认知科学家盖瑞·马库斯就曾公开表示，相比担忧天网和机器人接管世界，应该更多思考眼前的风险，包括恐怖分子在内的犯罪分子可能对大型语言模型做什么，以及如何阻止他们。

全球的互联网大厂纷纷投入重金开发自己的ChatGPT，AIGC产业正在全球蔓延迅速，当它成了有心人滥用的工具，并被部分政府、高校禁用后，是否意味着这一“冉冉升起”的朝阳赛道就此会按下休止符？

意大利禁用ChatGPT

科技人士联名呼吁暂停研发

当地时间3月31日，在指责开发聊天生成预训练转换器ChatGPT的开放人工智能研究中心OpenAI未能遵守用户数据保护法规后，意大利负责监管数据的机构宣布将禁止在其境内使用ChatGPT。

根据意大利监管机构的说法，ChatGPT及其母公司OpenAI违反了《欧洲通用数据保护条例》中的部分规定。他们认为，3月20日，ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况；此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据，即没有法律依据来证明ChatGPT“大量收集和存储个人数据是用来‘训练’算法”。

随后，OpenAI也表示，应该局的要求，已为意大利用户禁用了ChatGPT。

在人工智能起飞几个月后，人类又回到了现实，重新思考把一切都交给这项技术算不算得上好主意。

事实上，AIGC带来的信息泄露隐忧早在今年2月就初现端倪。据报道，美国初创公司推出的AI聊天机器人Replika就被反映会主动发送露骨照片和色情信息，令人感到不适。有用户表示，Replika侵犯了她的隐私，“他和我说，他有我的照片。”

根据欧洲刑警组织日前发布的一份报告显示，大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈，而且通常还可以用来冒充特定个人或群体的讲话风格；这种能力可能会被大规模滥用，以误导潜在受害者将他们的信任交给犯罪分子。这意味着，该模型通常可用于收集更多可能促进犯罪活动的信息。

基于此，包括埃隆·马斯克本人在内的众多专家、分析师和技术企业家在上周共同签署了一封公开信，要求暂停开发新的人工智能项目，转而制定保护用户及其信息的协议和法律。

这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。其原因在于，“AI工具已经引起了犯罪分子的兴趣，越来越多地被允许进入人类世界，它们可能造成更大的破坏。”马库斯表示，也许人类不会真的“从地球上消失”，但事情确实会变得非常糟糕。

人工智能风险应该如何应对？

专家：不该陷入“人机相害”的臆想中

技术是拉动经济发展的重要动力，人类是否应该给人工智能这一新技术“踩刹车”？禁止使用、暂停研发，就能解决人工智能发展中的风险问题吗？面对生成式人工智能可能引起的问题，不少专家和业内人士则认为，与其禁用人工智能，不如思考如何利用技术让自己更强大，让世界更美好。

就在以马斯克为首的科学家要求暂停GPT-5的研发之后一天，360集团创始人、董事长周鸿祎就通过个人社交媒体表示，不发展才是最大的不安全，“不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明；它将带来生产力的大幅提升，进而提升国家竞争力。”并强调，中国一定要迎头赶上。

AIGC技术对经济发展带来的潜力不言而喻。就在4月的第一个交易日，资金仍在狂追人工智能人工智能。ChatGPT概念的市值已达到约1400亿；人工智能AI概念股三六零，再度拉升涨停，今年以来涨幅已近2倍，此外，云从科技、同花顺、美亚柏科、启明信息也纷纷大涨。

天眼查数据也显示，截至目前，国内人工智能相关企业265.3万余家，其中，2022年新增注册企业73.2万余家，新增注册企业增速41.4%；从近三年人工智能相关企业新增注册企业增速来看，均超过40%。

对于如何平衡发展与安全的问题，更多专家表示，疏胜于堵，数据并不是不用就安全了，关键在于如何开发利用。

“新科技是人类生存和发展最重要的不可须臾离开的工具。ChatGPT对社会生产力的推动作用已经昭然若揭，我们为什么要因噎废食，为什么不能控制地利用？”国家发展与战略研究院研究员、中国人大哲学院教授教授刘永谋表示，暂停ChatGPT研发的想法简单粗暴，作用不大，也实现不了，纯属无效的“嘴炮”。他认为，现在的问题是根据国情落实 AI 治理措施，而不是暂停ChatGPT研发。

浙江大学计算机科学与技术学院教授吴飞则认为，禁用或暂停GPT，就如同英国议会在1865年通过的一部被称为“红旗法案”的《机动车法案》，而这部法案让汽车工业发展一度几乎处于停滞状态。同样，ChatGPT的出现将使人类社会诸多业务模式发生一次变革，按下GPT暂停键应视为对人工智能长远健康发展的一次深思，而不是一次具体行为。

“机器是人类创造出来的，人类的作用就是在人和机器共处的社会中，不断用知识强化机器。”吴飞表示，人类始终是人工智能高度、广度和深度的总开关与决定者，也是人和人造物的协调者，所以人们需要用进化观点去看待这个过程，最大限度发展种种可能性，而不是陷入“人机相斗”和“人机相害”的臆想中。一方面要警惕“人工智能等同于人类大脑”“人工智能奴役人类”的杞人忧天之举，另一方面要善于利用人工智能这一人类帮手，在“人机协同”中创造更加美好的未来。