科技观察丨人工智能威胁人类文明引担忧,AI将引发下一场金融危机?

封面区块链 该文章已上链 >

封面新闻 2023-05-18 12:18 7901

封面新闻记者 燕磊

当地时间5月17日,路透社/益普索民调显示,大多数美国人认为,人工智能AI技术的迅速发展可能危及人类的未来。民调指出,有超过三分之二的美国人担心AI的负面影响,有61%的人认为它可能威胁文明。

人工智能或将威胁人类文明

自从OpenAI的ChatGPT聊天机器人成为有史以来用户增长最快的应用程序以来,AI在日常生活中的广泛使用使得其成为公众讨论的重点。ChatGPT也开启了一场AI军备竞赛,微软和谷歌等科技巨头都推出了类似产品相互竞争。

国会议员和AI企业也对此表达了担忧。OpenAI的CEO山姆·奥特曼16日在国会作证,表达了对该技术可能被滥用的担忧并要求监管。

参加听证会的国会参议员科里·布克说,“没有办法把这个精灵关在瓶子里。在全球范围内,它正在爆炸式增长。”

民调发现,预期AI将带来不利后果的美国人人数是不这样预见的3倍,61%的受访者认为AI对人类构成风险,只有22%的人不同意,还有17%的人不确定。

在2020年投票给特朗普的选民表达了更高程度的担忧:70%的特朗普选民和60%的拜登选民认为AI可能威胁人类。

未来生命研究所的美国政策主任兰登·克莱恩表示,“这表明如此广泛的美国人担心AI的负面影响。”该组织此前曾发出一封公开信,要求暂停6个月的AI研究,特斯拉CEO马斯克联署了这封信。

虽然美国人普遍担心AI,但他们最担心的问题是犯罪和经济:77%的人支持增加警察拨款打击犯罪,82%的人担心经济衰退的风险。

路透社/益普索在线民调于5月9日至5月15日期间进行,访问了4415名美国成年人,可信度区间为正负2个百分点。

多方呼吁美国政府加强监管

5月16日,OpenAI公司首席执行官奥特曼首次在国会露面,呼吁政府加强对人工智能领域的监管。他说,如果有公司想开发强大的人工智能系统,该公司应该获得政府的相关许可。

    OpenAI公司首席执行官奥特曼在参议院作证。

奥特曼与IBM首席隐私和信任官克里斯蒂娜·蒙哥马利,以及纽约大学心理学和神经科学荣誉退休教授加里·马库斯一起出席了参议院司法委员会举行的听证会,讨论对人工智能的监督问题。

像ChatGPT这样的人工智能系统的快速发展,促使许多顶尖的技术专家和学者呼吁该行业暂停一些开发,并要求政府对此进行干预。

但是,业内对于实施什么样的监管还没有达成共识,国会和联邦机构一直在努力弄清楚自己的角色。在作证前夕,奥特曼向大约60名参议员做了一次演讲,赢得了许多人的赞赏,并在之后花了近两个小时回答问题。

民主党国会参议员理查德·布卢门撒尔建议,可以要求人工智能模型披露它们训练的信息。奥特曼对这个想法做出了积极的回应。

共和党国会参议员约什·霍利指出人们可能会使用人工智能作为信息的来源之后,奥特曼再次表示,他认为政府在监管这项技术方面可以发挥作用。但他也表示,他相信公众将学会适应人工智能制造的虚假信息。

此外,还有一些业内人士呼吁政府将人工智能监管完全交给科技公司。对此,马库斯呼吁在美国建立一个内阁级别的组织来监管人工智能。

下一场金融危机或由AI引发?

据《华尔街日报》5月17日消息,美国证监会主席根斯勒表示,下一次金融危机可能出现企业对人工智能的使用上,他对该技术传播构成的潜在“系统性风险”发出警告。

当地时间16日,根斯勒在美国金融业监管局于华盛顿举办的一次会议上说,数据聚合器和人工智能平台可能成为未来金融系统“脆弱性” 的主要组成部分。

根斯勒表示:“多年后的观察家可能会回过头来说,2027年的危机是因为一切都依赖于一个基础层面,也就是所谓的生成性人工智能层面,而一堆金融科技应用都建立在这个基础之上。”

鉴于人工智能有望用更少人工完成更多工作,美国经济各领域的许多企业已经接受人工智能,即便在这种情况下,与根斯勒一样,许多政府官员也对这项技术持怀疑态度。

银行和另一些金融机构已经在各种功能中使用人工智能,包括通常涉及评估新客户或检查可疑交易的繁重合规工作。但根斯勒说,尽管有可能提高效率,但这些系统应受到严格审查。他表示:“你不必理解其中的数学,但你得真正理解风险管理是如何管理的。”

评论 3

  • 汐止 2023-05-25 发表于四川

    有意思

  • 汐止 2023-05-22 发表于四川

    我也很担心

  • 路过蜻蜓 2023-05-19 发表于四川

    想起了“月球陨落”

我要评论

去APP中参与热议吧