人工智能安全无小事 周鸿祎的三个担忧是什么?

大河网 2019-05-17 07:46 28742

圆桌会议(右一:周鸿祎)

大河网讯(特派记者 刘晓明)无人值守系统里的“最后控制权”归谁?人工智能时代的“畅销服装”是什么?如何应对作假成本降低的后果?5月16日,在主题为“前瞻:智能新时代与新机遇”主论坛上,360董事长兼CEO周鸿祎在演讲中通过三件与人工智能有关的实例,揭示了他对人工智能的安全隐忧。

云计算、大数据、物联网、5G通讯、人工智能......这些词语充盈在如今信息化高度发展的社会,而同步需要考虑的,一定是安全的问题。一旦这些系统被攻击,那么越先进的系统,它带来的灾难就越大。

在周鸿祎看来,今天的智能,绝不是简单的技术研发,如果没有人文思考,也许设计出来的系统,就会变成一个悲剧系统。那么无人值守系统里的“最后控制权”归谁?周鸿祎首先提出这个思考:“在将来无人车、无人工厂、无人码头等众多无人值守系统里,在还没有很大把握下,在传感器误报、数据被污染的情况下,最后的控制权和决定权应该留给机器还是人?”

周鸿祎提到的第二件事情与人脸识别有关。“现在人脸识别很厉害,每次开张学友的演唱会,都会抓到罪犯。”但周鸿祎提出,人脸识别机器的深度学习算法是有先天缺陷的,网络黑客通过研究发现,只要给它一个从来没有看见过的图案,比如把一种奇怪条文打印在纸上或别在衣服上,就能“屏蔽”掉人脸识别系统。“可能这种衣服就会很‘畅销’。”周鸿祎调侃道。

另外,也有安全团队发现,对特斯拉人工驾驶的汽车贴些奇怪的交通符号,就可能会让汽车的电脑“很迷茫”,使汽车停下来,并引发追尾事件。对此,周鸿祎建议,企业在上线系统前,应做好安全检测,做好“实网攻防”,“要用实际的攻击发现问题,而非靠静态的研究证明系统的安全”,周鸿祎说。

第三件事情,周鸿祎提到了作假。无论是假照片、假视频还是假新闻,这种造假技术降低了每个人做假的成本,一旦泛滥就会引起社会恐慌。“新加坡正在制定相应的法律”,周鸿祎呼吁,中国也应加强对该类问题的重视,防止这样的“工具”流传,引发一系列道德伦理问题。

“人工智能的发展一定要注重安全,一定要注重伦理道德和法律的配合,因为只有安全性的信息化,才会给人们带来幸福的信息化。”周鸿祎说。

【如果您有新闻线索,欢迎向我们报料,一经采纳有费用酬谢。报料微信关注:ihxdsb,报料QQ:3386405712】

评论 0

  • 还没有添加任何评论,快去APP中抢沙发吧!

我要评论

猜你喜欢

去APP中参与热议吧