“人工智能“脆弱面”暗藏安全风险 全流程安全防控体系亟待升级”

“强人工智能”时代渐近新技术催生新攻击方法

人工智能的“脆弱面”蕴藏着安全风险

专家建议用刚性法规引领秩序，升级全流程安全防控体系

智能机器人自信地上台负责。 无人车在测试道路上完成了一系列动作，但司机坐在千里之外。 智能健康“魔术镜”可以实时显示受试者的“睡眠”、“情绪”、“皮肤”等一系列健康指标系数……曾经只有在科幻电影中才能看到的精彩剪辑在生活中实现，各种“黑科技”

但是，随着人工智能技术的应用越来越广泛，人工智能的“脆弱面”也越来越明显，机器人的“自我意识”、技术滥用等安全漏洞越来越受到业界的关注。 专家表示，必须加强对潜在风险的研究判断和防范，确保人工智能各项技术的安全性、可靠性和可控性。

促使新的攻击方法

目前，世界各国纷纷配置人工智能，国际竞争日趋激烈。 然而，人工智能的高速发展给互联网安全的风险点和攻击方法带来了新的变化，并引发更深层次的互联网安全风险。

年4月，欧洲委员会计划从年到年在人工智能行业投资240亿美元。 年5月，法国推出“法国人工智能战术”，目的是使法国成为人工智能强国。 年6月，日本“未来投资战术”要点推进了物联网建设和人工智能的应用。

关于人工智能，我国同样高度重视。 年，政府发表了《新一代人工智能快速发展计划》和《促进新一代人工智能产业快速发展的三年行动计划(——年)》。

北京邮电大学教授李小勇表示，中国是遭受网络攻击最多的国家之一，也是遭受物联网攻击最多的国家之一，网络攻击的手段和攻击形式更多。 在领域上，经济、教育、政府等部门成为攻击的首要目标。

360企业董事长兼首席执行官周鸿祎表示，网络攻击每天都在发生。 因为现在网络黑客的攻击目标是能源、交通等基础设施，其影响最大。 将来，如果所有东西都是互联的，各集装箱、各卡车甚至城市的各井盖都会互联，虚拟级的攻击可能会造成物理空之间的损害。

事实上，劫持智能设备已经成为网络攻击的重要手段。 互联网安全专家表示，多个无人系统利用的是人工智能技术，如果被互联网侵占，将会引起严重的安全问题。 例如，智能车可以连接到车厂的服务器，通过手机远程控制，车主需要定期更新软件以保证车的运行模式，有可能被网络劫持。

天津大学法学院院长孙佑海表示，网络攻击者可以通过漏洞控制人工智能算法，实现物理硬件操作、舆论引导的实施、虚假图像和影响的制造、新闻噪声的制造等，带来安全隐患。

另外，图像语音合成会产生新的风险。 国家网络应急中心有关专家表示，随着技术的飞速发展，目前的合成图像、声音越来越逼真。 如果将该技术用于网络诈骗、虚构的面部和语音上，将是非常可怕的事件。