“人工智能“脆弱面”逐渐暴露 暗藏安全风险”

智能机器人自信地上台负责。 无人车在测试道路上完成了一系列动作，但司机坐在千里之外。 智能健康“魔术镜”可以实时显示受试者的“睡眠”、“情绪”、“皮肤”等一系列健康指标系数……曾经只有在科幻电影中才能看到的精彩剪辑在生活中实现，各种“黑科技”

但是，随着人工智能技术的应用越来越广泛，人工智能的“脆弱面”也越来越明显，机器人的“自我意识”、技术滥用等安全漏洞越来越受到业界的关注。 专家表示，必须加强对潜在风险的研究判断和防范，确保人工智能各项技术的安全性、可靠性和可控性。

促使新的攻击方法

目前，世界各国纷纷配置人工智能，国际竞争日趋激烈。 然而，人工智能的高速发展给互联网安全的风险点和攻击方法带来了新的变化，并引发更深层次的互联网安全风险。

年4月，欧洲委员会计划从年到年在人工智能行业投资240亿美元。 年5月，法国推出“法国人工智能战术”，目的是使法国成为人工智能强国。 年6月，日本“未来投资战术”要点推进了物联网建设和人工智能的应用。

关于人工智能，我国同样高度重视。 年，政府发表了《新一代人工智能快速发展计划》和《促进新一代人工智能产业快速发展的三年行动计划(——年)》。

北京邮电大学教授李小勇表示，中国是遭受网络攻击最多的国家之一，也是遭受物联网攻击最多的国家之一，网络攻击的手段和攻击形式更多。 在领域上，经济、教育、政府等部门成为攻击的首要目标。

360企业董事长兼首席执行官周鸿祎表示，网络攻击每天都在发生。 因为现在网络黑客的攻击目标是能源、交通等基础设施，其影响最大。 将来，如果所有东西都是互联的，各集装箱、各卡车甚至城市的各井盖都会互联，虚拟级的攻击可能会造成物理空之间的损害。

事实上，劫持智能设备已经成为网络攻击的重要手段。 互联网安全专家表示，多个无人系统利用的是人工智能技术，如果被互联网侵占，将会引起严重的安全问题。 例如，智能车可以连接到车厂的服务器，通过手机远程控制，车主需要定期更新软件以保证车的运行模式，有可能被网络劫持。

天津大学法学院院长孙佑海表示，网络攻击者可以通过漏洞控制人工智能算法，实现物理硬件操作、舆论引导的实施、虚假图像和影响的制造、新闻噪声的制造等，带来安全隐患。

另外，图像语音合成会产生新的风险。 国家网络应急中心有关专家表示，随着技术的飞速发展，目前的合成图像、声音越来越逼真。 如果将该技术用于网络诈骗、虚构的面部和语音上，将是非常可怕的事件。

暴露安全肋

人工智能技术依赖的算法、大数据等可以以非常低的价格进行复制和扩散，因此其传输途径广泛，监管难度大，控制概率低。

目前，人工智能技术已经从“弱人工智能”跃升到“强人工智能”阶段，基于其掌握的算法、数据，可以在短时间内迅速突破人类继承多年经验的积累。

年，谷歌“深度思维”( deepmind )企业开发的alphago横空诞生，经过深度学习席卷了人类围棋界。 一年后，零基础启动的新程序alphago zero通过自我训练，在三天内与自身对战490万局后，以100:0的成绩击败了“前辈”alphago。

年，美国社会交往媒体网站脸书企业实验室的两个人工智能机器人采用机器学习相互学习对话，进行对话策略的反复升级，逐渐发展出机器之间可以理解，但人类无法理解的语言。

“事实证明，人工智能通过算法和大数据进行深入学习，不排除进化“自我意识”的可能性，辅助人类进行分解和决策，容易产生反噬风险。 ”。 孙佑海说。

目前，人工智能研究可以免费下载大量带有源代码的论文，即使写了折扣算法的价值成本，几天内人工智能技术的滥用风险也在急剧增加。 人工智能还具有多学科综合、多高度、复杂等特点，具有天然的技术壁垒，给监管部门的监管和风险防范带来了不少挑战。

技术的飞速发展，再加上人工智能带来的社会影响不容忽视。 通过了解特定算法的各个方面的客户喜好和诉求，为客户“量身定制”的“精准推送”已成为企业付出成本的新方法。

近年来，北京、上海、重庆、济南等商圈开始试制能够根据客户特点更准确地推送优惠券商品新闻，给客户带来动力的“智能商圈”模式。 例如，向年轻未婚白领女性推荐化妆品和奢侈品的品牌商券妈妈们推荐婴儿用品店。 向男性推荐体育企业品牌店的活动等。

“智慧商圈”带来生活的便利，但也容易引起“新闻骚扰”的问题。 通过客户的简单操作，暴露出想要购买某个商品的想法，然后持续接受同类商品的广告宣传，可能会陷入困境。 在此之前，从事商场导购等决策分解、艺术创作等的员工也有可能被机器人取代，人工智能技术的日益成熟打破了以前流传于运营商集团的“饭碗”，引发了新的产业革命和经济结构调整，“劳动力

不仅如此，人工智能产生的道德伦理不安还在持续。 专家认为，人工智能设计者的价值观和行为偏好容易有意或无意地反映在算法、数据上，通过机器学习被人工智能继承，发展成算法歧视。 在具体应用过程中，容易受到对抗样品的干扰和污染，被应用者二次成型，做出背离设计初衷的错误决定。

年3月，美国微软发布了最新版本的人工智能机器人tay。 但是，不到全天候，tay就学会了“坏”。 充满言语、脏话、种族主义、色情、纳粹、歧视、仇恨和偏见。 微软不得不删除tay的不当发言，继续调整底线。

好的“双刃剑”

专家表示，在人工智能快速发展的时代，安全问题日益凸显，我们需要加强对潜在风险的研究判断和防范，切实维护人民利益和国家安全，确保人工智能安全可靠、可控。

南开大学周恩来政府管理学院教授吴晓林认为，数字化、互联网化、智能化已经是时代的主题，智能让生活更美好，但安全问题无处不在，始终存在。 互联网的后半段是工业网络，今后国家基础设施安全、工业网络安全非常重要，还是要使用人工智能的双刃剑，趋利避害，科技智能与人类智慧并存，和谐相处。

在网络安全方面，必须加强技术研究，建立比较有效的安全防范网络攻击。 专家建议建立积极的免疫计算体系，安全保护计算，控制计算的全过程，不受干扰。 利用人工智能应对网络攻击，在“免疫系统”中，无论哪个系统被攻击，统一的人工智能系统都会发出指令并做出应对。

在法治建设保障方面，中国法学会副会长兼秘书长张鸣建议高度重视立法事业，及时安排宏观立法。 人工智能的迅速发展离不开反映时代诉求的《人工智能法》和辅助法规组成的法律法规体系。

孙佑海建议，全国人大应做好立法上的一点准备，要求有关部门对无人机管理、自动驾驶、图像识别比较成熟的技术应用制定法律规则，优先考虑用刚性法规条款引领秩序。

并且，要进一步健全精准务实的政策支撑体系，构建政策集群。 孙佑海将进一步升级全流程安全防控体系，制定领域安全标准，制定应急预案，扩大要点行业防控，扩大代码数据、算法等要点行业综合治理力度，提高技术安全、产品安全、数据安全和应用安全

对比新一代人工智能可能引起的结构性失业等风险，吴晓林建议加强劳动部门主导与人工智能产业诉求配套的在职培训和再就业培训体系，做好劳动力转型的积极战役。