从网约车的调度、视听娱乐、AI客服、 智能理财助手等场景的普及看，AI技术已经大量应用在日常生活中。除此之外，在办公流程的自动化、制造的自动化等生产场景中，也有大量的Al应用。
AI的普及带来了几类安全问题
-
AI的赋能效应问题，攻击方和防御方都采用AI手段，未来一段时间在Al领域上的对抗会持续升级。
-
AI本身的安全、AI本身的某些特性，可能被攻击者利用进行攻击。例如攻击自动驾驶汽车的摄像头，导致其做出错误决策等。
-
AI深度伪造(DeepFake) 的问题，攻击者利用语音、人脸、自然语言处理(NLP) 等Al技术，进行深度仿造，绕过各类身份认证机制。深度伪造主要面向身份认证场景的攻击。随着“元宇宙”的来临，人的身份属性会高 度乃至全面数字化，AI深度伪造问题将会变得更突出。
未来，网络犯罪分子将利用攻击性AI来制造愈加定制化、有针对性和难以检测的大规模网络攻击。开源的Al开发工具将极大降低恶意软件的开发门槛。此外，AI将持续消除攻击中的人为因素，使犯罪者更难被识别。
过去几年，AI已经对攻防双方产生了很多价值，有专家甚至表示，未来安全攻防的形态本质.上就是在AI之间的博弈。如果将安全粗略地分为实时对抗和非实时对抗两类场景，非实时对抗的场景未来就是AI博弈的主战场;而在实时对抗上，AI也将充当有效的数字助手。
2022产业互联网安全十大趋势产业安全技术演进篇2022年，Al的最重要应用可能会出现在安全领域。Al或能从数百万份研究报告、博客和新闻报道中分析整理出威胁情报，即时洞察信息，从而大幅加快响应速度，做出更精准的攻击决策。
在防御端，通过AI技术分析网络流量、识别恶意应用，将在保护人类免受安全威胁方面发挥越来越大的作用。法国咨询机构凯捷集团的调查表明，近四分之三的企业正在使用或测试AI识别和应对关键的网络安全威胁。国际市场研究公司Research and Markets预计 到2026年，基于AI的网络安全市场将迅速增长至382亿美元，年复合增长率高达23.3%。目前国内外都有一些主打AI和机器学习的商业安全产品，同时也有-些专攻Al的团队，成功推出以AI对抗攻击的成果。而近几年最为迫切需要解决的是如何将其成果落地，转化为产品或者企业防护方案。
