奇安信日前发布的《2024人工智能安全报告》（以下简称《报告》）显示，2023年基于AI的深度伪造欺诈增长了3000％，基于AI的钓鱼邮件增长了1000％；已发现多个有国家背景的APT组织，利用AI实施了10余起网络攻击事件。

《报告》认为，具有巨大潜力的AI技术同时带来两大挑战：一方面放大了现有威胁，比如钓鱼邮件、恶意软件等；另一方面引入了新型威胁，如AI自动化攻击、AI深度伪造等。但目前，业界对AI潜在风险的研究与重视程度仍远远不足，在积极拥抱大模型等人工智能技术之时，各界对其安全风险应保持警醒。

点评：AI是一种通用技术，这也就意味着其既可以用来做好事，也可以被用来干坏事，相关立法工作该提上议事日程了。