上海市浦东新区居家桥路515号 16552579750 unregulated@outlook.com

资讯中心

五个每位首席信息安全官 (CISO) 对人工智能的希望与担忧

2025-05-13

人工智能对网络安全的影响

关键要点

人工智能AI在媒体中已有近百年历史,展现了人类对其潜在影响的希望与恐惧。AI的广泛应用预计将对工作和生活造成深远的变革。企业和消费者目前已广泛采用AI,但有关数据安全的担忧并存。CISOs对AI的未来发展充满希望,也存在一些忧虑。

人工智能AI在过去近百年的时间里一直是我们媒体中重要的主题。从弗里茨朗Fritz Lang1927年的电影《大都会》开始,到《终结者》系列、《2001太空漫游》和《她》等热门电影,这些作品都展示了AI可能带来的影响。从能够帮助我们完成不想做的任务的机械助手,到人类创造的威胁灭亡的AI机器人,这些影片展现了我们对AI的最大希望与恐惧。

抛开虚构的影片不谈,当前AI的普遍采用和使用正在急剧上升。企业和消费者每天都在利用AI,所有的预测都显示,AI将在未来多年里对我们的工作和生活方式造成巨大的干扰与转变。根据Gartner的预测,到2025年,AI软件市场将接近1340亿美元。对于网络安全而言,AI的扩展应用带来了令人兴奋的前景,这里充满了潜力,但同时也伴随着对数据安全的担忧。目前,CISOs对未来充满了希望与恐惧。以下是我认为最重要的三项希望和两项恐惧:

希望:AI将减少繁琐的工作

日常工作中有许多繁琐、手动且耗时的过程。对于CISOs和安全专业人员而言,这些任务通常集中在实现和证明合规性上:例如,如何应对安全问卷,记录证据,以及通知同事采取行动。几乎总有太多事情要做,而时间又不够:需要优先处理和修复的漏洞太多,开源库需要更新,数据需要整理等等。

我们现在可以期待AI能减少一些耗时的繁琐任务,或者更好的是,完全自动化这些任务,使网络安全专业人士能够有更多的时间专注于那些最有影响力的事情。通过利用基于各公司软件栈和业务需求构建的神经网络和知识图谱,AI有可能构建出那些随着时间增强的定制安全程序,而无需像现在这样费力的人为干预。

希望:AI将在发生之前预测风险、泄露和故障

AI在模式识别方面表现出色。如果我们能够将其应用于监控和提出网络安全项目中的关注点,CISOs希望它可以为治理、风险和合规GRC引入预测元素。我们可以在系统故障发生之前预见到它,并建议团队未来合规框架所需的政策和控制措施,或者识别团队尚未注意到的风险。如今大多数可用产品在问题发生后才会发出警报;提前识别潜在问题将使面临时间压力的GRC专业人员受益。

希望:AI将更好地沟通GRC的商业影响

CISOs总在寻找更好的方式来沟通GRC项目对整体商业健康的影响。网络安全专业人员使用的指标:与审计员花费的时间,填写安全问卷所需的时间,符合安全审查的SLA,修复的风险数量,满足设备安全要求的员工数量这些指标往往无法被CSuite和董事会理解。通过AI程序,CISOs希望能够创建引人注目的定量和定性分析,向领导层展示他们如何保护收入、减少责任,并在信任和透明度的支持下赢得新商业,这是一个成功而成熟的GRC项目所能带来的。

五个每位首席信息安全官 (CISO) 对人工智能的希望与担忧

担忧:专有数据泄露

如今大多数AI工具都依赖于专有、开源和第三方的训练数据及模型。负责保护第一方和客户数据的领导,包括CISOs,面临着这种信息可能进入公共领域,并被AI模型利用生成结果的警觉。如果发生这种情况,专有数据可能会作为这些AI模型生成的结果的一部分被其他用户使用。

蚂蚁加速器app

担忧:AI将产生