ISACA人工智能调查结果:信息安全专业人员真正需要知道什么?

Raef Meeuwisse
作者: Raef Meeuwisse, CISM, CISA,《澳门赌场官方下载》作者
发表日期: 2023年10月25日

现在很难找到关于人工智能(AI)的高质量信息, 特别是 当谈到人工智能在网络安全领域应该以及正在被如何对待时. 值得庆幸的是, ISACA刚刚完成了一项针对全球信息安全和数字信任澳门赌场官方下载数千名成员的调查.

尽管许多人愿意冒险猜测人工智能将如何发展,以及澳门赌场官方下载需要做些什么来在其数字环境中整合或保护人工智能系统, 有一个令人不安的事实: 没有人真正知道人工智能在澳门赌场官方下载中的应用将如何展开.

  • 我们是否会因为人工智能驱动的威胁而面临信息安全资源需求的上升,或者因为自动化而面临信息安全资源需求的下降?
  • 澳门赌场官方下载应该在多大程度上澳门赌场官方下载或保护人工智能?
  • 澳门赌场官方下载在使用人工智能方面应该有什么政策?
  • 围绕“内部”使用人工智能,可以而且应该采取哪些安全措施?
  • 你真的能阻止员工使用人工智能工具吗?

人工智能有很多变数, 可能性和威胁,唯一可靠的选择之一是众包信息安全专业人员自己如何感知, 使用或感受到人工智能的威胁. 这项ISACA调查为我们提供了一个机会,让我们了解目前整个澳门赌场官方下载的情况.

在这篇博文中,我们将重点介绍此次调查的一些主要发现:

生成式AI存在高度的不确定性

从最广泛的意义上说, 生成式AI是指任何具有至少一种类似人类的技能的技术,这种技能可以用于创造一种或另一种形式的内容. 生成式人工智能是否用于创作书面作品, 图片, video, 客户服务回复或其他内容, 它有能力通过简单的提示或其他输入达到或超过人类水平的自主执行.

接受调查的大多数ISACA成员都熟悉这个术语 生成的人工智能 (73%),尽管总体上只有25%的人认为他们非常或非常熟悉这个词. 那些稍微熟悉的人(48%)可能在宣布对该术语的任何程度的舒适之前,在理解该技术的含义和细微差别方面表现出一定程度的谨慎.

然而, 当被问及他们的组织政策是否允许使用该技术时, 45%的人说这是不允许的, 28%的人说是的, 26%的人不确定. 只有10%的受访者表示他们的组织已经制定了全面的政策, 超过四分之一的受访者没有开发手机的计划.

人工智能安全培训:生成式人工智能成为新的影子IT

无论组织是否有政策,超过40%的员工都在使用生成式人工智能. 根据调查结果, 在哪里使用它, 它是用于创建书面内容(65%)——包括编写编程代码, 提高生产力(44%), 自动化重复性任务(32%), 客户服务(29%)和改进决策(27%).

事实上,受访者列出了几十种用法.

ISACA的调查显示,生成式人工智能正被广泛用于各种目的, 它还突出了道德考虑和安全措施方面的明显差距. 只有6%的组织为所有员工提供全面的人工智能培训, 令人震惊的是,54%的公司根本不提供培训. 缺乏培训, 再加上对道德标准的重视不够——41%的人表示没有给予足够的重视——可能会导致风险增加, 包括被坏人利用. 也许并不奇怪, 57%的受访者非常或极度担心生成式人工智能被恶意行为者利用.

人工智能风险管理被忽视了吗?

调查结果表明,只有不到三分之一的组织认为人工智能风险是当务之急. 这一点尤其令人担忧,因为79%的人认为对手使用人工智能的成功程度超过了数字信任专业人员. 识别出的前五大风险是错误信息/虚假信息(77%), 侵犯隐私(68%), social工程(63%), 知识产权流失(58%)和工作流失(35%). 这些风险不仅仅是理论上的,它们具有现实世界的影响,可能严重影响组织的安全态势.

就业的未来和行业前景

有趣的是, 45%的人认为人工智能将会淘汰大量的工作岗位, 70%的人认为这会对他们的工作产生一些积极的影响.

这让我想起了我妻子(我们关系中更聪明的那一半)的一个非常深刻的观察:“每个人似乎都对人工智能能做的任何事情都很满意, 直到它可以取代他们所能做的事情,那就太过分了.”

总体前景是乐观的,85%的人认为人工智能是提高人类生产力的工具. 然而,, 值得注意的是,80%的人表示,他们需要额外的培训来保住工作或提升职业生涯.

结束语:澳门赌场官方下载是否应该加入人工智能浪潮? 还有别的选择吗?

ISACA的调查描绘了一幅复杂的画面. 尽管人们对人工智能的潜在好处持乐观态度, 此外,还明显缺乏准备和理解. 员工对人工智能技术的快速采用, 未经组织批准或监督的, 是一个定时炸弹吗.

一方面, 像微软, 谷歌和其他公司将人工智能融入到他们的技术和基础设施中, 几乎别无选择,只能找出如何安全地将这项技术整合到每个数字环境中. 在另一边, 我们需要谨慎和训练,以防御人工智能驱动的对抗性攻击,这些攻击可能会利用深度伪造,或使流氓人工智能模型像前所未有的人类黑客军队一样快速运作.

缺乏全面的人工智能安全政策和培训计划加剧了风险, 包括道德沦丧和被恶意行为者利用的可能性.

当我们在网络安全领域探索人工智能的复杂性时, 有一件事是明确的:人工智能的未来将带来更多的变化, 比我们过去见过的任何时候都要快. 现在正是组织从战略上抓住这股浪潮,而不是被它冲走的时候了.

ISACA的调查为信息安全界敲响了警钟,要求他们积极应对人工智能带来的挑战和机遇. 如果做不到这一点,可能意味着错过了好处,同时将组织暴露在不必要的风险中.

编辑器的 注意: 从ISACA的调查和人工智能资源中获取更多见解 在这里.

作者附言: 跟随Raef on 蓝天 @RaefMeeuwisse.bsky.social

额外的资源