近日,Gartner發(fā)布了2024年網(wǎng)絡(luò)安全重要趨勢,推動2024年主要網(wǎng)絡(luò)安全趨勢的因素包括生成式人工智能(GenAI)、持續(xù)威脅暴露、第三方風(fēng)險、隱私驅(qū)動的應(yīng)用和數(shù)據(jù)解耦和網(wǎng)絡(luò)安全技能重塑等。
隨著ChatGPT火爆全球,生成式人工智能應(yīng)用在各行各業(yè),并且在不斷改進,在帶來生產(chǎn)力變革的同時,也引起全球?qū)ζ鋽?shù)據(jù)安全問題和挑戰(zhàn)的極大關(guān)切,包括內(nèi)容安全、算法歧視、侵犯知識產(chǎn)權(quán)和信息泄露等安全隱患。2023年8月15日,我國正式施行的《生成式人工智能服務(wù)管理暫行辦法》,為生成式人工智能服務(wù)的健康發(fā)展提供了重要法制保障。越來越多更成熟的網(wǎng)絡(luò)安全廠商發(fā)布了生成式人工智能在網(wǎng)絡(luò)安全上面的應(yīng)用的一些服務(wù),如何安全地使用生成式人工智能的服務(wù)也成為政企關(guān)心的熱門話題。
Gartner研究總監(jiān)陳延全在日前召開的“2024年網(wǎng)絡(luò)安全重要趨勢”媒體分享會上就生成式人工智能(GenAI)的發(fā)展現(xiàn)狀和趨勢、企業(yè)CISO應(yīng)如何去看待生成式人工智能的發(fā)展、企業(yè)如何安全使用生成式人工智能的服務(wù)等內(nèi)容發(fā)表了以下觀點。
Gartner:GenAI引發(fā)短期疑慮,但同時也點燃了長期希望
生成式人工智能(GenAI)引入了新的攻擊面。為提供相關(guān)防護,企業(yè)機構(gòu)必須對應(yīng)用和數(shù)據(jù)安全實踐以及用戶監(jiān)控進行變革。到2025年,GenAI的采用將導(dǎo)致企業(yè)機構(gòu)所需的網(wǎng)絡(luò)安全資源激增,從而使應(yīng)用和數(shù)據(jù)安全支出增加15%以上。
此外,鑒于ChatGPT等大語言模型應(yīng)用的興起只是GenAI顛覆浪潮的開端,安全和風(fēng)險管理領(lǐng)導(dǎo)者還需要就該技術(shù)的快速演進做好應(yīng)對準備。
CISO應(yīng)如何看待生成式人工智能的發(fā)展
陳延全表示:生成式人工智能帶來的影響有很多方面,特別是從CISO的角色來看。
第一,要持續(xù)地觀察新的使用生成式人工智能的場景,不管是通過第三方提供已經(jīng)包裝好的SaaS的應(yīng)用或者是通過API接口的方式去使用這些生成式人工智能的服務(wù),或者是企業(yè)決定自用、可能參考一些開源大模型自建生成式人工智能的應(yīng)用,以及不斷地去應(yīng)用一些第三方的服務(wù)或者是由云廠商提供的開發(fā)大模型的基礎(chǔ)設(shè)施等等。
如何去安全地使用這些生成式人工智能服務(wù)也取決于“采購”或者是“自建”,從采購到自建的過程中也有很多不同的模式,在此過程中保護它可能是CISO第一個會遇到的問題。
第二,生成式人工智能應(yīng)用在網(wǎng)絡(luò)安全領(lǐng)域,國內(nèi)也有安全廠商發(fā)布了一些安全領(lǐng)域的垂直行業(yè)大模型,但是整體技術(shù)不是特別成熟。Gartner大致的預(yù)測是:“2023年是生成式人工智能發(fā)布的元年,2024年有很多最小可信產(chǎn)品的商業(yè)應(yīng)用。安全領(lǐng)域要到2025年,會看到更多成熟的把生成式人工智能集成到安全的工作流程中的產(chǎn)品?!?/p>
第三,生成式人工智能本身技術(shù)也還在持續(xù)演進,目前還沒看到一個完美的安全的解決方案,能夠解決所有還在演進中的技術(shù)帶來的安全風(fēng)險,所以這是一個持續(xù)的努力過程,一方面企業(yè)要透過一些新的技術(shù),例如在數(shù)據(jù)層面、在模型開發(fā)層面去降低風(fēng)險,另一方面,這也是第四點,企業(yè)可以繼續(xù)使用傳統(tǒng)的安全產(chǎn)品,比如:威脅情報或者是暴露面管理等,以在發(fā)生安全事件的時候能夠?qū)崿F(xiàn)應(yīng)急響應(yīng)和盡快恢復(fù)。
上圖總結(jié)了剛剛提到的四個場景。第一,透過生成式人工智能來防御外部的一些攻擊,也就是生成式的安全人工智能。第二,需要關(guān)注“黑客會怎么攻擊”,攻擊方會怎么利用生成式人工智能攻擊系統(tǒng)或者是環(huán)境。第三,如果有企業(yè)自己構(gòu)建大模型,在數(shù)據(jù)層面、系統(tǒng)開發(fā)層面,構(gòu)建之后作為服務(wù)提供給消費者,要重視法規(guī)監(jiān)管層面的要求。第四,企業(yè)用戶在使用時,有很多不同的使用方式,可以通過監(jiān)控提高安全團隊對用戶所使用服務(wù)的可見度。
企業(yè)如何安全地使用生成式人工智能的服務(wù)
Gartner建議:第一,CISO要持續(xù)地去記錄、監(jiān)控用戶如何使用生成式人工智能的應(yīng)用案例。第二,對于已經(jīng)用的廠商、第三方,安全團隊要提供一些具體的要求,也要輔助業(yè)務(wù)部門在使用或者部署這些服務(wù)的時候提供指引。第三,生成式人工智能技術(shù)還是在持續(xù)發(fā)展中,要持續(xù)觀察這些新的服務(wù)帶來的暴露面。第四,要擁抱新技術(shù),不能因為其可能存在安全風(fēng)險就不采用。使用過程中需要不斷地試驗,測量、監(jiān)控安全措施的實施情況。
以下是Gartner發(fā)布的2024年網(wǎng)絡(luò)安全九大重要趨勢:
Gartner研究總監(jiān)陳延全表示:“企業(yè)安全職能在技術(shù)、組織和人員方面面臨顛覆。風(fēng)險管理領(lǐng)導(dǎo)者必須進行完善的準備工作并采取務(wù)實的態(tài)度,以應(yīng)對顛覆,實施高效的網(wǎng)絡(luò)安全項目?!?/p>
為了應(yīng)對這些因素的綜合影響,2024年風(fēng)險管理領(lǐng)導(dǎo)者需要在其安全計劃中采取一系列實踐方法、技術(shù)功能和結(jié)構(gòu)改革,以此提高企業(yè)機構(gòu)的韌性和網(wǎng)絡(luò)安全績效。
趨勢一:持續(xù)威脅暴露面管理項目展現(xiàn)強勁勢頭
Gartner預(yù)測,到2026年,通過持續(xù)威脅暴露面管理項目確定安全投資優(yōu)先級的企業(yè)機構(gòu),其安全漏洞將減少三分之二。
陳延全表示:“近年來,企業(yè)機構(gòu)的攻擊面急劇擴大,給企業(yè)機構(gòu)帶來了潛在的安全盲點,以及大量需要解決的潛在威脅暴露面。作為應(yīng)對,安全和風(fēng)險管理領(lǐng)導(dǎo)者開展了試點項目,引入相關(guān)流程來確定威脅暴露面的數(shù)量和重要性,并驗證持續(xù)威脅暴露面管理(CTEM)項目的效果?!?/p>
趨勢二:改善身份與訪問管理實踐,充分發(fā)揮其在提升網(wǎng)絡(luò)安全成功方面的作用
在身份優(yōu)先的安全方法中,利用身份與訪問管理(IAM)取代網(wǎng)絡(luò)安全及其他傳統(tǒng)的安全控制措施成為了安全工作的重點。采取身份優(yōu)先安全策略的企業(yè)機構(gòu),必須加強對基本的IAM規(guī)范以及IAM系統(tǒng)強化的關(guān)注,以提升韌性。
趨勢三:以韌性為導(dǎo)向、資源效率更高的第三方網(wǎng)絡(luò)安全風(fēng)險管理
隨著第三方遭遇網(wǎng)絡(luò)安全事件變得不可避免,安全和風(fēng)險管理領(lǐng)導(dǎo)者不得不將注意力從涉及大量前期投入的盡職調(diào)查轉(zhuǎn)向了以韌性為導(dǎo)向的安全投資。勇于進取的安全和風(fēng)險管理領(lǐng)導(dǎo)者已將旨在提升韌性的工作活動列為優(yōu)先事項,例如實施補償性控制措施和加強事件響應(yīng)規(guī)劃等。同時,他們正在為業(yè)務(wù)合作伙伴提供有針對性的支持,以幫助其優(yōu)化與第三方的合作,并且影響與安全控制相關(guān)的決策。
趨勢四:隱私驅(qū)動的應(yīng)用和數(shù)據(jù)解耦,在碎片化的世界中優(yōu)化運營
Gartner預(yù)測,到2025年,10%的全球企業(yè)將擁有一個以上受特定數(shù)據(jù)主權(quán)戰(zhàn)略約束的業(yè)務(wù)單位,從而使創(chuàng)造相同業(yè)務(wù)價值的成本增加至少一倍。
陳延全表示:“基于國家主義的隱私以及數(shù)據(jù)保護和本地化要求不斷增多,加劇了企業(yè)應(yīng)用架構(gòu)和數(shù)據(jù)本地化實踐的碎片化。數(shù)十年來一直依賴單租戶應(yīng)用的跨國企業(yè),面臨著日益增加的合規(guī)要求和持續(xù)攀升的業(yè)務(wù)中斷風(fēng)險。作為應(yīng)對,具有前瞻性的企業(yè)機構(gòu)正在規(guī)劃和實施不同層面的應(yīng)用和數(shù)據(jù)解耦戰(zhàn)略?!?/p>
趨勢五:GenAI引發(fā)短期疑慮,但同時也點燃了長期希望
生成式人工智能(GenAI)引入了新的攻擊面。為提供相關(guān)防護,企業(yè)機構(gòu)必須對應(yīng)用和數(shù)據(jù)安全實踐以及用戶監(jiān)控進行變革。到2025年,GenAI的采用將導(dǎo)致企業(yè)機構(gòu)所需的網(wǎng)絡(luò)安全資源激增,從而使應(yīng)用和數(shù)據(jù)安全支出增加15%以上。
此外,鑒于ChatGPT等大語言模型應(yīng)用的興起只是GenAI顛覆浪潮的開端,安全和風(fēng)險管理領(lǐng)導(dǎo)者還需要就該技術(shù)的快速演進做好應(yīng)對準備。
趨勢六:安全行為和文化項目在降低人為網(wǎng)絡(luò)安全風(fēng)險方面的作用受到熱切關(guān)注
客戶和供應(yīng)商已經(jīng)認識到,當前只關(guān)注員工網(wǎng)絡(luò)安全意識提升的普遍做法,對于減少員工行為導(dǎo)致的安全事件效果甚微。
陳延全表示:“安全行為與文化項目(SBCP)是一種企業(yè)層面的方法,旨在最大程度減少與員工行為相關(guān)的網(wǎng)絡(luò)安全事件,無論這些事件是出于一時疏忽還是有意為之。SBCP的主要目標是改變員工行為。到2027年,50%的?型企業(yè)?席信息安全官(CISO)將采?以?為本的安全設(shè)計實踐,以最?限度減少?絡(luò)安全引發(fā)的員工抵觸并提升安全控制的采?率?!?/p>
趨勢七:網(wǎng)絡(luò)安全成果驅(qū)動型指標助力安全領(lǐng)導(dǎo)者有效傳達網(wǎng)絡(luò)安全價值
網(wǎng)絡(luò)安全成果驅(qū)動型指標(ODM)是包含特殊屬性的安全運營指標,可以幫助利益相關(guān)者在安全投資與其所能實現(xiàn)的保護等級之間建立直接關(guān)聯(lián)。
各行業(yè)企業(yè)機構(gòu)都在網(wǎng)絡(luò)安全人員、流程和技術(shù)方面進行了大量投資,然而網(wǎng)絡(luò)安全事件的發(fā)生頻率和負面影響卻在持續(xù)攀升。這削弱了董事會和高管對于網(wǎng)絡(luò)安全戰(zhàn)略的信心。企業(yè)機構(gòu)正在尋求一種衡量網(wǎng)絡(luò)安全價值的方法,既能夠引起高管的共鳴,還可以支持務(wù)實、符合業(yè)務(wù)需求的投資決策。ODM作為最具前景的候選方案之一,受到了越來越多企業(yè)機構(gòu)的青睞。
趨勢八:持續(xù)演變的網(wǎng)絡(luò)安全運營模式
隨著業(yè)務(wù)線繼續(xù)取代IT職能成為技術(shù)獲取、構(gòu)建和交付的主體,傳統(tǒng)的網(wǎng)絡(luò)安全運營模式逐漸被打破。安全和風(fēng)險管理領(lǐng)導(dǎo)者正在對網(wǎng)絡(luò)安全運營模式進行調(diào)整,以滿足業(yè)務(wù)部門在自主性、創(chuàng)新和敏捷性方面的需求。具體而言,安全工作的決策權(quán)日益分散化;安全策略的細節(jié)逐漸交由邊緣側(cè)的業(yè)務(wù)決策者負責(zé);針對部分治理工作建立了集中和正式的治理機制,以更好地支持業(yè)務(wù)部門的風(fēng)險負責(zé)人;安全和風(fēng)險管理領(lǐng)導(dǎo)者的角色也正在從控制措施管理者向價值推動者演變。
趨勢九:重塑網(wǎng)絡(luò)安全技能,助力企業(yè)機構(gòu)應(yīng)對未來風(fēng)險
到2026年,50%的大型企業(yè)將使用敏捷學(xué)習(xí)作為主要的技能提升/重塑方法。
陳延全表示:“安全和風(fēng)險管理領(lǐng)導(dǎo)者面臨著一系列重大趨勢,而這些趨勢都對網(wǎng)絡(luò)安全團隊的技能需求產(chǎn)生了影響。并且,新技能需求的增長速度將會超過新角色、新資格認證、新職位描述和新職位名稱的創(chuàng)建速度。換言之,依靠學(xué)習(xí)型和發(fā)展型解決方案、招聘平臺以及人力資源實踐,將無法及時滿足網(wǎng)絡(luò)安全的技能需求。”
網(wǎng)絡(luò)安全團隊需要圍繞敏捷學(xué)習(xí)改善學(xué)習(xí)和發(fā)展計劃,并基于敏捷學(xué)習(xí)通過迭代和短期突擊來優(yōu)先發(fā)展實踐技能。