Praha, 7. února 2025 –Sophos, přední světový inovátor v oblasti pokročilých bezpečnostních řešení, která zabraňují kybernetickým útokům, zveřejnil novou studii s názvem „Beyond the Hype: The Businesses Reality of AI for Cybersecurity“ [Skutečnost za bublinou: Podniková realita využití AI v kyberbezpečnosti], která vychází z průzkumu mezi 400 manažery IT ohledně využití umělé inteligence (AI) v oblasti kybernetické bezpečnosti. Průzkum zjistil, že navzdory tomu, že 65 % z nich již zavedlo generativní umělou inteligenci (GenAI), 89 % manažerů IT se obává, že by chyby v nástrojích GenAI pro kybernetickou bezpečnost mohly jejich organizaci ohrozit.
Podle souběžného výzkumu expertního týmu Sophos X-Ops s názvem „Cybercriminals Still Not Fully Board the AI Train (Yet)“ [Kyberzločinci (zatím) úplně nenaskočili na vlak AI], došlo k mírnému, ale pozoruhodnému posunu ve způsobu, jakým kyberzločinci AI využívají. Po prozkoumání několika undergroundových fór experti týmu Sophos X-Ops zjistili, že ačkoli vůči GenAI stále panuje skepse, někteří zločinci ji používají k automatizaci běžných úkolů, jako je vytváření hromadných e-mailů a analýza dat. Jiní ji ale už zapojují do sad nástrojů pro vytváření spamu a sociální inženýrství.
„Stejně jako u mnoha jiných věcí v životě bychom se také v případě nástrojů s generativní umělou inteligencí měli řídit heslem „důvěřuj, ale prověřuj“. Ve skutečnosti jsme stroje nenaučili přemýšlet, ale pouze jsme jim poskytli kontext, který urychluje zpracování velkého množství dat,“ řekl Chester Wisniewski, globální technický ředitel společnosti Sophos. „Potenciál těchto nástrojů pro urychlení bezpečnostních úloh je úžasný. Ovšem pro realizaci tohoto přínosu je stále zapotřebí kontext a také porozumění jejich lidských správců.“
Vzhledem k tomu, že 98 % dotázaných organizací má v infrastruktuře kybernetické bezpečnosti zavedenou nějakou formu AI, vyjádřili manažeři IT obavy z potenciálně přílišného spoléhání se na umělou inteligenci. Současně 87 % respondentů uvedlo, že se ve výsledku obává nedostatku odpovědnosti za kybernetickou bezpečnost.
GenAI a omezení syndromu vyhoření
Různě velké organizace vyjádřily při využití GenAI odlišné priority. Zatímco velké organizace s více než 1 000 zaměstnanci upřednostňují zlepšení ochrany, respondenti s 50 až 99 zaměstnanci označili za nejžádanější přínos nástrojů GenAI omezení syndromu vyhoření. Nicméně 84 % dotázaných manažerů napříč organizacemi všech velikostí uvedlo, že se obává tlaku na snižování počtu zaměstnanců týmů kybernetické bezpečnosti kvůli nerealistickým očekáváním ohledně schopností AI nahradit lidské pracovníky.
Další klíčová zjištění studie „Beyond the Hype“:
- Náklady na GenAI je těžké vyčíslit: Plných 75 % manažerů IT se shoduje, že je obtížné vyčíslit náklady na GenAI v produktech pro kybernetickou bezpečnost.
- Firmy počítají s úsporami díky GenAI: Zatímco se 80 % manažerů IT domnívá, že GenAI výrazně zvýší náklady na nástroje kybernetické bezpečnosti, většina organizací naopak věří, že GenAI nabízí cestu ke snížení celkových výdajů na kybernetickou bezpečnost – 87 % respondentů je přesvědčeno, že úspory dosažené díky GenAI vyváží náklady na její zavedení.
Více o tom, jak manažeři IT využívají umělou inteligenci, najdete ve studii „Beyond the Hype: The Businesses Reality of AI for Cybersecurity” na webu Sophos.com. Více informací o přístupu kyberzločinců ke GenAI přináší studie „Cybercriminals Still Not Fully on Board the AI Train (Yet)“ na stránkách Sophos.com.
Další zdroje
- Jak řešení Sophos využívají AI ke zvýšení obranyschopnosti zákazníků
- Zorientujte se v Humbuku kolem AI v kyberbezpečnosti
- Vyhoření zaměstnanců v oboru kyberbezpečnosti
- Přístup útočníků k AI
- Jak mohou odborníci na kybernetickou bezpečnost používat GPT jako svého kopilota
- Útočné techniky, taktiky a postupy (TTP) v předchozích studiích Active Adversary reports