Immuta AI Security & Governance Survey toont optimisme

Immuta heeft haar AI Security & Governance Report aangekondigd, waarin bijna 700 IT-technici, databeveiligingsprofessionals en governance-experts werden ondervraagd over hun vooruitzichten voor AI-beveiliging en -governance. Het rapport geeft inzicht in hoe organisaties AI toepassen, hoe ze omgaan met nieuwe beveiligings- en privacy-uitdagingen en hoe ze hun governancerichtlijnen bijwerken om het potentieel van de technologie veilig te benutten.

Uit de bevindingen blijkt dat de adoptie van AI torenhoog blijft: meer dan de helft van de data-experts (54 procent) zegt dat hun organisatie al gebruikmaakt van minstens vier AI-systemen of -toepassingen. Meer dan driekwart (79 procent) geeft ook aan dat hun budget voor AI-systemen, -toepassingen en -ontwikkeling de afgelopen 12 maanden is gestegen.

Deze snelle adoptie brengt echter ook grote onzekerheid met zich mee. Zo is 80 procent van de data-experts het erover eens dat AI de beveiliging van gegevens uitdagender maakt. Experts uiten hun bezorgdheid over de onbedoelde blootstelling van gevoelige gegevens door LLM's en over aanvallen door kwaadwillende actoren via AI-modellen. 57 procent van de respondenten heeft het afgelopen jaar zelfs een aanzienlijke toename van AI-aanvallen gezien.

Hoewel de snelle toepassing van AI zeker nieuwe beveiligingsuitdagingen met zich meebrengt, zet het optimisme over het potentieel ervan organisaties aan om zich aan te passen. Dataleiders geloven bijvoorbeeld dat AI de huidige beveiligingspraktijken zal verbeteren voor taken als AI-gestuurde bedreigingsdetectiesystemen (40 procent) en het gebruik van AI als geavanceerde encryptiemethode (28 procent). Nu deze voordelen opdoemen tegen de achtergrond van beveiligingsrisico's, zijn veel organisaties (83 procent) bezig met het bijwerken van interne privacy- en governancerichtlijnen en het nemen van stappen om de nieuwe risico's aan te pakken:
• 78 procent van de dataleiders zegt dat hun organisatie specifieke risicobeoordelingen heeft uitgevoerd voor AI-beveiliging.
• 72 procent stimuleert transparantie door AI-voorspellingen te controleren op afwijkingen.
• 61 procent heeft doelgerichte toegangscontroles ingesteld om onbevoegd gebruik van AI-modellen te voorkomen.
• 37 procent zegt over een uitgebreide strategie te beschikken om te blijven voldoen aan recente en toekomstige AI-regelgeving en behoeften op het gebied van gegevensbeveiliging.

Ondanks het feit dat veel dataprofessionals aangeven dat AI de beveiliging uitdagender maakt, zegt 85 procent er enigszins of zeer veel vertrouwen in te hebben dat de databeveiligingsstrategie van hun organisatie gelijke tred zal houden met de evolutie van AI. In tegenstelling tot het onderzoek van vorig jaar, waaruit bleek dat 50 procent het er sterk of enigszins mee eens was dat de databeveiligingsstrategie van hun organisatie het tempo van de AI-evolutie niet kon bijhouden, geeft dit aan dat er een volwassenheidscurve is en dat veel organisaties ondanks de risico's doorgaan met AI-initiatieven omdat de verwachte winst de moeite waard is.