GitLab ziet organisaties grip verliezen op AI-code

DevSecOps-platform GitLab meldt in een nieuw onderzoeksrapport dat organisaties AI-codeertools sneller invoeren dan ze beleid ontwikkelen om de output ervan te controleren. Van de ondervraagde developers en technologie-inkopers zegt 80 procent dat hun organisatie AI-tools sneller invoerde dan de bijbehorende governance werd ingericht.

Het onderzoek, uitgevoerd door The Harris Poll in opdracht van GitLab, ondervroeg 1.528 developers en technologie-inkopers in zes landen. Daarvan ervaart 92 procent governance-uitdagingen met AI-gegenereerde code. Het rapport definieert AI-verantwoording als het organisatorische en technische vermogen om drie vragen te beantwoorden over elke regel AI-gegenereerde code: waar komt die vandaan, wat was de bedoeling ervan, en wie is er verantwoordelijk voor zodra die in productie draait. Volgens GitLab kunnen de meeste organisaties die vragen momenteel niet beantwoorden.

Snelheid zonder herkomst

Adoptie en rendement van AI-codeertools zijn volgens het onderzoek sterk: 91 procent van de organisaties gebruikt actief twee of meer AI-codeertools, 54 procent zelfs drie of meer. Developers schrijven en committen code sneller sinds de invoering van AI-tools, aldus 78 procent van de respondenten, en 60 procent zegt dat het rendement de verwachtingen overtreft. Tegelijk kan 43 procent AI-gegenereerde code niet betrouwbaar onderscheiden van code die door mensen is geschreven, in de eigen codebase.

Snellere code, geen snellere levering

GitLab noemt dit de AI-paradox: 79 procent van de respondenten ziet de individuele productiviteit van developers verbeteren, maar het totale softwareleveringsproces versnelt daardoor niet in gelijke mate. Volgens het rapport verschuift het knelpunt van het schrijven van code naar het reviewen en valideren ervan, wat 85 procent van de respondenten beaamt. Ook zegt 82 procent dat AI-gegenereerde code een nieuwe vorm van technische schuld dreigt te creëren waarop hun organisatie nog niet is voorbereid.

Traceerbaarheid schiet tekort

Van de organisaties die het afgelopen jaar met een productie-incident te maken kregen, kon 34 procent niet vaststellen of AI-gegenereerde code daaraan had bijgedragen, ondanks dat 87 procent daar in het algemeen vertrouwen in zegt te hebben. De belangrijkste barrières voor controle en traceerbaarheid zijn volgens het rapport structureel: naast het moeilijk kunnen onderscheiden van AI- en mensgeschreven code noemen respondenten versnipperde toolchains en systemen die de herkomst van code niet registreren. Slechts 28 procent zegt dat de tools in de software-ontwikkelketen volledig zijn geïntegreerd met gedeelde data en workflows.

Chief Product and Marketing Officer Manav Khurana van GitLab zegt dat snelheid zonder controle een risico is geworden in plaats van een voordeel, mede door recente supply chain-aanvallen en strengere eisen van toezichthouders rond traceerbaarheid van AI-code. Van de ondervraagden is 91 procent van plan om het komende jaar te investeren in tools voor AI-codegovernance.

Bron: GitLab