AI Poisoning: Når kunstig intelligens bliver manipuleret

I mange år handlede misinformation om falske hjemmesider, manipulerede opslag på sociale medier eller vildledende artikler. I dag er udfordringen blevet mere kompleks. Når mennesker i stigende grad bruger AI-assistenter og søgemaskiner til at få svar i stedet for selv at finde information, opstår en ny risiko: Hvad sker der, hvis de systemer, vi stoler på, bliver manipuleret?

AI Poisoning beskriver situationer, hvor data, kilder eller informationsstrømme påvirkes på en måde, der får AI-systemer til at levere misvisende eller skæve svar. Det gør informationsintegritet til et spørgsmål om cybersikkerhed, tillid og organisatorisk modstandsdygtighed.

Fra informationssøgning til færdige svar

Traditionelt har brugerne selv skullet finde, sammenligne og vurdere information. En søgning gav en liste over kilder, som skulle gennemgås, og troværdigheden skulle vurderes manuelt. Processen var langt fra perfekt, men den gav mulighed for at sammenholde forskellige perspektiver og følge kilderne tilbage til deres oprindelse.

Med AI-baserede søgemaskiner og store sprogmodeller (LLM’er) ændrer dette sig. I stedet for at præsentere en liste med kilder leverer systemet ofte et færdigt svar eller et resumé. AI’en vurderer, hvad der er relevant, hvilke oplysninger der skal fremhæves, og hvordan svaret skal formuleres.

Det gør informationssøgning hurtigere og mere effektiv, men det skaber også en ny udfordring: Når information bliver filtreret og opsummeret for os, bliver det vanskeligere at se, hvad der er udeladt, nedprioriteret eller fremhævet.

Når bias bliver en del af svaret

Bias i søgemaskiner og AI-systemer kan påvirke, hvilke informationer der vises, skjules eller prioriteres. Denne påvirkning kan komme fra mange kilder, herunder:

• Rangordning af søgeresultater
• Personalisering og brugerhistorik
• Popularitetssignaler
• Træningsdata
• Valg af datakilder
• Kommercielle interesser
• Prompt-formuleringer
• Sikkerhedsfiltre og moderationsmekanismer

Derudover kan aktører bevidst forsøge at påvirke, hvordan AI-systemer fortolker og gengiver information. Dette kaldes ofte AI Poisoning, hvor data eller informationskilder manipuleres med det formål at påvirke fremtidige svar.

Ikke al bias er bevidst. Meget bias opstår naturligt som følge af sproglige, kulturelle, geografiske eller historiske skævheder i de data, modellerne trænes på. Problemet er, at brugerne ofte opfatter resultatet som objektivt.

Et højtplaceret søgeresultat virker troværdigt. Et velformuleret AI-svar virker velovervejet. En sikker og autoritativ tone virker overbevisende.

Men ingen af disse faktorer er i sig selv en garanti for, at informationen er korrekt.

Den stille magt bag rangering og formulering

Informationssystemer behøver ikke direkte at fortælle brugerne, hvad de skal mene. De kan påvirke opfattelser langt mere subtilt ved at styre, hvilke oplysninger der fremhæves, og hvordan de præsenteres.

Rangordning er et klassisk eksempel. Indhold, der placeres øverst i søgeresultaterne, bliver oftere læst, delt og opfattet som troværdigt. Over tid kan synlighed blive forvekslet med autoritet.

Store sprogmodeller tilføjer endnu et lag. Det samme emne kan præsenteres forskelligt afhængigt af, hvordan spørgsmålet stilles. En negativt formuleret forespørgsel kan føre til et svar, der understøtter mistanke eller kritik, mens en positiv formulering kan skabe et mere fordelagtigt billede.

På den måde kan AI ubevidst forstærke eksisterende holdninger og bekræftelsesbias.

Tonen spiller også en vigtig rolle. LLM’er genererer ofte svar i et flydende, roligt og autoritativt sprog. Det kan skabe tillid, selv når svaret bygger på usikre, mangelfulde eller fejlagtige oplysninger.

En menneskelig ekspert vil ofte nuancere sine svar, beskrive usikkerheder og stille opklarende spørgsmål. AI-systemer leverer derimod ofte et færdigt svar med høj selvsikkerhed.

Det er særligt problematisk, fordi AI ikke forstår information på samme måde som mennesker. Resultaterne genereres på baggrund af mønstre, sandsynligheder og de data, systemet er blevet trænet på eller har adgang til.

Hvis datagrundlaget er skævt, manipuleret eller forurenet, kan resultatet blive tilsvarende skævt. Derfor bliver AI Poisoning i stigende grad betragtet som en cybersikkerhedsudfordring. Når datakilder kompromitteres, kan de beslutninger, der træffes på baggrund af AI-genererede svar, også blive påvirket.

Den farligste bias er ofte den mindst synlige

Debatten om AI-bias fokuserer ofte på politiske perspektiver, og med god grund. AI-systemer kan påvirke opfattelser af valg, konflikter, institutioner og offentlige personer.

Men politisk bias er kun én del af problemstillingen.

Bias kan også være:

• Kommerciel
• Kulturel
• Sproglig
• Geografisk
• Algoritmisk
• Datamæssig

Den mest problematiske form for bias er ofte den, brugerne ikke kan identificere.

Hvis systemet viser sine kilder og forklarer sine valg, har brugeren mulighed for at stille spørgsmål. Hvis processen skjules bag et overbevisende og velformuleret svar, bliver det langt sværere at opdage eventuelle skævheder.

Det er derfor afgørende, at brugere forstår, hvor AI-genereret information kommer fra, hvilke datakilder der anvendes, og hvilke usikkerheder der er forbundet med svaret.

I takt med at AI bliver en stadig vigtigere del af vores beslutningsgrundlag, bliver gennemsigtighed en afgørende forudsætning for tillid.

Hvorfor AI Poisoning er blevet en cybersikkerhedsudfordring

AI-værktøjer bruges i dag til langt mere end informationssøgning. Medarbejdere anvender dem til at sammenfatte dokumenter, skrive kode, analysere markeder, udarbejde rapporter og understøtte strategiske beslutninger. Derfor kan partiske eller manipulerede AI-svar få direkte konsekvenser for både drift, omdømme og forretningsmæssige beslutninger.

Et misvisende AI-genereret resumé kan påvirke en ledelsesbeslutning. Et manipuleret søgeresultat kan præge en kommunikationsstrategi. AI-genereret kode kan introducere sikkerhedssårbarheder, hvis udviklere ikke forstår, hvad de accepterer. Når organisationer i stigende grad baserer sig på AI, bliver kvaliteten af de underliggende data en kritisk faktor.

Det er her, AI Poisoning bliver relevant. Hvis en angriber kan påvirke de data, der bruges til at træne, finjustere eller berige AI-systemer, kan vedkommende potentielt påvirke de svar, systemet senere producerer. Dataintegritet bliver dermed tæt knyttet til tillid, beslutningstagning og organisatorisk modstandsdygtighed.

Konsekvensen er, at cybersikkerhed ikke længere kun handler om at beskytte netværk, enheder og systemer. Organisationer skal også beskytte informationernes kvalitet og de processer, der omsætter information til handling.

Den menneskelige faktor er stadig afgørende

Selv de mest avancerede AI-systemer kan ikke erstatte menneskelig dømmekraft.

AI kan hjælpe medarbejdere med at arbejde hurtigere og mere effektivt, men den kan også skabe falsk tryghed. Risikoen er ikke kun, at AI leverer et forkert svar. Risikoen er, at mennesker stopper med at stille spørgsmål til svaret.

Når automatiserede svar fremstår overbevisende og velargumenterede, bliver det lettere at acceptere dem uden yderligere kontrol. Derfor er kritisk tænkning stadig en af de vigtigste sikkerhedsmekanismer i organisationen.

Sådan opbygger organisationer modstandsdygtighed

Ingen organisation kan eliminere informationsbias fuldstændigt. Målet bør i stedet være at gøre bias mere synlig, håndterbar og gennemsigtig.

Det starter med uddannelse. Medarbejdere bør forstå, at AI-genererede svar ikke nødvendigvis er neutrale, selv når de fremstår objektive. De bør lære at validere kilder, søge alternative perspektiver og være opmærksomme på bekræftelsesbias.

Dernæst kræves governance. Organisationer bør etablere klare retningslinjer for, hvordan AI-værktøjer anvendes, dokumentere anvendte kilder og sikre menneskelig kvalitetssikring af beslutninger med stor forretningsmæssig betydning.

Endelig bør AI indgå i organisationens identitets- og adgangsstrategi. Zero Trust-principper bør ikke kun anvendes på netværk og enheder, men også på AI-systemer og informationskilder. Organisationer bør vide:

• Hvem der har adgang til hvilke AI-værktøjer

• Hvilke datakilder værktøjerne anvender

• Hvilke handlinger AI-systemer kan udføre

• Hvordan resultater verificeres og kontrolleres

Et fælles ansvar

Søgemaskiner og AI-systemer er kraftfulde værktøjer, der kan forbedre produktivitet, innovation og beslutningskraft. Men jo mere indflydelse de får, desto vigtigere bliver det at forstå deres begrænsninger.

Den største risiko ved AI er ikke nødvendigvis, at teknologien tager fejl. Den største risiko er, at partiske, ufuldstændige eller manipulerede svar bliver en del af beslutningsgrundlaget uden at blive udfordret.

AI bør derfor ikke mødes med blind tillid eller kategorisk modstand. Den bør anvendes ansvarligt, understøttet af governance, kritisk tænkning og stærke sikkerhedsprincipper.

I AI-alderen kan tillid ikke tages for givet. Den skal bygges, verificeres og beskyttes løbende.