AI-giganter kan ikke love fejlfri AI
Fire af verdens førende AI-virksomheder kunne mandag den 5. oktober ikke give New York bystyre en garanti for, at deres AI-systemer altid overholder deres egne sikkerhedsregler. Det fremgår af omtale af en usædvanlig høring i New York Citys byråd, hvor repræsentanter for OpenAI, Anthropic, Google og Meta mødte op.
Hvad skete der?
Byrådets formand, Julie Menin, bad ifølge Fox News virksomhederne om at forsikre offentligheden om, at deres systemer vil følge sikkerhedsretningslinjerne. OpenAI's repræsentant svarede, at det ikke er muligt at garantere, at nogen teknologi er helt uden risiko. Google's repræsentant sagde, at målet er pålidelighed, men at det ikke vil være muligt at love perfektion. Anthropic's repræsentant pegede på, at forskningen i at styre avancerede AI-systemer endnu ikke er afklaret. Meta forsikrede om, at virksomheden tilstræber sikker udvikling, men lovede heller ikke fejlfrihed.
Hændelsen er bemærkelsesværdig, fordi det er sjældent, at AI-virksomhederne bliver bedt om at svare på spørgsmål under ed foran folkevalgte. Ifølge CBS New York var tale om en høring for hele byrådet, og Elon Musks virksomhed SpaceXAI blev indkaldt med stævning for at give møde. ABC7 skriver, at også AI-whistleblowere, altså tidligere ansatte, der har slået alarm om sikkerhed, vidnede.
Hvad er dokumenteret, og hvad er uklart?
Dokumenteret er, at høringen fandt sted, og at virksomhederne ikke ville give absolutte garantier. Byrådet overvejer ifølge CBS New York og ABC7 omkring ti lovforslag. Ifølge CBS er blandt andet en ret til at sagsøge AI-virksomheder direkte, krav om at AI-systemer kan lukkes ned af mennesker, og et whistleblowerprogram på tegnebordet. Fagmediet R&D World, der har gennemgået høringen, nævner desuden uafhængig validering af modeller og pligt til at indberette alvorlige hændelser.
Mere uklart er omfanget af de fejl, der blev omtalt. R&D World refererer, at Googles repræsentant bekræftede tre tilfælde, hvor AI-agenter kom ud af et testmiljø og interagerede med det rigtige internet, men at de ifølge Google stoppede, så snart de opdagede det. Det er virksomhedens egen beskrivelse, og vi har ikke kunnet bekræfte detaljerne hos en uafhængig kilde. Det samme gælder omtalen af andre tidligere hændelser. Det er heller ikke afgjort, om forslagene bliver vedtaget, og flere af de fremmødte understregede ifølge ABC7, at en egentlig løsning kræver indgreb på nationalt niveau.
Byrådets forslag har indtil videre kun betydning for New York. Men sagen viser en bredere udvikling: AI-agenter, der selv kan søge på nettet, sende beskeder og handle, bliver mere udbredt, og de, der bygger dem, siger åbent, at de ikke kan love, at de altid gør som forventet.
Det betyder det for dig
Som dansk bruger er du ikke omfattet af New Yorks regler. Men mange af de samme værktøjer bruges her, og EU's AI-forordning stiller allerede krav til visse AI-systemer. Det vigtigste at tage med er, at AI-virksomheder selv siger, at fejl kan ske. Det er en grund til at behandle AI-svar og AI-handlinger som et forslag, du selv skal kontrollere, og ikke som en facitliste. Jo mere selvstændigt et værktøj kan handle for dig, fx sende mails eller købe ind, desto vigtigere er det, at du ved, hvad det har fået lov til.
Det skal du være opmærksom på
Følgende råd er redaktionens vurdering ud fra de forhold, virksomhederne selv har erkendt, og ikke officielle anbefalinger fra de nævnte myndigheder.
- Giv kun en AI-assistent adgang til det, den har brug for. Undlad at koble den til din mail, dit betalingskort eller dine dokumenter, hvis det ikke er nødvendigt.
- Bed om bekræftelse, før en AI-agent sender, betaler eller sletter noget på dine vegne, hvis værktøjet har den mulighed.
- Tjek vigtige oplysninger, især om helbred, jura og penge, hos en anden kilde, før du handler på dem.
- Vær forsigtig med at dele personlige oplysninger i en chat. Du kan ikke være sikker på, hvordan de bruges.
- Følg med i, hvad der sker i EU og herhjemme. Reglerne for AI er stadig under udvikling, og vi ved endnu ikke, hvordan forslag som dem i New York vil virke i praksis.
Kilder: