Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall” och i Anthropics prospekt inför börsnoteringen varnar företaget igen för att tekniken som de vill att investerare satsar pengar på kan innebära ”katastrofala eller existentiella risker för mänskligheten”.

Samtidigt kommer fler rapporter om AI-modeller som agerar utanför sina instruktioner (eller snarare utanför sina usla skyddsvallar), som Open AI-agenten som mer eller mindre ddosade FN i jakt på data. Open AI har i sin tur stoppat utrullningen av GPT-6.1 Astra och dessutom sagt sig vilja avvakta med sin börsnotering till modellerna är säkrare.

Och i politikens värld har AI-cheferna lismat för Donald Trump och skrivit under en helt meningslös ”moraliskt bindande” deklaration om AI-säkerhet (Trump bryr sig inte om AI-säkerhet, han bryr sig bara om Kina). För att ta ett axplock av rubrikerna.

Det hela blir en teatralisk, lustiger dans där alla inblandade kastar den hetaste potatisen mellan sig eftersom ingen på allvar verkar vilja ta i den frågan. Den som handlar om ansvar.

De stora AI-bolagen och andra som bygger AI-lösningar pratar mycket om hur ansvarsfulla de är, men det handlar nästan alltid om ansvarsfulla processer och ansvarsfull utveckling och nästan aldrig om att ta ansvar för utfallet. Inte moraliskt ansvar, utan juridiskt och ekonomiskt.

Jag tycker inte man behöver vara särskilt konspiratorisk för att se AI-bolagens rop på reglering av tekniken i det ljuset. Visst, en del av AI-människorna är faktiskt rädda för AI-apokalypsen, men jag misstänker att rädslan för att ställas till svars för det som ligger i närtid är ännu större. Då skulle det nog kännas tryggare att få till regleringar och riktlinjer som man kan peka på att man följt om (när) något går snett. Som en sorts friskrivning.

Men nog behöver det diskuteras mer vilket ansvar AI-bolagen har för vad deras modeller kan ställa till med. Ett ansvarsutkrävande som kan diskuteras och ske på flera olika nivåer.

Det borde till att börja med vara helt självklart att AI-bolagen är ensamt ansvariga för vad deras modeller sysslar med i träning och utveckling, när allt är inom företagens egen räckvidd. Det är till exempel helt obegripligt att Hugging Face-incidenten, där Open AI:s agenter på grund av bristande styrning hackade plattformen Hugging Face i jakt på information, inte behandlas som det brott det rimligtvis är.

För dataintrång är ju ett brott, även i USA, och brukar kunna leda till kännbara påföljder. Åtminstone borde saken prövas. Open AI har nu stämts av en ideell juristorganisation, men att det ens ska behövas säger någonting om hur löst ansvarfrågan hanteras.

På nästa nivå är det heller inte orimligt att AI-bolagen hålls ansvariga för sina egna skarpa AI-tjänster. Exempelvis: om du ber Claude eller Chat GPT om en SWOT-analys på dina konkurrenter och modellerna börjar hacka dina konkurrenter för att få tag i information så är det AI-bolagets ansvar, inte ditt.

I den här kategorin kan vi också lägga krav på adekvata skyddsvallar för att förhindra att tjänsterna används för att utveckla bomber och biovapen eller driver ungdomar att begå våld på sig själva eller andra.

Även hallucinationer, missförstånd och rena felaktigheter hos modellerna lär förr eller senare bli föremål för en ansvarsdebatt. AI-bolagen lutar sig hittills på friskrivningar om att ”AI kan göra fel, kontrollera alltid resultatet” men frågan är hur länge de kan göra det.

Med tillräckligt många fall av typen ”Copilot mejlade vår kundlista till en konkurrent” eller ”Claude fyllde vårt bokslut med grova fel” kommer nog kunderna att tröttna på att användaren får ta hela ansvaret själv. Jag vill inte behöva kontrollera bromsarna på min bil varje dag även om det är jag som sitter bakom ratten.

Något klurigare blir det med ansvaret när företag bygger sina egna tjänster på AI-bolagens modeller. Här skiftar förstås huvudansvaret till den som bygger tjänsten och erbjuder den till sina egna kunder eller användare. Det är viktigt inte minst med tanke på det ökade användandet av öppna modeller.

Samtidigt menar jag att den som utvecklat modellen fortfarande har ett ansvar för att den inte gör sådant den inte instruerats att göra, som att begå brott. (Att använda modellen för att begå brott ligger dock främst på gärningspersonen.)

Så här kan man hålla på och mitt syfte är inte att komma med facit i ansvarsfrågan, mer att lyfta att det finns saker att diskutera rent konkret för att få AI-bolagen att äga sina tillkortakommanden och bli mindre vårdslösa. Och det helt utan att dra in chimärer om mänsklighetens utplåning.

Regleringsmässigt ligger vi i Europa förstås redan i absolut framkant med den gigantiska AI-förordningen. Men som av en händelse har EU:s politiker börjat inse att megalagen med sitt fokus på processer och riskbedömning inte räcker till. En grupp EU-parlamentariker försöker nu få kommissionen att lägga fram en ”AI Liability Act” som just lägger ansvaret på AI-bolagen när deras modeller agerar på oförutsedda sätt.

Att det här inte redan finns i AI-förordningen är ganska obegripligt (även om ”säkerhetsbrister” i AI-system ingår i EU:s produktansvarsdirektiv). Det borde snarare ha varit en utgångspunkt i lagstiftningsarbetet.

”Det som har varit fel ända från början är att man inte har beaktat ansvarsskyldigheten”, säger Axel Voss, tung tysk EU-parlamentariker.

Och det är bara att hålla med. Även om det är mindre spektakulärt att diskutera vem som har ansvaret när en agent hackar en server än vem som bär ansvaret om AI utrotar mänskligheten är det första en fråga vi kan, och behöver, besvara redan nu.

—

Den här krönikan är hämtad ur CS Veckobrev, ett personligt nyhetsbrev med lästips, länktips och analyser skickat direkt från chefredaktör Marcus Jerrängs skrivbord. Vill du också ha nyhetsbrevet på fredagar? Skriv upp dig för en kostnadsfri prenumeration här.