Skremmer folk med vilje

Foto: Hans Jørn Storgaard Andersen/CC BY-SA 3.0,Richard Bartz/motparten

Tekst: Atle David Torkildsen

Dato: 07.10.26

"De skremmer folk for å drive opp verdien" er gjennomgangsmelodien til kritikerne som nå mener at AI-gigantene har gått for langt med sin spekulative markedsføring. At man hauser opp en kommende børsnotering med slik skremselspropaganda er lite seriøst og tillitsvekkende.

Får kritikk

En av dem som har kritisert Ai-dynastiet er FN-rådgiveren Dame Wendy Hall. Hun er en av ekspertene på informatikk som gir råd til FN om kunstig intelligens. Hun har blant annet til det britiske BBC fortalt at hun er "sjokkert" over at Hubinger og Coxon, på vegne av gigantene Anthropic og OpenAI, har laget skremmepropaganda på sosiale medier. Samme Hall har også latt seg intervjue på radio. Til World at One på BBC Radio Four presiserte hun at det er snakk om det hun mener er bare "PR og markedsføring". Også hun viser til at Anthropic og OpenAI har kommende børsdebut for selskapene.

Overdrevet

Mange mennesker har fått med seg at store mediehus har slått stort opp at AI-gigantene selv advarer mot scener man best kjenner igjen fra filmer som Terminator, der maskinene utsletter menneskene og tar over jorden. For de fleste høres det skremmende ut når forskere og vitenskapsmenn hos AI-gigantene kommer med uttalelser om at det er "ti prosent sjanse for at maskinene snart vil utslette alle mennesker". Ifølge FN-eksperten er det altså ikke så skremmende som AI-gigantene hevder at det er. Det knytter seg større spenning til hvordan det går med børsnoteringen.

Kan det være at pressen har blirr slått av noen som er smartere og som vet hvilke knapper de skal trykke på for å få gratis markedsføring? Det mener i hvert fall mange av kritikerne.

CLAUDE

Folk har for lengst fått med seg at det finnes en mengde AI-verktøy. Et av dem er Anthropics "Claude". Det er en chatbot som kan like mye som de andre, enten det er å tolke et bilde eller å hjelpe deg med et filosofisk spørsmål. Trenger du hjelp til koding eller et matematisk problem, fikser den det også, men foreløpig ser det absolutt ikke ut som den har tenkt å drepe deg. Takk og lov for det.

10 prosenti

En topp sikkerhetsforsker ved Anthropic har advart om at AI utvikler seg så raskt at han tror det er mer enn 10 prosent sjanse for at den «kan drepe alle mennesker» i løpet av det neste tiåret. Når Anthropics egen sikkerhetsforsker Evan Hubinger skriver i et innlegg på X at risikoen fra modellene som finnes i dag er lav, hjelper det lite at han også legger til at han er bekymret for at teknologien snart vil utgjøre en eksistensiell risiko for menneskeheten. Det vl si å drepe deg, din familie og alle andre på jorden.

Kanskje er det motsatt? At AI-programmene har skuffet så mye at selskapene som utviklet dem nå leter desperat etter noe som kan hause opp verdien igjen.

Kappløp

Nå er ikke Hubinger den eneste som kommer med slik skremselspropaganda. Tvert imot. Han er bare den siste i en lang rekke som leder an i kappløpet om å gjøre en fremtidig trussel fra maskinene mer aktuell. Hubinger svarte på et innlegg på X fra Jacob Coxon. Han sluttet akkurat i Anthropic, og har skrevet at "ingen av selskapene opptrer ansvarlig".

Omtalen selskapene har skaffet seg ved å skremme folk er verdt millioner av dollar. Nå krever mange at selskapene skal levere dokumentasjon og gi pressen bedre innsyn. Det kommer ikke til å skje. Selskapene ruger godt på sine hemmeligheter, men dette er nettopp problemet.

Hauset opp

Nå har denne saken kommet så langt at Darren Jones, tidligere finansminister og sjefssekretær for Sir Keir Starmer, har skrevet et åpent brev til statsminister Andy Burnham om den potensielle AI-trusselen. Han går så langt som å be om en ny multinasjonal traktat som skal sørge for sikker utvikling av AI. Coxon er av den oppfatning at myndighetene må ta mer alvorlig på advarslene om at det lurer en morderisk AI-bot hvert gatehjørne. FN-eksperten er altså ikke enig. Hun mener Ai-firmaene bare bruker slike argumenter for å hause opp verdien før de går på børs.

Ikke dommedag

Mange mennesker ble også skremt da Financial Times skrev at Anthropic holdt tilbake sin nyeste modell, men Anthropic har nektet å kommentere saken. Det kan like gjerne være problemer med modellen eller at de også har andre økonomiske føringer for å utsette lanseringen. Storbritannias AI Security Institute (AISI), er et av verdens ledende organer for vurdering av AI-risiko. Så vidt motparten vet, har aldri instituttet kommet med noen som helst dommedagsanalyse slik de som produserer AI-modellene nå har gjort. Dette står i grell kontrast til det Anthropic har gjort, der blant annet Hubingers innlegg har blitt lest ti millioner ganger. Det er ikke så rart. Han uttaler at "vi tror virkelig" at AI utgjør en artsutryddende risiko". Og arten han snakker om er ikke maur, men mennesker.

Med vilje

Det er i dag også mistanke om at alle sakene med AI-boter på rømmen som gjør innbrudd i hytt og gevær er iscenesatt av AI-gigantene selv som en del av en større markedsføringstaktikk. Det er noe som heter at all reklame er god reklame, og her har man i sannhet fått mye for veldig lite penger. Både OpenAI, Meta og Anthropic har "lekket" at de har opplevd at deres egne AI-verktøy har rømt for å utføre hackerangrep på andre. Nå mistenkes selskapene for å ha gjort dette med vilje.

Risiko

Den nye bølgen med rene krimhistorier som på mystisk vis blir lekket fra selskaper som ellers er nesten umulige å få kommentarer fra, begynner å bli mistenkelig lang. Anthropic skriver i sin egen sikkerhetsrapport fra august at det er risiko for at modellene deres kan samarbeide eller tenke som en hypotetisk mektig organisasjon. Dette kan ifølge rapporten føre til at den "tukler" med systemene sine, hva nå Anthropic mener med dette. Det står ikke at det er verken grev Doku eller Putin AI den plutselig skal begynne å arbeide for.

Ta det med ro

Alle advarslene om at AI-bedriftene ikke kan hanskes med egen programvare må tas med en klype salt. Det er fort gjort at pressen i sin iver etter å skrive spennende historier blir et nyttig redskap i et større politisk og økonomisk spill. Inntil det dukker opp bevis på at bedrifter virkelig sliter med å kontrollere AI-programmene, kan myndighetene ta det med ro, men det er det motsatte som skjer når OpenAIs sjefsforsker Jakub Pachocki maner til "ekstrem forsiktighet" og advarer om behovet for å sikre at "mennesker forblir i kontroll i fremtiden".

Konkurranse

Når Anthropic-sjefene Dario Amodei og Jared Kaplan ber om brems i utviklingen av kunstig intelligens, inkluderer de neppe seg selv. De er i konkurranse med land som Kina der de neppe har tenkt å bremse opp noe som helst. Hvis man kaller en spade for en spade, forstår alle at det derfor ikke kommer noen brems i USA heller.