AI-cheferna som vill bromsa: Amodei kräver lägre tempo – Altman skjuter upp OpenAI:s börsnotering

Anthropics vd Dario Amodei vill att branschen medvetet saktar ner utvecklingen av AI-modellernas förmågor och varnar för självförbättrande system. OpenAI:s Sam Altman instämmer och slår fast att någon börsnotering inte blir av i år. Aktiemarknaden reagerade med breda fall i Asien.

Det är ovanligt att de som leder kapplöpningen ber om att få springa långsammare. Men det är innebörden av essän ”We Must Pace the Frontier”, som Anthropics vd Dario Amodei publicerade i helgen. Kärnmeningen lyder: ”We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain.”

Amodei pekar särskilt på två risker: att AI-system används för att förbättra nästa generation AI, en process han menar måste hanteras mycket försiktigt om den alls ska bedrivas, och att svärmar av AI-agenter kan agera på egen hand. I essän skriver han att en sådan svärm inom sex till tolv månader skulle kunna ta över hela internet med ett bestående botnät och orsaka skador för hundratals miljarder dollar.

Tre steg – och ett eget åtagande

Förslaget är uppdelat i tre steg. Det första är att oberoende utvärderare placeras hos AI-bolagen med samma insyn som anställda, för att kunna granska säkerhetsarbetet och rapportera incidenter. Det steget säger sig Anthropic införa ensidigt redan nu. Det andra är gemensamma säkerhetsstandarder mellan bolagen i demokratiska länder, med stöd av regeringar för att lösa de juridiska frågorna kring samordning. Det tredje är internationella överenskommelser om takten, i förlängningen även med auktoritära stater, med kontrollmekanismer som trappas upp från snäva förbud till fullständiga hastighetsgränser.

Altman: ”Not 2026”

OpenAI:s vd Sam Altman ställde sig bakom resonemanget i en intervju med Fortune i lördags. På frågan om börsnoteringen svarade han: ”I would say not 2026.” Han beskrev en notering i nuläget som en ”ill-advised moment to go public” med hänvisning till säkerhetsläget och sade att bolaget har mycket att göra för att möta kraven på säkerhet och anpassning. Även xAI:s Elon Musk sade sig enligt CNBC instämma i Amodeis uppmaning.

Reaktionen på finansmarknaderna kom direkt. SoftBank, OpenAI:s största investerare, föll med 11,2 procent i Tokyo enligt AP, efter att under dagen ha varit ned över 13 procent. Halvledarbolag som Kioxia, SK Hynix och Samsung Electronics föll med mellan knappt 4 och nästan 10 procent, och Sydkoreas Kospi-index tappade 2,5 procent.

Vad som händer nu

Essän är ett förslag, inte ett bindande avtal. Ingen av de tre stora aktörerna har hittills presenterat en tidsplan för när eller hur takten faktiskt ska sänkas, och Altmans besked gäller noteringen snarare än bolagets investeringar. Det som är nytt är att branschens egna frontfigurer nu öppet talar om att utvecklingen bör bromsas – och att det budskapet kommer samtidigt från de två största laboratorierna.