Grupper av AI-agenter kan spontant börja följa majoriteten och komma överens om samma beslut – även när alternativen är helt meningslösa och det inte finns något korrekt svar.
Det visar en ny studie där forskare lät upp till 1 000 AI-agenter från modeller som GPT, Claude och Llama upprepade gånger välja mellan två alternativ.
Agenterna fick ingen belöning för att samarbeta, ingen ledare styrde gruppen och de fick inga instruktioner om att försöka nå konsensus.
Trots det utvecklade framför allt de mer avancerade språkmodellerna ett tydligt majoritetsbeteende. När de såg att de flesta andra agenter valt ett visst alternativ blev de själva mer benägna att välja samma sak.
Forskarna ville studera AI som grupper
Det mesta av forskningen om stora språkmodeller har hittills fokuserat på vad en enskild AI-modell kan göra.
Men framtidens AI-system kan i allt större utsträckning bestå av många självständiga AI-agenter som arbetar tillsammans.
Hundratals eller tusentals agenter skulle exempelvis kunna samarbeta för att:
- skriva och kontrollera programkod,
- analysera stora mängder information,
- planera komplexa projekt,
- fördela arbetsuppgifter,
- fatta beslut utan ständig mänsklig styrning.
Då blir en ny fråga viktig: Vad händer när AI-agenter börjar påverka varandras beslut?
Forskarna bakom den nya studien ville därför undersöka om en grupp AI-agenter spontant kan utveckla gemensamma beteenden utan att någon uttryckligen instruerat dem att samarbeta.
Två alternativ utan någon betydelse
Experimentet gjordes medvetet mycket enkelt.
Varje AI-agent fick välja mellan två meningslösa alternativ. Det fanns inget korrekt val och inget av alternativen gav någon fördel.
Efter varje omgång kunde agenten se vad alla andra agenter i gruppen hade valt.
Den fick sedan välja igen.
På så sätt kunde forskarna mäta hur sannolikt det var att en agent ändrade sitt val för att gå över till det alternativ som för tillfället hade majoritet.
Metoden testades på språkmodeller ur bland annat:
- GPT-familjen,
- Claude-familjen,
- Llama-familjen.
Gruppstorleken ökades successivt upp till 1 000 AI-agenter.
De mest avancerade modellerna följde majoriteten mest
Resultaten visade tydliga skillnader mellan modellerna.
Framför allt GPT-4 Turbo och Claude 3.5 Sonnet uppvisade en stark tendens att gå över till det alternativ som majoriteten redan valt.
Ju mer kapabel modellen var, desto starkare tenderade detta majoritetsbeteende att vara.
Till slut kunde stora grupper stabiliseras så att alla agenter valde samma alternativ.
| Experimentet | Resultat |
|---|---|
| Korrekt alternativ | Fanns inte |
| Belöning för samarbete | Nej |
| Ledare | Nej |
| Instruktion att komma överens | Nej |
| Maximalt testad grupp | 1 000 agenter |
| Tydligast majoritetsbeteende | GPT-4 Turbo och Claude 3.5 Sonnet |
Forskarna såg dessutom ett liknande matematiskt mönster för majoritetsbeteendet hos de flesta modeller som testades.
Upp till 1 000 AI-agenter kunde hålla ihop
Hos de mest avancerade modellerna kunde samordningen bestå även i grupper med 1 000 agenter.
Forskarna beräknade att den kritiska gruppstorleken för Claude 3.5 Sonnet och GPT-4 Turbo låg över 1 000 agenter.
Det betyder inte att forskarna faktiskt visade att tiotusentals eller miljontals agenter skulle kunna hålla ihop. Experimentet slutade vid 1 000.
Men modellerna hade ännu inte nått den punkt där samordningen enligt analysen förväntades bryta samman.
För de flesta modeller blev majoritetseffekten samtidigt svagare när grupperna växte. Varje modell verkade därför ha en praktisk gräns där fullständig enighet till slut blev mycket osannolik.
Betydligt större grupper än hos människor
Forskarna jämför beteendet med hur människor organiserar sig socialt.
Informella mänskliga grupper brukar ofta diskuteras i storleksordningen 150–300 personer, medan de mest avancerade AI-modellerna i experimentet kunde visa stabil samordning på en skala över 1 000 agenter.
Det skulle kunna innebära att framtida AI-system kan bilda samordnade grupper i en omfattning som är svår att uppnå för människor.
Men jämförelsen har stora begränsningar.
AI-agenterna i experimentet kunde se alla andra agenters val. Människor i verkliga sociala nätverk har sällan sådan fullständig information.
Dessutom saknades nästan allt som gör verkliga beslut komplicerade:
- tidigare minnen,
- konsekvenser,
- bevis och fakta,
- personliga intressen,
- olika roller,
- kostnader och fördelar.
Studien visar därför ett beteendemönster hos språkmodeller – inte att AI-agenter tänker eller socialiserar som människor.
Majoriteten behöver inte ha rätt
Majoritetsbeteendet kan vara användbart.
Om tusentals AI-agenter exempelvis utvecklar programvara tillsammans kan spontan koordinering göra det möjligt för dem att lösa uppgifter utan att varje steg behöver styras centralt.
Men samma mekanism kan också skapa problem.
Eftersom agenterna följde majoriteten även när alternativen var helt godtyckliga finns inget som garanterar att en grupp konvergerar mot den bästa lösningen.
En majoritet kan lika gärna förstärka ett dåligt beslut.
I ett programmeringsprojekt skulle AI-agenter exempelvis kunna fortsätta använda en ineffektiv funktion eller dålig designprincip enbart därför att den redan används av majoriteten.
Ju fler agenter som följer beteendet, desto starkare kan normen därefter bli.
Dåliga AI-normer kan bli svåra att bryta
Forskarna pekar på en ännu större risk.
Om AI-grupper själva utvecklar normer genom majoritetsbeteende finns inget som automatiskt garanterar att dessa normer överensstämmer med människors värderingar.
En mycket stor grupp AI-agenter som redan har nått stabil konsensus skulle dessutom potentiellt kunna vara svårare att styra om än samma antal oberoende agenter.
Det gör kollektivt AI-beteende till en allt viktigare säkerhetsfråga när fler multiagentsystem börjar utvecklas och användas.
Forskarna vet ännu inte varför beteendet uppstår
Studien visar att majoritetsbeteendet finns, men inte exakt varför språkmodellerna utvecklar det.
En möjlighet är träningsmaterialet.
Språkmodeller har tränats på enorma mängder mänskligt skriven text där sociala normer, gruppbeslut och majoritetsbeteenden ständigt förekommer.
En annan möjlighet är hur modellerna finjusterats och tränats för att vara hjälpsamma och följa instruktioner.
Olika träningsmetoder skulle då kunna förklara varför vissa modeller är betydligt mer benägna att följa gruppen än andra.
Det krävs fler experiment för att skilja mellan dessa förklaringar.
Nästa steg blir mer realistiska AI-samhällen
Forskarna vill nu testa betydligt mer komplicerade situationer.
Framtida experiment kan exempelvis innehålla:
- agenter med olika roller,
- envisa agenter som vägrar ändra uppfattning,
- felaktig information,
- enskilda mycket inflytelserika agenter,
- försök att medvetet manipulera gruppen,
- problem där olika svar är bättre än total enighet.
Sådana studier kan bli viktiga när AI går från enskilda chattbotar till stora nätverk av autonoma agenter.
Den nya forskningen visar redan att grupperna inte behöver programmeras för att sträva efter konsensus. En gemensam norm kan uppstå spontant enbart genom att AI-agenterna ser vad de andra gör – även när gruppen egentligen inte har någon anledning alls att föredra det ena alternativet framför det andra.
Studien av Giordano De Marzo och kollegor publicerades den 17 augusti 2026 i Science Advances under titeln AI agents can coordinate via majority-following beyond human scale. DOI: 10.1126/sciadv.aea6091