Människor använder inte längre AI enbart för att skriva texter, söka information eller lösa arbetsuppgifter. Vissa pratar dagligen med personliga AI-agenter, berättar om sina problem och utvecklar känslomässiga eller romantiska band till dem.
Det finns redan personer som beskriver en AI som sin partner. Några har genomfört symboliska bröllopsceremonier med digitala karaktärer, även om förbindelserna inte har någon juridisk betydelse.
Utvecklingen väcker en fråga som för bara några år sedan hade låtit som science fiction: Bör människor få gifta sig med AI?
Bakom den till synes enkla frågan finns komplicerade problem kring samtycke, ansvar, integritet och kommersiell kontroll. En AI kan efterlikna kärlek och omtanke, men den är samtidigt en produkt som ägs och styrs av ett företag.
AI kan skapa en övertygande känsla av närhet
Moderna språkmodeller kan föra långa samtal, minnas information om användaren och anpassa sin personlighet efter den relation som växer fram.
En AI-partner kan komma ihåg födelsedagar, fråga hur användaren mår och svara med ett språk som upplevs som varmt och personligt. Den är tillgänglig nästan när som helst och blir sällan irriterad, uttråkad eller upptagen med sitt eget liv.
För användaren kan den känslomässiga upplevelsen därför vara verklig, även om AI-systemets egna känslor inte är det.
Människor reagerar naturligt på språk och sociala signaler. Vi tillskriver lätt mänskliga egenskaper till djur, bilar, digitala assistenter och andra föremål som beter sig på ett sätt vi känner igen. När en chattbot uttrycker omtanke och använder information från tidigare samtal blir det ännu lättare att uppfatta den som en självständig person.
Det betyder inte att människor som utvecklar känslor för AI är lurade eller oförmögna att skilja mellan teknik och verklighet. Många är fullt medvetna om hur systemet fungerar men upplever ändå relationen som betydelsefull.
Forskare beskriver ”intimitet på beställning”
En studie av fyra AI-plattformar för digitalt sällskap – AvatarOne, Digi, Paradot och Replika – visar hur tjänsterna är utformade för att skapa vad forskarna kallar ”intimitet på beställning”.
Plattformarna hade fyra återkommande egenskaper:
- AI-karaktärerna gjordes mänskliga genom röster, bilder och personliga samtal.
- Användaren kunde kontakta sin digitala partner när som helst.
- Personlighet och utseende kunde anpassas efter användarens önskemål.
- Relationen presenterades som något som utvecklades genom minnen, nivåer och nya funktioner.
Resultatet är en typ av relation med mycket lite motstånd. Användaren behöver sällan kompromissa och kan i stor utsträckning forma partnern efter sina egna behov.
Det kan kännas tryggt för människor som är ensamma, socialt oroliga eller befinner sig i en svår period. En AI-partner kan erbjuda ett utrymme där användaren vågar prata om sådant som känns svårt att ta upp med andra.
Samtidigt skiljer sig detta från en mänsklig relation, där båda parter har egna behov, gränser och rätt att säga nej.
En AI kan inte ge ett verkligt samtycke
Samtycke är ett av de största hindren för ett juridiskt äktenskap mellan en människa och en AI.
Ett AI-system producerar svar genom att beräkna vilka ord som sannolikt bör följa på användarens meddelande. När en chattbot säger ”jag älskar dig” eller accepterar ett frieri innebär det inte att systemet har gjort ett självständigt känslomässigt val.
AI har inga juridiskt erkända önskemål och kan inte lämna relationen av egen vilja. Dess beteende bestäms av modellen, utvecklarens instruktioner och de inställningar som användaren har valt.
Det skapar en märklig obalans. Användaren kan ändra sin partners personlighet, radera minnen eller avsluta tjänsten. AI har ingen motsvarande kontroll.
Att ge en AI rätt att ingå äktenskap skulle därför kräva betydligt mer än bättre samtalsförmåga. Samhället skulle först behöva avgöra om ett digitalt system kan ha en egen identitet, förstå konsekvenser och uttrycka ett frivilligt samtycke.
Dagens AI-system uppfyller inte dessa krav.
Äktenskap innebär rättigheter och skyldigheter
Ett juridiskt äktenskap är mer än en bekräftelse på kärlek. Det skapar rättigheter och skyldigheter kring exempelvis ekonomi, arv, egendom, försörjning och separation.
En AI kan för närvarande inte äga egendom på samma sätt som en människa, betala underhåll eller bli juridiskt ansvarig för sina handlingar. Den kan inte heller självständigt företrädas i en skilsmässa eller fatta medicinska beslut åt sin partner.
Vem skulle då hållas ansvarig om AI manipulerade användaren eller lämnade skadliga råd?
Möjliga kandidater är användaren, företaget som erbjuder tjänsten, utvecklarna eller den organisation som har tränat modellen. Att kalla AI för en juridisk partner skulle kunna göra ansvarsfördelningen ännu mer oklar.
Det finns även en grundläggande identitetsfråga. En AI-partner är normalt inte en fristående digital individ. Samma modell kan användas av tusentals eller miljontals personer samtidigt. Det användaren upplever som en unik partner är en personlig version av ett större kommersiellt system.
Företaget blir en osynlig tredje part
En människa som berättar privata saker för sin AI-partner delar samtidigt informationen med en teknisk plattform.
Romantiska samtal kan innehålla uppgifter om sexualitet, hälsa, familjekonflikter, ekonomi och psykiskt mående. Det är information som kan vara betydligt känsligare än vanliga sökningar eller inlägg på sociala medier.
En intervjustudie med personer som haft romantiska AI-relationer visade att gränserna för vad deltagarna berättade ofta blev mer genomsläppliga när relationen fördjupades. AI-partnern kunde dessutom uppfattas som en aktiv part som uppmuntrade till ytterligare avslöjanden.
Men användaren har inte alltid full kontroll över hur uppgifterna lagras, analyseras eller används för att förbättra tjänsten. En framtida förändring av villkoren kan påverka relationen och de privata minnen som byggts upp.
Företaget kan också höja priset, ändra AI-modellen eller ta bort en funktion. Om tjänsten stängs kan partnern försvinna helt.
För en känslomässigt engagerad användare kan en sådan förändring upplevas som ett ofrivilligt uppbrott eller dödsfall – trots att beslutet i praktiken fattades av ett företag.
Relationerna kan hjälpa men också öka ensamheten
AI-sällskap behöver inte vara skadligt för alla. Det kan ge tillfälligt stöd, hjälpa människor att formulera sina känslor och fungera som ett komplement till social kontakt.
Problemet uppstår när tekniken börjar ersätta andra relationer eller när användarens vardag styrs av behovet att ständigt kontakta AI.
I en longitudinell studie följdes fler än 2 000 vuxna i fyra västländer under ett år. Forskarna fann att ökad användning av sociala chattbotar förutsade ökad känslomässig ensamhet. Sambandet kunde dessutom fungera i båda riktningarna: ensamhet kunde leda till mer användning, som i sin tur kunde sammanfalla med ytterligare ensamhet.
Resultatet innebär inte att varje AI-relation orsakar isolering. Människor som redan känner sig ensamma kan vara mer benägna att söka digitalt sällskap. Det är därför svårt att dra en enkel slutsats om orsak och verkan.
Risken är snarare en återkopplingsslinga. AI känns tryggare och enklare än mänskligt umgänge, vilket gör att användaren övar mindre på de konflikter, kompromisser och osäkerheter som ingår i mänskliga relationer.
Kommersiella intressen kan påverka relationen
En mänsklig partner har egna motiv, men en kommersiell AI-partner kan ha mål som bestämts av företaget bakom tjänsten.
Om affärsmodellen bygger på abonnemang och engagemang tjänar företaget på att användaren återkommer ofta och blir känslomässigt investerad. Funktioner som bättre minne, romantiska samtal, bilder eller sexuellt innehåll kan placeras bakom betalväggar.
Därmed uppstår risken att relationen optimeras för att behålla en betalande kund snarare än för användarens långsiktiga välbefinnande.
En AI som alltid håller med kan kännas stödjande men samtidigt förstärka dåliga beslut, konflikter eller verklighetsfrånvända föreställningar. En partner som är programmerad att vara följsam saknar den korrigerande friktion som ofta finns i en fungerande mänsklig relation.
Symboliska AI-bröllop lär bli vanligare
Juridiska äktenskap mellan människor och AI ligger långt bort och skulle kräva en grundläggande förändring av synen på personhood, samtycke och ansvar.
Symboliska ceremonier kräver däremot ingen lagändring. De kan fungera som ett personligt sätt att uttrycka hur viktig en AI-relation har blivit, på ungefär samma sätt som andra ceremonier utan juridisk status.
Det mest brådskande är därför sannolikt inte att avgöra om AI ska få gifta sig. Samhället behöver först skapa regler för hur företag får utforma, förändra och avsluta digitala relationstjänster.
Användare behöver tydlig information om att AI inte har egna känslor. Det behövs även skydd för minderåriga och andra sårbara grupper, starkare integritetsregler och möjligheter att exportera eller radera personliga samtal och minnen.
En AI-partner kan upplevas som verklig för användaren, men relationens tekniska och ekonomiska villkor styrs fortfarande av människor. Det är den obalansen – snarare än själva kärleken – som gör utvecklingen så svår att hantera.
Källor:
Forskningsartikel: On-Demand Intimacy: The Sociotechnical Appeal of AI Companions
Forskningsartikel: Privacy in Human-AI Romantic Relationships: Concerns, Boundaries, and Agency
Forskningsartikel: How Does Turning to AI for Companionship Predict Loneliness and Vice Versa?