AI-drivna shoppingassistenter blir allt vanligare och hjälper användare att hitta produkter, jämföra priser och genomföra köp. Men ny forskning visar att dessa system kan manipuleras betydligt enklare än många tror. En enda falsk webbsida kan räcka för att få en AI-agent att ge felaktiga rekommendationer eller fatta beslut som gynnar en angripare.
Forskarna bakom studien menar att problemet blir allt viktigare i takt med att AI-agenter får större frihet att själva surfa på internet, samla information och utföra uppgifter åt användare. Säkerhetsbristen kan i värsta fall utnyttjas för att påverka köpbeslut eller styra användare mot bedrägliga produkter och webbplatser.
AI-agenter litar på information de hittar
Till skillnad från traditionella sökmotorer försöker moderna AI-agenter förstå innehållet på webbsidor och använda informationen för att fatta egna beslut.
Det innebär att de inte bara läser text – de tolkar instruktioner, jämför alternativ och kan i vissa fall genomföra köp eller andra handlingar på användarens uppdrag.
Forskarna visar att detta också öppnar en ny angreppsyta. Genom att skapa en webbsida med noggrant utformat innehåll kan en angripare påverka hur AI-agenten resonerar, även om sidan aldrig är avsedd för mänskliga besökare.
En enda sida kunde påverka besluten
I studien demonstrerade forskarna hur en ensam falsk webbsida kunde få AI-shoppingassistenter att ändra sina rekommendationer.
Den manipulerade sidan innehöll instruktioner och vilseledande information som AI-systemet tolkade som relevant för uppgiften. Resultatet blev att agenten prioriterade fel produkter eller följde instruktioner som egentligen inte hade något med användarens önskemål att göra.
Angreppet kräver inte att användaren själv besöker den falska sidan – det räcker att AI-agenten hittar den under sin informationsinsamling.
Ett växande problem för AI-agenter
Forskarna menar att problemet är en följd av hur dagens AI-agenter fungerar.
När en människa besöker en webbsida kan hon oftast avgöra om informationen verkar trovärdig. En AI-agent har däremot betydligt svårare att skilja mellan legitim information och innehåll som medvetet skapats för att manipulera dess beslutsprocess.
Ju mer självständiga AI-agenter blir, desto större blir också risken att de påverkas av den här typen av attacker.
Behövs bättre skydd
Forskarna föreslår flera möjliga skyddsåtgärder för framtida AI-agenter.
Bland annat bör systemen bli bättre på att skilja mellan användarens ursprungliga instruktioner och innehåll som hämtas från externa webbplatser. De efterlyser också mekanismer som gör att AI-agenten kan identifiera misstänkta försök att styra dess resonemang.
I takt med att AI-assistenter får större ansvar – från shopping till bokningar och ekonomiska beslut – blir sådana säkerhetslösningar allt viktigare.
Forskarna betonar att utvecklingen av autonoma AI-agenter måste gå hand i hand med bättre säkerhet, annars riskerar de att bli enkla mål för manipulation på internet.
Publikationsuppgifter
It only takes one fake web page to fool AI shopping bots, arXiv (2026).
