AI OCH AUTOMATISERING

Så ska AI-entreprenörerna stoppa den svenska bedrägerivågen

Startupbolaget Pryvxs AI-teknik ska hjälpa banker och telekombolag att knäcka bedragarna. ”Något måste göras för att stoppa det här problemet och vi har lösningen”, säger medgrundaren Margit Arctaedius till TN.

I början av februari visade Uppdrag Gransknings Bedragarna hur en svensk liga baserad i Marbella skamlöst lurar pensionärer på deras livsbesparingar. Det uppmärksammade avsnittet sätter fingret på ett skenande bedrägeriproblem i Sverige de senaste åren. I fjol uppgick antalet anmälningar till rekordhöga 180 000 (att jämföra med 50 000 under 2000). Under 2022 genererade olika former av bedrägerier 5,8 miljarder kronor i brottsvinster. Efter tv-sändningen kallade statsminister Ulf Kristersson (M) bankerna till krismöte och krävde ett större ansvar att förhindra brotten.

– Jag utesluter inte alls ny lagstiftning. Men i första hand vill vi söka tekniska lösningar som ökar skyddet för framför allt äldre personer, sa statsministern till TT.

Bankernas replik är att de dagligen arbetar med att stoppa bedrägerier samtidigt som de alltid tittar på nya lösningar för kunderna. De anser också att en del av ansvaret bör läggas på telekombolagen, som kan fånga upp bedrägerisamtalen i tidigt skede. En annan viktig fråga är hur problemen ska lösas mer effektivt utan att tumma på integriteten för utsatta hushåll och företag?

Den sista pusselbiten

Det är i mitt i den här härvan som startupbolaget PryvX har hittat en outnyttjad marknad: att med hjälp av AI hjälpa banker och telekom att samarbeta för att stoppa bedrägerier utan att kompromissa på integriteten.

– Vi vill komma in som den saknade pusselbiten och hjälpa företag inom finans och telekom att samarbeta för att motverka attackerna, säger Margit Arctaedius, medgrundare, produktchef och talesperson på PryvX.

Den AI-teknik som PryvX använder sig av är en så kallad federerad maskininlärning. I mer kända maskininlärningsmodeller som ChatGPT och Bard "tränas" modellen centralt genom att överföra all data från olika källor till en central plats. I en federerad maskininlärning tränas datan lokalt vilket gör att personlig och känslig information aldrig lämnas ut. Federerad maskininlärning är designat för att skydda känslig information.

– Vi brukar säga att det är ett sätt att dela data med varandra utan att faktiskt dela den. Tesla använder till exempel den här tekniken för att samla data utan att skicka vidare informationen till molnet där informationen riskerar att röjas, säger Margit Arctaedius.

Hur kan då federerad maskininlärning rent konkret stoppa ett bedrägeriförsök? Margit Arctaedius förklarar:

– Föreställ dig att din mormor har fått ett samtal från någon som uppger sig komma från en bank och försöker övertala henne att göra en banköverföring. Då har banken ett larmsystem som visar att det sker en ovanligt stor överföring och att pengar har skickats till ett nytt konto. Vid samma tillfälle får telekomföretagen en notis om att din mormor har ett ovanligt samtal från ett nytt land, från en ny person och att samtalet är ovanligt långt. Med denna gemensamma information kan både banker och telekomföretag dra slutsatsen att det handlar om ett bedrägeri och att det nu måste stoppas, förklarar hon.

Men då kommer integritetsfrågan in och bromsar processen.

– Även om företagen kan se att ett bedrägeri håller på att hända, kan de fortfarande inte dela informationen eftersom de ännu inte kan vara helt säkra på att det är en kriminell aktivitet. Det skulle strida mot GDPR och andra regelefterlevnadskrav. Under den tid det tar att utreda fallet kan bedragarna snabbt hoppa från ett byte till ett annat, förklarar Margit Arctaedius.

Flera steg före

Bedragarna är därmed flera steg före medan ärenden samlas på hög hos bolagens bedrägeripreventionsavdelningar. Även om de flesta misstänkta fall visar sig vara falskt alarm behövs både tid och personal för att utreda dem.

– Framöver kommer dessutom bedrägerierna att öka exponentiellt och AI kommer att göra det enklare att skala upp de kriminella aktiviteterna. Med vår integritetsfrämjande AI-teknik kan vi stoppa bedrägerierna innan det går för långt och slå tillbaka mot bedragarna i större skala, säger Margit Arctaedius.

Eftersom datan alltid förblir privat för användaren och endast modellparametrarna delas med PryvX system, finns det ingen risk för integritetsintrång och regelhinder.

– Sedan ser vi också självklart till att vår kod som installeras hos företagen är 100 procent säker, testad, kvalitetssäkrad och inte bryter mot några regleringar, säger hon.

Identifierade ett problem

Idén till PryvX (som för samman orden Privacy och X för sammankoppling) väcktes av Gaspar Wosa, medgrundare och vd, som har över 20 års erfarenhet inom telekom, bland annat för Ericsson. Han har personligen fått hantera en mängd fall av cyberbedrägerier och fått en gedigen kunskap om telefonoperatörernas utmaningar.

I början av 2024 startades PryvX tillsammans med medgrundarna Margit Arctaedius och Jayesh Kenaudekar (tillika it-chef). Bolaget har hittills fått in 150 000 euro i så kallad pre-seed finansiering från startup-inkubatorn Antler.

”När det kommer till kritan handlar det om hur långt man är villig att gå för att lösa problemet.”

Pryvx har nu identifierat ett problem, utvecklat en säregen teknik och presenterat en lösning. Nu gäller det att aktörer inom bank- och telekombolag hoppar på tåget.

– När det kommer till kritan handlar det om hur långt man är villig att gå för att lösa problemet. Som statsministern är inne på, måste något göras för att stoppa det här problemet och vi har lösningen, säger Margit Arctaedius.

PryvX är i dialog med flera aktörer inom finans och telekom i Norden, Tyskland och Storbritannien. Ett samarbete som de kan gå ut med offentligt är med British Telecom.

– Vi sitter i Stockholm och utgår såklart från svenska marknaden. Men vi har även vänt oss till England som redan idag har ett regelverk som kräver att banker och telekombolag tar ett större ekonomiskt ansvar vid bedrägerier. Det viktiga är att vi kan bevisa att tekniken fungerar, sen blir det enklare att sälja det vidare, säger Margit Arctaedius.

Skalbar tjänst

På sikt är planen att skala upp verksamheten till resten av Europa. Längre fram finns det även möjligheter för global expansion, förklarar hon.

– AI-tjänsten är skalbar för att kunna spridas till flera länder. En annan fördel är att telekombolagen redan har stora samarbeten med varandra. Det är det som gör att du kan använda andra teleoperatörer när du är utomlands. Det kommer att göra det enklare för oss att skala upp den här tjänsten runtom i världen.

Om fem år ser hon framför sig ett Sverige med ett mer AI-integrerat ekosystem där Pryvx har blivit en världsledande och etablerad aktör på marknaden.

– AI är framtiden och vi tror att det kommer att vara enklare att samarbeta och dela data mellan varandra. Vi vill vara en möjliggörare för den här visionen och på sikt bidra till att äldre och andra utsatta personer och företagare inte ska behöva vara rädda eller skämmas när de har svarat på samtal och e-post.