Roblox och AI 2026: så genereras och modereras plattformen

Roblox och AI hänger ihop tätare än på de flesta andra plattformar med barn som huvudpublik. Bolaget använder maskininlärning i två helt olika ändar av verksamheten: dels för att låta skapare generera 3D-objekt från text, dels för att i realtid granska text, röst och bild från tiotals miljoner samtidiga användare.

Det ovanliga är att Roblox publicerar flera av modellerna öppet. Både 3D-modellen Cube och röstsäkerhetsklassificeraren ligger på GitHub och Hugging Face, med vikter som vem som helst kan ladda ner, finjustera och granska. Det gör Roblox till ett av få ställen där man faktiskt kan läsa specifikationerna på systemen som modererar barns kommunikation, i stället för att gissa.

Den här genomgången tittar på vad modellerna gör, hur väl de fungerar enligt bolagets egna siffror, var svenska användare hamnar utanför täckningen, och vad det praktiskt betyder om du är förälder till någon som spelar.

Cube: generativ AI som bygger 3D-objekt

Cube är Roblox kärnsystem för generativ 3D. Modellen tar en textbeskrivning och genererar en färdig mesh, alltså ett tredimensionellt objekt som går att dra rakt in i Roblox Studio och bygga vidare på.

Tekniken bygger på samma grundidé som språkmodeller. Roblox tokeniserar 3D-objekt, alltså delar upp formen i diskreta byggstenar, och tränar modellen att förutsäga nästa formtoken tills objektet är komplett. Skillnaden mot många konkurrerande 3D-generatorer är träningsdatan: i stället för att rekonstruera 3D ur bilder använder Roblox plattformens egen inbyggda 3D-data, som redan finns i miljontals användarbyggda upplevelser.

Cube 3D släpptes som öppen källkod i version 0.1 på GitHub och Hugging Face i mars 2025, samtidigt som ett API för mesh-generering gick i beta i Roblox Studio och som Lua-API. Bolaget beskriver nästa steg som 4D-skapande, där den fjärde dimensionen är interaktionen mellan objekt, miljöer och människor.

Vad Cube inte gör

Cube genererar geometri, inte spel. Logiken bakom en upplevelse skrivs fortfarande i Lua av en människa, och det som modellen levererar är en startpunkt som behöver rättas till: proportioner, texturer och kollisionsytor blir sällan färdiga direkt. Effekten ligger i tidsvinsten på tillgångsproduktion, alltså den delen av arbetet som förut krävde en modellerare eller ett köp i marknadsplatsen.

Modereringen: text, röst och bild i realtid

Den andra halvan av Roblox AI-arbete handlar om att stoppa saker innan de når en annan användare. Plattformen granskar chattmeddelanden, uppladdade bilder, modeller, användarnamn och röstchatt, och volymen gör manuell granskning omöjlig som förstalinje. Maskininlärning är där för att filtret ska hinna med, inte för att det är elegant.

Textmoderering är den mognaste delen och kombinerar klassiska filter med språkmodeller som fångar omskrivningar, avsiktliga stavfel och kodord. Bild- och modellgranskning körs på uppladdat material innan det publiceras. Röstchatten är det svåraste fallet, och det är där Roblox har lagt mest synligt forskningsarbete.

Röstsäkerhetsmodellen: siffrorna bakom filtret

Roblox röstsäkerhetsklassificerare analyserar ljudet direkt, utan omvägen via en transkribering som sedan textmodereras. Den uppdaterade versionen som publicerades den 2 april 2025 bygger på WavLM-arkitekturen och har 120,2 miljoner parametrar, upp från 94,6 miljoner i första versionen, samtidigt som den kör 20 till 30 procent snabbare i ett typiskt inferensläge.

Träningsunderlaget är mer än 100 000 timmar tal, delvis maskinmärkt genom automatisk transkribering kombinerad med bolagets egen textbaserade toxicitetsklassificerare, delvis mänskligt märkt. Enligt Roblox egna mätningar ligger modellen på 59,1 procents recall på engelska vid en falsk positiv-nivå på 1 procent, jämfört med 30,9 procent i föregående version. I drift hanterar systemet upp till 8 300 förfrågningar per sekund vid toppar.

Två saker är värda att läsa noga i de siffrorna. Recall på 59,1 procent betyder att modellen fångar knappt sex av tio överträdelser vid den tröskeln, inte alla. Och tröskeln på 1 procent falska positiva är vald just för att inte flagga vanliga samtal i onödan, vilket är samma avvägning som gör automatisk detektering svår överallt, exempelvis i de AI-detektorer för svensk text som skolor testat.

Svenska finns inte med

Modellen stöder åtta språk: engelska, spanska, tyska, franska, portugisiska, italienska, koreanska och japanska. Svenska ingår inte.

Det har en praktisk konsekvens som sällan nämns i svensk rapportering om plattformen. Ett svenskt barn som pratar svenska i röstchatten ligger utanför den modellens täckning, och skyddet vilar då på rapportering, textfilter och de allmänna kontoinställningarna i stället. Barn som spelar med internationella lag och pratar engelska omfattas, svenska samtal i ett svenskt gäng gör det inte på samma sätt.

Åldersuppskattning med ansiktsanalys

Sedan januari 2026 kräver Roblox att användare genomför en ålderskontroll för att få tillgång till chatt. Kontrollen sker med ansiktsbaserad åldersuppskattning från leverantören Persona, som bedömer ålder utifrån en selfie eller kort video utan att kräva legitimation eller födelsedatum. Utrullningen började i utvalda marknader i december 2025, bland dem Australien, Nya Zeeland och Nederländerna, och gick därefter globalt.

Resultatet placerar användaren i ett av sex åldersspann: under 9, 9 till 12, 13 till 15, 16 till 17, 18 till 20 och 21 och uppåt. Chatt tillåts sedan inom det egna spannet och nedåt, så att en användare i spannet 13 till 15 kan prata med användare som är 15 eller yngre. Bilderna och videoklippen behandlas av Persona och raderas direkt efter bearbetningen.

Ur ett dataskyddsperspektiv är detta biometrisk behandling av barns ansikten, vilket är ungefär den känsligaste kategorin som finns. Att materialet raderas efter bearbetning är den avgörande begränsningen, och den är värd att kontrollera i leverantörens och Roblox egna villkor snarare än att ta på förtroende. Samma sorts avvägning mellan nytta och känsliga uppgifter går igen i hur tjänsterna hanterar det du matar in, som vi går igenom i genomgången av AI och dataskydd.

Robux, presentkort och utgiftskontroll

Ekonomin i Roblox går via Robux, plattformens interna valuta som används för kläder, föremål, tillgång till vissa upplevelser och uppgraderingar. Det är också den punkt där de flesta föräldrar faktiskt möter plattformen, oftast genom en fråga om mer Robux.

Roblox föräldrafunktioner låter dig sätta utgiftsgränser, begränsa kommunikation och följa aktivitet på barnets konto. Ett vanligt komplement är att inte koppla ett betalkort till kontot alls, utan i stället fylla på saldot i förväg. Ett Roblox presentkort löses in på roblox.com/redeem och lägger beloppet på kontot, vilket i praktiken sätter ett tak: när saldot är slut är det slut, och inget nytt köp kan gå igenom utan att någon aktivt fyller på.

Det är en enkel mekanism men den löser två problem samtidigt. Barnet får en tydlig budget att förhålla sig till, och kontot exponerar aldrig ett betalkort för köp som sker i stridens hetta. Kombinera det gärna med utgiftsgränserna i föräldrainställningarna, så att båda spärrarna finns.

Vad Roblox AI inte löser

Modellerna gör en sak bra: de skalar. De ersätter inte omdöme, och Roblox eget material är tydligt med att systemen är förstalinjefilter, inte facit.

Tre begränsningar är värda att hålla i huvudet. Recall-siffrorna visar att en betydande andel överträdelser passerar vid vald tröskel. Språktäckningen är ojämn, och svenska saknas i röstmodellen. Och den sortens skada som byggs upp över tid, där någon vinner förtroende gradvis utan att någon enskild replik bryter mot reglerna, är svår att fånga för en klassificerare som bedömer ett yttrande i taget.

Det praktiska svaret är detsamma som i skolan, där diskussionen om AI i skolan landat i att tekniken är ett av flera underlag: automatiken tar volymen, människor tar bedömningen, och vuxna runt barnet behöver veta vad som faktiskt är påslaget på kontot.

Vad härnäst?

Roblox är ett ovanligt tydligt exempel på att samma bolag kan använda maskininlärning både för att producera innehåll och för att granska det, med helt olika kvalitetskrav på de två. Vill du läsa vidare om regelverket som styr den här typen av system i Europa finns vår genomgång av EU AI Act, och för den som vill förstå riskerna med syntetiskt ljud och bild i barns digitala miljö är deepfake nästa steg.