Terwijl de AI-markt wordt gedomi­neerd door grote techbe­drijven met hun reusach­tige, cloud­ge­ba­seerde taalmo­dellen, kiest een klein Noord-Europees team voor een radicaal andere aanpak. NobodyWho, een open-source startup uit Kopen­hagen, heeft €2 miljoen aan pre-seed finan­cie­ring opgehaald om Small Language Models (SLM’s) te brengen naar lokale apparaten – van laptops tot smartphones. Het doel is een priva­cy­vrien­de­lijk, kosten­ef­fi­ciënt en klimaat­be­wust alter­na­tief bieden voor de huidige cloud-AI, en Europa een sterkere positie geven in de wereld­wijde AI-wedstrijd.

NobodyWho is opgericht door Cecilie Waagner Falkenstrøm, een onder­neem­ster en kunste­naar die sinds 2016 pioniert met inter­ac­tieve AI. Samen met medeop­richter en CTO Asbjørn Olling en een team van software engineers werkt ze al bijna tien jaar aan lokale AI-techno­lo­gieën, meldt de website TechEU. Van projecten in opdracht van de Verenigde Naties tot een edge-AI-experi­ment aan boord van het Inter­na­ti­onal Space Station in 2021, bouwt NobodyWho voort op jaren­lange ervaring.

De huidige cloud­ge­ba­seerde taalmo­dellen, zoals die van OpenAI en Google, vereisen enorme reken­kracht, constante inter­net­ver­bin­dingen en het verzenden van gigan­ti­sche hoeveel­heden data naar externe servers. Dat leidt tot hoge kosten, vendor lock-in en een struc­tu­reel verlies van Europese datasoe­ver­e­ni­teit. NobodyWho kiest voor een funda­men­teel andere benade­ring: hun techno­logie maakt het mogelijk om SLM’s lokaal te draaien, zodat organi­sa­ties en indivi­duen volle­dige controle houden over hun data. Geen enkele data verlaat het apparaat, wat zorgt voor privacy by design en echte datasoevereniteit.

500x kleinere CO₂-voetafdruk

Het lokaal draaien van AI-modellen heeft directe voordelen voor privacy en veilig­heid. In plaats van afhan­ke­lijk te zijn van gecen­tra­li­seerde cloud­ser­vers, wordt de reken­kracht verspreid over duizenden, zo niet miljoenen apparaten. Boven­dien verschuift de kosten­druk volledig weg van dure cloud­in­fra­struc­tuur. Gebrui­kers brengen hun eigen hardware mee, waardoor het systeem kan opschalen zonder stijgende reken­kosten. Of een appli­catie nu tien of tien miljoen gebrui­kers bedient: er is geen explo­de­rende cloud­re­ke­ning, aldus het bedrijf.

Maar het grootste voordeel is wellicht toch de ecolo­gi­sche voetaf­druk. NobodyWho’s lokale SLM-archi­tec­tuur reduceert de CO₂-uitstoot drama­tisch. Vroege bench­marks tonen een training-footprint die tot 100x lager ligt en een inference footprint die wel 500x kleiner is dan bij cloud­mo­dellen. “Dit is niet alleen goedkoper en sneller”, zegt Waagner Falkenstrøm bij TechEU, “het is ook veel duurzamer.”

Open source als standaard

Alles wat NobodyWho bouwt, is open source – van de inference-engine en libra­ries tot devel­o­per­in­te­gra­ties. Het bedrijf richt zich niet op het bouwen van eigen taalmo­dellen, maar op de infra­struc­tuur­laag die bestaande open-source modellen bruik­baar maakt in echte producten. Hun engine onder­steunt al meer dan 10.000 open-source taalmo­dellen en zorgt ervoor dat ze efficiënt draaien op verschil­lende apparaten en besturingssystemen.

NobodyWho werkt met een open-core business­model: de kerncom­po­nenten blijven open source, maar het bedrijf verdient geld met fine-tuning services – een gebied waar reken­kracht snel duur en complex wordt voor teams om zelf te beheren. Bedrijven kunnen modellen on-premises fine-tunen, maar dat betekent servers, enginee­rings­tijd en onder­houd. Wij bieden een eenvou­di­gere, goedko­pere oplos­sing. Zodra een model is geopti­ma­li­seerd, kan het zonder extra kosten worden ingezet bij miljoenen eindge­brui­kers – een cruciaal voordeel van lokale AI. 

NobodyWho gebruikt de European Public License (EUPL) 1.2, die zowel indivi­duen als bedrijven toestaat om commer­ciële producten te bouwen op basis van hun code. “Als je echte adoptie wil, moet commer­cieel gebruik mogelijk zijn,” zegt Waagner Falkenstrøm. “Anders krijg je geen ecosys­teem – alleen een demo. Die visie lijkt aan te slaan: meer dan 5000 ontwik­ke­laars bouwen al met het platform via GitHub, en een actieve Discord-commu­nity helpt mee de toekomst van NobodyWho vorm te geven. “Open source is cruciaal,” voegt ze toe. “Het creëert niet alleen gebrui­kers, maar ook bijdragers.”