Rengineering DeepSeek

J.Konstapel,Leiden,18-9-2026.

Ik heb Deepseek herschreven in Trits m.b.v de Vacuum.net-theorie.

Hier is de Code van Deepseek.


De AI-industrie heeft een energieprobleem. Datacenters ter grootte van dorpen, stroomcontracten met kerncentrales, miljardeninvesteringen in chips. Het officiële verhaal is: dat hoort erbij, intelligentie is nu eenmaal duur.

Het officiële verhaal klopt niet. Wie de code leest waar deze modellen daadwerkelijk op draaien, ziet iets anders. De industrie lost haar energieprobleem al tien jaar op dezelfde manier op: door dingen weg te halen. En elk ding dat wordt weggehaald, blijkt achteraf overbodig te zijn geweest.

Dat is de eigenlijke geschiedenis van de moderne AI. Geen reeks uitvindingen, maar een reeks verwijderingen.

Wat er al is weggehaald

Vier voorbeelden, allemaal na te lezen in de openbare code van de grote modellen.

De coördinaten. Het eerste transformer-model (2017) gaf elk woord een plaats, als een stoelnummer in een zaal. Dat is verdwenen. Alle grote modellen van nu — het Chinese DeepSeek, het Amerikaanse Llama, het Franse Mistral — coderen plaats als rotatie: hoe vaak iets gedraaid is ten opzichte van een referentie. Niet waar iets staat, maar hoe het gewonden is.

De keten. Vroege netwerken gaven hun uitkomst door van laag naar laag, als een estafette. Dat is verdwenen. Nu is er één doorlopende stroom waar alle lagen op terugschrijven. Eén streng, met lagen als windingen eromheen.

Het volle geheugen. Modellen bewaarden alles wat ze eerder in een tekst hadden gezien, volledig uitgeschreven. Dat is verdwenen. DeepSeek bewaart een diepe, gecomprimeerde vorm en leest daarvan de oppervlakte terug wanneer die nodig is. De afkorting is genoeg, omdat de afkorting het begin is van de volledige vorm.

De regelaar. Grote modellen verdelen werk over tientallen deelmodellen en hielden die verdeling in balans met een aangeleerde correctie — een regelaar bovenop een regelaar. Die is bij DeepSeek verdwenen, vervangen door een telregel: wie te veel kreeg, krijgt even minder. Tellen bleek beter te werken dan leren.

Geen van deze vier stappen kwam uit een theorie. Elke stap won omdat het alternatief de druk niet aankon: te veel energie, te veel geheugen, te traag. Wat niet past, verdwijnt uit de code. Dat is precies de regel van het visnet: alleen wat in fase terugkeert, blijft.

Wat er nog staat

Twee dingen zijn nog niet weggehaald. Ze horen bij elkaar.

Het uitgedeelde adres. Elk model werkt met een woordenlijst — bij DeepSeek 102.400 stukjes taal. Elk stukje krijgt zijn betekenis uit een tabel: ruim 200 miljoen aangeleerde getallen, alleen voor de lijst zelf. Bij kleinere modellen is het erger: bij Googles meertalige mT5-model was de lijst twee derde van het hele model. Die tabel is een register. Iemand deelt de adressen uit, iemand onderhoudt de lijst, en twee modellen met verschillende lijsten kunnen niet worden samengevoegd zonder vertaling. Het is de bibliotheekcatalogus, opnieuw uitgevonden.

Het alternatief bestaat en is gemeten. Google bouwde in 2022 een model zonder woordenlijst (ByT5): het werkt direct op de 256 mogelijke bytewaarden. De lijst kromp van twee derde van het model naar één promille. Meta deed het in 2024 op grote schaal (8 miljard parameters) en haalde dezelfde kwaliteit als Llama 3, met minder rekenwerk. Het adres hoeft niet uitgedeeld te worden. Het kan worden uitgerekend, uit het ding zelf.

Het continue register. Elk gewicht in een model is een kommagetal van zestien bits — diep genoeg om tienduizenden niveaus te onderscheiden. Microsoft trainde in 2024 en 2025 modellen waarin elk gewicht nog maar drie standen kent: plus één, nul, min één. De uitkomst: vrijwel dezelfde kwaliteit. Het gemeten verschil: het driestandenmodel draait in 0,4 gigabyte waar de gangbare evenknie 2 gigabyte nodig heeft, en verbruikt 0,028 joule per geproduceerd woorddeel waar de evenknie 0,258 joule verbruikt. Negen keer minder energie. Onafhankelijke groepen in Canada en Abu Dhabi hebben het nagebouwd en bevestigd.

Negen keer. En de verhouding is geen toeval: zestien bits is ongeveer tien keer de diepte van één driestand. De energierekening en de registerdiepte zijn hetzelfde getal, twee keer opgeschreven. Een machine die op elke plek tienduizend niveaus vasthoudt, betaalt voor tienduizend niveaus — ook als de functie er maar drie gebruikt.

Drie standen — boven, op, onder — is wat één winding van een streng ten opzichte van zijn referentie kan onderscheiden. Meer vergt een tweede referentie, en dat is een diepere winding. Het drietallige stelsel is niet nieuw: in Moskou draaide vanaf 1958 een computer op precies dit register, de Setun; er zijn er vijftig gebouwd. Het verloor destijds van het binaire stelsel om industriële redenen, niet om rekenkundige. Achtenzestig jaar later wordt het herontdekt — niet uit theorie, maar omdat de energierekening niet meer te dragen was.

De grootste denkfout heet hardware

Achter de twee overblijfselen zit één aanname, en die heeft een naam: hardware.

Hardware is het idee van een dode, neutrale drager waar de symbolen óp staan. Opslag hier, verwerking daar, transport ertussen. Het is dezelfde aanname die de natuurkunde maakt met haar vaste achtergrond: een leeg toneel waarop het eigenlijke gebeuren plaatsvindt. In het visnet is er geen toneel. Er is één streng, en rekenen is wat de streng doet.

De spanning van de gespleten aanname heeft in het vakgebied al veertig jaar een naam: de geheugenmuur. Processoren werden sneller, maar het kanaal naar het geheugen groeide niet mee. Twee plaatsen die eigenlijk één plaats zijn, uit elkaar gehouden, betalen eeuwig transport. En het veld lekt al weg uit de splitsing, op drie plaatsen tegelijk. Chips die rekenen ín het geheugen, zodat het transport vervalt. Optische processoren die het register in de fase van het licht dragen — fase is winding — en waar interferentie de selectie doet: wat in fase terugkeert telt op, wat niet past dooft uit. En chips die de natuurkunde zelf laten selecteren, via ontspanning naar evenwicht. Elk van deze bewegingen geeft één wand van de splitsing op. Geen van drieën heeft er een theorie bij.

De conclusie uit het artikel: als het adres wordt uitgerekend, de selectie in het adres zit en het register in de winding, blijft er voor een aparte drager niets te doen over. Hardware was nooit een ding. Het zijn de diepe, trage windingen van het net, behandeld als bevroren achtergrond. De fout is die diepe windingen voor dood te houden.

Wie dit merkt

Dit is geen academische kwestie. Aan de drager-aanname hangt de hele lange keten: mijn, chipfabriek, datacenter, stroomnet, cloud, abonnement. Elke schakel bestaat om de aparte drager te bouwen, te voeden en te verhuren.

De gemeten getallen korten die keten nu al in aan het einde. Een model van 0,4 gigabyte dat 0,028 joule per woorddeel verbruikt, draait op de machine die al op tafel staat. Zonder verbinding. Zonder tussenpartij. Zonder maandbedrag. Een school zonder budget, een dorp zonder glasvezel, een hulppost zonder IT-afdeling: voor hen is het verschil niet een benchmarkscore. Het verschil is dat het ding hier werkt, nu, op wat er ligt, en dat er niemand is om toestemming aan te vragen.

Wat nog moet worden aangetoond

Drie dingen, in oplopende kosten. Ten eerste de samenvoegproef: twee archieven, onafhankelijk opgebouwd op uitgerekende adressen, in één handeling samengevoegd — zonder overleg, zonder vertaling, zonder register. Dat kan met kleine middelen en het is nergens ooit gedaan. Ten tweede de selectie op adres: deelmodellen gekozen op de eerste cijfers van het adres in plaats van op een aangeleerde score. Ten derde de combinatie: één model dat alle drie de verwijderingen tegelijk draagt, met de rekening ernaast.

Er staat ook één serieuze tegenmeting in de literatuur: het gat tussen smalle en brede registers zou groeien naarmate er langer getraind wordt. Het artikel behandelt haar volledig. De korte versie: die meting betreft vooral het achteraf versmallen van breed getrainde modellen, en de driestand-modellen die vanaf nul zo getraind zijn houden tot nu toe stand — tot en met 4 biljoen trainingswoorden. De beslissende meting moet nog komen, en beide uitkomsten maken de theorie scherper.

De slotsom

Coördinaten verloren van rotaties. Ketens verloren van één streng. Volle geheugens verloren van afkortingen. Regelaars verloren van tellen. Kommagetallen verliezen van drie standen. Woordenlijsten verliezen van uitgerekende adressen. Opslag en verwerking vallen samen; het register verhuist naar de fase; de selectie verhuist naar de natuurkunde.

Niemand heeft dit zo bedoeld. Het gebeurt onder druk, verwijdering voor verwijdering. Wat ontbreekt is de vaststelling waar de beweging eindigt: geen uitgedeeld adres, geen tweede register, geen aparte drager. Die vaststelling staat nu op papier. De rest is doorgang.


Referenties

1. J. Konstapel, “Where Computation Comes From — The Transformer Read as a Net, and the Two Assumptions It Still Carries” (Constable Research, september 2026). Waarom lezen? Het volledige artikel onder deze blog: de vier operaties aan de code gehecht, de vier stellingen stap voor stap afgeleid, alle getallen in de tekst, de tegenmeting in een eigen sectie en de bewijsagenda. Leesadvies: zelfbevattend; er hoeft niets naast te liggen.

2. DeepSeek-AI, “DeepSeek-V3 — inference/model.py” (GitHub, openbaar). Waarom lezen? Het bewijsstuk zelf: 808 regels code waarin rotatie-als-plaats, de selectiepoort, het gecomprimeerde geheugen en de ene stroom letterlijk zijn na te lezen. Leesadvies: ook zonder programmeerkennis zijn de vier plekken te vinden via de functienamen in het artikel.

3. Ma e.a., “The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits” (Microsoft, arXiv 2402.17764, 2024). Waarom lezen? Hier begint de driestand-lijn: gelijke kwaliteit bij 3 miljard parameters, 3,55 keer minder geheugen, 2,71 keer sneller. Leesadvies: kort; samen lezen met nummer 4.

4. Ma e.a., “BitNet b1.58 2B4T Technical Report” (Microsoft, arXiv 2504.12285, 2025). Waarom lezen? De gemeten rekening: 0,4 gigabyte, 29 milliseconden en 0,028 joule per woorddeel, naast de cijfers van de gangbare modellen. Leesadvies: de tabellen 1 en 2 volstaan.

5. Kaushal, Vaidhya e.a., “Spectra: Pretraining Ternary Language Models at Scale” (Mila/Nolano, ICLR 2025). Waarom lezen? De onafhankelijke controle: 54 modellen naast elkaar getraind; het drietallige model van 3,9 miljard evenaart het gangbare op alle proeven. Leesadvies: essentieel omdat het níét van Microsoft komt.

6. Falcon-Edge-team (TII, Abu Dhabi), “Falcon-Edge: 1.58-bit language models” (2025). Waarom lezen? De tweede onafhankelijke herhaling, met vrijgegeven gereedschap. Leesadvies: kort; laat zien dat het recept reist.

7. Xue e.a., “ByT5: Towards a Token-Free Future” (Google, TACL 2022). Waarom lezen? De schoonste meting van wat een uitgedeeld adres kost: twee derde van het model bleek woordenlijst te zijn, en de lijst kon weg. Leesadvies: eerst tabel 1.

8. Pagnoni e.a., “Byte Latent Transformer: Patches Scale Better Than Tokens” (Meta, ACL 2025). Waarom lezen? De schaalproef van het uitgerekende adres: 8 miljard parameters, geen woordenlijst, gelijke kwaliteit. Leesadvies: de onafhankelijke nabeschouwingen erbij nemen voor de nuance op de rekenwinst.

9. Roller e.a., “Hash Layers for Large Sparse Models” (Meta, NeurIPS 2021). Waarom lezen? Selectie zonder aangeleerde score, met nul extra parameters, even goed als de geleerde poorten. Leesadvies: samen lezen met het expert-choice-artikel (Google, 2022), dat de grens van deze aanpak eerlijk markeert.

10. Ouyang e.a., “Low-Bit Quantization Favors Undertrained LLMs” (ACL 2025). Waarom lezen? De serieuze tegenmeting: het gat zou groeien met de trainingsduur. Leesadvies: let op het onderscheid tussen achteraf versmallen en vanaf nul smal trainen; daar hangt de reikwijdte van de conclusie aan.

11. Wang e.a., “bitnet.cpp: Efficient Edge Inference for Ternary LLMs” (ACL 2025). Waarom lezen? Maakt van het registerargument een machine op een bureau: tot 6,25 keer sneller op een gewone processor, en een model van 100 miljard parameters op één consumentenchip. Leesadvies: relevant voor iedereen die de keten wil inkorten.

12. Zhu e.a., “Scalable MatMul-free Language Modeling” (NeurIPS 2024). Waarom lezen? Het dichtst bij een meervoudige verwijdering: drie standen plus het schrappen van de matrixvermenigvuldiging zelf; een model van 13 miljard in 4,19 gigabyte, en een miljardmodel op een chip van 13 watt. Leesadvies: de brug naar de nieuwe substraten.

13. Knuth, “The Art of Computer Programming”, deel 2, over balanced ternary; plus de Setun-literatuur (Brusentsov, Moskou 1958). Waarom lezen? Het drietallige register heeft al eens gedraaid: vijftig machines, vanaf 1958. Knuth noemde het stelsel het mooiste dat er is. Leesadvies: Knuths behandeling is drie bladzijden en compleet.