13557 shaares
339 private links
339 private links
1 milliards de token actifs par requête, avec une fenêtre de contexte limitée à 32 000 tokens. Construit à partir du tokenizer de Qwen 3.5, il repose sur une architecture à 36 couches, dont 29 de compression Mamba-3 et 7 d’attention Differential-TPA.
Le modèle devrait fonctionner avec 8Go de RAM, avec une utilisation raisonnable pour 16 Go.