Recherche · IA · vision
HELIX-AI
HELIX-IM — Hyperspherical Entropy-Lax Image Modeling
Tokenizer ViT avec quantification sphérique résiduelle (R-BSQ) et prior Transformer causal, implémenté en Rust avec Burn.
Problème
Les codebooks appris (style VQ-GAN) peuvent s’effondrer : quelques codes accaparent l’usage et la représentation s’appauvrit. Les tokens d’image ont besoin d’une géométrie plus stable.
Approche
HELIX-IM se passe du codebook appris. Il travaille sur la sphère unité, avec une quantification sphérique résiduelle à plusieurs niveaux (R-BSQ) et un prior Transformer causal. Inspiré de ViT-VQGAN / VIM, avec les crates helix-math, helix-model, helix-data, helix-train et helix-cli.
Résultat
Implémentation de recherche open source. On ne reporte ni FID ni débit absents du dépôt ; le livrable, c’est l’architecture et le code.
Stack
Rust · Burn · ViT · R-BSQ · Transformer