cuda

3 posts

12 de ago. de 2026

TatuEngine: o codec que encolheu o modelo de 27GB em 245MB — e o lm_head que não queria cooperar

O BVH 1:1 do BitMamba-2 1B ocupava 27.26GB — inviável. Um codec de blocos ternários compactos entregou 114× de compressão, com o lm_head divergindo no meio da validação.

Continuar lendo →

TatuEngine Compressão bvh

TatuEngine

03 de ago. de 2026

A história do TatuEngine — dos RT Cores dos sonhos ao agente autopoiético

Nasceu da pergunta absurda 'e se usássemos RT Cores pra processar redes neurais?', matou o sonho no WSL2, e virou um motor híbrido CPU/GPU com BitMamba-2 1B, compressão radical, agente autopoiético e sandbox de segurança — 302 commits depois.

BitMamba 1B — treinando o primeiro modelo SSM

A jornada (e as crateras) de treinar um Mamba-2 de 1.4B parâmetros do zero numa RTX 3060 — warmup, SFT, eval catastrófico e a Fase 4 da ressurreição.

Continuar lendo →

TatuEngine bitmamba Treinamento

Navegar por tags

TatuEngine: o codec que encolheu o modelo de 27GB em 245MB — e o lm_head que não queria cooperar

A história do TatuEngine — dos RT Cores dos sonhos ao agente autopoiético

BitMamba 1B — treinando o primeiro modelo SSM