
Descobertas
05 de nov. de 2026
O held loss caiu. O modelo piorou 103%.
A metrica que todo mundo usa para escolher um checkpoint de fine-tuning aprova modelos que esqueceram o que sabiam. A medicao que prova.
Continuar lendo →
2 posts

A metrica que todo mundo usa para escolher um checkpoint de fine-tuning aprova modelos que esqueceram o que sabiam. A medicao que prova.

Retomei uma rodada do zero do último checkpoint e ela seguiu firme — steps passando, gradiente saudável, nenhuma mensagem de erro. Só que a taxa de aprendizado tinha encolhido três ordens de grandeza sem pedir licença. A causa: o agendador de LR restaura mais do que deveria ao carregar estado antigo, e a correção foram duas linhas.