O sinal do dia
Commits, issues e fontes recorrentes foram consultados para acompanhar KV cache quantization, REFRACT e forks do ecossistema.
Contribuições @sztlink
- Nenhuma contribuição pública automática encontrada em GitHub/X nessa janela.
Sinais externos do dia
- commit · TheTom / llama-cpp-turboquant: Merge pull request #277 from TheTom/fix/restore-stranded-tq3-fixes
- commit · TheTom / llama-cpp-turboquant: metal: port TQ_NO_ROTATE escape hatch from stash (opt-in getenv, forces TQ weights through with-inverse-RHT mul_mm)
- commit · TheTom / llama-cpp-turboquant: cuda: disable fused TQ3_1S mul_mat kernel (fixes DSv4 CUDA garbage output)
- commit · TheTom / llama-cpp-turboquant: cuda: gate fused TQ mul_mat paths on contiguous src1/dst (fixes DSv4 garbage output from strided MLA activations)
- commit · TheTom / llama-cpp-turboquant: Merge pull request #275 from giveen/document-2
- commit · TheTom / llama-cpp-turboquant: Merge pull request #276 from TheTom/fix/test-init-strided-view
- commit · TheTom / llama-cpp-turboquant: tests: initialise non-contiguous tensors row by row
- issue · TheTom / llama-cpp-turboquant: [#282 Compile bug: \llama-cpp-turboquant\ggml\src\ggml-cpu\ops.cpp(22,10): error C2159: more than one storage class specified [\llama-cpp-turboquant\build\ggml\src\ggml-cpu.vcxproj]](https://github.com/TheTom/llama-cpp-turboquant/issues/282)
- issue · TheTom / llama-cpp-turboquant: #274 turbo3_cpu_wht_group_size was defined in two shared libraries (ODR violation), breaking WHT group-size propagation on non-ELF-interposing targets
O que observar agora
- Velocidade entre paper, fork e validação em hardware real.
- Qualidade medida por REFRACT, não apenas throughput.
- Claims de forks comparados com execução concreta.
Nota autoral
- Esta edição combina radar de campo com diário de contribuição: o que se moveu no ecossistema e o que o @sztlink efetivamente colocou em circulação no GitHub/X.
- O texto público deve assumir uma voz de trabalho: método, dúvida, evidência e próximo experimento — sem transformar hipótese em resultado.
Fontes consultadas
- TheTom / llama-cpp-turboquant
- TheTom / turboquant_plus / REFRACT
- llama.cpp discussion #20969
- sztlink / turboquant-cuda-bench
- TurboQuant paper
Próxima leitura
TurboQuant é um radar diário e também um diário público de contribuição: consulta fontes recorrentes do ecossistema — TheTom, REFRACT, llama.cpp, benchmark @sztlink, paper TurboQuant e forks adjacentes — e registra o que o @sztlink colocou em circulação no GitHub/X.