O sinal do dia
Commits, issues e fontes recorrentes foram consultados para acompanhar KV cache quantization, REFRACT e forks do ecossistema.
Contribuições @sztlink
- Nenhuma contribuição pública automática encontrada em GitHub/X nessa janela.
Sinais externos do dia
- commit · TheTom / llama-cpp-turboquant: graph: derive V-unpad head count from the attention output tensor
- commit · TheTom / llama-cpp-turboquant: fix(hip): discard nodiscard hipError_t returns in moe-cache.cu
- commit · TheTom / llama-cpp-turboquant: Merge pull request #289 from giveen/pr/metal-vulkan-v1
- commit · TheTom / llama-cpp-turboquant: metal: fix moe-cache mv kernel argument binding
- commit · TheTom / llama-cpp-turboquant: moe-cache: skip session_create when budget is zero and no config supplied
- commit · TheTom / llama-cpp-turboquant: moe-cache: generalize test-moe-cache from CUDA-only to any provider
- commit · TheTom / llama-cpp-turboquant: metal, vulkan: defer moe-cache GPU setup to first cache use
- commit · TheTom / llama-cpp-turboquant: Merge pull request #295 from TheTom/fix/turbo-k-vgpr-spill
- commit · TheTom / llama-cpp-turboquant: Merge pull request #293 from TheTom/fix/sycl-hip-build
- commit · TheTom / llama-cpp-turboquant: metal, vulkan: compile moe-cache pipelines and name missing kernels
- issue · TheTom / llama-cpp-turboquant: #298 Eval bug: Preset (models.ini) is slower then single model
O que observar agora
- Velocidade entre paper, fork e validação em hardware real.
- Qualidade medida por REFRACT, não apenas throughput.
- Claims de forks comparados com execução concreta.
Nota autoral
- Esta edição combina radar de campo com diário de contribuição: o que se moveu no ecossistema e o que o @sztlink efetivamente colocou em circulação no GitHub/X.
- O texto público deve assumir uma voz de trabalho: método, dúvida, evidência e próximo experimento — sem transformar hipótese em resultado.
Fontes consultadas
- TheTom / llama-cpp-turboquant
- TheTom / turboquant_plus / REFRACT
- llama.cpp discussion #20969
- sztlink / turboquant-cuda-bench
- TurboQuant paper
Próxima leitura
TurboQuant é um radar diário e também um diário público de contribuição: consulta fontes recorrentes do ecossistema — TheTom, REFRACT, llama.cpp, benchmark @sztlink, paper TurboQuant e forks adjacentes — e registra o que o @sztlink colocou em circulação no GitHub/X.