Correzione per GLM 4.7 Flash

È stata completata l'integrazione di una patch che risolve un problema legato a GLM 4.7 Flash all'interno del progetto llama.cpp. Questa modifica dovrebbe portare a una maggiore stabilità e affidabilità nell'esecuzione di modelli che utilizzano questa specifica implementazione.

Sviluppi futuri: supporto CUDA FA

Parallelamente, i tecnici stanno lavorando all'implementazione del supporto per Fused Attention (FA) su CUDA. Questo miglioramento mira a sfruttare al meglio le capacità delle GPU NVIDIA, accelerando ulteriormente i processi di inferenza e riducendo i tempi di calcolo. Il progresso di questo sviluppo può essere monitorato tramite la pull request dedicata su GitHub.