Piccoli modelli specializzati portano TTS, wake word, separazione vocale, chiarimento di query RAG e ricerca embedding su CPU e hardware consumer, riducendo la necessità di datacenter ricchi di GPU.
L'economia degli abbonamenti dei grandi LLM è sotto pressione, mentre modelli specializzati da pochi miliardi di parametri risolvono compiti come OCR e segmentazione. La tesi: il futuro è locale, con modelli più piccoli, addestramento più semplice e ...
IBM Research pubblica ClariEdge, un dataset di circa 3.900 esempi per riconoscere le query ambigue nella RAG. Un LoRA leggero ottenuto con fine-tuning raggiunge il 96,6% di accuratezza e supera baseline più grandi. Il segnale: componenti specializzat...
Il gruppo IBM Research ha pubblicato ClariEdge, un dataset di circa 3.900 esempi per riconoscere query ambigue nei sistemi RAG e generare richieste di chiarimento. Un LoRA leggero raggiunge il 96,6% di accuratezza e supera le baseline di modelli più ...
Kitten-TTS 2 introduce la quantization ternaria a 1,58 bit in un modello da 1,7 miliardi di parametri che gira in tempo reale su CPU. Il self-hosting diventa realistico senza GPU, spostando il TCO dalla VRAM alla qualità del software di esecuzione. P...
Un encoder da 305 milioni di parametri, congelato o potenziato da adattatori low-rank, affronta il riconoscimento vocale in arabo saudita e del Golfo. Il sistema congelato è statisticamente vicino a Cohere Transcribe Arabic sul CER e 3,4 volte più ve...
KittenML ha rilasciato codice e pesi di Kitten-TTS 2, un modello TTS con quantization ternaria a 1,58 bit e 1,7 miliardi di parametri. Gira in tempo reale su CPU, fa voice cloning zero-shot da meno di cinque secondi, supporta oltre 20 lingue e consen...
Un progetto open source (Apache-2.0) propone un front-end vocale on-device per assistenti locali: cinque modelli per wake word da testo, voiceprint, separazione della voce e VAD personale. L'engine Rust gira in browser, Python e Android; i modelli oc...
Un test locale con EmbeddingGemma2 mostra la ricerca semantica di testo dentro immagini su una GPU consumer: 3.003 screenshot indicizzati in 510 secondi, vettori a 768 dimensioni e modello Q8 da 330 MB. Ma la qualità dipende molto dalla formulazione ...
Il progetto open source Openspline aggiunge uno strato avatar alle pipeline vocali esistenti: da un'immagine genera un volto parlante con labiale sincronizzato, eseguito localmente sulla GPU. Il modello lite supera i 90 FPS su una NVIDIA RTX 4090 e s...
