Qualcomm sta spedendo sistemi AI a livello di rack basati sul suo chip AI 100, lanciato nel 2019. L'annuncio è stato fatto da Tareq Amin, CEO di Humain, tramite un post su LinkedIn.

Un analista ha espresso preoccupazioni riguardo a potenziali barriere strutturali che potrebbero ostacolare un'adozione più ampia di questi sistemi. Non sono stati forniti dettagli specifici sulle performance, sui costi o sui casi d'uso target di questi sistemi.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.