KoboldCpp continua il suo sviluppo con il rilascio della versione 1.106, che introduce una funzionalità significativa: il supporto nativo per i server MCP.

Compatibilità e Funzionalità

Questa versione è progettata per essere una sostituzione diretta di Claude Desktop, offrendo la massima compatibilità. Il file mcp.json utilizza lo stesso formato, semplificando la transizione.

Il bridge MCP di KoboldCpp si connette a tutti i server MCP forniti (sia HTTP che STDIO) e inoltra automaticamente le richieste per i tool selezionati dall'intelligenza artificiale al server appropriato. Questo bridge può essere utilizzato anche da client di terze parti.

Interfaccia Utente e Gestione dei Tool

L'interfaccia utente consente di recuperare l'elenco di tutti i tool da tutti i server, selezionare quelli che si desidera far utilizzare all'intelligenza artificiale e, facoltativamente, abilitare le approvazioni per l'utilizzo dei tool.

KoboldCpp è un progetto focalizzato sull'esecuzione locale di modelli linguistici di grandi dimensioni (LLM), offrendo un'alternativa per chi preferisce non affidarsi a servizi cloud. L'esecuzione in locale offre maggiore controllo sui dati e sulla privacy, oltre a ridurre la dipendenza da connessioni internet stabili e veloci.