Kon: un agente di sviluppo minimalista

Uno sviluppatore ha rilasciato Kon, un agente di sviluppo progettato per sistemi locali. L'obiettivo principale è fornire uno strumento essenziale, facile da comprendere, personalizzare ed estendere.

Kon si distingue per le sue dimensioni ridotte: il prompt di sistema richiede circa 215 token e le definizioni degli strumenti circa 600 token, mantenendo l'ingombro totale al di sotto di 1000 token prima del contesto della conversazione. La repository comprende circa 108 file, il che, secondo lo sviluppatore, ne facilita la comprensione in un fine settimana.

Dettagli implementativi

L'agente è stato testato con un modello glm-4.7-flash-q4 su una macchina con processore i7-14700F, 64 GB di RAM e una GPU RTX 3090 con 24 GB di VRAM. Kon trae ispirazione dal progetto pi-coding-agent.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.