La popolarità dei modelli Qwen definiti 'umani' su Reddit ha alimentato l'idea che per avere un chatbot con una personalità credibile serva un modello specializzato o un fine-tuning dedicato. Il post dell'utente BestGirlAhagonUmiko, finito in cima al subreddit, smonta questo assunto: non serve toccare i pesi della rete. Basta un system prompt costruito in tre passaggi.
Il primo passaggio è la biografia. Si definisce un ruolo, si scrive la storia del personaggio, anche in modo sintetico ma con sufficiente varietà da renderlo riconoscibile. Il secondo è la voce: si preparano esempi di domande e risposte, con fatti concreti. L'autore avverte che il modello assimila questi fatti come verità narrativa del personaggio, quindi conviene inserire elementi utili invece di battute casuali. Il terzo passaggio è il più delicato: trasformare l'idea di 'come parla un essere umano' in istruzioni operative. Si stabilisce il registro da chat, con messaggi brevi come in Skype o Telegram; si descrivono i tratti psicologici con titoli e paragrafi; si fissano i vincoli tecnici, specificando che il personaggio non è a conoscenza delle istruzioni e deve rimanere sé stesso.
Il post cita Gemma 4 come banco di prova e aggiunge che anche i checkpoint base di Qwen, DeepSeek e MiniMax funzionano. Suggerisce inoltre di abbassare o disattivare il thinking nei modelli che consumano migliaia di token in ragionamento.
Per chi gestisce LLM on-premise o self-hosted, il messaggio ha una doppia lettura. Da un lato, riduce la pressione sul fine-tuning: se il comportamento può essere orientato con un prompt, non sempre serve investire in cicli di addestramento e dataset etichettati. Dall'altro, sposta il rischio. Un comportamento non codificato nei pesi resta fragile: basta una riformulazione, un aggiornamento del modello o un contesto più lungo per far deragliare la personalità. In più, i vincoli espressi nel prompt possono entrare in conflitto con le policy di sicurezza e con la necessità di audit: se il sistema deve mantenere un allineamento verificabile, la sola istruzione testuale potrebbe non bastare.
C'è anche un aspetto di costo. Il prompt-only consuma soprattutto token di inference, non ore di GPU per il training. Per deployment locali con risorse limitate, questa è una differenza rilevante, anche se il risparmio va pesato contro la mancanza di un comportamento stabilmente incorporato nel modello.
La vicenda segnala un cambiamento strutturale: la qualità percepita dei chatbot 'umani' dipende sempre meno dall'architettura e sempre più dalla governance del testo che li precede. Per chi valuta deployment on-premise, AI-RADAR mette a disposizione framework analitici su /llm-onpremise per distinguere i casi in cui il controllo dichiarativo è sufficiente da quelli in cui serve un addestramento mirato. La prossima ondata di modelli conversazionali potrebbe quindi non essere una corsa ai pesi, ma una corsa alla scrittura dei prompt.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!