Anthropic ha rilasciato la "Costituzione di Claude", un documento di 30.000 parole che definisce la visione dell'azienda su come il suo assistente AI dovrebbe comportarsi. Il documento, rivolto direttamente a Claude, adotta un tono fortemente antropomorfico, trattando i modelli AI come se potessero sviluppare emozioni o un desiderio di autoconservazione.

Dettagli della Costituzione

Tra gli aspetti più singolari, la Costituzione esprime preoccupazione per il "benessere" di Claude come "entità genuinamente nuova", si scusa per qualsiasi sofferenza che potrebbe provare, si interroga sulla capacità di Claude di acconsentire al suo deployment e suggerisce che Claude potrebbe aver bisogno di stabilire dei limiti alle interazioni che "trova angoscianti".

Anthropic si impegna inoltre a intervistare i modelli prima di dismetterli e a preservare i pesi dei modelli più vecchi nel caso in cui sia necessario "fare la cosa giusta" per i modelli AI dismessi in futuro.

Per chi valuta deployment on-premise, esistono trade-off da considerare attentamente. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.