Introduzione

Il mondo dell'intelligenza artificiale sta prendendo una svolta significativa nella sua capacità di comprendere e valutare le azioni morali. Una nuova piattaforma, chiamata COMETH (Contextual Organization of Moral Evaluation from Textual Human inputs), sta rivoluzionando l'apprendimento dei modelli Llama.

COMETH è un framework che integra un apprendente del contesto probabilistico con la semantica basata su LLM e le valutazioni morali umane per modellare come il contesto influenzi la percezione dell'ambiguità delle azioni. La piattaforma cura un dataset empiricamente fondato di 300 scenari su sei azioni chiave (violare non uccidere, non ingannare e non infrangere la legge) e raccoglie giudizi ternari (Blame/Neutral/Support) da parte di N=101 partecipanti.

Un pipeline di pre-elaborazione standardizza le azioni tramite un filtro LLM e miniLM con K-means, producendo cluster core-action robusti e riproducibili. COMETH apprende contesti morali specifici per ogni azione tramite clustering online dei scenari umani dai giudizi distribuzioni di base utilizzando criteri di divergenza principali.

Un modulo di generalizzazione estrae feature contextuali concise e non valutative binarie e impara peso in un modello trasparente basato sulla probabilità. Empiricamente, COMETH raddoppia la conformità con le giudizi umani maggioritari rispetto alle soluzioni end-to-end LLM (circa 60% vs circa 30% in media), mentre rivela quali feature contextuali guidano le sue previsioni.

Contributi

COMETH presenta tre contributi significativi: (i) un dataset morale-contextuale empiricamente fondato, (ii) una pipeline riproducibile che combina valutazioni umane con apprendimento del contesto basato sul modello e semantica LLM, e (iii) un alternativa interpretabile agli end-to-end LLM per previsioni e spiegazione sensibili al contesto.

Conclusione

COMETH rappresenta una svolta significativa nella comprensione dell'intelligenza morale. La sua capacità di modellare come il contesto influenzi la percezione delle azioni morali potrebbe avere un impatto profondo sulla creazione di sistemi più responsabili e etici.

Implicazioni

La piattaforma COMETH apre nuove prospettive per l'apprendimento dei modelli Llama e potrebbe essere utilizzata per migliorare la comprensione della morale in vari settori, dalla medicina alla finanza.