Per decenni la cognizione morale è stata modellata come l’applicazione di teorie etiche statiche — deontologia, consequenzialismo, etica delle virtù — tradotte in regole fisse o funzioni di valore. Un nuovo framework formale, proposto da un team di ricercatori, rompe questa tradizione: la Bounded Morality (morale vincolata) sposta l’attenzione sugli agenti con risorse finite, dove la capacità di calcolo diventa la variabile cruciale.

Ispirandosi al concetto di razionalità limitata di Herbert Simon, il lavoro identifica due dimensioni ortogonali che caratterizzano ogni situazione morale: l’ampiezza morale, cioè l’insieme delle entità ritenute moralmente rilevanti, e la profondità morale, l’integrazione inferenziale necessaria per valutare le loro interazioni. Avendo a disposizione risorse computazionali limitate, ogni agente è costretto a un trade-off: spingere sull’ampiezza significa sacrificare profondità di analisi, e viceversa. Questo spazio di possibilità definisce cosa sia effettivamente calcolabile da un agente finito, introducendo una nozione formale di rammarico morale e di progresso morale sotto vincoli.

Le teorie etiche tradizionali, in questa prospettiva, non sono più viste come resoconti in competizione sulla verità morale, ma come strategie adattive localmente efficienti per diversi regimi di domanda computazionale. Un sistema deontologico rigido, per esempio, può essere una risposta ottimale quando l’agente non può permettersi valutazioni profonde per l’intero insieme di entità coinvolte.

Per chi lavora sull’allineamento dei Large Language Models e sull’intelligenza artificiale, il messaggio è netto: non basta insegnare a un modello a imitare i giudizi umani. La moral alignment dipende dalla capacità di allocare risorse di ragionamento morale in modo scalabile. In scenari di deployment on-premise, dove memoria, throughput e latenza sono vincolati da scelte hardware precise — si pensi alla VRAM disponibile su GPU per inference locale o al costo energetico di valutazioni approfondite — il trade-off tra ampiezza e profondità diventa concreto. Un sistema self-hosted che opera in air-gap potrebbe dover ridurre l’ampiezza morale per preservare profondità di analisi, oppure sacrificare quest’ultima per monitorare un bacino più vasto di stakeholder.

Il framework Bounded Morality non offre ricette, ma un linguaggio formale per esplicitare questi dilemmi. Spostare il dibattito dall’imitazione del comportamento umano alla gestione di un budget computazionale morale potrebbe diventare un passaggio chiave per chi progetta LLM destinati a decisioni eticamente sensibili, dalla moderazione dei contenuti all’allocazione di risorse in contesti regolamentati.