Conoscenza del dominio vs. Architetture complesse nel riconoscimento delle emozioni

Un recente studio ha messo in discussione l'efficacia dei meccanismi di attenzione complessi, come i Transformer, nel riconoscimento multimodale delle emozioni quando applicati a dataset di dimensioni ridotte. La ricerca, basata sul dataset EAV, confronta diverse architetture di modelli, inclusi Transformer di base, meccanismi di attenzione fattorizzati e baseline CNN migliorate.

Risultati sorprendenti

I risultati indicano che i modelli basati su meccanismi di attenzione sofisticati tendono a fornire prestazioni inferiori rispetto alle baseline più semplici. In particolare, i modelli con attenzione fattorizzata hanno mostrato un calo di performance dal 5% al 13% a causa di overfitting e della distruzione di feature pre-addestrate. Al contrario, modifiche mirate e basate sulla conoscenza del dominio si sono dimostrate più efficaci. Ad esempio, l'aggiunta di delta MFCC al CNN audio ha migliorato l'accuratezza dal 61.9% al 65.56%, mentre l'utilizzo di feature nel dominio della frequenza per EEG ha portato a un incremento del 7.62% rispetto alla baseline originale.

Vision Transformer e pre-addestramento

Il Vision Transformer di base ha raggiunto un'accuratezza del 75.30%, superando il risultato ViViT originale grazie a un pre-addestramento specifico per il dominio. L'utilizzo di feature delta per la visione ha portato a un ulteriore miglioramento del 1.28% rispetto alla CNN originale.

Implicazioni

Questi risultati suggeriscono che, per il riconoscimento delle emozioni su piccola scala, la conoscenza del dominio e un'implementazione accurata possono superare la complessità architetturale. Per chi valuta deployment on-premise, esistono trade-off da considerare, e AI-RADAR offre framework analitici su /llm-onpremise per valutare questi aspetti.