L'approccio di Apple e il 'conto dei token'

Nel dinamico panorama dell'intelligenza artificiale, Apple sembra adottare una posizione distintiva, resistendo all'ondata di entusiasmo per l'"AI-for-AI", ovvero lo sviluppo di soluzioni di intelligenza artificiale senza un chiaro focus sull'efficienza o sul ritorno sull'investimento. Questa cautela emerge mentre la Silicon Valley inizia a confrontarsi con il "conto dei token", un'espressione che sintetizza i crescenti costi operativi e infrastrutturali associati allo sviluppo e al deployment dei Large Language Models (LLM).

Il "conto dei token" non si riferisce solo al costo per singolo token elaborato, ma ingloba l'intero Total Cost of Ownership (TCO) degli LLM: dall'acquisizione e manutenzione dell'hardware specializzato (come le GPU ad alta VRAM) ai consumi energetici, passando per i costi di storage e la gestione dei dati. L'approccio di Apple suggerisce una maturazione del settore, dove l'attenzione si sposta dall'esplorazione delle capacità dell'AI alla necessità di soluzioni sostenibili, efficienti e con un valore tangibile per l'utente finale o l'azienda.