La PyTorch Foundation ha deciso di portare la prossima conferenza nordamericana oltre le presentazioni di ricerca. A San Jose, il 19 ottobre 2026, terrà una giornata intera di formazione ufficiale per la certificazione PyTorch Associate, mentre nei giorni della conferenza debutterà una traccia introduttiva pensata per sviluppatori, studenti e ingegneri con diversi livelli di esperienza. La notizia non riguarda soltanto il calendario: i temi scelti raccontano come il settore stia spostando il baricentro dalla teoria dei modelli all’ingegneria dell’inference.

I due talk sulla programmazione GPU e sulla lettura delle trace segnalano una direzione precisa. 'Practical GPU Programming with Triton' insegna a scrivere kernel personalizzati senza CUDA o C++, mentre 'What You Cannot Profile, You Cannot Optimize' mostra come distinguere carichi compute-bound da overhead-bound usando torch.compile, kernel Triton fusi e kernel Liger. Non è divulgazione generica: è il tipo di competenza che serve quando bisogna capire perché una GPU non raggiunge il throughput atteso.

Parallelamente, 'From Scratch to PyTorch' propone di ricostruire da zero componenti come tensori, autograd, optimizer e transformer in Python puro. Il progetto TinyTorch diventa così un percorso per leggere gli internals di un framework, una capacità che si rivela decisiva quando un errore emerge in produzione e non si può contare su un livello gestito. Per chi valuta deployment self-hosted, questa attenzione al sottosistema ha un valore diretto: i colli di bottiglia della cache e le scelte di allocazione della VRAM non si risolvono cambiando endpoint, ma intervenendo sul motore.

La sessione su vLLM è il sintomo più chiaro. I modelli più recenti usano attention ibrida, sliding-window, sparse o lineare per contenere l’occupazione della KV-cache su finestre di contesto lunghe. Il motore vLLM espone backend di attention, connettori per la KV-cache e allocatori di memoria ibridi. Per chi gestisce deployment self-hosted, queste non sono astrazioni lontane: sono leve dirette per ridurre la VRAM necessaria e aumentare il throughput senza cambiare hardware. La sessione sui vision-language models aggiunge un altro tassello: l’espansione dei token immagine può moltiplicare in modo silenzioso la pressione sulla cache, un problema che emerge solo quando si passa dal prototipo al servizio reale.

Il corso certificato full-day, tenuto da Faradawn Yang di NVIDIA, adotta un’impostazione laboratoriale: lezioni interattive, notebook Jupyter guidati, checkpoint di comprensione e progetti su casi realistici. Per partecipare servono competenze di Python, familiarità con Jupyter e Google Colab e una comprensione di base del machine learning. Chi completa il percorso riceve un voucher da 250 dollari per l’esame PyTorch Certified Associate, una credenziale pensata per validare competenze pratiche nei flussi di deep learning con PyTorch.

La pre-registrazione è obbligatoria e va aggiunta all’iscrizione alla conferenza entro martedì 13 ottobre. Lo spazio è limitato per mantenere un rapporto ottimale tra studenti e istruttori.

Nel complesso, la scelta della PyTorch Foundation segnala una maturazione: non basta più saper addestrare un modello in un notebook. Chi costruisce servizi di inference, soprattutto fuori dai cloud gestiti, deve presidiare la catena che va dalla scrittura del kernel alla gestione della cache. Il fatto che una conferenza di riferimento dedichi una traccia introduttiva a questi temi non è beneficenza formativa: è la risposta a una domanda concreta di competenze di sistema. Per chi valuta deployment on-premise, AI-RADAR offre framework analitici su /llm-onpremise per soppesare questi trade-off.