L’intelligenza artificiale in pillole

Transformer, l’invenzione che ha cambiato tutto

di Luca Salvioli

C’è un’invenzione del 2017 dietro quasi tutte le AI che usi oggi: il Transformer. È l’architettura di rete neurale che ha reso possibili gli LLM. L’ha introdotta Google e, anni dopo, ChatGPT l’ha messa perfino nel nome: la T di GPT sta proprio per Transformer. La sua idea chiave si chiama “attenzione”: invece di leggere una frase parola per parola, il modello considera tutte le parole insieme e decide quali sono più importanti per capirne il significato. È come capire subito a chi si riferisce un “lo” o una “lei”, anche se il termine a cui rimandano è comparso molte parole prima.
Riproduzione riservata ©
loading...