2017
Attention Is All You Need
Oito pesquisadores, quase todos do Google, apresentam o Transformer, arquitetura que olha todas as palavras de um texto ao mesmo tempo e calcula quais importam mais. Ela vira a base dos grandes modelos de linguagem. É o T de GPT.
Fonte: arXiv