2017
Attention Is All You Need
Ocho investigadores, casi todos de Google, presentan el Transformer, una arquitectura que mira todas las palabras de un texto al mismo tiempo y calcula cuáles importan más. Se convierte en la base de los grandes modelos de lenguaje. Es la T de GPT.
Fuente: arXiv