Transformer
Dikkat (attention) mekanizmasına dayanan, modern dil modellerinin temelindeki sinir ağı mimarisi.
Transformer, 2017’de tanıtılan ve “dikkat” (attention) mekanizmasıyla bir metindeki kelimelerin birbiriyle ilişkisini ağırlıklandıran mimaridir. Büyük dil modellerinin neredeyse tamamı bu mimari üzerine kuruludur.