Modeller

Transformer

Dikkat (attention) mekanizmasına dayanan, modern dil modellerinin temelindeki sinir ağı mimarisi.

Transformer, 2017’de tanıtılan ve “dikkat” (attention) mekanizmasıyla bir metindeki kelimelerin birbiriyle ilişkisini ağırlıklandıran mimaridir. Büyük dil modellerinin neredeyse tamamı bu mimari üzerine kuruludur.

← Tüm sözlük