1. Veri
Her şey veriyle başlar: metinler, görseller, sesler, tablolar. Örneğin bir dil modeli kitaplar, web sayfaları ve kod gibi devasa metin derlemleriyle eğitilir.
2. Eğitim
Model, milyonlarca hatta milyarlarca ayarlanabilir sayıdan (parametre) oluşan bir sinir ağıdır. Eğitim sırasında modelin tahmini doğru cevapla karşılaştırılır ve parametreler hatayı azaltacak şekilde azar azar güncellenir. Bu işlem güçlü grafik işlemcilerde (GPU) haftalarca sürebilir.
3. İnce ayar ve hizalama
Ham model daha sonra soru-cevap örnekleriyle ve insan geri bildirimiyle (RLHF gibi yöntemler) eğitilerek yardımcı, güvenli ve talimata uyan bir asistana dönüştürülür.
4. Kullanım (çıkarım)
Siz bir soru sorduğunuzda model, metninizi küçük parçalara (token) böler ve yanıtı token token üretir: her adımda bir sonraki parçanın olasılıklarını hesaplar ve birini seçer.