Yapay Zekâda Eğitim ve Çıkarım Nedir?

Bir yapay zekâ modeli iki çok farklı aşamadan geçer: önce eğitilir, sonra kullanılır. Kullanım aşamasına çıkarım (inference) denir.

Eğitim: öğrenme aşaması

Eğitimde modele çok sayıda örnek verilir. Model her örnekte bir tahmin yapar, tahmininin ne kadar yanlış olduğu hesaplanır ve modelin iç ayarları (parametreler) hatayı azaltacak yönde biraz değiştirilir. Bu döngü çok kez tekrarlanır.

Bir benzetme: bir öğrencinin binlerce soru çözüp yanlışlarından öğrenmesi gibidir.

Eğitimin özellikleri:

• Pahalıdır: büyük modeller için çok güçlü donanım ve uzun süre gerekir.
• Seyrek yapılır: model bir kez eğitilir, sonra uzun süre kullanılır.
• Veriye bağlıdır: model, eğitim verisinde olmayan bilgiyi bilemez; verideki hatalar ve önyargılar da modele geçebilir.

Çıkarım: kullanma aşaması

Eğitimi biten model artık sabit parametrelerle çalışır. Ona yeni bir girdi verirsin (bir soru, bir fotoğraf) ve öğrendiklerine dayanarak bir çıktı üretir.

Öğrenci benzetmesiyle: sınavda daha önce görmediği bir soruyu çözmesidir.

Çıkarımın özellikleri:

• Her istekte yapılır: bir sohbet botuna yazdığın her mesaj bir çıkarım işlemidir.
• Tek seferi ucuzdur ama toplamı büyüktür: milyonlarca kullanıcının istekleri ciddi bir hesaplama yükü oluşturur.
• Model bu sırada öğrenmez: konuşma içinde ona verdiğin bilgiyi o konuşmada kullanabilir, ama parametreleri değişmez.

İnce ayar (fine-tuning)

İkisinin arasında bir aşama daha vardır: hazır eğitilmiş bir model, belirli bir iş için daha küçük ve özel bir veriyle yeniden biraz eğitilebilir. Örneğin genel bir dil modeli, bir şirketin müşteri destek yazışmalarıyla ince ayar görerek o işe daha uygun hâle getirilebilir.

Neden bilmek önemli?

• Modelin güncel olayları bilmemesi genellikle eğitim verisinin belli bir tarihte bitmesinden kaynaklanır.
• Sohbet sırasında söylediğin bir şeyi modelin "öğrenmesi" ile kalıcı olarak eğitilmesi farklı şeylerdir.
• Yapay zekâ maliyetleri konuşulurken eğitim maliyeti ile çıkarım maliyeti ayrı ayrı değerlendirilir.

Kısaca: eğitim modelin okula gitmesi, çıkarım ise öğrendikleriyle iş yapmasıdır.