Bir yapay zeka modeline komut verdiğinizde aslında çok daha karmaşık bir süreç başlıyor. Video, Claude, ChatGPT gibi büyük dil modellerinin nasıl çalıştığını, model seçimi sırasında Fable, Opus, Sonnet ve Haiku gibi seçenekler arasındaki farkları ve efor seviyeleri (low, medium, high, extra, max) ayarlarının ne anlama geldiğini açıklıyor. Ancak daha derinlemesine bakılırsa, bu modellerin temelinde yapay sinir ağları ve trilyonlarca parametre (ağırlık) yatmaktadır.

Komutunuz verildikten sonra sistem, gönderdiğiniz metni tokenizer adı verilen bir algoritma aracılığıyla küçük parçalara (tokenlara) ayırıyor. Bu tokenlar sadece kelime parçaları değil; noktalama işaretleri, özel karakterler veya standart olmayan parçalar da olabilir. Her token, tokenlaştırma sözlüğünde benzersiz bir kimlik numarasına karşılık gelir. Sistem aynı zamanda sizin komutunuza sistem promptunu (davranış kuralları), kullandığınız araçları, hafıza dosyalarınızı ve sohbet geçmişinizi ekler. Bu devasa metin paketi tokenler dizisine çevrilerek, yapay zekanın tek amacı olan bir sonraki tokeni tahmin etme işlemine girer.

Yapay zekanın tahmin mekanizması temelde istatistiktir. Her token için model, sözlükteki tüm olası tokenlara olasılık değerleri atayıp en yüksek olasılıklı olanı seçer veya istatistiki kurallara göre örnekleme yapar. Bu süreç yüzlerce, binlerce kez tekrarlanır—cevapınızın her kelimesi için. Perde arkasında, promptunuzu temsil eden vektör, modelin trilyonlarca ağırlığından oluşan devasa matrislerden çarpım işlemleriyle geçirilir. Temel olarak ikokulda öğrendiğimiz çarpma işlemi binlerce kez uygulanır; dikkat (attention) mekanizması ve gömme (embedding) işlemleri, kelimelerin birbirleriyle ilişkisini ve bağlamsal anlamını hesaplamaya yardımcı olur.

Bunca karmaşık işlemler neden farklı modeller ve efor seviyeleri gerektirir? Çünkü model parametrelerinin sayısı, eğitim verisi ve hesaplama gücü farklı olur. Daha küçük modeller (Haiku) daha hızlı ama sınırlı; daha büyük modeller (Opus) daha güçlü ama yavaş. Bilgi kesim tarihi (knowledge cutoff) modelin hangi tarihine kadar bilgi içerdiğini gösterir. Efor seviyeleri ise modelin kaç kez çıktısını kontrol ettiğini belirler: low çabuktur, max ise daha dikkatlidir. Model seçimi, görevin karmaşıklığı, bütçe ve hız gereksinimlerine bağlı olarak yapılmalıdır.

Video, yapay zekanın mühendislik harikası olduğunu gösterirken, unutulmaması gereken nokta şudur: model öğrenmiş değil, istatistiksel tahmin yapar. Yüksek kalite, milyonlarca dolarlık eğitim ve yapı tasarımının sonucudur. Güncel yapay zeka uygulamalarında, modellerin bilgisi eğitim tamamlandıktan sonra güncellenemez (prompt içinde ek konteks eklenmediği sürece); bu da neden bazı modeller dış kaynaklara bağlanabilme yeteneğine sahip olmuştur. Teknik derinliği anlamak, yapay zekanın gücü ve sınırlamalarını daha iyi değerlendirmeyi sağlar.