OpenAI'den ayrılan araştırmacıların yapay zeka modellerinin karar verme süreçleri hakkındaki endişelerini ele alan bu video, derin öğrenme sistemlerinin "kendi kararlarını verip vermediği" sorusuna yanıt aramaktadır. Video, özellikle büyük dil modellerinin giderek karmaşıklaşan düşünce zincirlerinin ne ölçüde denetlenebilir olduğunu tartışmaktadır. Yapay zeka güvenliği ve kontrol edilebilirliği açısından bu sorular, modellerin ölçeklenmesi ve yeteneklerinin artmasıyla birlikte daha acil hale gelmektedir.

Bilimsel olarak, dil modelleri istatistiksel olasılık üzerine çalışan sistem olup, "karar verme" terimi tamamen yanıltıcıdır. Modeller, eğitim verileri doğrultusunda ilişkilendirilmiş matematiksel kalıpları öğrenirler; kendi iradesi, bilinç veya bağımsız amacı bulunmamaktadır. Bununla birlikte, Chain-of-Thought (CoT) yöntemleri kullanarak modellerin ara adımları göstermesi, karmaşık sorunlarda doğruluk oranını artırırken aynı zamanda bu ara adımların "gerçekten düşündüğünün" bir göstergesi mi yoksa sadece istatistiksel çıktı mı olduğu sorusunu ortaya koymaktadır. Kontrol ve denetim açısından, derin sinir ağlarının karaboxtan kurtulması hala temel mühendislik sorunudur.

Düşünce zinciri tekniklerinde modeller, sonuca varmadan önce adım adım akıl yürütme göstermektedir. Ancak bu adımlar, insan benzeri mantıksal düşüncenin bir karşılığı değil, istatistiksel örüntülerin ardışık öngörüleridir. Ölçeklenebilirlik açısından, daha büyük modeller daha sofistike söylem üretebilir; fakat bu, gerçek kontrolün artması anlamına gelmez. Güvenlik araştırmaları, modellerin içsel mekanizmalarının tam olarak açıklanabilir olmadığını göstermektedir—bir kısım davranış belirli yönleriyle öngörülebilir olsa da, tüm sistem cümlesi çıktı veren "siyah kutu" kalma riski taşımaktadır.

Bu tartışmalar, yapay zeka mühendisliği ve felsefe kesişiminde yer almaktadır. Teknik olarak bakıldığında, endüstri açıklanabilirlik (interpretability) ve uyum (alignment) çalışmalarına odaklanmaktadır. Video, doğru bir şekilde, gelecekte daha güçlü modellerin kontrol edilmesinin bugünden yönetilmesi gereken bir risk olduğunu vurgulamaktadır. Ancak yapay zekanın "bilinçli karar verme" gibi insan-merkezli terminoloji ile tanımlanması bilimsel kesinliği azaltmaktadır. Aslında soru şu olmalıdır: Modellerin çıktılarını ve davranışlarını ne ölçüde anlayabiliriz ve kontrol edebiliriz?