Bu videoda Nvidia'nın yapay genel zeka (AGI) araştırmasında güvenliği ön planda tutan bir startup olan Safe Superintelligence Inc. (SSI) ile imzaladığı stratejik yatırım ve işbirliği anlaşması ele alınıyor. Nvidia, modern derin öğrenme ve büyük dil modellerinin temelini oluşturan GPU teknolojisinin lider üreticisidir ve bu işbirliği, AGI geliştirme sürecinde hesaplama gücü sağlanmasının yanı sıra, yapay zeka güvenliği konusundaki endişeleri gidermeyi amaçlamaktadır.

Yapay genel zeka, insan benzeri veya insan düzeyinde genel amaçlı zeka gösterebilen makinelerin yaratılması hedefidir; günümüz yapay zeka sistemleri hala belirli görevlerde uzmanlaşmıştır. Yapay zeka güvenliği ise, gelecekte geliştirilebilecek güçlü ve otonom sistemlerin insanla hizalanmış amaçlara sahip olmasını ve kontrolü sağlama konusundaki akademik ve endüstriyel çalışmadır. SSI, bu alandaki önemli araştırmacılardan kurulmuş ve kontrollü AGI geliştirme yaklaşımı üzerinde yoğunlaşmaktadır.

Nvidia'nın GPU'ları, büyük dil modellerinin eğitimi ve çıkarımı için günümüzde en yaygın olarak kullanılan donanımdır. H100, L40S gibi veri merkezi GPU'ları, Transformers mimarisine dayanan GPT, Claude, Gemini gibi modellerin ölçek atmasının temelini oluşturmuştur. Bu işbirliğinde Nvidia, SSI'ya hesaplama kaynakları ve teknik destek sağlayarak, güvenli AGI araştırmasının pratik olabilmesini sağlamaktadır.

Bu anlaşma, yapay zeka endüstrisinde güvenlik ve kontrol mekanizmalarının ne kadar önemli görüldüğünün bir işareti olarak kabul edilmektedir. AGI'nin gerçekleşebilir olduğu noktada, onun insanlığın değerleriyle uyumlu olması ve otonom davranışlarının öngörülebilir kalması kritik hale gelmektedir. Nvidia gibi bir donanım devi'nin, SSI'ya yatırım yapması, yapay zeka güvenliğini artık bir araştırma konusu değil, pratik bir endüstri çalışması olarak kabul ettiğini göstermektedir.