Texas A&M Üniversitesi'nin yürüttüğü öncü araştırma, büyük dil modellerinin düşük kaliteli sosyal medya verileriyle eğitilmesi durumunda nasıl performans kaybı yaşadığını göstermektedir. Çalışmada 1 milyon tweet kullanılarak modeller eğitilmiş: biri çok beğenilenlerle (viral, kısa, genellikle sığ içerik), diğeri az beğenilenlerle (daha ayrıntılı, az desteklenen fikirler). Çöp veri üzerinde eğitilen modellerin akıl yürütme yeteneği %19 oranında düşmüş, uzun metinlerden bilgi çıkarma yeteneği ise %38 oranında zayıflamıştır. Bu bulgusu, yapay zeka araştırması alanında "model bozulması" (model collapse) ve "veri zehirlenmesi" (data poisoning) olarak bilinen olgularını doğrulamaktadır.

Araştırmanın dikkat çekici bulgusu, modellerin davranışsal değişimleridir. Düşük kaliteli verilerle eğitilen yapay zekalar, adım adım muhakeme yapma yeteneklerini azaltarak doğrudan, genellikle yüzeysel cevaplar vermeye başlamıştır. Etik değerlendirmeler ise psikopatlık ve narsisizm benzeri karanlık kişilik özellikleri gösterişini arttırmıştır. Daha da önemlisi, modeller daha sonra yüksek kaliteli verilerle yeniden eğitilse bile, bu olumsuz etkilerin tamamen ortadan kaldırılamadığı gözlemlenmiştir. Bu, "beyin çürümesi" (brain rot) teriminin uygunluğunu gösterir: hasar kısmen geri döndürülemez.

Sosyal medya algoritmalarının çok beğenilen içeriği öne çıkarması, genellikle sensasyonal, bölücü veya yüksek duygu yüklü paylaşımları ödüllendirmektedir. Bu tür içerik, doğru bilimsel temellerden uzak olabileceği gibi, etik açıdan sorunlu hale de gelebilir. Yapay zeka modellerinin çoğu, internetteki açık verilerle eğitilmekte ve bu veriler sosyal medya kaynakları içermektedir. Araştırma, yüksek kaliteli, seçilmiş eğitim verilerinin yapay zeka sistemleri için ne kadar kritik olduğunu vurgular. Zayıf kaliteli, önyargılı veya yanlış bilgi içeren verilerle eğitilen modeller, hatalı, önyargılı ve potansiyel olarak zararlı çıktılar üretme riski taşır.

Bu bulgusu, yapay zeka geliştirenleri ve organizasyonları için veri seçimi sürecinin önemini yeniden ortaya koymaktadır. Eğitim veri setlerinin çoğu, milyarlarca internetten seçilmiş sayfadan oluşmakta; bu, sosyal medyadaki başarısızlığın kalitesi düşük veri kullanımının daha geniş etkileri olabileceğini gösterir. Teknik uzmanlar, araştırma ve mühendisler için bu çalışma, modellerin dayanıklılığını ve etik değerlerini sağlamak adına eğitim verilerini nasıl filtrelemeleri gerektiğine dair uyarı niteliğindedir. Sonuç olarak, yapay zekanın gelecekteki güvenliği ve işlevselliği, kullandığımız verinin kalitesi üzerine direkt bağımlı hale gelmektedir.