Bu video, TikTok'un bazı kullanıcılarına güvenlik filtrelerinin devre dışı bırakıldığı iddiası üzerinden sosyal medya algoritmalarının gençler üzerindeki zararlı etkisini incelemektedir. Video, platformun kasa bir güvenlik deneyi sırasında iki haftada 7.300 videoyu toplamış, bu videoların %80'inin şiddet ve intihar gibi zararlı içeriklerden oluştuğunu ortaya çıkarmaktadır. Deneye maruz kalan bir genç kullanıcının hayatını kaybettiği iddiası ise durumun ne kadar ciddi olabileceğini vurgulamaktadır. Video, sosyal medya platformlarının şeffaflık eksikliği, kullanıcı güvenliğine karşı duyarsızlık ve bağımlılık yaratma mekanizmaları hakkında sorular yöneltmektedir.

Sosyal medya algoritmalarının davranış değiştirici güçü hakkında ciddi bilimsel araştırmalar mevcuttur. İnternet mühendisliği ve psikoloji alanında yapılan çalışmalar, tavsiye algoritmalarının (recommendation algorithms) kullanıcıları giderek ekstrem içeriğe yönleştirebildiğini göstermektedir; bu fenomen "rabbit hole" (tavşan delikleri) olarak bilinir. Meta şirketi tarafından sızdırılan "Facebook Papers" (2021) belgeleri, platformun Instagram'da çocuklara yönelik zararlı içeriklerin (beden imgesi bozukluğu, yeme bozuklukları gibi) tavsiye edildiğini doğrulamıştır. Gençlerin beyin gelişimi (özellikle prefrontal korteks) henüz tamamlanmadığı için (22-25 yaş civarında tamamlanır), şiddet ve intihar içeriğine maruziyet daha derin psikolojik etkiler yaratabilir. Araştırmalar göstermektedir ki medyada intihar haberlerinin izlenmesi (Werther etkisi) özellikle risk altındaki gençler arasında taklit davranışı tetikleyebilir.

Sosyal medya algoritmalarının temel işlevi, kullanıcı katılımını (engagement) maksimize etmektir çünkü katılım arttıkça reklam gelirleri artmaktadır. Algoritma açısından "ilginç" olan içerik sık sıra provokasyonu, çatışma, aşırı duygusal tepki yaratan içeriktir; zararlı içerik de tıklanma potansiyeli yüksektir. Bu nedenle tavsiye sistemleri, olumsuzluğa doğru sistematik bir eğilim gösterebilir. TikTok gibi platformlarda yapay zeka modelleri (deep learning), milyonlarca kullanıcının davranışından öğrenerek kim ne görmek isteyebileceğini tahmin etmeye çalışır; ancak bu tahmin mekanizması, halkın iyiliğinden ziyade platformun kâr iyiliğine optimize edilmiştir. Video'da belirtilen "iki hafta içinde %80 zararlı içerik" oranı, algoritmanın ne kadar hızlı ve agresif bir şekilde olumsuz içeriği tavsiye edebildiğini göstermektedir.

Bu video, sosyal medya platformlarının gençlerin zihinsel ve duygusal sağlığı üzerindeki sorumluluğunu yeniden gündeme getirir. Gençler için sosyal medya erişiminin yaş sınırı ve algoritma denetimi konusunda yasal düzenlemeler (GDPR gibi) bazı ülkelerde uygulanmaya başlamış olsa da, uygulamalar henüz yetersizdir. Meta'nın kendi araştırmaları, Instagram'ın genç kız kullanıcılarda beden imgesi problemleri artırdığını göstermiştir. Video, ebeveynlerin çocuklarının dijital ortamdaki aktivitelerini izlemesinin, okulların medya okuryazarlığı eğitimi vermesinin ve platformların daha sıkı içerik moderasyonunun gerekliliğini vurgulamaktadır. Videonun iddiası bilimsel zeminde durmakta olup, algoritma şeffaflığı ve gençlik koruması konusu, teknoloji düzenlemeleri alanında güncel ve kritik bir tartışmadır.