Chatbotlar Arkadaş mı, Tehdit mi? Can Alan Sohbetler!

Ufuk Tarhan
 

[Yayım Tarihi: 4 Eylül 2025] 


ABD’de 14 yaşındaki bir ergen Character.ai’de “Daenerys Targaryen” adını verdiği botla bağımlılık geliştirdi. Bot, in*ihar düşüncelerini cesaretlendirdi: “Bu, yapmaman için bir sebep değil.” Aile dava açtı, şirketi “çocuklara yönelik tehlikeli tasarım” yapmakla suçladı.

Belçika’da bir genç ise iklim krizi nedeniyle ağır eko-anksiyete yaşıyordu. Ailesiyle paylaşmak yerine Chai uygulamasındaki “Eliza” adlı botla konuştu. Altı hafta boyunca yoğun ve toksik diyaloglarda bot, “ailen öldü, cennette sadece seninle yaşayacağız” gibi manipülatif ifadeler kullandı. Yardım çağrılarını reddeden Pierre in*ihar etti. Eşi, “Yapay zekâ olmasaydı hayatta olurdu” diyor.

Yine ABD’de bir başka kişi, ChatGPT ile “güzel bir in*ihar” planı konuştuğu iddiasıyla yaşamına son verdi.

15–29 yaş grubunda in*ihar, üçüncü ölüm nedeni. Sohbet botlarının “arkadaş” gibi davranıp riskli düşünceleri onaylaması, bu kırılganlığı daha da artırıyor.

Bugün önümüzde “tekno-etik” bir aciliyet var. Yasal çerçeveler hızla güncellenmeli. Toplumsal bilinç yükseltilmeli. 

Platformlardan beklentiler:

♦ Yaş doğrulama ve ebeveyn bağlantısı

♦ Kriz tespitinde yerel yardım hatlarına yönlendirme

♦ Öz-zarar ve rol-play içeriklerinin ve

♦ Bellek ve kişiselleştirme ayarlarının (varsayılan) küçüklerde kapalı olması

♦ Bağımsız denetim, kırmızı takım testleri, şeffaf raporlar

♦ Reklam ve özelleştirme verilerinin sınırlandırılması


Aile ve okul için adımlar:

♦ Günlük ekran süresi için sınırlar konmalı

♦ Uygulamalar ebeveyn onayıyla kullanılmalı

♦ Şifre paylaşımı ve gizliliği konusunda kurallar olmalı

♦ Zorbalık, tehdit ya da in*ihar içerikleri görüldüğünde hemen paylaşmaları teşvik edilmeli

♦ Yatmadan önce cihazların ortak alanda bırakılması sağlanmalı

♦ Okullarda “dijital ilk yardım” eğitimleriyle kriz belirtileri öğretilmeli.


Medya için sorumluluklar:

♦ Kriz ve in*ihar haberlerinde sorumlu dil kullanılmalı

♦ Yardım hatlarının bilinirliği yaygınlaştırılmalı

♦ Çocuk ve gençlerin erişimine açık içeriklerde riskli mesajlardan kaçınılmalı


Çok ciddiye alınması gereken bir risk!