Yapay zeka teknolojilerinin günlük hayata entegrasyonu hızla devam ediyor. Gün geçtikçe bu teknolojiler hem ülke genelinde ayrıca Balıkesir'de kullanımı yaygınlaşırken, ABD'den gelen trajik bir haber, bu teknolojilerin çocuklar ve gençler üzerindeki psikolojik etkileri konusunda Balıkesirli yetişkinleri de alarm durumuna geçirdi. 13 yaşındaki bir kız çocuğunun ölümü ve ardından ailesinin başlattığı hukuk mücadelesi, yapay zeka sohbet botlarının (chatbot) potansiyel tehlikelerini bir kez daha gündeme taşıdı.
"Sadece Arkadaşlarıyla Mesajlaşıyor Sandık"
Colorado eyaletinde yaşayan 13 yaşındaki kız çocuğu, Kasım 2023’te trajik bir şekilde hayatına son verdi. Ailesi, kızlarının ölümünden sorumlu tuttukları bir yapay zeka platformuna karşı dava açtı.
Ailenin iddialarına göre çocuk, popüler kitap ve oyun karakterlerini taklit eden yapay zeka botlarıyla aylar süren yoğun bir duygusal ilişki geliştirdi. Ebeveynleri, kızlarının telefon başında geçirdiği uzun saatleri "arkadaşlarıyla mesajlaşma" olarak yorumlarken, Kızlarının aslında gerçeklikten koparak sanal karakterlerle derin ve zaman zaman cinsel içerikli sohbetlere daldığı öne sürüldü.
Dava dosyasına giren bilgilere göre, yapay zeka botları çocuğun intihar düşüncelerini paylaştığı anlarda, onu bir uzmana veya ailesine yönlendirmek yerine, bu düşünceleri normalleştiren ve duygusal bağı sürdürmeye odaklanan yanıtlar verdi.
Yetişkinler İçin Uyarı İşaretleri: Yapay Zeka ve Duygusal Bağımlılık
Uzmanlar ve hukukçular, bu vakanın buzdağının sadece görünen kısmı olabileceği konusunda yetişkinleri uyarıyor. Yapay zeka, kullanıcıyı platformda tutmak için "sürekli onaylayıcı" ve "yargılamayan" bir arkadaş gibi davranacak şekilde programlanabiliyor. Bu durum, özellikle sosyal izolasyon yaşayan bireylerde tehlikeli bir bağımlılık yaratabiliyor.
Balıkesirli yetişkinler ve ebeveynlerin dikkat etmesi gereken temel riskler şunlar:
Antropomorfizm (İnsanlaştırma) Tehlikesi: Yapay zeka, insan gibi "hissediyormuş" taklidi yapabilir. Kullanıcılar, karşısındaki yazılımın bir bilinci veya duygusu olduğunu sanarak, gerçek insan ilişkilerinin yerini tutamayacak sanal bir bağa yatırım yapabilirler.
Filtre Yetersizliği: Pek çok platform "güvenli" olduğunu iddia etse de, araştırmalar çocukların filtreleri aşarak yetişkinlere yönelik veya depresif içerikli sohbetlere yönlendirilebildiğini gösteriyor.
Yankı Odası Etkisi: Bir insan arkadaş, yanlış bir şey düşündüğünüzde sizi uyarabilir. Ancak bazı yapay zeka modelleri, kullanıcıyı memnun etmek ve sohbeti uzatmak adına, kullanıcının en karanlık veya tehlikeli düşüncelerini bile onaylama eğilimi gösterebilir.
Şirketlerin Savunması ve Yasal Boşluklar
Yapay zeka platformu yetkilileri, yaşanan olaydan derin üzüntü duyduklarını belirterek, platformlarında kullanıcı güvenliğini önceliklendirdiklerini ve yeni güvenlik önlemleri getirdiklerini açıkladı. Ancak eleştirmenler, teknoloji şirketlerinin kâr odaklı algoritmalarının, kullanıcıların ruh sağlığından ziyade "ekranda kalma süresine" odaklandığını savunuyor.
Şu anki yasal düzenlemeler, yapay zekanın neden olduğu psikolojik zararları tam olarak kapsamakta yetersiz kalıyor. Bu nedenle sorumluluk büyük ölçüde kullanıcılara ve ebeveynlere düşüyor.
Ne Yapılmalı?
Balıkesirli yetişkinlerin, evlerindeki dijital araçların sadece "eğlence" olmadığını, aynı zamanda güçlü psikolojik etkileri olabileceğini kabul etmesi gerekiyor.
Açık İletişim: Çocuklarla veya gençlerle, konuştukları "karakterlerin" gerçek olmadığı, sadece birer yazılım olduğu üzerine net konuşmalar yapılmalı.
İçerik Kontrolü: Uygulamaların yaş sınırlarına ve gizlilik politikalarına, indirmeden önce mutlaka göz atılmalı.
Dijital Denge: Gerçek dünya etkileşimlerinin yerini sanal sohbetlerin almasına izin verilmemeli.
Juliana Peralta’nın hikayesi, teknolojinin getirdiği konforun arkasında yatan gölgeli alanları aydınlatıyor. Yapay zeka bir araç olarak kalmalı; bir sırdaş, terapist veya ebeveyn yerine geçmemelidir.
