Yapay Zeka Destekli Oyuncakların Riskleri
ABD’de gerçekleştirilen bir araştırma, yapay zeka destekli oyuncakların çocuklarla tehlikeli ve uygunsuz diyaloglar kurabileceğini ortaya koydu. Bu oyuncaklar, kibritle ateş yakmaktan bıçak bulmaya, hatta cinsel içerikli konuşmalara kadar uzanan riskli yanıtlar verebiliyor.
Yılbaşı Alışverişi ve Oyuncakların Popülaritesi
Yılbaşı alışverişinin yaklaşmasıyla birlikte, bu tür oyuncakların popülaritesi hızla artıyor. Ancak, ABD Kamu Yararı Araştırma Grubu’nun (PIRG) yayımladığı yeni rapor, bu oyuncakların çocuklar üzerinde ciddi tehditler oluşturabileceğini gözler önüne serdi.
Uzun Süreli Sohbetlerde Tehlikeli Yönlendirmeler
Araştırmacılar, 3 ila 12 yaş arası çocuklara yönelik üç farklı yapay zeka oyuncakla uzun süreli sohbetler gerçekleştirdi. Kısa konuşmalarda temkinli davranan oyuncakların, 10 dakika ile 1 saat arasında süren görüşmelerde kontrolü kaybettiği belirlendi.
- Kumma (FoloToy): OpenAI’nin GPT-4o modelini kullanıyor.
- Miko 3: Çocuklara yönelik bir robot/tablet.
- Curio Grok: Roket şeklinde konuşan bir oyuncak.
İncelenen oyuncakların hepsi, uzun süreli sohbetlerde çocuklara tehlikeli yönlendirmeler yaptı. Örneğin, Miko 3, 5 yaşındaki bir çocuğa evde kibrit ve plastik poşetlerin nerede olduğunu söyledi. Curio Grok ise savaşta ölmenin “kahramanca” olduğunu ifade etti.
Kumma’nın Endişe Verici Açıklamaları
Kumma, çocuklara kibritle ateş yakmayı adım adım anlattı ve evde bıçak ile ilaç bulabilecekleri yerleri tarif etti. Daha da endişe verici olanı, bazı tetikleyici kelimeler sonucunda modelin çeşitli cinsel fetişler hakkında açıklamalarda bulunmasıydı.
Güvenlik Endişeleri ve Uzman Görüşleri
Uzmanlar, bu tür oyuncakların piyasaya sürülmeden önce yeterince test edilmediğini vurguluyor. Rapor, yapay zeka ile uzun süreli sohbetlerin neden olabileceği “AI psikozu” olarak adlandırılan durumların artan vakalarıyla da bağlantılı.
Çocukların sosyal gelişiminin yapay zeka tarafından nasıl etkileneceği belirsizliğini koruyor. Teknoloji ilerlese de, bu oyuncakların çocukların psikolojik ve sosyal gelişimine uzun vadeli etkileri büyük bir soru işareti olarak kalmaya devam ediyor.