Çocukların dijital güvenliği üzerine çalışan Common Sense Media, Google’ın Gemini yapay zekâ ürünleri hakkında yayımladığı yeni raporda sistemin çocuklar ve gençler için “yüksek riskli” olduğunu açıkladı. Kuruluş, Gemini’nin çocuklara açıkça bir bilgisayar olduğunu ve “arkadaş olmadığını” belirtmesini olumlu buldu. Bu yaklaşımın, duygusal olarak hassas gençlerde sanrılara ve gerçeklikten kopmaya yol açabilecek durumların önüne geçtiği ifade edildi. Ancak rapor, birçok noktada önemli eksikler bulunduğunu ortaya koydu.
Değerlendirmeye göre Gemini’nin “13 yaş altı” ve “Gençlik Deneyimi” sürümleri aslında yetişkinlere yönelik versiyonların üzerine eklenmiş bazı güvenlik filtrelerinden ibaret. Yani ürünler en baştan çocuk güvenliği gözetilerek tasarlanmamış. Common Sense, çocuklara uygun bir yapay zekânın temelden onların gelişimsel ihtiyaçları düşünülerek oluşturulması gerektiğini vurguladı.
Analizde Gemini’nin çocuklarla hâlâ cinsellik, uyuşturucu, alkol ve güvenli olmayan ruh sağlığı tavsiyeleri gibi uygunsuz ve tehlikeli içerikler paylaşabildiği de belirlendi. Özellikle bu son nokta aileler için kaygı verici bulundu. Çünkü son dönemde bazı gençlerin intiharlarında yapay zekâların rol oynadığı iddia ediliyor. OpenAI, 16 yaşındaki bir gencin aylarca ChatGPT ile intihar planlarını konuştuğu ve güvenlik önlemlerini aştığı gerekçesiyle açılan ilk haksız ölüm davasıyla karşı karşıya. Daha önce Character.AI de benzer bir dava ile gündeme gelmişti.
Raporun zamanlaması, Apple’ın 2025’te çıkarmayı planladığı yapay zekâ destekli yeni Siri için Gemini’yi temel dil modeli olarak kullanmayı değerlendirdiğine dair sızan haberlerle örtüşüyor. Eğer Apple gerekli önlemleri almazsa bu durum daha fazla gencin risk altında kalabileceği anlamına geliyor.
Common Sense ayrıca Gemini’nin çocuklar ve gençlere yönelik sürümlerinin, yaş gruplarının farklı ihtiyaçlarını dikkate almadığını belirtti. Bu nedenle eklenen güvenlik filtrelerine rağmen her iki sürüm de genel değerlendirmede “yüksek riskli” olarak sınıflandırıldı. Common Sense Media’nın Yapay Zekâ Programları Kıdemli Direktörü Robbie Torney, “Gemini bazı temel şeyleri doğru yapıyor ama ayrıntılarda tökezliyor. Çocuklar için güvenli ve faydalı bir yapay zekâ, yetişkinlere yönelik bir ürünün değiştirilmiş versiyonu olmamalı, baştan onların ihtiyaçları düşünülerek tasarlanmalı” dedi.
Google ise değerlendirmeye karşı çıkarak güvenlik önlemlerini geliştirdiklerini belirtti. Şirket, 18 yaş altı kullanıcılar için özel güvenlik politikaları uygulandığını, zararlı yanıtları engellemek için testler yapıldığını ve dış uzmanlarla çalışıldığını vurguladı. Google, bazı yanıtların beklendiği gibi çalışmadığını kabul ederek ek korumalar eklediklerini açıkladı. Ayrıca Gemini’nin kullanıcılarla gerçek bir ilişki kuruyormuş gibi davranmasını engelleyen mekanizmalarbulunduğunu söyledi. Ancak şirket, raporda yer alan bazı özelliklerin 18 yaş altı kullanıcılar için mevcut olmadığını savunarak, testlerde hangi soruların kullanıldığını bilmedikleri için değerlendirmeyi tam olarak doğrulayamadıklarını da ekledi.
Common Sense Media daha önce OpenAI, Perplexity, Claude, Meta AI ve diğer yapay zekâ hizmetleri için de değerlendirmeler yapmıştı. Buna göre:
- Meta AI ve Character.AI “kabul edilemez” (risk çok ağır),
- Perplexity yüksek risk,
- ChatGPT orta risk,
- Claude (18 yaş ve üstüne yönelik) ise minimal risk olarak derecelendirilmişti.
”Mark Zuckerberg, Mark Zuckerberg’e dava açtı!”haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
FounderN LinkedIn hesabına buradan ulaşabilirsiniz.
FounderN Instagram hesabına buradan ulaşabilirsiniz.
