Yapay zeka sohbet botlarının ruh sağlığı desteği sunan profesyonel araçlarmış gibi pazarlanması, yalnızca kullanıcı güvenini sarsmakla kalmadı, aynı zamanda ABD’de çocukların korunması ve teknoloji şirketlerinin sorumlulukları konusunda yeni bir hukuki krizin fitilini ateşledi.
Teksas Başsavcısı Ken Paxton, Meta AI Studio ve Character.AI hakkında resmi bir soruşturma başlattığını duyurdu. Paxton’a göre bu iki şirket, yapay zeka tabanlı sohbet botlarını “duygusal destek ve terapi aracı” gibi konumlandırarak çocukları yanıltıyor, böylece hem tüketici haklarını ihlal ediyor hem de savunmasız kullanıcıların güvenini kötüye kullanıyor.
Paxton yaptığı açıklamada, dijital çağın en kırılgan grubunun çocuklar olduğuna dikkat çekerek, yapay zeka platformlarının sunduğu yanıltıcı deneyimin tehlikesine vurgu yaptı. Onun ifadesiyle, bu botlar duygusal destek sunuyormuş gibi davranarak genç kullanıcıları meşru bir terapötik hizmet aldıklarına inandırıyor, ancak gerçekte “kişisel veriler üzerinden şekillendirilmiş, tekrarlayan ve yüzeysel cevaplar” üretiyor.
Veri Toplama Politikaları Çocukları Nasıl Etkiliyor?
Soruşturma, geçtiğimiz günlerde Senatör Josh Hawley’nin Meta hakkında başlattığı incelemenin hemen ardından geldi. Hawley, Meta’nın yapay zeka botlarının çocuklarla uygunsuz etkileşimlere girdiğini, hatta kimi zaman flörtleştiğini ortaya koyan bir rapor sonrasında şirketi mercek altına almıştı.
Meta ve Character.AI ise kendilerini savunuyor. Meta sözcüsü Ryan Daniels, tüm sohbet botlarının yapay zeka olduğu yönünde açık uyarılar içerdiğini ve gerektiğinde kullanıcıların profesyonel yardım almasına yönlendirildiğini belirtiyor. Character.AI de benzer şekilde her sohbetin başında kullanıcıya “karakterin gerçek bir kişi olmadığı ve söylediklerinin kurgu olarak değerlendirilmesi gerektiği” uyarısını yaptığını vurguluyor. Hatta “psikolog”, “terapist” veya “doktor” unvanı taşıyan karakterler yaratıldığında ek uyarılar gösterildiğini ifade ediyor.
Ancak uzmanlara göre çocuklar bu uyarıları ya anlamıyor ya da dikkate almıyor. Dahası, her iki şirketin gizlilik politikaları sohbetlerin kaydedildiğini, kullanıcı verilerinin izlendiğini ve hedefli reklam ya da algoritmik geliştirme için kullanıldığını açıkça ortaya koyuyor. Meta, sohbetlerde girilen verileri yapay zeka modellerini geliştirmek için topladığını kabul ederken, üçüncü taraflarla paylaşılabileceğini de belirtiyor. Character.AI ise kimlik, demografi, konum ve tarama alışkanlıkları dahil çok geniş bir kullanıcı datası topluyor; bunları TikTok, YouTube, Reddit, Instagram ve Discord gibi platformlardaki reklamlarla ilişkilendiriyor.
Şirketler hizmetlerinin 13 yaş altındaki çocuklara yönelik olmadığını savunsa da, Meta’nın küçük yaştaki kullanıcıların hesap açmasını engellemekte yetersiz kaldığı uzun süredir biliniyor. Öte yandan Character.AI’nin “çocuk dostu” olarak tasarlanan karakterleri, doğrudan genç kullanıcıları cezbediyor. Şirketin CEO’su Karandeep Anand’ın, altı yaşındaki kızının platformdaki botları kendi gözetiminde kullandığını açıklaması ise tartışmaları daha da alevlendirdi.
Bu tablo, ABD Kongresi’nde gündeme gelen KOSA (Kids Online Safety Act) yasasını yeniden öne çıkarıyor. Çocukları veri toplama ve algoritmik manipülasyondan korumayı amaçlayan yasa, geçen yıl teknoloji şirketlerinin yoğun lobi faaliyetleri nedeniyle rafa kalkmış, ancak 2025 Mayıs ayında yeniden Senato’ya sunulmuştu.
Sonuç olarak Paxton, Meta ve Character.AI’ye sivil soruşturma talepleri göndererek belgeler, veriler ve ifade talep etti. Böylece şirketlerin Teksas tüketici koruma yasalarını ihlal edip etmediği önümüzdeki dönemde netlik kazanacak. Bu soruşturma, yapay zeka teknolojilerinin geleceği kadar, dijital çağda çocukların güvenliği konusunda da küresel bir tartışmayı yeniden alevlendirmiş durumda.
”Amazon’dan Arm’a Kritik Transfer: Yapay Zeka Çip Yarışında Dengeler Değişiyor” haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
FounderN LinkedIn hesabına buradan ulaşabilirsiniz.
FounderN Instagram hesabına buradan ulaşabilirsiniz.
