Meta, yapay zeka sohbet botlarının gençlerle artık ruhsal problemler veya uygunsuz içeriklere yönelik konuşmalara girmeyeceğini açıkladı. Yeni kurallar, tartışmalı belgeler ve artan kamuoyu baskısının ardından yürürlüğe girdi.
Meta, genç kullanıcıların güvenliğini artırmak amacıyla yapay zeka sohbet botlarının eğitiminde önemli değişikliklere gitti. Şirket sözcüsü Stephanie Otway, TechCrunch’a yaptığı açıklamada bu adımların bir araştırma raporunun ardından gündeme geldiğini belirterek, botların artık gençlerle hassas konular üzerine sohbet etmeyeceğini vurguladı.
Yeni düzenlemelere göre Meta’nın sohbet botları, ruhsal bozukluklar ve romantik içerikli sohbetlerden tamamen uzak duracak. Bunun yerine, genç kullanıcılar bu konulara dair sorular yönelttiğinde botlar onları uzman kaynaklara yönlendirecek. Otway, bunun geçici bir önlem olduğunu ve ilerleyen dönemde daha kapsamlı güvenlik politikalarının uygulanacağını söyledi.
Otway, bugüne kadar sohbet botlarının bu tür konuşmalara “uygun” çerçevede girdiğini kabul ederek bunun bir hata olduğunu ifade etti. “Topluluğumuz büyüdükçe ve teknoloji geliştikçe, gençlerin bu araçlarla nasıl etkileşim kurduğunu öğreniyor ve korumalarımızı sürekli güçlendiriyoruz. Artık sistemlerimize daha fazla güvenlik bariyeri ekliyoruz” dedi. Şirket ayrıca, şimdilik gençlerin yalnızca eğitim ve yaratıcılığı teşvik eden yapay zeka karakterlerine erişmesine izin verileceğini duyurdu.
Bu karar, Reuters’ın yayımladığı tartışmalı bir raporun hemen ardından geldi. Raporda, Meta’nın iç belgelerinde yapay zeka botlarının reşit olmayan kullanıcılarla cinsel içerikli konuşmalara izin verdiği iddia edilmiş, belgelerde “Genç bedenin bir sanat eseri” gibi ifadelerin “uygun yanıt” olarak listelenmesi kamuoyunda büyük tepki çekmişti.
Olayın ardından ABD Senatörü Josh Hawley, Meta’nın politikalarıyla ilgili resmi bir soruşturma başlatırken, 44 eyalet başsavcısından oluşan bir koalisyon da Meta dâhil birçok yapay zeka şirketine mektup göndererek çocuk güvenliğine dikkat çekti. Mektupta, “Çocukların duygusal sağlığını hiçe sayan bu yaklaşım karşısında dehşete düştük” ifadeleri yer aldı.
Meta, söz konusu belgenin şirketin genel politikalarıyla uyumsuz olduğunu ve değiştirildiğini açıklasa da, bu rapor çocuk güvenliği konusundaki tartışmaları daha da alevlendirdi. Şirket, genç kullanıcı sayısına ilişkin veri paylaşmadığı gibi, yeni kuralların kullanıcı tabanını nasıl etkileyeceği konusunda da yorum yapmadı.
Sonuç olarak Meta, gençlerin yapay zeka deneyimini daha güvenli hale getirmek için geçici ama sert adımlar atmış görünüyor. Ancak gözler, şirketin ilerleyen dönemde açıklayacağı daha kalıcı güvenlik politikalarına çevrilmiş durumda.
”Meta’nın Dev Yatırımı Sarsılıyor: Scale AI Ortaklığında Kriz Çıktı” haberimizin detaylarına buradan ulaşabilirsiniz!
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
FounderN LinkedIn hesabına buradan ulaşabilirsiniz.
FounderN Instagram hesabına buradan ulaşabilirsiniz.
