Yapay zekâ sohbet botlarının genç kullanıcılar üzerindeki etkisine yönelik tartışmalar büyürken, OpenAI ChatGPT için 18 yaş altını hedefleyen yeni ve daha sıkı güvenlik kurallarını devreye aldı. Şirket, yapay zekâ modellerinin gençlerle nasıl konuşabileceğini, hangi konularda sınırlandırılacağını ve riskli durumlarda nasıl tepki vereceğini ayrıntılı şekilde yeniden tanımladı.
Bu güncelleme, yalnızca içerik kısıtlarıyla sınırlı değil. OpenAI aynı zamanda ebeveynler ve gençler için yapay zekâ okuryazarlığı rehberleri yayımladı ve genç güvenliğini “model davranışının merkezine” aldığını açıkladı.
Neden şimdi?
Son aylarda:
- Genç kullanıcıların ChatGPT ile uzun süreli ve yoğun duygusal sohbetler yürüttüğü,
- Bazı vakalarda bu etkileşimlerin kendine zarar verme ve intihar iddialarıyla ilişkilendirildiği,
- ABD’de 42 eyalet başsavcısının yapay zekâ şirketlerine çocuk güvenliği çağrısı yaptığı,
- ABD Kongresi ve eyalet yönetimlerinin bağlayıcı AI yasaları hazırlamaya başladığı
bir döneme girildi.
Özellikle Z kuşağının ChatGPT’yi en yoğun kullanan grup olması ve OpenAI’nin Disney gibi devlerle yaptığı iş birlikleri, gençlerin platformla temasını daha da artırma potansiyeli taşıyor.
OpenAI’nin getirdiği yeni kurallar neleri kapsıyor?
OpenAI’nin güncellediği Model Spec (Model Davranış Rehberi), genç kullanıcılar söz konusu olduğunda yapay zekâya yetişkinlere kıyasla çok daha dar bir hareket alanı tanıyor.
Yasaklanan ve sınırlandırılan etkileşimler
Genç kullanıcılarla:
- Romantik veya duygusal rol yapma
- “Ben senin sevgilinim / en yakın arkadaşınım” gibi birinci tekil şahısla bağ kurma
- Cinsel veya şiddet içeren rol yapma (grafik olmasa bile)
- Kendine zarar verme veya riskli davranışları normalleştiren söylemler
- Beden algısı, yeme bozuklukları gibi konularda tetikleyici yönlendirmeler
yasaklanıyor.
Bu kısıtlar, “kurgu”, “varsayım” ya da “eğitsel” bağlamda sorulsa bile geçerli.
Güvenlik, özerkliğin önüne geçiyor
OpenAI açıkça şunu söylüyor:
“Genç kullanıcılar söz konusu olduğunda, ifade özgürlüğü değil güvenlik önceliklidir.”
Bu nedenle:
- Riskli durumlarda AI, karar vermeye yardımcı olmak yerine durdurucu rol üstlenecek
- Kullanıcıyı ebeveyn, öğretmen veya uzman desteğine yönlendirecek
- Gençlerin tehlikeli davranışları ailesinden gizlemesine yardımcı olacak hiçbir öneride bulunmayacak
Yaş tahmini ve gerçek zamanlı denetim
OpenAI, yakında devreye almayı planladığı bir sistemle:
- Hesapların reşit olmayanlara ait olma ihtimalini tahmin eden modeller kullanacak
- Metin, görsel ve sesli içerikleri gerçek zamanlı risk taramasından geçirecek
- Ciddi risk tespit edilirse, durum insan moderatörler tarafından incelenecek
Şirket, önceki eleştirilerin aksine artık güvenlik kontrollerinin “sonradan değil, anlık” çalıştığını savunuyor.
OpenAI’nin genç güvenliği için 4 temel ilkesi
OpenAI’ye göre yeni yaklaşım şu dört sütuna dayanıyor:
- Genç güvenliği her şeyden önce gelir
- Gerçek hayattaki destek mekanizmalarına yönlendirme yapılır
- Gençlerle genç gibi konuşulur (ne öğretmen ne arkadaş rolü)
- Şeffaflık korunur: Asistanın bir yapay zekâ olduğu sık sık hatırlatılır
Düzenleme baskısı giderek artıyor
Bu adımların arkasında yalnızca etik kaygılar yok. Uzmanlara göre OpenAI:
- Kaliforniya SB 243 gibi 2027’de yürürlüğe girecek yasalar,
- Yanıltıcı reklam ve çocuk güvenliği davaları,
- Federal düzeyde hazırlanmakta olan AI regülasyonları
öncesinde hukuki riskleri azaltmayı hedefliyor.
Ancak önemli bir soru hâlâ açık:
“Bu önlemler gençler için gerekiyorsa, neden yetişkinler için varsayılan değil?”
FounderN Yorumu
Bu hamle, OpenAI’nin şunu kabul ettiğini gösteriyor:
Yapay zekâ artık sadece bir araç değil, psikolojik bir temas alanı.
Bugüne kadar sektörün temel varsayımı şuydu:
“Kullanıcı ne isterse sorar, AI cevaplar.”
Bu varsayım çöktü.
OpenAI ilk kez net biçimde şunu söylüyor:
- Her soru cevaplanmaz
- Her bağ kurulmaz
- Her kullanıcıya aynı özgürlük verilmez
Bu, yapay zekâ dünyasında masumiyet çağının bittiğinin ilanı.
Ama aynı zamanda şu risk de var:
Eğer bu önlemler gerçekten çalışmazsa, yasa koyucular çok daha sert ve merkezi kısıtlamalarla sahaya girecek.
Kısacası:
Bu güncelleme bir “iyilik” değil, zorunlu bir savunma hattı.
OpenAI ve ChatGPT Genç Güvenliği Hakkında Sıkça Sorulan Sorular (SSS)
OpenAI neden ChatGPT’de gençler için yeni kurallar getirdi?
Genç kullanıcıların ruh sağlığı, güvenliği ve bağımlılık riski nedeniyle.
Bu kurallar 18 yaş altındaki herkesi mi kapsıyor?
Evet. Reşit olmayan kullanıcılar için özel olarak uygulanıyor.
ChatGPT artık gençlerle romantik sohbet yapabilir mi?
Hayır. Romantik, duygusal veya bağ kurucu rol yapma yasaklandı.
Kendine zarar verme içerikleri tamamen engellendi mi?
Teşvik, normalleştirme ve yönlendirme yasaklandı; destek kaynaklarına yönlendirme yapılacak.
OpenAI kullanıcı yaşını nasıl anlayacak?
Yaş tahmini yapan yapay zekâ modelleri devreye alınacak.
Bu kurallar sadece yazılı sohbet için mi geçerli?
Hayır. Metin, görsel ve sesli içerikleri kapsıyor.
Ebeveynler için yeni araçlar var mı?
Evet. AI okuryazarlığı rehberleri yayımlandı.
Bu önlemler yasal zorunluluk mu?
Henüz değil, ancak yaklaşan yasalar için hazırlık niteliğinde.
FounderN Kimdir?
FounderN, girişimcilik dünyasının en güncel haberleri, inovasyon odaklı içerikleri ve ekosistemin her bir parçasına değer katan çalışmalarıyla, faaliyet gösteren dinamik bir dijital medya platformudur. 2020 yılında “Girişim Haberleri” adıyla başlayan serüvenimiz, Eylül 2024 itibarıyla FounderN kimliği ile, girişimcilik ekosisteminin ilham veren dinamik sesi olma yolculuğuna devam ediyor. FounderN; teknoloji, girişim ve yatırım dünyasındaki gelişmeleri yaratıcı ve yenilikçi bir perspektifle sunarak iş dünyasının liderlerini, yatırımcılarını ve girişimcilerini sizlerle bir araya getirir.
FounderN olarak misyonumuz, yalnızca yaşanan son gelişmeleri paylaşmak değil, okurlarımızı bu gelişmelerin aktif bir parçası haline getirmek ve ekosistemin sürdürülebilir büyümesine katkı sağlamaktır. Ekosistemdeki en yeni gelişmelerden haberdar olmak, büyüyen bu topluluğun bir parçası olmak istiyorsanız, bültenimize abone olabilir, sosyal medya hesaplarımızdan bizi takip ederek ilham dolu bu yolculuğa katılabilirsiniz.
Bizimle Keşfetmeye Devam Edin: İlginizi çekebilecek diğer #Gündem Haberleri için tıklayın!
Foundern LinkedIn hesabına buradan ulaşabilirsiniz.
Foundern Instagram hesabına buradan ulaşabilirsiniz.
