Ing. Calogero Bono
OpenAI, ChatGPT içindeki şiddet risklerini sınırlamak için bir dizi önlem açıkladı. Yenilikler 18 yaşın altındaki kullanıcılar için silah bilgileri, geçmiş toplu saldırılar hakkındaki yanıtlar ve ilk kez 2027 başında yayımlanacak bir güvenlik raporuyla ilgili. Kurallar önümüzdeki haftalarda devreye girecek. Her gün ChatGPT kullanan aileleri ve şirketleri de doğrudan ilgilendiriyor.
Olaylara geçmeden önce birkaç terim. ChatGPT for Teens, 18 yaş altı kullanıcılar için tasarlanmış, hassas içeriklerde ek sınırlamalar içeren ChatGPT deneyimidir. Yaş tahmini (age prediction), kullanım davranışları gibi sinyallerden kullanıcının 18 yaşın altında olup olmadığını tahmin eden sistemdir. Persona, yaş doğrulamasını yöneten OpenAI iş ortağıdır. Ebeveyn denetimleri, ebeveynlerin kendi hesaplarını çocuklarının hesabına bağlamasına olanak tanır. Community Safety Report, OpenAI'ın yayımlamayı vaat ettiği periyodik rapordur.
OpenAI ne açıkladı?
OpenAI'ın resmi açıklamasına göre iki yenilik var. Birincisi yeni bir topluluk güvenliği raporu. İkincisi, reşit olmayanlara yönelik silah içeriklerinde daha sıkı kısıtlamalar.
Şirket, 2026'nın üçüncü çeyreğinde yakın şiddet tehditleri nedeniyle kolluk kuvvetlerine 200'den fazla bildirim yaptığını belirtiyor. Bu veri OpenAI'a ait ve bağımsız olarak doğrulanamıyor.
Punto Informatico'nun hatırlattığı gibi bu adım, ABD'de yapılan şikâyetlere ve Common Sense Media'nın ChatGPT for Teens hakkındaki eleştirilerine bir yanıt niteliğinde.
Toplu saldırılar ve şiddet sorularında ne değişiyor?
OpenAI, modellerinin şiddet planlamaya ya da gerçekleştirmeye yardımcı olacak talimatlar vermeyecek şekilde eğitildiğini söylüyor. Artık model, geçmiş toplu saldırılar ve failleri hakkında daha az ayrıntılı bilgi verecek; veriler internette başka yerlerde bulunsa bile.
Olayları, mağdurların ve toplulukların etkisini ve uyarı işaretlerini anlamaya yönelik sorular yine mümkün. Silahlar, ekipmanlar ve satın alma yöntemleri hakkındaki ayrıntılar ile failin ünlü olmasına yol açabilecek zarar karşılaştırmaları sınırlanıyor. Bu sınırlar yaştan ve isteğin amacından bağımsız olarak geçerli.
Son sohbetler olası şiddet sinyalleri gösteriyorsa ChatGPT daha temkinli yanıt verecek. Şirket, kullanıcının reşit olmadığı öngörüldüğünde de aynı sınırları uygulamak için çalışıyor.
ChatGPT sohbetleri kapatıp hesapları askıya alabilecek mi?
OpenAI'a göre evet. Ruh sağlığı ve şiddetin önlenmesi uzmanlarıyla birlikte şirket, daha erken devreye giren otomatik müdahaleler üzerinde çalışıyor. Bir sohbet şiddete ya da birine zarar verme düşüncesine takılı kalmış görünürse ChatGPT sohbeti otomatik olarak kapatabilecek. Bu tekrar ederse hesap geçici olarak askıya alınabilecek.
Şiddet içeren etkinlik kurallarını ihlal eden hesaplara yönelik engeller yürürlükte kalıyor. OpenAI, sinyalleri güvenilir biçimde nasıl tanıyacağını ve ne zaman müdahale edeceğini hâlâ netleştirmesi gerektiğini kabul ediyor.
Gençler ve ebeveynler için yeni koruma önlemleri neler?
18 yaş altı kullanıcılar için silahlar ve güvenlik sistemleri hakkındaki bilgilerde sınırlar artıyor; soru zararsız görünse bile. Gençler yine de şiddeti önlemek, destek aramak ve güvendikleri bir yetişkinle konuşmak için ChatGPT'yi kullanabilecek.
Geçen yıl başlatılan yaş tahmini, kullanım sırasında yeni sinyalleri değerlendiriyor ve kullanıcıları gençlere yönelik deneyime aktarıyor. Yanlışlıkla sınıflandırılan kişiler Persona aracılığıyla yetişkin olduklarını doğrulayabilir.
Ebeveyn denetimleri konusunda, temmuzdan itibaren çocuğun hesabı şiddet ihlalleri nedeniyle devre dışı bırakıldığında ebeveynler bilgilendiriliyor. OpenAI, bu konuda tekrarlayan tartışmalar nedeniyle yapılan askıya almalar için de bir bildirim üzerinde çalışıyor.
Daha fazlası için – OpenAI özerk bir hacker geliştiriyor — İtalyan KOBİ'lerin güvenliği tehlikede ve OpenAI özerk bir hacker çıkarıyor — İtalyan KOBİ'lerin güvenliği şimdiden geride.
Bilmen gereken sınırlar
Neredeyse her şey OpenAI'ın açıklamalarına dayanıyor. Filtrelerin etkinliği ya da yaş tahmininin hata oranı hakkında bağımsız veri yok. Bir sohbetin kapatılmasına ya da bir hesabın askıya alınmasına hangi ölçütlerle karar verildiği net değil. Askıya almalarda ebeveynlere bildirim gibi bazı önlemler hâlâ geliştirme aşamasında. İlk rapor 2026'nın ikinci yarısını kapsayacak ve ancak 2027 başında gelecek.
Dijitalle çalışanlar için neler değişiyor
ChatGPT'yi entegre eden ürünler geliştiriyorsan ya da yanıtlarını kullanıyorsan, silahlar, fiziksel güvenlik ve güncel şiddet olayları konusunda daha fazla reddetme ve daha az ayrıntılı yanıt bekle. Bu durum meşru araştırmalar için de geçerli, çünkü geçmiş saldırılara ilişkin sınırlar isteğin amacına bağlı değil. Gençlere yönelik hizmet geliştiriyorsan, sistemin tahmin ettiği yaşın deneyimi değiştirebileceğini göz önünde bulundur. Reşit olmayan çalışan ya da müşterileri olan şirketler için ebeveyn denetimlerini ve yaş doğrulamasını açıklamak faydalı olur. Bir yanıt reddedildiğinde kullanıcıya net bir mesaj gösterilmesini planlamak da iyi olur.
Bizim görüşümüz
Yön anlaşılabilir, ancak duyuru bir sonuçtan çok bir taahhüt. Geçmiş saldırıların yeniden anlatımını sınırlamak makul bir tercih, ama araştırma ile risk arasındaki sınırı belirsizleştiriyor. Asıl hassas nokta, hata yapabilen ve yetişkinleri kimlik doğrulamaya zorlayabilen yaş tahmini. Yarı yıllık raporun gerçek sınav olacağı kesin, yeter ki yalnızca örnekler değil veriler de içersin. Modellere duyulan güven konusunda farkları değerlendirmek için Anthropic Claude ve OpenAI karşılaştırması yardımcı olur.
Sık sorulan sorular
ChatGPT'nin yeni kuralları ne zaman yürürlüğe girecek?
Önümüzdeki haftalarda. OpenAI, önlemlerin kısa süre içinde dağıtılmaya başlayacağını ve sonra iyileştirileceğini belirtiyor. Bazı özellikler, örneğin belirli ebeveyn bildirimleri, hâlâ geliştirme aşamasında.
ChatGPT yetişkinlere de daha az bilgi verecek mi?
Kısmen evet. Geçmiş toplu saldırıların yeniden anlatımına ilişkin sınırlar, yaş ya da isteğin amacı fark etmeksizin geçerli. Olayları anlamak ve uyarı işaretlerini tanımak için sorular sormak yine mümkün olacak.
ChatGPT beni reşit olmayan biri sanarsa ne olur?
Reşit olduğunu doğrulayabilirsin. OpenAI, Persona tarafından yönetilen ve gizliliği koruyan hızlı bir süreç tanımlıyor. Bu süreçten sonra gençlere yönelik korumalar kaldırılıyor.
Community Safety Report ne zaman çıkacak?
2027 başında. İlk rapor 2026'nın ikinci yarısını kapsayacak ve güncellemeler altı ayda bir gelecek.
Çocuğum şiddet hakkında konuşursa ebeveyn olarak haberdar olacak mıyım?
Duruma bağlı. Temmuz ayından itibaren şiddet ihlalleri nedeniyle hesap devre dışı bırakıldığında uyarı gönderiliyor. OpenAI, tekrarlayan tartışmalar nedeniyle yapılan askıya almalar için de bir bildirim üzerinde çalışıyor.
2027 raporu öncesinde nelere bakmalı
OpenAI'ın vaatleri önümüzdeki aylarda, kuralların devreye girmesi ve ilk raporla birlikte ölçülecek. Takip etmeye değer üç sinyal var.
- 2027 raporunun yalnızca anonim örnekler değil, ölçülebilir veriler içerip içermediğini kontrol et.
- OpenAI'ın sohbetleri kapatma ve hesapları askıya alma ölçütlerini nasıl açıkladığını takip et.
- Askıya almalarda ebeveyn bildirimlerinin gerçekten gelip gelmediğini ve ne kadar sürede geldiğini doğrula.
