Ing. Calogero Bono
OpenAI ने ChatGPT में हिंसा से जुड़े जोखिम कम करने के लिए उपायों का एक पैकेज घोषित किया है। नई बातें 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए हथियारों की जानकारी, अतीत के सामूहिक हमलों पर जवाब और एक नई सुरक्षा रिपोर्ट से जुड़ी हैं, जिसका पहला संस्करण 2027 की शुरुआत में आएगा। नियम अगले कुछ हफ्तों में लागू होंगे। ये मायने रखते हैं क्योंकि इनका असर रोज़ ChatGPT इस्तेमाल करने वाले परिवारों और कंपनियों पर पड़ेगा।
कुछ शब्द, तथ्यों में जाने से पहले। ChatGPT for Teens ChatGPT का वह अनुभव है जो 18 वर्ष से कम उम्र के लोगों के लिए बना है, जिसमें संवेदनशील सामग्री पर अतिरिक्त सीमाएं हैं। Age prediction वह प्रणाली है जो उपयोग के व्यवहार जैसे संकेतों से अनुमान लगाती है कि उपयोगकर्ता 18 वर्ष से कम है या अधिक। Persona OpenAI का साझेदार है जो आयु सत्यापन संभालता है। अभिभावक नियंत्रण माता-पिता को अपने खाते को बच्चे के खाते से जोड़ने देते हैं। Community Safety Report वह आवधिक रिपोर्ट है जिसे OpenAI प्रकाशित करने का वादा करता है।
OpenAI ने क्या घोषणा की है?
Secondo il comunicato ufficiale di OpenAI, le novità sono due. La prima è un nuovo rapporto sulla sicurezza della comunità. La seconda è un insieme di restrizioni più severe sui contenuti legati alle armi per i minori.
L'azienda dichiara di aver fatto oltre 200 segnalazioni alle forze dell'ordine nel terzo trimestre del 2026, per minacce imminenti di violenza. Il dato è fornito da OpenAI e non è verificabile in modo indipendente.
Come ricorda Punto Informatico, la mossa risponde alle denunce ricevute negli Stati Uniti e alle critiche di Common Sense Media su ChatGPT for Teens.
हिंसा और सामूहिक हमलों के सवालों पर क्या बदलता है?
OpenAI का कहना है कि उसके मॉडल हिंसा की योजना बनाने या उसे अंजाम देने में उपयोगी निर्देश न देने के लिए प्रशिक्षित हैं। अब मॉडल अतीत के सामूहिक हमलों और उन्हें करने वालों के बारे में कम विस्तृत जानकारी देगा, भले ही वे आंकड़े इंटरनेट पर कहीं और मिल जाएं।
घटनाओं को समझने, पीड़ितों और समुदायों पर प्रभाव और चेतावनी के संकेतों से जुड़े सवाल संभव रहेंगे। हथियारों, उपकरणों और खरीद के तरीकों के विवरण तथा नुकसान की मात्रा की तुलना, जो हमलावर की प्रसिद्धि बढ़ा सकती है, सीमित की जाएंगी। ये सीमाएं उम्र और अनुरोध के कारण से स्वतंत्र लागू होंगी।
यदि हाल की चैट में हिंसा के संभावित संकेत दिखें, तो ChatGPT अधिक सावधानी से जवाब देगा। कंपनी वही सीमाएं तब भी लागू करने पर काम कर रही है जब वह अनुमान लगाती है कि उपयोगकर्ता नाबालिग है।
क्या ChatGPT बातचीत बंद कर सकेगा और खाते निलंबित कर सकेगा?
हां, OpenAI के अनुसार। हिंसा और आत्मघात-मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर कंपनी पहले चरण में स्वचालित हस्तक्षेप पर काम कर रही है। यदि कोई बातचीत हिंसा या किसी को नुकसान पहुंचाने के विचार पर केंद्रित दिखे, तो ChatGPT चैट को स्वचालित रूप से बंद कर सकेगा। यह बार-बार हो तो खाता अस्थायी रूप से निलंबित किया जा सकता है।
हिंसक गतिविधियों के नियम तोड़ने वाले खातों पर प्रतिबंध जारी रहेंगे। OpenAI मानता है कि संकेतों को भरोसेमंद ढंग से पहचानने और कब हस्तक्षेप करना है, यह अभी स्पष्ट होना बाकी है।
किशोरों और अभिभावकों के लिए नई सुरक्षा क्या है?
18 वर्ष से कम उम्र के लोगों के लिए हथियारों और सुरक्षा प्रणालियों की जानकारी पर सीमाएं बढ़ती हैं, भले ही सवाल हानिरहित लगे। किशोर फिर भी हिंसा रोकने, सहायता खोजने और किसी भरोसेमंद वयस्क से बात करने के लिए ChatGPT का उपयोग कर सकते हैं।
पिछले साल शुरू हुई age prediction उपयोग के दौरान नए संकेतों का मूल्यांकन करती है और उपयोगकर्ता को नाबालिगों के अनुभव में ले जाती है। जिसे गलती से वर्गीकृत किया गया हो, वह Persona के साथ पुष्टि कर सकता है कि वह वयस्क है।
अभिभावक नियंत्रण के संदर्भ में, जुलाई से माता-पिता को सूचना मिलती है यदि बच्चे का खाता हिंसा संबंधी उल्लंघनों के कारण निष्क्रिय किया गया हो। OpenAI बार-बार ऐसी चर्चा के कारण हुए निलंबन पर भी सूचना देने पर काम कर रहा है।
और जानने के लिए, OpenAI एक स्वायत्त हैकर विकसित कर रहा है — इटली के छोटे और मध्यम उद्यमों की सुरक्षा खतरे में है और OpenAI एक स्वायत्त हैकर ला रहा है — इटली के छोटे और मध्यम उद्यमों की सुरक्षा पहले ही पीछे है देखें।
जानने योग्य सीमाएं
लगभग सब कुछ OpenAI के बयानों पर आधारित है। फ़िल्टरों की प्रभावशीलता या age prediction की त्रुटि दर पर कोई स्वतंत्र आंकड़े उपलब्ध नहीं हैं। चैट बंद करने या खाता निलंबित करने के सटीक मानदंड स्पष्ट नहीं हैं। कुछ उपाय, जैसे निलंबन पर अभिभावकों को सूचना, अभी विकास में हैं। पहली रिपोर्ट, जो 2026 की दूसरी छमाही से संबंधित है, केवल 2027 की शुरुआत में आएगी।
डिजिटल क्षेत्र में काम करने वालों के लिए क्या बदलता है
यदि आप ऐसे उत्पाद बनाते हैं जिनमें ChatGPT लगा है या आप उसके जवाबों का उपयोग करते हैं, तो हथियारों, शारीरिक सुरक्षा और हिंसक घटनाओं के बारे में इनकार और कम विस्तृत जवाब मिल सकते हैं। यह वैध शोध पर भी लागू होगा, क्योंकि अतीत के हमलों पर सीमाएं अनुरोध के उद्देश्य पर निर्भर नहीं करतीं। युवाओं के लिए सेवाएं बनाने वालों को ध्यान रखना होगा कि प्रणाली द्वारा अनुमानित आयु अनुभव बदल सकती है। जिन कंपनियों में नाबालिग कर्मचारी या ग्राहक हैं, उन्हें समझाना चाहिए कि अभिभावक नियंत्रण और आयु सत्यापन मौजूद हैं। इनकार होने पर एक स्पष्ट संदेश देने की योजना भी बनानी चाहिए।
हमारी राय
दिशा समझ में आती है, पर यह घोषणा परिणाम से ज़्यादा एक वादा है। अतीत के हमलों के पुनर्निर्माण को सीमित करना एक समझदार निर्णय है, हालांकि इससे शोध और जोखिम के बीच की रेखा धुंधली हो जाती है। सबसे नाज़ुक बिंदु आयु का अनुमान है, जो गलत हो सकता है और वयस्कों को अपनी पहचान साबित करने पर मजबूर कर सकता है। असली परीक्षा छमाही रिपोर्ट होगी, यदि उसमें केवल उदाहरण नहीं बल्कि आंकड़े होंगे। मॉडलों पर भरोसे के विषय में, Anthropic Claude और OpenAI की तुलना अंतर समझने में मदद करती है।
अक्सर पूछे जाने वाले सवाल
ChatGPT के नए नियम कब लागू होंगे?
अगले कुछ हफ्तों में। OpenAI के अनुसार उपाय जल्द वितरित होने लगेंगे और बाद में उन्हें और सुधारा जाएगा। कुछ सुविधाएं, जैसे कुछ अभिभावक सूचनाएं, अभी विकास में हैं।
क्या ChatGPT वयस्कों को भी कम जानकारी देगा?
कुछ हद तक हां। अतीत के सामूहिक हमलों के पुनर्निर्माण पर सीमाएं उम्र और अनुरोध के उद्देश्य से स्वतंत्र लागू होती हैं। घटनाओं को समझने और चेतावनी के संकेत पहचानने से जुड़े सवाल फिर भी पूछे जा सकते हैं।
अगर ChatGPT मुझे नाबालिग समझ ले तो क्या होगा?
आप पुष्टि कर सकते हैं कि आप वयस्क हैं। OpenAI एक त्वरित प्रक्रिया बताता है जो गोपनीयता की रक्षा करती है और Persona द्वारा संभाली जाती है, जिसके बाद किशोर सुरक्षा हटा दी जाती है।
Community Safety Report कब आएगी?
2027 की शुरुआत में। पहली रिपोर्ट 2026 की दूसरी छमाही से संबंधित होगी और उसके बाद अपडेट हर छह महीने में आएंगे।
अगर बच्चा हिंसा पर चर्चा करे तो क्या माता-पिता को सूचना मिलेगी?
यह मामले पर निर्भर करता है। जुलाई से हिंसा संबंधी उल्लंघनों के कारण खाता निष्क्रिय होने पर सूचना दी जाती है। OpenAI बार-बार ऐसी चर्चा के कारण हुए निलंबन पर भी सूचना देने पर काम कर रहा है।
2027 की रिपोर्ट से पहले क्या देखें
OpenAI के वादे अगले कुछ महीनों में परखे जाएंगे, नियमों के लागू होने और पहली रिपोर्ट के बीच। तीन संकेत देखने लायक हैं।
- देखें कि 2027 की रिपोर्ट में मापने योग्य आंकड़े हैं या केवल गुमनाम उदाहरण।
- देखें कि OpenAI चैट बंद करने और खाते निलंबित करने के मानदंड कैसे स्पष्ट करता है।
- जांचें कि निलंबन पर अभिभावकों की सूचनाएं वाकई पहुंचती हैं या नहीं और किस समय पर।
