Ing. Pietro Maiorana
यूरोपीय आयोग ने प्रारंभिक तौर पर पाया है कि टिकटॉक अपने «For You» फ़ीड के ज़रिए Digital Services Act (DSA) का उल्लंघन करता है। निशाने पर «रैबिट होल» प्रभाव है, यानी वीडियो की लगातार बहती धारा, जो व्यक्तिगत पसंद के आधार पर उपयोगकर्ता को उदासी, अकेलेपन या शरीर की छवि से जुड़े कंटेंट की ओर ले जा सकती है। रिपोर्टों के अनुसार, यह पहली बार है जब ब्रसेल्स ने किसी अनुशंसा एल्गोरिदम को उल्लंघन के कारण के रूप में गिनाया है। यह उन लोगों के लिए मायने रखता है जो प्लेटफ़ॉर्म चलाते हैं और जो सोशल मीडिया पर काम करते हैं।
कुछ शब्द, तथ्यों में जाने से पहले। DSA यानी Digital Services Act, यूरोपीय नियम है जो प्लेटफ़ॉर्म को उनके उपयोगकर्ताओं पर पड़ने वाले असर के लिए ज़िम्मेदार बनाता है। Recommender system वह एल्गोरिदम है जो तय करता है कि आपको कौन से कंटेंट दिखाए जाएँ। Rabbit hole उस चक्र को कहते हैं जिसमें एक जैसे कंटेंट का सिलसिला चलता रहता है और उससे बाहर निकलना मुश्किल होता है। Accertamento preliminare यानी प्रारंभिक आपत्ति, कोई अंतिम दंड नहीं। Mitigazione वे उपाय हैं जिनसे प्लेटफ़ॉर्म अपने पहचाने गए जोखिम कम करता है।
आयोग TikTok पर क्या आपत्ति जता रहा है?
यूरोपीय आयोग के अनुसार, «For You» फ़ीड वीडियो का लगातार बहता सिलसिला दिखाता है, भले ही वे मानसिक स्वास्थ्य की कठिनाइयों या शरीर की छवि से जुड़े हों। उपयोगकर्ता जितना किसी एक तरह के कंटेंट से जुड़ता है, एल्गोरिदम उतने ही मिलते-जुलते कंटेंट सुझाता है।
आयोग के मुताबिक, यह डिज़ाइन तब नुकसानदेह हो सकता है जब संपर्क बिना रुके और बार-बार हो। मानसिक स्वास्थ्य पर इसका असर खासकर कमज़ोर वयस्कों और नाबालिगों पर पड़ सकता है।
प्रारंभिक निष्कर्ष किन DSA दायित्वों पर केंद्रित हैं?
प्रारंभिक निष्कर्ष दो स्तरों पर हैं। पहला है जोखिम मूल्यांकन, यानी वह विश्लेषण जो प्लेटफ़ॉर्म को अपनी सेवा से होने वाले नुकसान का करना होता है। दूसरा है शमन उपाय, यानी उन नुकसानों को कम करने के लिए किए जाने वाले कदम।
आधिकारिक पाठ में अलग-अलग अनुच्छेदों का विस्तार नहीं है। विवरण के लिए पूरी प्रेस विज्ञप्ति का हवाला दिया गया है, जो हमारे पढ़े गए स्रोतों में शामिल नहीं थी।
यूरोपीय आयोग की उपाध्यक्ष Henna Virkkunen ने क्या कहा?
तकनीकी संप्रभुता, सुरक्षा और लोकतंत्र की कार्यकारी उपाध्यक्ष ने इस फ़ैसले पर टिप्पणी की। The Verge के अनुसार, Henna Virkkunen ने कहा कि «हर बार जब कोई उपयोगकर्ता वीडियो स्वाइप करता है या उसे «लाइक» करता है, एल्गोरिदम उसी तरह के और वीडियो सुझाता है, और उपयोगकर्ताओं को ऐसी «टनलों» में ले जाता है जिनसे वे आसानी से बाहर नहीं निकल पाते»।
उन्होंने यह भी जोड़ा कि प्रारंभिक निष्कर्ष एक बार फिर दिखाते हैं कि TikTok को नाबालिगों सहित उपयोगकर्ताओं की भलाई की रक्षा के लिए और अधिक प्रयास करने होंगे।
TikTok को किस बात का जोखिम है?
The Verge के अनुसार, TikTok ने इस असर को कम करने के लिए नियंत्रण लागू किए हैं, लेकिन आयोग प्रारंभिक तौर पर मानता है कि वे प्रभावी नहीं हैं। प्लेटफ़ॉर्म को फ़ीड का डिज़ाइन बदलना होगा, नहीं तो उस पर वैश्विक वार्षिक कारोबार के 6% तक के जुर्माने का खतरा है।
यह खबर उस पिछली आपत्ति के कुछ महीने बाद आई है, जिसमें आयोग ने TikTok के डिज़ाइन को «addictive», यानी लत लगाने वाला, कहा था। इस बीच अमेरिका में कंपनी पर नाबालिगों की सुरक्षा से जुड़े दबाव और मुकदमे हैं। एक संबंधित मामला Meta, Google और TikTok बनाम कैलिफ़ोर्निया का है।
जानने योग्य सीमाएँ
यह एक प्रारंभिक निष्कर्ष है। हमारे पास मौजूद स्रोतों में TikTok ने अभी अपना जवाब देने का अधिकार पूरी तरह इस्तेमाल नहीं किया है, और हम नहीं जानते कि वह कैसे और कब जवाब देगा। संभावित दंड की राशि ज्ञात नहीं है, और न ही यह कि ब्रसेल्स फ़ीड में कौन से बदलाव माँगेगा। पूरा प्रेस विज्ञप्ति, जिसमें कानूनी विवरण हैं, हमारे देखे गए स्रोतों में शामिल नहीं है। TikTok के नियंत्रणों की प्रभावशीलता भी अभी आयोग का आकलन भर है।
डिजिटल क्षेत्र में काम करने वालों के लिए क्या बदलता है
अगर आप सोशल मीडिया के साथ काम करते हैं, तो इसका संकेत साफ़ है कि अनुशंसा एल्गोरिदम अब कानूनी ज़िम्मेदारी के दायरे में आ रहे हैं। जो लोग TikTok पर अभियान या कंटेंट की योजना बनाते हैं, उन्हें वीडियो के वितरण में संभावित बदलावों का हिसाब रखना चाहिए। जो लोग निजीकृत फ़ीड वाले ऐप या प्लेटफ़ॉर्म बनाते हैं, उन्हें दस्तावेज़ रखना चाहिए कि वे कमज़ोर उपयोगकर्ताओं के लिए जोखिम का आकलन कैसे करते हैं। यह तर्क EU AI Act जैसा है, जो जोखिम विश्लेषण माँगता है। जो गतिविधियाँ कई चैनल संभालती हैं, जैसे मल्टी-चैनल प्रकाशन, उन्हें किसी एक चैनल पर निर्भर नहीं रहना चाहिए।
हमारी राय
इस आपत्ति की एक खूबी है। यह बहस को अलग-अलग कंटेंट से हटाकर उस तरीके पर ले जाती है जिससे उन्हें बाँटा जाता है, और यही वह जगह है जहाँ प्लेटफ़ॉर्म का वास्तविक नियंत्रण है। असली सवाल व्यावहारिक है। «रैबिट होल» को कैसे मापा जाए और निजीकरण कितना ज़्यादा हो जाता है? इसके लिए स्पष्ट मापदंड चाहिए, वरना नियम हर मामले में अलग तरह से लागू होने का खतरा है। यह भी अहम है कि TikTok के पहले से लागू नियंत्रणों को बिना सार्वजनिक आँकड़ों के अप्रभावी माना जा रहा है। यहाँ दोनों पक्षों की ओर से पारदर्शिता ज़रूरी है।
अक्सर पूछे जाने वाले सवाल
क्या TikTok पर For You फ़ीड के लिए EU पहले ही जुर्माना लगा चुका है?
नहीं, अभी केवल प्रारंभिक आपत्ति है। आयोग मानता है कि फ़ीड DSA का उल्लंघन करता है, लेकिन उसने अभी कोई दंड नहीं लगाया है। संभावित जुर्माना वैश्विक वार्षिक कारोबार के 6% तक जा सकता है।
«रैबिट होल» प्रभाव क्या है?
यह वह चक्र है जिसमें एल्गोरिदम आपकी बातचीत वाले कंटेंट से मिलते-जुलते और कंटेंट लगातार सुझाता रहता है। आयोग के अनुसार, अगर विषय उदासी, अकेलापन या शरीर की छवि हों, तो लगातार संपर्क मानसिक स्वास्थ्य को नुकसान पहुँचा सकता है।
क्या यह पहली बार है जब EU ने किसी अनुशंसा एल्गोरिदम पर आपत्ति जताई है?
हाँ, Politico की रिपोर्ट के अनुसार, जिसे The Verge ने भी दोहराया है। यह पहली बार है जब आयोग ने किसी अनुशंसा प्रणाली को DSA उल्लंघन के कारण के रूप में गिनाया है। इससे पहले X, Meta, Temu और AliExpress जैसी कंपनियाँ भी निशाने पर आ चुकी हैं।
आयोग के अनुसार सबसे ज़्यादा कौन प्रभावित है?
कमज़ोर वयस्क और नाबालिग। आयोग का कहना है कि उदासी, अकेलेपन और शरीर से जुड़े कंटेंट का बार-बार सामने आना इन्हीं लोगों पर सबसे नकारात्मक असर डाल सकता है।
क्या TikTok को फ़ीड बदलना होगा?
हाँ, अगर यह आपत्ति पक्की हुई। The Verge के अनुसार, प्लेटफ़ॉर्म को For You फ़ीड का डिज़ाइन बदलना होगा, नहीं तो उस पर जुर्माने का खतरा है। बदलावों की समय-सीमा और सामग्री स्रोतों में नहीं बताई गई है।
TikTok और ब्रसेल्स की अगली चालें फ़ीड को लेकर
अब गेंद TikTok के जवाब और आयोग के अंतिम फ़ैसले के पाले में है। यह मामला सिर्फ़ एक प्लेटफ़ॉर्म का नहीं है।
- देखते रहें कि क्या TikTok For You फ़ीड में ठोस बदलाव की घोषणा करता है और क्या आयोग उन्हें पर्याप्त मानता है।
- जाँचें कि क्या दूसरे प्लेटफ़ॉर्मों पर भी अनुशंसा प्रणालियों को लेकर ऐसी ही आपत्तियाँ आती हैं।
- दोबारा देखें कि आपके निजीकृत फ़ीड वाले उत्पाद नाबालिग उपयोगकर्ताओं से कैसे पेश आते हैं, खासकर OpenAI के नाबालिगों से जुड़े नियमों की रोशनी में।
