किशोरों के लिए ChatGPT: नई रिपोर्ट में ‘अस्वीकार्य जोखिम’ बताया गया

09 Oct किशोरों के लिए ChatGPT: नई रिपोर्ट में ‘अस्वीकार्य जोखिम’ बताया गया

✎ ChatGPT फॉर टीन्स OpenAI द्वारा किशोरों के लिए डिज़ाइन किया गया एक AI चैटबॉट संस्करण है, जिसमें आयु-उपयुक्त सुरक्षा उपायों का वादा किया गया है, लेकिन हालिया रिपोर्टों ने इसकी सुरक्षा प्रभावशीलता पर सवाल उठाए हैं।

विषय प्रासंगिकता — यह टॉपिक कहाँ आता है

• GS Paper II — सामाजिक न्याय, शासन और नीतियाँ  |  GS Paper III — विज्ञान एवं प्रौद्योगिकी, आंतरिक सुरक्षा
• Prelims: ChatGPT, ओपनएआई (OpenAI), कॉमन सेंस मीडिया (Common Sense Media), कृत्रिम बुद्धिमत्ता (AI), बच्चों की ऑनलाइन सुरक्षा, डेटा गोपनीयता
• Essay: डिजिटल युग में बच्चों और किशोरों की सुरक्षा: चुनौतियाँ और समाधान, कृत्रिम बुद्धिमत्ता का नैतिक उपयोग और सामाजिक प्रभाव

त्वरित पुनरावृत्ति: ChatGPT फॉर टीन्स OpenAI द्वारा किशोरों के लिए डिज़ाइन किया गया एक AI चैटबॉट संस्करण है, जिसमें आयु-उपयुक्त सुरक्षा उपायों का वादा किया गया है, लेकिन हालिया रिपोर्टों ने इसकी सुरक्षा प्रभावशीलता पर सवाल उठाए हैं।

यह खबर चर्चा में क्यों?

हाल ही में, एक अमेरिकी गैर-लाभकारी संस्था कॉमन सेंस मीडिया (Common Sense Media) की यूथ एआई सेफ्टी इंस्टीट्यूट (Youth AI Safety Institute) द्वारा जारी एक रिपोर्ट में कहा गया है कि OpenAI के ‘ChatGPT फॉर टीन्स’ (ChatGPT for Teens) में युवा उपयोगकर्ताओं के लिए सुरक्षा उपाय कंपनी के वादों पर खरे नहीं उतरते हैं। रिपोर्ट ने 18 वर्ष से कम आयु के उपयोगकर्ताओं के लिए इसे ‘अस्वीकार्य जोखिम’ (unacceptable risk) वाला उत्पाद बताया है, जिससे किशोरों के लिए कृत्रिम बुद्धिमत्ता (Artificial Intelligence – AI) आधारित चैटबॉट्स के उपयोग से जुड़ी सुरक्षा चिंताओं पर फिर से बहस छिड़ गई है।

पृष्ठभूमि

• यह एक अलग एप्लिकेशन नहीं है, बल्कि नियमित ChatGPT में ही आयु-उपयुक्त सुरक्षा सुविधाएँ और नियंत्रण शामिल किए गए हैं, जो 18 वर्ष से कम आयु के उपयोगकर्ताओं के लिए स्वचालित रूप से सक्रिय हो जाते हैं।
• इन सुरक्षा उपायों में संवेदनशील सामग्री पर कड़े नियंत्रण, माता-पिता का नियंत्रण (parental controls), शांत घंटे (Quiet Hours), अध्ययन मोड (Study mode), ब्रेक लेने के लिए अनुस्मारक और चैटबॉट के साथ अत्यधिक व्यक्तिगत या रोमांटिक बातचीत को कम करने के लिए सुरक्षा उपाय शामिल हैं।
• कॉमन सेंस मीडिया ने 4,000 से अधिक प्रॉम्प्ट्स (prompts) का उपयोग करके ChatGPT का परीक्षण किया, जिसमें मानसिक स्वास्थ्य प्रतिक्रियाएँ, विकासात्मक उपयुक्तता, शैक्षणिक अखंडता, माता-पिता की सूचनाएँ और आयु-भविष्यवाणी (age prediction) जैसी सुविधाएँ शामिल थीं।
• रिपोर्ट में पाया गया कि कई सुरक्षा उपाय, विशेष रूप से मानसिक स्वास्थ्य संकटों और आयु-भविष्यवाणी के संबंध में, अपेक्षित रूप से काम नहीं कर रहे थे, जिससे युवा उपयोगकर्ताओं के लिए संभावित जोखिम बढ़ गए।
• यह रिपोर्ट ऐसे समय में आई है जब दुनिया भर में बच्चों और किशोरों की ऑनलाइन सुरक्षा और डिजिटल प्लेटफॉर्म पर उनकी गोपनीयता को लेकर चिंताएँ बढ़ रही हैं।

ChatGPT फॉर टीन्स क्या है?

• ChatGPT फॉर टीन्स OpenAI द्वारा विकसित एक कृत्रिम बुद्धिमत्ता-आधारित चैटबॉट का विशेष संस्करण है, जिसे विशेष रूप से किशोर उपयोगकर्ताओं के लिए डिज़ाइन किया गया है।
• यह कोई स्टैंड-अलोन ऐप नहीं है; किशोर नियमित ChatGPT का ही उपयोग करते हैं, लेकिन उनकी आयु के अनुसार अतिरिक्त सुरक्षा और सुविधाएँ स्वचालित रूप से सक्रिय हो जाती हैं।
• इन सुविधाओं में संवेदनशील सामग्री के लिए मजबूत नियंत्रण, माता-पिता के लिए सुरक्षा सूचनाएँ (सीमित उच्च-जोखिम वाली स्थितियों में), और चैटबॉट के साथ अनुचित बातचीत को रोकने के लिए डिज़ाइन किए गए सुरक्षा उपाय शामिल हैं।
• इसका उद्देश्य युवा उपयोगकर्ताओं को एक सुरक्षित और आयु-उपयुक्त डिजिटल अनुभव प्रदान करना है, जबकि उन्हें AI की क्षमताओं का लाभ उठाने की अनुमति देना है।
• ओपनएआई की आयु-भविष्यवाणी प्रणाली (age-prediction system) का उपयोग करके, यदि कोई उपयोगकर्ता वयस्क के रूप में पंजीकृत होता है लेकिन 18 वर्ष से कम आयु का प्रतीत होता है, तो उसे स्वचालित रूप से किशोर अनुभव में रखा जा सकता है।
• इस पहल का मुख्य लक्ष्य ऑनलाइन प्लेटफॉर्म पर बच्चों और किशोरों की सुरक्षा सुनिश्चित करना है, जो डिजिटल दुनिया में एक बढ़ती हुई चिंता है।
• हालांकि, कॉमन सेंस मीडिया की रिपोर्ट ने इन सुरक्षा उपायों की प्रभावशीलता पर सवाल उठाया है, जिससे यह संकेत मिलता है कि कंपनी के वादे और वास्तविक कार्यान्वयन के बीच अंतर हो सकता है।

मुख्य विशेषताएँ

विशेषता	महत्व
संवेदनशील सामग्री पर नियंत्रण	यह सुविधा किशोरों को अनुपयुक्त या हानिकारक सामग्री से बचाने के लिए डिज़ाइन की गई है, जिससे उनकी ऑनलाइन सुरक्षा सुनिश्चित होती है।
अभिभावकीय नियंत्रण	यह माता-पिता को अपने बच्चों की ऑनलाइन गतिविधियों की निगरानी करने और उन्हें सुरक्षित रखने में मदद करता है, जिससे उन्हें डिजिटल दुनिया में अधिक आत्मविश्वास महसूस होता है।
शांत घंटे (Quiet Hours)	यह सुविधा किशोरों को चैटबॉट के उपयोग से ब्रेक लेने और अन्य गतिविधियों पर ध्यान केंद्रित करने के लिए प्रोत्साहित करती है, जिससे स्क्रीन टाइम का प्रबंधन होता है।
अध्ययन मोड (Study mode) और अध्ययन घंटे (Study Hours)	यह किशोरों को शैक्षिक उद्देश्यों के लिए चैटबॉट का उपयोग करने में मदद करता है, जिससे उनकी पढ़ाई में सहायता मिलती है और विकर्षण कम होते हैं।
ब्रेक लेने के लिए अनुस्मारक	यह सुविधा किशोरों को नियमित अंतराल पर ब्रेक लेने की याद दिलाती है, जिससे अत्यधिक उपयोग से जुड़े संभावित स्वास्थ्य जोखिम कम होते हैं।
आयु-उपयुक्त अनुभव	यह सुनिश्चित करता है कि प्रत्येक उपयोगकर्ता को उनकी आयु के अनुसार सामग्री और सुरक्षा सुविधाएँ मिलें, जिससे व्यक्तिगत और सुरक्षित अनुभव प्रदान हो।

महत्व

सामाजिक प्रभाव

• किशोरों के मानसिक स्वास्थ्य और कल्याण पर AI चैटबॉट्स के संभावित नकारात्मक प्रभावों को समझना महत्वपूर्ण है। अनुपयुक्त सामग्री या अत्यधिक व्यक्तिगत बातचीत से भावनात्मक संकट उत्पन्न हो सकता है।
• शैक्षणिक अखंडता (Academic Integrity) बनाए रखना एक चुनौती है, क्योंकि छात्र होमवर्क और असाइनमेंट के लिए AI का दुरुपयोग कर सकते हैं, जिससे सीखने की प्रक्रिया बाधित हो सकती है।
• डिजिटल साक्षरता (Digital Literacy) और AI नैतिकता (AI Ethics) के बारे में जागरूकता बढ़ाना आवश्यक है ताकि युवा उपयोगकर्ता इन प्रौद्योगिकियों का जिम्मेदारी से उपयोग कर सकें।

तकनीकी और नियामक महत्व

• AI सुरक्षा प्रोटोकॉल और आयु-सत्यापन प्रणालियों की प्रभावशीलता का मूल्यांकन करना महत्वपूर्ण है। रिपोर्ट दर्शाती है कि मौजूदा सुरक्षा उपाय अपर्याप्त हो सकते हैं।
• AI विकास में ‘जिम्मेदार AI’ (Responsible AI) सिद्धांतों को एकीकृत करने की आवश्यकता है, विशेष रूप से जब उत्पाद संवेदनशील उपयोगकर्ता समूहों के लिए डिज़ाइन किए जाते हैं।
• AI प्रौद्योगिकियों के लिए नियामक ढाँचे (Regulatory Frameworks) विकसित करना आवश्यक है जो उपयोगकर्ता सुरक्षा, डेटा गोपनीयता और नैतिक उपयोग सुनिश्चित करें।

शासन और नीति निर्माण

• सरकार और नियामक निकायों को AI उत्पादों के लिए सुरक्षा मानकों और दिशानिर्देशों को स्थापित करने की आवश्यकता है, विशेष रूप से बच्चों और किशोरों के लिए।
• अंतर्राष्ट्रीय सहयोग (International Cooperation) AI सुरक्षा मानकों को विकसित करने और लागू करने में महत्वपूर्ण भूमिका निभाएगा, क्योंकि AI प्रौद्योगिकियाँ सीमाओं से परे काम करती हैं।
• सार्वजनिक जागरूकता अभियान और शिक्षा कार्यक्रम माता-पिता, शिक्षकों और किशोरों को AI के जोखिमों और लाभों के बारे में सूचित करने में मदद कर सकते हैं।

चुनौतियाँ

1. आयु सत्यापन की चुनौतियाँ

• AI-आधारित आयु-भविष्यवाणी प्रणालियों की सटीकता सीमित हो सकती है, जिससे नाबालिगों को अनुपयुक्त सामग्री तक पहुँच मिल सकती है।
• उपयोगकर्ता अक्सर अपनी वास्तविक आयु गलत बताते हैं, जिससे सुरक्षा उपायों को लागू करना मुश्किल हो जाता है।

यूपीएससी लिंक: विज्ञान एवं प्रौद्योगिकी – सूचना प्रौद्योगिकी

2. संवेदनशील सामग्री का प्रबंधन

• AI चैटबॉट्स द्वारा उत्पन्न हानिकारक, अनुपयुक्त या भ्रामक सामग्री को पूरी तरह से फ़िल्टर करना एक तकनीकी चुनौती है।
• मानसिक स्वास्थ्य संकटों से संबंधित प्रश्नों पर AI की प्रतिक्रियाओं की गुणवत्ता और सुरक्षा सुनिश्चित करना महत्वपूर्ण है।

यूपीएससी लिंक: सामाजिक मुद्दे – साइबर सुरक्षा

3. शैक्षणिक अखंडता का मुद्दा

• छात्रों द्वारा AI का उपयोग करके असाइनमेंट पूरा करने से सीखने की प्रक्रिया और मौलिकता पर नकारात्मक प्रभाव पड़ सकता है।
• शिक्षण संस्थानों को AI के उपयोग के संबंध में नई नीतियों और दिशानिर्देशों को विकसित करने की आवश्यकता है।

यूपीएससी लिंक: मानव संसाधन – शिक्षा

4. गोपनीयता और डेटा सुरक्षा

• किशोरों के डेटा का संग्रह और उपयोग उनकी गोपनीयता के लिए जोखिम पैदा कर सकता है, विशेष रूप से लक्षित विज्ञापन और डेटा विश्लेषण के संदर्भ में।
• माता-पिता के खातों से लिंक होने पर डेटा साझाकरण और सुरक्षा प्रोटोकॉल की स्पष्टता आवश्यक है।

यूपीएससी लिंक: शासन – ई-गवर्नेंस, डेटा गोपनीयता

5. नैतिक AI विकास

• कंपनियों को AI उत्पादों के विकास में नैतिक विचारों को प्राथमिकता देनी चाहिए, विशेष रूप से कमजोर उपयोगकर्ता समूहों के लिए।
• AI एल्गोरिदम में पूर्वाग्रह (Bias) की संभावना को कम करना और निष्पक्षता सुनिश्चित करना एक सतत चुनौती है।

यूपीएससी लिंक: विज्ञान एवं प्रौद्योगिकी – AI के नैतिक आयाम

चुनौतियाँ — यूपीएससी दृष्टिकोण

मुद्दा	चिंता
आयु सत्यापन की विफलता	नाबालिगों को आयु-प्रतिबंधित सामग्री तक पहुँच मिलना।
अनुपयुक्त सामग्री का जोखिम	हानिकारक, यौन-स्पष्ट या हिंसक सामग्री का सामना करना।
मानसिक स्वास्थ्य प्रतिक्रियाओं में कमी	संकट की स्थिति में AI द्वारा अपर्याप्त या गलत सलाह देना।
शैक्षणिक कदाचार	छात्रों द्वारा AI का उपयोग करके नकल करना या असाइनमेंट पूरा करना।
अत्यधिक व्यक्तिगत बातचीत	चैटबॉट के साथ अवांछित रोमांटिक या अत्यधिक व्यक्तिगत संबंध विकसित करना।
अभिभावकीय अधिसूचनाओं की सीमा	उच्च जोखिम वाली स्थितियों में माता-पिता को पर्याप्त और समय पर जानकारी न मिलना।

आगे की राह

• AI उत्पादों के लिए कठोर आयु-सत्यापन प्रणालियों को विकसित और कार्यान्वित करना, जिसमें बहु-कारक सत्यापन शामिल हो।
• संवेदनशील सामग्री फ़िल्टरिंग और मॉडरेशन तंत्र को मजबूत करना, विशेष रूप से किशोर उपयोगकर्ताओं के लिए।
• मानसिक स्वास्थ्य संकटों से संबंधित प्रश्नों के लिए AI प्रतिक्रियाओं की गुणवत्ता और सुरक्षा में सुधार करना, जिसमें पेशेवर सहायता के लिए स्पष्ट रेफरल शामिल हों।
• शैक्षणिक संस्थानों के साथ मिलकर AI के नैतिक उपयोग पर दिशानिर्देश विकसित करना और छात्रों को इसके जिम्मेदार उपयोग के बारे में शिक्षित करना।
• AI कंपनियों के लिए नियामक ढाँचे स्थापित करना जो उपयोगकर्ता सुरक्षा, डेटा गोपनीयता और नैतिक AI विकास को प्राथमिकता दें।
• माता-पिता, शिक्षकों और किशोरों के लिए AI सुरक्षा और डिजिटल साक्षरता पर व्यापक जागरूकता कार्यक्रम शुरू करना।
• AI उत्पादों के डिजाइन और विकास में बाल मनोवैज्ञानिकों और शिक्षा विशेषज्ञों को शामिल करना ताकि आयु-उपयुक्त अनुभव सुनिश्चित किया जा सके।
• AI सुरक्षा उपायों की प्रभावशीलता का नियमित ऑडिट और स्वतंत्र मूल्यांकन करना, जैसा कि कॉमन सेंस मीडिया की रिपोर्ट में किया गया है।

यूपीएससी मूल्य-संवर्धन

प्रारंभिक अभ्यास प्रश्न

Q1. निम्नलिखित कथनों पर विचार कीजिए:
1. चैटजीपीटी फॉर टीन्स (ChatGPT for Teens) एक अलग एप्लिकेशन या वेबसाइट है जो विशेष रूप से किशोरों के लिए डिज़ाइन की गई है।
2. इसमें संवेदनशील सामग्री पर मजबूत नियंत्रण और माता-पिता के लिए सुरक्षा सूचनाएँ शामिल हैं।
3. OpenAI की आयु-भविष्यवाणी प्रणाली (age-prediction system) उपयोगकर्ता के खाते की आयु, उपयोग पैटर्न और बातचीत के विषयों के आधार पर आयु का अनुमान लगा सकती है।
उपरोक्त में से कितने कथन सही हैं?

1. केवल एक
2. केवल दो
3. सभी तीन
4. कोई नहीं

उत्तर: केवल दो — कथन 1 गलत है क्योंकि चैटजीपीटी फॉर टीन्स एक अलग एप्लिकेशन नहीं है, बल्कि नियमित चैटजीपीटी में अतिरिक्त सुरक्षा सुविधाएँ हैं। कथन 2 और 3 सही हैं, क्योंकि इसमें संवेदनशील सामग्री पर नियंत्रण और माता-पिता को सूचनाएँ देने का प्रावधान है, साथ ही OpenAI की आयु-भविष्यवाणी प्रणाली विभिन्न संकेतों के आधार पर उपयोगकर्ता की आयु का अनुमान लगा सकती है।

Q2. कृत्रिम बुद्धिमत्ता (Artificial Intelligence – AI) के संदर्भ में, ‘नैतिक AI विकास’ (Ethical AI Development) का सबसे अच्छा वर्णन क्या है?

1. AI प्रणालियों का निर्माण जो केवल आर्थिक लाभ पर केंद्रित हों।
2. AI प्रणालियों का विकास जो मानवीय मूल्यों, निष्पक्षता, पारदर्शिता और जवाबदेही को प्राथमिकता दें।
3. AI प्रणालियों का उपयोग केवल सैन्य उद्देश्यों के लिए करना।
4. AI प्रणालियों को बिना किसी मानवीय हस्तक्षेप के स्वतंत्र रूप से कार्य करने देना।
5. B

उत्तर: AI प्रणालियों का विकास जो मानवीय मूल्यों, निष्पक्षता, पारदर्शिता और जवाबदेही को प्राथमिकता दें। — नैतिक AI विकास का अर्थ ऐसी AI प्रणालियों का निर्माण करना है जो मानवीय मूल्यों, निष्पक्षता, पारदर्शिता, जवाबदेही और गोपनीयता जैसे सिद्धांतों का पालन करें, ताकि समाज पर सकारात्मक प्रभाव पड़े और नकारात्मक परिणामों से बचा जा सके।

मुख्य अभ्यास प्रश्न

✍ किशोरों के लिए कृत्रिम बुद्धिमत्ता (AI) आधारित चैटबॉट के उपयोग से जुड़े जोखिमों का समालोचनात्मक परीक्षण कीजिए। इन जोखिमों को कम करने के लिए नियामक और तकनीकी समाधान क्या हो सकते हैं? (15 Marks)

रूपरेखा: मॉडल-उत्तर संरचना:
1. परिचय: कृत्रिम बुद्धिमत्ता (AI) आधारित चैटबॉट, विशेष रूप से किशोरों के लिए डिज़ाइन किए गए, और उनके बढ़ते उपयोग का संक्षिप्त परिचय दें।
2. जोखिमों का समालोचनात्मक परीक्षण:
a. मानसिक स्वास्थ्य और संकट प्रतिक्रिया: गलत या अनुपयुक्त सलाह से उत्पन्न खतरे। (जैसे आत्म-हानि, अवसाद)
b. विकासात्मक अनुपयुक्तता: आयु-उपयुक्त सामग्री की कमी और अनुचित बातचीत का जोखिम।
c. शैक्षणिक अखंडता: धोखाधड़ी को बढ़ावा देने या आलोचनात्मक सोच को बाधित करने की क्षमता।
d. डेटा गोपनीयता और सुरक्षा: व्यक्तिगत जानकारी के दुरुपयोग या लीकेज का खतरा।
e. आयु-भविष्यवाणी प्रणाली की विफलता: नाबालिगों को वयस्कों के रूप में गलत वर्गीकृत करने का जोखिम।
f. अनुचित व्यक्तिगत/रोमांटिक बातचीत: चैटबॉट के साथ अस्वास्थ्यकर संबंध विकसित होने की संभावना।
g. माता-पिता के नियंत्रण की सीमाएँ: अभिभावकों को पर्याप्त सुरक्षा सूचनाएँ न मिलना।
3. नियामक और तकनीकी समाधान:
a. नियामक ढाँचा: AI सुरक्षा मानकों का विकास, आयु-उपयुक्त सामग्री के लिए दिशानिर्देश, डेटा गोपनीयता कानूनों का सख्त प्रवर्तन (जैसे GDPR, भारत में प्रस्तावित डिजिटल व्यक्तिगत डेटा संरक्षण विधेयक)।
b. तकनीकी समाधान: बेहतर आयु-सत्यापन तंत्र, संवेदनशील सामग्री फ़िल्टरिंग में सुधार, उपयोगकर्ता व्यवहार निगरानी के लिए AI का उपयोग, ब्रेक लेने के लिए अनुस्मारक, ‘शांत घंटे’ (Quiet Hours) जैसी सुविधाएँ।
c. उद्योग की जवाबदेही: AI डेवलपर्स पर सुरक्षा उपायों को लागू करने का दायित्व, नियमित सुरक्षा ऑडिट और स्वतंत्र मूल्यांकन।
d. डिजिटल साक्षरता: किशोरों और अभिभावकों के लिए AI के उपयोग और जोखिमों के बारे में जागरूकता कार्यक्रम।
e. बहु-हितधारक दृष्टिकोण: सरकार, उद्योग, शिक्षाविदों और नागरिक समाज संगठनों के बीच सहयोग।
4. निष्कर्ष: AI की क्षमता को स्वीकार करते हुए, किशोरों की सुरक्षा सुनिश्चित करने के लिए एक संतुलित और बहुआयामी दृष्टिकोण की आवश्यकता पर बल दें।

स्रोत: The Indian Express

---

शैक्षिक उद्देश्य हेतु AanyaAi द्वारा जनित।

---

Related guides on our sites

• Best PSIR optional coaching for upsc
• Best economics optional coaching for upsc
• Best PSIR optional teacher for upsc
• Best teacher of PSIR optional for upsc