- 2022 में, OpenAI ने अपनी क्षमता का परीक्षण करने के लिए अपना सबसे हालिया और शक्तिशाली AI चैटबॉट, ChatGPT खोला।
- इसने सवालों के जवाब देकर, टूटे हुए कोड को ठीक करके, आदि दुनिया भर के नेटिज़न्स को आश्चर्यचकित किया।
- कुछ उपयोगकर्ता नापाक चीजें करने के लिए बॉट की क्षमता का परीक्षण कर रहे हैं – अवैध अभिनेताओं ने टूल के सुरक्षा उपायों को बायपास करने और दुर्भावनापूर्ण कोड लिखने की कोशिश की है।
चैटजीपीटी:
चैटजीपीटी भाषा सीखने के मॉडल (एलएलएम) की ओपनएआई की जीपीटी 3.5 श्रृंखला पर आधारित एक ‘संवादात्मक’ एआई है।
यह एक प्रकार का कंप्यूटर भाषा मॉडल है जो इनपुट के आधार पर मानव-समान पाठ का उत्पादन करने के लिए गहन शिक्षण तकनीकों पर निर्भर करता है।
यह वायरल हो गया है क्योंकि यह जिस तरह की प्रतिक्रियाएं देता है, उसे ईमेल से लेकर कॉलेज-शैली के निबंधों तक, दैनिक सांसारिक लेखन के प्रतिस्थापन के रूप में देखा जाता है।
मॉडल को यह भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है कि आगे क्या होगा, और इसीलिए तकनीकी रूप से चैटजीपीटी के साथ ‘बातचीत’ की जा सकती है।
इसे ‘मानव प्रतिक्रिया से सुदृढीकरण सीखना (आरएलएचएफ)’ का उपयोग करके प्रशिक्षित किया जाता है।
OpenAI इन मॉडलों को चलाने के लिए Microsoft Azure के क्लाउड इंफ्रास्ट्रक्चर का उपयोग करता है।
उपयोगकर्ताओं के पास प्रतिक्रिया को डाउनवोट या अपवोट करने का विकल्प होता है।
अनुप्रयोग(Applications):
यह इंसानों की तरह ही सवालों के जवाब देगा।
जैसे कि जन्मदिन की पार्टी कैसे आयोजित करें, इस पर एक निबंध लिखें कि संसदीय लोकतंत्र बेहतर क्यों है, और यहां तक कि दो प्रसिद्ध हस्तियों के बीच एक काल्पनिक मुलाकात भी।
यह अनुवर्ती प्रश्नों का उत्तर दे सकता है और अपनी गलतियों को स्वीकार भी कर सकता है, गलत परिसरों को चुनौती दे सकता है और अनुचित अनुरोधों को अस्वीकार कर सकता है।
इसे बेसिक ईमेल, पार्टी प्लानिंग लिस्ट, सीवी और यहां तक कि कॉलेज निबंध और होमवर्क के प्रतिस्थापन के रूप में देखा जा रहा है।
इसका उपयोग कोड लिखने, गणित के समीकरणों को हल करने और यहां तक कि कोड में त्रुटियों का पता लगाने के लिए भी किया जा सकता है।
यह गल्प लिख सकता है लेकिन मनुष्य के स्तर पर नहीं।
नैतिक चुनौतियाँ:
पक्षपाती सामग्री – चूंकि मशीन लर्निंग के मामले में, कृत्रिम बुद्धिमत्ता को सूचना के इनपुट के आधार पर विकसित किया जाता है, गलत या पक्षपाती जानकारी ‘पक्षपाती’ सामग्री बना सकती है
चैटबॉट ने स्पष्ट नस्लीय और सेक्सिस्ट पूर्वाग्रहों को प्रदर्शित किया
वस्तुनिष्ठता का अभाव – 2021 के बाद की दुनिया और घटनाओं के बारे में इसका ज्ञान सीमित है और गलत परिणाम दे सकता है।
प्रामाणिकता का अभाव- यह ‘विश्वसनीय-ध्वनि लेकिन गलत या निरर्थक’ डेटा दे सकता है जो विश्वसनीयता के मुद्दों को उठाता है जैसे कि यह कभी-कभी कुछ वाक्यांशों का अति प्रयोग कर सकता है
प्रासंगिकता का अभाव – हालांकि चैटबॉट व्याकरणिक रूप से सही उत्तर देता है, इनमें संदर्भ और सार की कमी होती है।
मैलवेयर लिखें- मैलवेयर बनाने की तलाश में शौकिया कोडर के लिए दुर्भावनापूर्ण कोड लिखने के स्पष्ट अनुरोधों को अवरुद्ध करने के लिए चैटजीपीटी प्रोग्राम किया गया है।
हालाँकि, अधिक अनुभवी लोग बॉट को आंशिक रूप से विकसित दुर्भावनापूर्ण कोड को सही करने या बढ़ाने में धोखा दे सकते हैं।
वे सहज तरीके से अपने अनुरोध को शब्दों में लिखकर प्रणाली को पार कर सकते थे।
फ़िशिंग ईमेल – OpenAI नोट करता है कि अपने बॉट से अवैध या फ़िशिंग सामग्री के लिए पूछना उसकी सामग्री नीति का उल्लंघन कर सकता है। लेकिन ऐसी नीतियों का उल्लंघन करने वाले किसी व्यक्ति के लिए, बॉट एक शुरुआती बिंदु प्रदान करता है।
साइबर सुरक्षा फर्म चेक प्वाइंट के शोधकर्ताओं ने एक काल्पनिक वेबहोस्टिंग फर्म के लिए एक फ़िशिंग ईमेल का मसौदा तैयार करने के लिए कहकर बॉट का परीक्षण किया – चैटजीपीटी ने जवाब में एक प्रभावशाली ‘फ़िशिंग ईमेल’ दिया।
प्रतिक्रिया अनुभाग में एक चेतावनी शामिल थी जो पढ़ती है: ‘यह सामग्री हमारी सामग्री नीति का उल्लंघन कर सकती है। यदि आप मानते हैं कि यह गलती से हुआ है, तो कृपया अपना फ़ीडबैक सबमिट करें – आपका इनपुट इस क्षेत्र में हमारे शोध में सहायता करेगा।’
साहित्यिक चोरी का मुद्दा
शिक्षा के क्षेत्र में, बॉट का उपयोग साहित्यिक निबंधों को बदलने के लिए किया जा सकता है जो समय-दबाए गए निरीक्षकों के लिए पता लगाना मुश्किल हो सकता है क्योंकि जीपीटी मॉडल सांख्यिकीय रूप से वेनिला तरीके से लिखते हैं।
न्यूयॉर्क शहर के शिक्षा विभाग ने अपने पब्लिक स्कूलों में चैटजीपीटी पर प्रतिबंध लगा दिया।
गोपनीयता और सुरक्षा चिंताएं – बड़ी भाषा मॉडल (एलएलएम) को अन्य दुर्भावनापूर्ण कलाकृतियों को उत्पन्न करने के लिए जटिल हमले प्रक्रियाओं को लॉन्च करने के लिए आसानी से स्वचालित किया जा सकता है।
स्वाभाविक रूप से बग्गी कोड
सॉफ्टवेयर प्रोग्रामर के लिए एक मंच स्टैक ओवरफ्लो ने अपने उपयोगकर्ताओं को मंच पर किसी भी एआई-जनित कोड का उपयोग करने से प्रतिबंधित कर दिया।
भविष्य के लिए सुझाव:
अंतर्राष्ट्रीय कानून के अनुरूप एआई के संबंध में अपने कानून, नीतियों या अन्य उपकरणों के निर्माण में राज्यों का मार्गदर्शन करने के लिए मूल्यों, सिद्धांतों और कार्यों का एक सार्वभौमिक ढांचा प्रदान करें।
लैंगिक समानता सहित मानव अधिकारों और मौलिक स्वतंत्रता, मानव गरिमा और समानता की रक्षा, संवर्धन और सम्मान; वर्तमान और भविष्य की पीढ़ियों के हितों की रक्षा करना; पर्यावरण, जैव विविधता और पारिस्थितिक तंत्र को संरक्षित करने के लिए; और एआई प्रणाली जीवन चक्र के सभी चरणों में सांस्कृतिक विविधता का सम्मान करना
एलडीसी, एलएलडीसी और एसआईडीएस सहित एलएमआईसी की जरूरतों और योगदान पर विशेष ध्यान देने के साथ एआई के क्षेत्र में विकास और ज्ञान और लाभों के साझाकरण के लिए समान पहुंच को बढ़ावा देना
शिक्षा के क्षेत्र में – जहां मानव और चैटजीपीटी से आने वाले उत्तर एक समान क्षेत्र में हैं, एक अलग तरह की शिक्षाशास्त्र मदद कर सकता है जैसे कि इंटरनेट पर उपलब्ध चीजों के आधार पर सारांश और रिपोर्टिंग से परे देखना मदद कर सकता है।
आनुपातिकता और कोई नुकसान नहीं – एआई सिस्टम जीवन चक्र से संबंधित कोई भी प्रक्रिया वैध उद्देश्यों को प्राप्त करने के लिए आवश्यक से अधिक नहीं होगी
गोपनीयता का अधिकार, और डेटा संरक्षण – एआई सिस्टम के लिए डेटा को उन तरीकों से एकत्र, उपयोग, साझा, संग्रहीत और हटाया जाना चाहिए जो अंतरराष्ट्रीय कानून के अनुरूप हैं और मूल्यों और सिद्धांतों के अनुरूप हैं
मानव निरीक्षण और दृढ़ संकल्प – एआई सिस्टम के जीवन चक्र के किसी भी चरण के लिए भौतिक व्यक्तियों या मौजूदा कानूनी संस्थाओं को नैतिक और कानूनी जिम्मेदारी देना हमेशा संभव है।
इस प्रकार मानव निरीक्षण न केवल व्यक्तिगत मानव निरीक्षण को संदर्भित करता है, बल्कि समावेशी सार्वजनिक निरीक्षण को भी संदर्भित करता है
