तथ्य यह है कि इस सारे हंगामे ने इन Device के आसपास कुछ विवादों को फिर से हवा दे दी है। आखिर हम Ai-Generated Content के भविष्य से क्या उम्मीद कर सकते हैं?
"AI Writing Assistant का उपयोग करने वाले लोग जो सोशल मीडिया के लिए या उसके खिलाफ पक्षपाती थे, Assistant के साथ सहमत होने वाले पैराग्राफ को लिखने की संभावना दोगुनी थी, और यह कहने की संभावना अधिक थी कि AI की मदद के बिना लिखने वाले लोगों की तुलना में उनकी राय समान थी।"
जिस तरह सोशल मीडिया Misinformation के Spreading की सुविधा प्रदान कर सकता है, उसी तरह आर्टिफिशियल इंटेलिजेंस (AI)-Powered Writing Assistant जो स्वत: पूर्ण वाक्यों या "Smart Answers" की पेशकश करते हैं, पक्षपाती हो सकते हैं और राय में बदलाव पैदा कर सकते हैं, और इसलिए इसका दुरुपयोग किया जा सकता है, अधिक Regulation के लिए कॉल करने वाले Researchers ने चेतावनी दी। अमेरिका में कॉर्नेल विश्वविद्यालय के Researchers ने कहा कि AI Writing Tool में पके हुए पूर्वाग्रह - चाहे जानबूझकर या अनजाने में - संस्कृति और राजनीति के लिए नतीजों से संबंधित हो सकते हैं।
जिस किसी को भी वापस जाना पड़ा है और अपने स्मार्टफोन पर एक शब्द फिर से टाइप करना पड़ा है क्योंकि स्वत: सुधार ने गलत को चुना है, उसे AI के साथ लिखने का कुछ अनुभव है । इन सुधारों को करने में विफलता AI को ऐसी बातें कहने की अनुमति दे सकती है जिनका हमारा इरादा नहीं था। लेकिन क्या AI Writing Assistants के लिए यह भी संभव है कि हम जो कहना चाहते हैं उसे बदल दें?
कॉर्नेल विश्वविद्यालय में Information Sciences के एक डॉक्टरेट छात्र मौरिस जैकेश यही पता लगाना चाहते थे। उन्होंने GPT-3 के आधार पर अपना AI Writing Assistant बनाया, जो Automatically वाक्यों को भरने के सुझावों के साथ आएगा- लेकिन एक पेंच था। Assistant का उपयोग करने वाले विषयों को उत्तर देना था, "क्या सोशल मीडिया समाज के लिए अच्छा है?" हालाँकि, Assistant को उस प्रश्न का उत्तर देने के लिए पक्षपाती सुझाव देने के लिए प्रोग्राम किया गया था।
👉 Web Filtering : आपको इसकी आवश्यकता क्यों है और इसे कैसे इंप्लीमेंट करें?
👉 Ransomware Attack से अपने डाटा को कैसे सुरक्षित रखें - पूरी गाइड हिंदी में!
पक्षपात के साथ सहायता करना
AI जीवित न होते हुए भी पक्षपाती हो सकता है। हालाँकि ये प्रोग्राम केवल उस हद तक "सोच" सकते हैं कि मानव दिमाग यह पता लगा सके कि उन्हें कैसे प्रोग्राम करना है, उनके निर्माता सॉफ़्टवेयर में व्यक्तिगत पक्षपात को समाप्त कर सकते हैं। वैकल्पिक रूप से, यदि सीमित या पक्षपाती प्रतिनिधित्व वाले डेटा सेट पर प्रशिक्षित किया जाता है, तो अंतिम Product Display Bias कर सकता है ।
जहां AI वहां से जाता है वहां समस्या हो सकती है। बड़े पैमाने पर, यह समाज के मौजूदा पूर्वाग्रहों को कायम रखने में मदद कर सकता है। एक Personal Level पर, यह लोगों को अव्यक्त अनुनय के माध्यम से प्रभावित करने की क्षमता रखता है, जिसका अर्थ है कि व्यक्ति को यह पता नहीं हो सकता है कि वे Automated Systems से प्रभावित हो रहे हैं। AI Programs द्वारा अव्यक्त अनुनय पहले ही लोगों की राय को ऑनलाइन प्रभावित करने के लिए पाया गया है । यह रीयल लाइफ में व्यवहार पर भी प्रभाव डाल सकता है।
पिछले अध्ययनों को देखने के बाद जो सुझाव देते हैं कि Automated AI Responses का एक महत्वपूर्ण प्रभाव हो सकता है, मैने यह देखने के लिए निर्धारित किया कि यह प्रभाव कितना व्यापक हो सकता है। Computing System में Human Factors पर 2023 CHI Conference में हाल ही में प्रस्तुत एक अध्ययन में , उन्होंने सुझाव दिया कि GPT-3 जैसे AI System ने अपने प्रशिक्षण के दौरान पक्षपात विकसित किया हो सकता है और यह एक लेखक की राय को प्रभावित कर सकता है, चाहे वह लेखक हो या नहीं। इसे महसूस करता है।
"मॉडल के प्रभाव के बारे में जागरूकता की कमी इस विचार का समर्थन करती है कि मॉडल का प्रभाव न केवल नई जानकारी के Conscious Processing के माध्यम से बल्कि अवचेतन और सहज प्रक्रियाओं के माध्यम से भी था," उन्होंने अध्ययन में कहा।
पिछले शोध से पता चला है कि AI Recommendations का प्रभाव लोगों की उस Program की धारणा पर निर्भर करता है। अगर उन्हें लगता है कि यह भरोसेमंद है, तो वे जो सुझाव देते हैं उसके साथ जाने की अधिक संभावना है, और इस तरह एआई से सलाह लेने की संभावना केवल तभी बढ़ जाती है जब अनिश्चितता एक राय बनाने में अधिक कठिन हो जाती है। मैने रेडिट के समान एक सोशल मीडिया प्लेटफॉर्म और एक AI Writing Assistant Developed किया जो Autocorrect करने की तुलना में Google स्मार्ट कंपोज़ या Microsoft Outlook के पीछे AI के करीब था। Smart Compose और Outlook दोनों एक Sentence को जारी रखने या पूरा करने के तरीके पर स्वचालित Generate Suggestions करते हैं। जबकि इस Assistant ने स्वयं निबंध नहीं लिखा था, इसने एक Co-Author के रूप में कार्य किया जो अक्षरों और वाक्यांशों का सुझाव देता था। किसी सुझाव को स्वीकार करने के लिए केवल एक क्लिक की आवश्यकता होती है।
कुछ के लिए, AI Assistant को ऐसे शब्दों का सुझाव देने के लिए तैयार किया गया था जो अंततः सकारात्मक प्रतिक्रियाओं में Transform होंगे। दूसरों के लिए, यह सोशल मीडिया के खिलाफ पक्षपाती था और नकारात्मक प्रतिक्रियाओं को आगे बढ़ाता था। (एक नियंत्रण समूह भी था जो AI का बिल्कुल भी उपयोग नहीं करता था।) यह पता चला कि AI assisted करने वाले किसी भी व्यक्ति के AI में Manufactured Bias के साथ जाने की संभावना दोगुनी थी, भले ही उनकी प्रारंभिक राय अलग हो। जो लोग Techno-Optimist Language को अपनी स्क्रीन पर pop-up करते हुए देखते रहे, उनके कहने की संभावना अधिक थी कि सोशल मीडिया समाज को लाभ पहुंचाता है, जबकि techno-pessimistic language को देखने वाले विषयों के विपरीत तर्क देने की संभावना अधिक थी।
निबंध से परे?
यह इस प्वाइंट पर स्पष्ट नहीं है कि स्टडी के पार्टिसिपेंट्स को अनुभव से प्रभावित किया गया था या नहीं - क्या पक्षपाती मदद ने निबंधों के पूरा होने के बाद उनकी राय को आकार दिया।
फिर भी, स्पष्ट रूप से इन परिणामों के कुछ चिंताजनक Implication हैं। AI का प्रभाव मार्केटिंग से लेकर चुनाव तक सब कुछ प्रभावित कर सकता है। ChatGPT जैसे Programs के साथ पूरे निबंध उत्पन्न करने के लिए उपयोग किया जा रहा है जो Man को प्राथमिक लेखक की तुलना में एक Editor के रूप में अधिक शामिल करता है, राय के स्रोत धुंधले होने लगते हैं। और सॉफ़्टवेयर का प्रभाव लिखित सामग्री से परे भी हो सकता है, क्योंकि Advertiser और Policy Maker अक्सर Online Content पर भरोसा करते हैं ताकि लोगों को क्या बदलाव चाहिए इसकी बेहतर समझ हो। उनके लिए यह जानने का कोई तरीका नहीं है कि रैंडम कीबोर्ड वॉरियर्स की राय पूरी तरह से उनकी अपनी है या किसी तरह से AI से प्रभावित थी।
फिर यह मुद्दा है कि क्या AI assistants का उनके पूर्वाग्रहों के लिए शोषण किया जा सकता है। इसका खतरा यह है कि उन्हें मजबूत पूर्वाग्रहों के लिए संशोधित किया जा सकता है जिनका उपयोग प्रोडक्ट को बढ़ावा देने, व्यवहार को प्रोत्साहित करने या राजनीतिक एजेंडे को आगे बढ़ाने के लिए किया जा सकता है। अध्ययन में यह भी कहा, "प्रभाव के एक नए वेक्टर को सार्वजनिक करने से इस बात की संभावना बढ़ जाती है कि कोई इसका फायदा उठाएगा।" "दूसरी ओर, केवल जन जागरूकता और प्रवचन के माध्यम से (कर सकते हैं) Policy और Development level पर प्रभावी निवारक उपाय किए जा सकते हैं।"
निष्कर्ष
AI हमें प्रभावित करने के लिए पर्याप्त आश्वस्त हो सकता है, लेकिन हमारे पास इसे Controlled करने की शक्ति है। Software Writing में केवल उतना ही हस्तक्षेप कर सकता है जितना इसके Creator उन्हें Program करते हैं - और जितना अधिक लेखक उन्हें अनुमति देते हैं। कोई भी लेखक AI Generated Text को लेकर और किसी विशेष संदेश को प्रतिबिंबित करने के लिए इसे edited करके अपने लाभ के लिए AI का उपयोग कर सकता है।
हमें अपनी लेखन प्रक्रिया में सहयोगी के रूप में Artificial Intelligence का उपयोग करना चाहिए। लेकिन यह न भूलें कि आपको पाठक की खुशी सुनिश्चित करनी है। इसलिए, याद रखें कि आप कॉन्टेंट के ऑनर हैं। AI काम करेगा ताकि आप अपनी रचनात्मकता का लाभ उठा सकें, इस प्रकार आपकी दिनचर्या थोड़ी हल्की हो जाएगी।
क्या आप मार्केटिंग के सर्वोत्तम तरीकों से अपडेट रहना जारी रखना चाहते हैं? मैं दृढ़ता से सुझाव देता हूं कि आप Maitry Tech Solution , रॉक कंटेंट के इंटरैक्टिव न्यूज़लेटर की सदस्यता लें। वहां, आपको वे सभी रुझान मिलेंगे जो डिजिटल मार्केटिंग परिदृश्य में मायने रखते हैं।
