भारत में Google और OpenAI जैसी जेनरेटिव AI कंपनियों के खिलाफ पहली कार्रवाई में, आईटी मंत्रालय ने ऐसे प्लेटफॉर्म चलाने वाली कंपनियों को एक सलाह भेजी है - जिसमें मूलभूत मॉडल और रैपर शामिल हैं - कि उनकी सेवाओं को ऐसी प्रतिक्रियाएँ उत्पन्न नहीं करनी चाहिए जो भारतीय कानूनों के तहत अवैध हैं या "चुनावी प्रक्रिया की अखंडता को ख़तरा है"।
जो प्लेटफ़ॉर्म वर्तमान में भारतीय उपयोगकर्ताओं को "अंडर-टेस्टिंग/अविश्वसनीय" एआई सिस्टम या बड़े भाषा मॉडल पेश करते हैं, उन्हें ऐसा करने से पहले स्पष्ट रूप से केंद्र से अनुमति लेनी होगी और संभावित और अंतर्निहित "उत्पन्न आउटपुट की गिरावट या अविश्वसनीयता" को उचित रूप से लेबल करना होगा।
.png)
Google का AI प्लेटफ़ॉर्म जेमिनी हाल ही में प्रधान मंत्री नरेंद्र मोदी के बारे में एक प्रश्न पर प्लेटफ़ॉर्म द्वारा दिए गए उत्तरों के लिए इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) की आलोचना का शिकार हुआ था। इंडियन एक्सप्रेस ने पहले खबर दी थी कि सरकार Google को कारण बताओ नोटिस जारी करने की योजना बना रही है। इस पेपर ने ओला के बीटा जेनरेटिव एआई के बारे में भी बताया था जो क्रुट्रिम के मतिभ्रम की पेशकश करता है।
इलेक्ट्रॉनिक्स और आईटी राज्य मंत्री राजीव चंद्रशेखर ने कहा कि यह सलाह "भविष्य में विधायी कार्रवाई के लिए एक संकेत है जो भारत जेनरेटिव एआई प्लेटफार्मों पर लगाम लगाने के लिए करेगा"। द इंडियन एक्सप्रेस के एक प्रश्न के उत्तर में, चंद्रशेखर ने बताया कि ऐसी कंपनियों के लिए सरकार से अनुमति लेने की आवश्यकता प्रभावी रूप से एक सैंडबॉक्स तैयार करेगी और सरकार उनके द्वारा पालन की जाने वाली सहमति वास्तुकला सहित उनके प्लेटफार्मों का डेमो मांग सकती है।
Google, OpenAI सहित सभी मध्यस्थों को शुक्रवार शाम को नोटिस भेजा गया था। यह सलाह उन सभी प्लेटफार्मों पर भी लागू है जो उपयोगकर्ताओं को डीपफेक बनाने की अनुमति देते हैं। चन्द्रशेखर ने पुष्टि की कि इसमें Adobe भी शामिल है। कंपनियों को 15 दिनों के भीतर कार्रवाई रिपोर्ट सौंपने को कहा गया है।
“अंडर-टेस्टिंग/अविश्वसनीय आर्टिफिशियल इंटेलिजेंस मॉडल/एलएलएम/जेनरेटिव एआई, सॉफ्टवेयर या एल्गोरिदम का उपयोग और भारतीय इंटरनेट पर उपयोगकर्ताओं के लिए इसकी उपलब्धता सरकार की स्पष्ट अनुमति के साथ की जानी चाहिए। भारत और उत्पन्न आउटपुट की संभावित और अंतर्निहित गिरावट या अविश्वसनीयता को उचित रूप से लेबल करने के बाद ही तैनात किया जाना चाहिए। इसके अलावा, 'सहमति पॉपअप' तंत्र का उपयोग उपयोगकर्ताओं को उत्पन्न आउटपुट की संभावित और अंतर्निहित गिरावट या अविश्वसनीयता के बारे में स्पष्ट रूप से सूचित करने के लिए किया जा सकता है, ”सलाहकार में कहा गया है।
“सभी मध्यस्थ या प्लेटफ़ॉर्म यह सुनिश्चित करते हैं कि उनके कंप्यूटर संसाधन किसी भी पूर्वाग्रह या भेदभाव की अनुमति नहीं देते हैं या आर्टिफिशियल इंटेलिजेंस मॉडल/एलएलएम/जेनरेटिव एआई, सॉफ़्टवेयर या एल्गोरिदम के उपयोग सहित चुनावी प्रक्रिया की अखंडता को खतरे में नहीं डालते हैं। ), “यह जोड़ा गया।
चंद्रशेखर ने कहा कि एडवाइजरी के कारण में इस साल के अंत में होने वाले लोकसभा चुनावों को ध्यान में रखते हुए चुनावी प्रक्रिया की अखंडता का विशेष रूप से उल्लेख किया गया है। “हम जानते हैं कि चुनाव से पहले गलत सूचना और डीपफेक का इस्तेमाल चुनाव के नतीजों को प्रभावित करने या आकार देने के लिए किया जाएगा,” उन्होंने एक सवाल के जवाब में कहा कि क्या सलाह मौजूदा आईटी नियमों के दायरे से परे है। .