Google sheds light on how it’s fighting deep fakes and AI-generated

Google इस बात पर प्रकाश डालता है कि वह भारत में डीप फेक और AI-जनित गलत सूचनाओं से कैसे लड़ रहा है गूगल ने कहा कि वह डीप फेक और एआई जनित गलत सूचनाओं से लड़ने के लिए भारत सरकार के साथ मिलकर काम करेगा। यह मौजूदा और आगामी रेलिंग पर भी कुछ प्रकाश डालता है जो इंटरनेट पर डिजिटल रूप से उत्पन्न और संशोधित सामग्री को चिह्नित करने और हटाने में मदद करेगा दुनिया की सबसे बड़ी तकनीकी कंपनियों में से एक, Google ने हाल ही में इस बात पर प्रकाश डाला कि वह भारत में AI द्वारा उत्पन्न फर्जी और गलत सूचनाओं से कैसे लड़ रही है। टेक दिग्गज ने स्वीकार किया कि “गहरे नकली और एआई-जनित गलत सूचना से निपटने के लिए कोई सिल्वर बुलेट नहीं है”, लेकिन यह मशीन लर्निंग और मानव समीक्षकों के संयोजन का उपयोग करके एआई-जनित सामग्री का मुकाबला करने और ध्वजांकित करने का प्रयास कर रहा है।

 Tech Google sheds light on how it’s fighting deep fakes and AI-generated

आगामी ग्लोबल पार्टनरशिप ऑन आर्टिफिशियल इंटेलिजेंस (जीपीएआई) शिखर सम्मेलन में, Google का कहना है कि वह ‘सिंथेटिक मीडिया’ जैसे डीप फेक और दुष्प्रचार अभियानों द्वारा उत्पन्न सुरक्षा जोखिमों को संबोधित करने के लिए भारत सरकार के साथ काम करेगा। कंपनी ने सिंथआईडी, एक एम्बेडेड वॉटरमार्क और मेटाडेटा लेबलिंग प्रणाली के साथ नकली छवियों की समस्या का समाधान करने के लिए पहले से ही कुछ रेलिंग और सुरक्षा उपाय लागू किए हैं, जो कंपनी के टेक्स्ट-टू-इमेज जेनरेटर इमेजन का उपयोग करके उत्पन्न तस्वीरों को चिह्नित करता है। जहां तक ​​यूट्यूब की बात है, रचनाकारों को जल्द ही यह खुलासा करना होगा कि क्या उन्होंने कोई परिवर्तित या एआई-जनरेटेड सामग्री का उपयोग किया है या एआई टूल का उपयोग किया है और विवरण पैनल के साथ-साथ वीडियो प्लेयर में लेबल जोड़कर उपयोगकर्ताओं को इसके बारे में सूचित करना होगा। वे एक नई ‘गोपनीयता अनुरोध प्रक्रिया’ पर भी काम कर रहे हैं जो उपयोगकर्ताओं को किसी व्यक्ति के चेहरे या आवाज की नकल करने के लिए एआई का उपयोग करने पर सामग्री को हटाने में सक्षम बनाएगी।

Google Drive files missing? Here’s what you should not do

फ़ाइलें गायब हैं? यहां बताया गया है कि आपको क्या नहीं करना चाहिए टेक दिग्गज ने हाल ही में अपनी चुनावी विज्ञापन नीतियों को भी अपडेट किया है, जिसके तहत अब प्रकाशकों को यह बताना होगा कि क्या उनके विज्ञापनों में उपयोगकर्ताओं को धोखा देने, गुमराह करने या धोखा देने के इरादे से डिजिटल रूप से परिवर्तित या उत्पन्न सामग्री शामिल है। Google

खोज में पहले से ही नॉलेज पैनल और फ़ीचर्ड स्निपेट्स जैसे कुछ रेलिंग हैं जो गहरी नकली और एआई-संशोधित सामग्री को चिह्नित करते हैं यह इन दिशानिर्देशों का उल्लंघन करने वाली सामग्री का तुरंत पता लगाने और उसे हटाने के लिए मानव समीक्षकों के साथ मिलकर मशीन लर्निंग का भी उपयोग कर रहा है, एआई के साथ कंपनी को अपनी सामग्री मॉडरेशन सिस्टम की सटीकता को तेजी से बढ़ाने में मदद मिल रही है। गूगल का कहना है कि वह पूरे भारत में नीति निर्माताओं, शोधकर्ताओं और विशेषज्ञों के साथ बातचीत कर रहा है। पिछले साल दिसंबर में, तकनीकी दिग्गज ने भारतीय दृष्टिकोण से एआई में पूर्वाग्रह का अध्ययन करने के लिए अपनी तरह का पहला जिम्मेदार एआई केंद्र स्थापित करने के लिए भारतीय प्रौद्योगिकी संस्थान, मद्रास को 1 मिलियन डॉलर का अनुदान समर्पित किया था।

Deepfakes

1 एआई का उपयोग करके बनाई गई रूपांतरित सामग्री – एक बड़ी समस्या बनकर उभरी है। पिछले कुछ हफ्तों में, कुछ भारतीय मशहूर हस्तियों के डीपफेक वीडियो सोशल मीडिया पर वायरल हो रहे हैं। Google AI-संबंधी तकनीक में बड़ा निवेश कर रहा है और इससे होने वाले खतरों से अवगत है। एक ब्लॉग पोस्ट में, Google के एक वरिष्ठ अधिकारी ने कहा कि कंपनी सुरक्षा और सुरक्षा जोखिमों की एक विस्तृत श्रृंखला के लिए परीक्षण कर रही है, जिसमें AI-जनित, फोटो-यथार्थवादी, सिंथेटिक ऑडियो या वीडियो सामग्री के नए रूपों का उदय शामिल है जिन्हें “सिंथेटिक मीडिया” के रूप में जाना जाता है। .

उसने ब्लॉग पोस्ट में कहा। यूट्यूब का उदाहरण देते हुए, ब्राउनिंग ने कहा कि Google सामुदायिक दिशानिर्देशों को लागू करने के लिए लोगों और मशीन लर्निंग तकनीकों के संयोजन का उपयोग करता है, जिसके समीक्षक दुनिया भर में काम कर रहे हैं। “हमारे सिस्टम में, एआई क्लासिफायर बड़े पैमाने पर संभावित उल्लंघनकारी सामग्री का पता लगाने में मदद करते हैं, और समीक्षक यह पुष्टि करने के लिए काम करते हैं कि सामग्री ने वास्तव में नीति सीमाओं को पार किया है या नहीं। एआई हमारे कंटेंट मॉडरेशन सिस्टम की गति और सटीकता दोनों को लगातार बढ़ाने में मदद कर रहा है, ”उसने कहा।

सहयोग ही आगे बढ़ने का रास्ता है

भारत में, Google प्रभावी समाधान विकसित करने के लिए नीति निर्माताओं, शोधकर्ताओं और विशेषज्ञों के साथ काम कर रहा है। Google ने रिस्पॉन्सिबल AI के लिए अपनी तरह का पहला बहु-विषयक केंद्र स्थापित करने के लिए भारतीय प्रौद्योगिकी संस्थान, मद्रास को अनुदान में USD $1M का निवेश किया है। “यह केंद्र सामूहिक प्रयास को बढ़ावा देगा – जिसमें न केवल शोधकर्ता, बल्कि डोमेन विशेषज्ञ, डेवलपर्स, समुदाय के सदस्य, नीति निर्माता और बहुत कुछ शामिल होंगे – एआई को सही करने और इसे भारतीय संदर्भ में स्थानीयकृत करने के लिए,” उन्होंने कहा।

इसके अलावा, टेक दिग्गज भारत सरकार के साथ भी सहयोग कर रही है “एक बहु-हितधारक चर्चा इस चुनौती को एक साथ संबोधित करने और एआई के लिए एक जिम्मेदार दृष्टिकोण सुनिश्चित करने की हमारी प्रतिबद्धता के अनुरूप है।” ब्राउनिंग और गूगल के अनुसार, एक बहुहितधारक दृष्टिकोण और जिम्मेदार एआई विकास को बढ़ावा देना, यह सुनिश्चित कर सकता है कि एआई का उपयोग बुरे से अधिक अच्छे के लिए किया जाता है।