मेटा घोषणा की कि यह अपने सभी प्लेटफार्मों पर आर्टिफिशियल इंटेलिजेंस (AI) -Generated छवियों को लेबल करना शुरू कर देगा, जिसमें शामिल हैं फेसबुकधागे, और Instagram। 6 फरवरी को की गई घोषणा, कंपनी के ओवरसाइट बोर्ड द्वारा एआई-जनित सामग्री पर मेटा की नीति को बदलने और नुकसान को रोकने पर ध्यान केंद्रित करने की आवश्यकता पर प्रकाश डाला, जो कि अमेरिकी राष्ट्रपति जो बिडेन के डिजिटल रूप से परिवर्तित वीडियो को ऑनलाइन सामने लाने की शिकायत का जवाब दे सकता है। मेटा ने कहा कि जब यह अपने स्वयं के एआई मॉडल द्वारा बनाई गई फोटोरिअलिस्टिक छवियों को लेबल करता है, तो अब यह अन्य कंपनियों के साथ काम करेगा, जो अपने प्लेटफार्मों पर साझा की गई सभी एआई-जनित छवियों को लेबल करने के लिए होगा।
एक न्यूज़ रूम में डाक मंगलवार को, मेटा के वैश्विक मामलों के अध्यक्ष, निक क्लेग ने उपयोगकर्ताओं की सुरक्षा और विघटन को रोकने के लिए एआई-जनित सामग्री को लेबल करने की आवश्यकता को रेखांकित किया, और साझा किया कि यह पहले से ही एक समाधान विकसित करने के लिए उद्योग के खिलाड़ियों के साथ काम करना शुरू कर दिया है। उन्होंने कहा, “हम उद्योग भागीदारों के साथ काम कर रहे हैं, जो सामान्य तकनीकी मानकों पर संरेखित करने के लिए हैं, जब एआई का उपयोग करके सामग्री का एक टुकड़ा बनाया गया है।” सोशल मीडिया दिग्गज ने यह भी बताया कि वर्तमान में, यह Google, Openai, Microsoft, Adobe, Midjourney और Shutterstock से छवियों को लेबल कर सकता है। यह मेटा के अपने एआई मॉडल द्वारा “एआई के साथ कल्पना” के रूप में बनाई गई छवियों को लेबल कर रहा है।
एआई-जनित छवियों को सही ढंग से पहचानने के लिए, डिटेक्शन टूल्स को ऐसी सभी छवियों में एक सामान्य पहचानकर्ता की आवश्यकता होती है। एआई के साथ काम करने वाली कई फर्मों ने अदृश्य वॉटरमार्क को जोड़ना शुरू कर दिया है और छवियों के मेटाडेटा में जानकारी एम्बेडिंग करना एक तरीका है कि यह स्पष्ट करने के लिए कि यह मनुष्यों द्वारा बनाया या कैप्चर नहीं किया गया था। मेटा ने कहा कि यह हाइलाइट की गई कंपनियों से एआई छवियों का पता लगाने में सक्षम था क्योंकि यह उद्योग द्वारा अनुमोदित तकनीकी मानकों का पालन करता है।
लेकिन इसके साथ कुछ मुद्दे हैं। सबसे पहले, प्रत्येक एआई छवि जनरेटर ऐसे उपकरणों का उपयोग नहीं करता है ताकि यह स्पष्ट हो कि छवियां वास्तविक नहीं हैं। दूसरा, मेटा ने देखा है कि अदृश्य वॉटरमार्क को बाहर निकालने के तरीके हैं। इसके लिए, कंपनी ने खुलासा किया है कि वह उद्योग भागीदारों के साथ काम कर रही है ताकि वॉटरमार्किंग के लिए एक एकीकृत तकनीक बनाई जा सके जो आसानी से हटाने योग्य नहीं है। पिछले साल, मेटा के एआई रिसर्च विंग, फंडामेंटल एआई रिसर्च (फेयर), की घोषणा की यह स्थिर हस्ताक्षर नामक एक वॉटरमार्किंग तंत्र विकसित कर रहा था जो मार्कर को सीधे छवि पीढ़ी प्रक्रिया में एम्बेड करता है। Google के डीपमाइंड ने सिंथिड नामक एक समान उपकरण भी जारी किया है।
लेकिन यह सिर्फ छवियों को कवर करता है। एआई-जनित ऑडियो और वीडियो भी आज भी आम हो गए हैं। इसे संबोधित करते हुए, मेटा ने स्वीकार किया कि ऑडियो और वीडियो के लिए एक समान पहचान तकनीक अभी तक नहीं बनाई गई है, हालांकि विकास कार्यों में है। जब तक इस तरह की सामग्री का पता लगाने और पहचानने का एक तरीका उभरता है, तब तक टेक दिग्गज ने अपने प्लेटफ़ॉर्म पर उपयोगकर्ताओं के लिए एक सुविधा जोड़ी है, जब वे एआई-जनित वीडियो या ऑडियो साझा करते हैं। एक बार खुलासा करने के बाद, प्लेटफ़ॉर्म इसमें एक लेबल जोड़ देगा।
क्लेग ने यह भी कहा कि इस घटना में कि लोग ऐसी सामग्री का खुलासा नहीं करते हैं, और मेटा को पता चलता है कि यह डिजिटल रूप से बदल दिया गया था या बनाया गया था, यह उपयोगकर्ता को दंड लागू कर सकता है। इसके अलावा, यदि साझा सामग्री उच्च जोखिम वाली प्रकृति की है और यह महत्व के मामलों पर जनता को धोखा दे सकती है, तो यह उपयोगकर्ताओं को संदर्भ प्राप्त करने में मदद करने के लिए एक और भी अधिक प्रमुख लेबल जोड़ सकता है।
