मेटा बुधवार को कहा कि इसमें “संभावना एआई-जनरेटेड” सामग्री का इस्तेमाल किया गया था फेसबुक और Instagram ग्लोबल न्यूज़ संगठनों और अमेरिकी सांसदों के पदों के नीचे प्रकाशित गाजा में इजरायल की युद्ध की संचालन की प्रशंसा करने वाली टिप्पणियों सहित प्लेटफ़ॉर्म।
सोशल मीडिया कंपनी, एक तिमाही सुरक्षा रिपोर्ट में, ने कहा कि यहूदी छात्रों, अफ्रीकी अमेरिकियों और अन्य संबंधित नागरिकों के रूप में खातों को संयुक्त राज्य अमेरिका और कनाडा में दर्शकों को लक्षित किया गया है। इसने अभियान को तेल अवीव-आधारित राजनीतिक विपणन फर्म स्टोइक के लिए जिम्मेदार ठहराया।
स्टोइक ने आरोपों पर टिप्पणी के लिए तुरंत एक अनुरोध का जवाब नहीं दिया।
यह क्यों महत्वपूर्ण है
जबकि मेटा ने 2019 के बाद से आर्टिफिशियल इंटेलिजेंस द्वारा इन्फ्लुएंस ऑपरेशंस द्वारा उत्पन्न बुनियादी प्रोफ़ाइल तस्वीरें पाई हैं, रिपोर्ट पाठ-आधारित जनरेटिव के उपयोग का खुलासा करने वाली पहली है। ऐ प्रौद्योगिकी के बाद से यह 2022 के अंत में उभरा।
शोधकर्ताओं ने कहा है कि जनरेटिव एआई, जो जल्दी और सस्ते में मानव-जैसे पाठ, इमेजरी और ऑडियो का उत्पादन कर सकता है, अधिक प्रभावी विघटन अभियान और बोलबाला चुनाव कर सकता है।
एक प्रेस कॉल में, मेटा सुरक्षा अधिकारियों ने कहा कि उन्होंने इजरायली अभियान को जल्दी हटा दिया और नहीं सोचा था कि उपन्यास एआई टेक्नोलॉजीज ने प्रभाव नेटवर्क को बाधित करने की अपनी क्षमता को बाधित किया था, जो संदेशों को आगे बढ़ाने के लिए समन्वित प्रयास हैं।
अधिकारियों ने कहा कि उन्होंने ऐसे नेटवर्क को नहीं देखा था, जो प्रामाणिक तस्वीरों के लिए भ्रमित होने के लिए पर्याप्त राजनेताओं की एआई-जनित कल्पना को तैनात करते हैं।
प्रमुख उद्धरण
“इन नेटवर्कों में कई उदाहरण हैं कि वे सामग्री बनाने के लिए संभावित जनरेटिव एआई टूलिंग का उपयोग कैसे करते हैं। शायद यह उन्हें उस तेज करने या अधिक मात्रा के साथ ऐसा करने की क्षमता देता है। लेकिन यह वास्तव में उन्हें पता लगाने की हमारी क्षमता को प्रभावित नहीं करता है,” मेटा हेड ऑफ थ्रेट इन्वेस्टिगेशन माइक डेविलैंस्की ने कहा।
संख्या में
रिपोर्ट में छह गुप्त प्रभाव संचालन पर प्रकाश डाला गया जो मेटा ने पहली तिमाही में बाधित किया।
स्टोइक नेटवर्क के अलावा, मेटा ने इजरायल-हामास संघर्ष पर केंद्रित एक ईरान स्थित नेटवर्क को बंद कर दिया, हालांकि इसने उस अभियान में जेनेरिक एआई के किसी भी उपयोग की पहचान नहीं की।
प्रसंग
मेटा और अन्य तकनीकी दिग्गजों ने नई एआई प्रौद्योगिकियों के संभावित दुरुपयोग को संबोधित करने के लिए, विशेष रूप से चुनावों में कैसे संबोधित किया है।
शोधकर्ताओं ने ओपनईएआई और माइक्रोसॉफ्ट सहित कंपनियों से छवि जनरेटर के उदाहरण पाए हैं, जो उन कंपनियों के पास ऐसी सामग्री के खिलाफ नीतियों के बावजूद मतदान से संबंधित विघटन के साथ फ़ोटो का निर्माण करते हैं।
कंपनियों ने अपने निर्माण के समय एआई-जनित सामग्री को चिह्नित करने के लिए डिजिटल लेबलिंग सिस्टम पर जोर दिया है, हालांकि उपकरण पाठ पर काम नहीं करते हैं और शोधकर्ताओं को उनकी प्रभावशीलता के बारे में संदेह है।
आगे क्या होगा
मेटा जून की शुरुआत में यूरोपीय संघ में चुनावों के साथ और नवंबर में संयुक्त राज्य अमेरिका में चुनावों के साथ अपने बचाव के प्रमुख परीक्षणों का सामना करती है।
© थॉमसन रॉयटर्स 2024
