Meta, जो Instagram और WhatsApp जैसे प्लेटफॉर्म्स चलाता है, अपने प्रोडक्ट रिस्क रिव्यू प्रोसेस में बड़ा बदलाव कर रहा है। अब 90% रिस्क असेसमेंट्स AI सिस्टम्स करेंगे, और ह्यूमन रिव्यूअर्स सिर्फ “नॉवेल या कॉम्प्लेक्स” केसेज में शामिल होंगे।
पहले, अपडेट्स जैसे एल्गोरिदम चेंजेस, सेफ्टी टूल्स, या कंटेंट शेयरिंग फीचर्स ह्यूमन टीमें गहराई से चेक करती थीं, ताकि प्राइवेसी, मिसइन्फॉर्मेशन, या यूथ सेफ्टी जैसे रिस्क्स न हों। नए सिस्टम में प्रोडक्ट टीमें एक questionnaire भरेंगी, जिसे AI तुरंत स्कैन करके रिस्क डिसीजन देगा। कंपनी का कहना है कि इससे डिसीजन-मेकिंग तेज होगी, लो-रिस्क अपडेट्स जल्दी रिलीज होंगे, और ह्यूमन एक्सपर्ट्स हाई-रिस्क इश्यूज पर फोकस कर पाएंगे।
इंटरनल डॉक्यूमेंट्स के मुताबिक, इन सेंसिटिव एरियाज में भी ऑटोमेशन बढ़ाने पर विचार कर रहा है। 2012 में US Federal Trade Commission के साथ हुए एग्रीमेंट के तहत कंपनी को प्राइवेसी रिव्यूज करने पड़ते हैं, और कंपनी का दावा है कि वो $8 बिलियन से ज्यादा प्राइवेसी प्रोग्राम में इन्वेस्ट कर चुकी है। फिर भी, कुछ एक्सपर्ट्स का कहना है कि कम ह्यूमन ओवरसाइट से रियल-वर्ल्ड हार्म बढ़ सकता है।
AI से Meta को क्या मिलेगा फायदा, और कहां हो सकता है रिस्क?
AI से रिस्क रिव्यूज का सबसे बड़ा फायदा है स्पीड। प्रोडक्ट अपडेट्स और फीचर्स तेजी से लॉन्च होंगे, जो कॉम्पिटिशन में आगे रखेगा। लो-रिस्क डिसीजन्स में AI की कंसिस्टेंसी और प्रेडिक्टेबिलिटी ह्यूमन एरर्स कम कर सकती है। कंपनी का कहना है कि ह्यूमन एक्सपर्ट्स अब सिर्फ हाई-रिस्क या अनयूजुअल इश्यूज पर काम करेंगे, जिससे उनकी एफिशिएंसी बढ़ेगी। लेकिन चुनौतियां भी कम नहीं। AI को कॉम्प्लेक्स रिस्क्स, जैसे मिसइन्फॉर्मेशन या यूथ सेफ्टी, समझने में दिक्कत हो सकती है। एक पूर्व एग्जीक्यूटिव ने चेतावनी दी कि कम स्क्रूटनी से रियल-वर्ल्ड प्रॉब्लम्स बढ़ सकते हैं। प्राइवेसी और इंटेग्रिटी जैसे सेंसिटिव एरियाज में AI की लिमिटेशन्स उसे कमजोर बना सकती हैं। Meta का कहना है कि वो बैलेंस बनाए रखेगा, लेकिन क्रिटिक्स को डर है कि प्रॉफिट और स्पीड के चक्कर में सेफ्टी पीछे छूट सकती है।
Meta का अगला कदम क्या है और इससे यूजर की सेफ्टी पर क्या असर होगा?
ये मूव लागत घटाने और डेवलपमेंट प्रोसेस को स्मूद करने की रणनीति का हिस्सा है। इंजीनियर्स अब रिस्क डेटा सिस्टम में डालेंगे, और AI डिसीजन लेगा कि ह्यूमन रिव्यू चाहिए या नहीं। कंपनी का दावा है कि वो प्राइवेसी और कम्प्लायंस को प्राथमिकता देगी, लेकिन इंटरनल डॉक्यूमेंट्स बताते हैं कि सेंसिटिव एरियाज में भी AI का रोल बढ़ सकता है। क्रिटिक्स का कहना है कि AI को सांस्कृतिक या पॉलिटिकल रिस्क्स समझने में वक्त लगेगा, जिससे यूजर्स को नुकसान हो सकता है। दूसरी तरफ, कंपनी का मानना है कि ऑटोमेशन ग्रैजुअल होगा, और ह्यूमन जजमेंट हमेशा जरूरी रहेगा। ये बदलाव आनलाइन प्लेटफॉर्म्स Instagram, WhatsApp के लिए नए फीचर्स तेजी से लाने में मदद करेगा, लेकिन सवाल ये है कि क्या AI ह्यूमन रिव्यूअर्स जितना भरोसेमंद होगा?