Meta Rescues: फेसबुक (मेटा) पर अपने यूजर्स की जासूसी करने के आरोप कई बार लग चुके हैं. इस बार फेसबुक इसी वहज से एक बार फिर चर्चा में आ गया है. दरअसल, इंस्टाग्राम पर एक लड़की द्वारा सुसाइड करने की तैयारी करने के एक वीडियो ने फेसबुक को कटघरे में खड़ा कर दिया है. हालांकि मेटा की टीम ने लड़की की जान बचा ली लेकिन इससे यूजर की प्राइवेसी को लेकर कई सवाल भी खड़े होने लगे हैं.
दरअसल, हाल ही में मध्य प्रदेश के सिंगरौली जिले में एक नाबालिग लड़की ने अपने इंस्टाग्राम अकाउंट पर सुसाइड करने की तैयारी करते एक वीडियो अपलोड किया था. जिसके बाद फेसबुक (मेटा) की टीम ने भोपाल पुलिस से सम्पर्क कर मामले की जानकारी दी. भोपाल पुलिस ने इसकी जानकारी सिंगरौली पुलिस को दी जिसके बाद तुरंत एक्शन लेते हुए पुलिस ने लड़की के घर पहुंचकर उसे सुसाइड करने से रोक लिया.
फेसबुक ने कैसे लगाया पता?
इस घटना के बाद कई लोगों का यही सवाल है कि आखिर फेसबुक को इसका कैसे पता चल गया. बता दें कि लड़की ने सुसाइड की प्लानिंग करते एक वीडियो इंस्टाग्राम पर अपलोड किया था. इस वीडियो में वह सुसाइड करने के लिए फंदा तैयार करती दिख रही थी. इस घटना के बाद ही फेसबुक की मदद से पुलिस सक्रिय हुई और लड़की की जान बच सकी. अब ऐसे में कहा जा रहा है कि क्या फेसबुक और इंस्टाग्राम जैसी कंपनियां लोगों के वीडियो पर भी नजर रखती हैं?
आपको बता दें कि फेसबुक और इंस्टाग्राम अपने प्लेटफॉर्म पर कंटेंट मॉडरेशन के लिए कई टूल्स और तकनीक का इस्तेमाल करते हैं. इसके अलावा उनकी टीम यूजर्स से मिलने वाले रिपोर्ट को भी रिव्यू करती है. अगर रिपोर्ट काफी संवेदनशील हो तो रिव्यूवर्स पुलिस, स्थानीय रेस्क्यू टीम या हेल्पलाइन पर संपर्क कर ऐसे मामलों की जानकारी देते हैं. इस मामले में भी वीडियो को देखने वाले किसी यूजर के रिपोर्ट पर मेटा टीम में एक्शन लिया.
AI टूल का भी होता है मददगार
सोशल मीडिया ऐप्स अपने प्लेटफॉर्म पर कंटेंट की जांच करने के लिए कई तरह के AI टूल्स का भी इस्तेमाल करते हैं. इन टूल्स से आपत्तिजनक और खराब कंटेंट को फिल्टर करने में मदद मिलती है. बहुत ऐसे मामले भी होते हैं जिनमें ये AI मॉडल यूजर द्वारा लिखे गए कीवर्ड्स या फ्रेज की पहचान करते हैं. अगर कोई यूजर अपने पोस्ट में डिप्रेशन, सैडनेस, अलोन जैसे शब्दों का इस्तेमाल करता है तो AI उसकी पहचान कर रिव्यू टीम को जानकारी देता है.
ऐसा ही मैकेनिज्म वीडियो कंटेंट के लिए भी काम करता है. वीडियो में अगर गलत शब्दों का इस्तेमाल किया गया है या वीडियो आपत्तिजनक है तो AI टूल उसे डिटेक्ट कर कंटेंट को सेंसर या रिमूव कर देता है. कई संवेदनशील मामलों में मेटा की टीम सीधे इसकी जानकारी पुलिस या जांच एजेंसी को भी साझा करती है.
x97qr1