सोशल मीडिया कंपनियां अब आत्महत्या और एडल्ट कंटेंट पर पहले से ज्यादा सख्ती से कार्रवाई कर रही हैं। कंपनियां अब ऐसी संवेदनशील पोस्ट को तुरंत हटा रही हैं। इनकी कुल कार्रवाई में आत्महत्या और सेल्फ हार्म कैटेगरी की हिस्सेदारी साल 2022 में सिर्फ 5.41% थी, जो साल 2025 में बढ़कर 21.44% हो गई। इसी तरह अश्लीलता के खिलाफ की गई कार्रवाई भी 1
0.97% से बढ़कर 16.85% पर पहुंच गई।
बुलिंग और ऑनलाइन उत्पीड़न के मामले घटे
आंकड़े बताते हैं कि बुलिंग और ऑनलाइन उत्पीड़न से जुड़े मामलों पर कार्रवाई की हिस्सेदारी 2022 के 2.32% से घटकर 2025 में 1.85% रह गई। इसी तरह हेट स्पीच से जुड़े मामलों का हिस्सा भी 1% से घटकर 0.59% हो गया।
AI आधारित मॉडरेशन सिस्टम से कंटेट की पहचान में तेजी
सोशल मीडिया कंपनियों ने 2022 से 2025 के बीच कंटेंट मॉडरेशन को काफी सख्त किया है। इसकी सबसे बड़ी वजह आर्टिफिशियल इंटेलिजेंस (AI) आधारित मॉडरेशन सिस्टम, यूजर सेफ्टी पर बढ़ता जोर और विभिन्न देशों के नियम हैं। अब आत्महत्या, सेल्फ-हार्म, अश्लीलता, बच्चों की सुरक्षा, हेट स्पीच और हिंसा से जुड़े कंटेंट की पहचान पहले से कहीं तेजी से की जा रही है।
कई मामलों में संदिग्ध पोस्ट यूजर की शिकायत से पहले ही हटा दी जाती हैं। भारत जैसे बड़े सोशल मीडिया बाजार में बढ़ते यूजर बेस के साथ कंपनियां अपने कम्युनिटी गाइडलाइंस को सख्ती से लागू कर रही हैं, ताकि प्लेटफॉर्म को अधिक सुरक्षित बनाया जा सके।
कंटेंट उल्लंघन के खिलाफ कार्रवाई (कुल कार्रवाई – करोड़ में)
| प्लेटफॉर्म | 2022 | 2023 | 2024 | 2025 |
|---|---|---|---|---|
| इंस्टाग्राम | 15.01% | 17.54% | 29.71% | 55.90% |
| फेसबुक | 84.74% | 82.38% | 70.04% | 43.38% |
| स्नैपचैट | 0.25% | 0.07% | 0.24% | 0.72% |
| एक्स (X) | 0.002% | 0.01% | 0.02% | 0.004% |
| कुल कार्रवाई (करोड़ में) | 30.12 | 35.63 | 23.77 | 160.697 |
