द्वेष पसरवण्याऱ्या आणि ध्रुर्वीकरण करणाऱ्या माहितीवर फेसबूकला कोणतीही आपत्ती नाही...

फेसबूक वर द्वेष पसरवण्या संदर्भात धक्कादायक रिपोर्ट समोर आले आहेत. द्वेषपूर्ण पोस्ट रोखण्यात फेसबूकला अपयश आल्याचे आरोप या अगोदर देखील झाले आहेत. मात्र, फेसबूकच्या सिस्टमवरच (फेसबुक चे एल्गोरिदम) आता प्रश्न उपस्थित केले जात आहे. फेसबुकची अंतर्गत यंत्रणा द्वेष (फेसबुक चे एल्गोरिदम) पसरवणाऱ्या पोस्टला प्रोत्साहन देत असल्याचा आरोप फेसबूकवर करण्यात आला आहे. मात्र, फेसबूकने या संदर्भात अद्यापपर्यंत कोणतीही कारवाई केलेली नाही.

'द इंडियन एक्स्प्रेस'मध्ये प्रसिद्ध झालेल्या वृत्तानुसार, फेसबुकचे तत्कालीन उपाध्यक्ष क्रिस कॉक्स यांनी 2019 मध्ये या संदर्भात काही बैठकाही घेतल्या होत्या, परंतु त्यांना विशिष्ट समुदायाविरोधात जाणाऱ्या आक्षेपार्ह मजकुरामध्ये त्यांना कोणतीही अडचणी दिसली नाही.

बैठकी दरम्यान, फेसबुक कर्मचारी आणि त्याचे वरिष्ठ अधिकारी यांच्यामध्ये झालेल्या बैठकीमधील संभाषणाचे तीन मेमो देखील समोर आले आहेत. यामध्ये फेसबुकच्या कर्मचाऱ्यांनी कंपनीकडे द्वेषयुक्त भाषण शोधण्यासाठी मूलभूत सेटअप नसल्याचं म्हटलं आहे. अल्पसंख्याक समुदायाचा विश्वास फेसबूक कसा मिळवेल? असा प्रश्नही कर्मचाऱ्यांनी फेसबुकला विचारला होता.

2019 च्या लोकसभा निवडणुकीपूर्वीही फेसबुक समोर द्वेषयुक्त भाषण आणि खराब मजकूर या संदर्भात एक अहवाल ठेवण्यात आला होता. दोन अहवाल जानेवारी-फेब्रुवारी 2019 मध्ये कंपनीसमोर ठेवण्यात आले होते तर तिसरा अहवाल ऑगस्ट 2020 मध्ये कंपनीसमोर ठेवण्यात आला होता.

या अहवालांमध्ये, फेसबूक ने आर्टिफिशियल इंटेलिजन्स टूल स्थानिक भाषा ओळखू शकत नाही आणि त्यामुळे ते खोटे मजकूर किंवा द्वेषयुक्त भाषण शोधू शकत नाही. असं मान्य केलं आहे. 'द इंडियन एक्स्प्रेस'ने फेसबूकला याबाबत विचारले असता, फेसबुकने यावर कोणतीही प्रतिक्रिया दिलेली नाही. पहिल्या अहवालात पश्चिम बंगालमध्ये फेसबुकवर पोस्ट केलेल्या 40 टक्के मजकूर खोटा असल्याचं म्हटलं आहे. तर दुसरा अहवाल एक टेस्ट अकाउंटवर आधारित होता.

तर तिसऱ्या अहवालात तीन आठवडे एक फेसबूक अकाउंट तयार करुन निरिक्षण करण्यात आल्याचं सांगण्यात आलं होतं. फेसबूकवर खात्याचे कोणतेही मित्र जोडले गेले नव्हते. मात्र, या अकाउंटच्या न्यूज फीडवर राष्ट्रवादी विचारसरणी, चुकीची माहिती आणि हिंसाचाराचं ध्रुवीकरण करणाऱ्या पोस्ट पाहायला मिळत होत्या. टेस्टसाठी तयार करण्यात आलेल्या Facebook अकाउंटच्या अल्गोरिदमनुसार या अकाउंटच्या न्यूज फीडवर बहुतेक सॉफ्टकोर पॉर्न व्हिडीओ पाहण्याच्या सूचना वापरकर्त्याला आल्याचं त्यांनी म्हटलं आहे.

मात्र, 14 फेब्रुवारीला पुलवामा हल्ल्यानंतर अल्गोरिदमने यूजरने न्यूज फीडवर राजकारण आणि देशाच्या आर्मीबाबत ग्रुप दाखवायला सुरुवात केली. फेसबूकचा द्वेषयुक्त भाषण थांबवण्याचा दावा... फेसबुकने इंडियन एक्स्प्रेसला सांगितले होते की, त्यांनी अनेक भाषांमधील (हिंदी आणि बंगाली) मधील द्वेषयुक्त भाषणाची तपासणी केली आहे आणि त्यात आता लक्षणीय घट झाली आहे. परंतु मुस्लिम समुदायासारख्या असुरक्षित वर्गांविरुद्ध जगभरात द्वेष पसरवणाऱ्या पोस्टमध्ये वाढ होत आहे. आणि कंपनी त्यावर काम करत आहे.

काय आहे अल्गोरिदम?

तुम्ही म्हणाल फेसबूकची अंतर्गत प्रणाली म्हणजे काय? तर फेसबुकचे अल्गोरिदम. सोप्या भाषेत सांगायचे तर, फेसबुक किंवा कोणत्याही सर्च इंजिनवरुन लोकांपर्यंत कोणत्या प्रकारची माहिती द्यायची. हे ठरवण्याचं काम फेसबुक चे एल्गोरिदम करते. अल्गोरिदम म्हणजेच, तुम्हाला फेसबूकवर काय पहायचं आहे? किंवा काय नाही? हे महत्त्वाचं नाही. मात्र, Facebook ची अंतर्गत यंत्रणा तुम्हाला द्वेषयुक्त आणि प्रक्षोभक माहिती देऊ शकते.

उदाहरणार्थ, तुम्ही तुमचं फेसबूक लॉग इन केलं तर Facebook तुम्हाला कोणत्या प्रकारचे पेजेस किंवा सामग्री फॉलो करायची आणि कोणती सामग्री पाहायची. याबद्दल सूचना देतं.

दरम्यान, फेसबुकच्या काही कर्मचाऱ्यांनी यावर एक संशोधन केलं. मात्र, या संशोधनाचे निष्कर्ष आल्यावर त्यांना धक्काच बसला. संशोधनात त्यांनी तुमच्या माझ्या सारख्या वापरकर्त्याप्रमाणे फेसबूक अकाउंट तयार केली होती. त्यात असं आढळून आलं की, तयार करण्यात आलेल्या नवीन फेसबुक अकाउंटवर द्वेष, हिंसा आणि खोट्या बातम्यांवर आधारित सामग्री पाहण्यासाठी किंवा फॉलो करण्यासाठी फेसबूककडून सुचवण्यात आलं होतं.

दरम्यान, यातील बहुतांश साहित्य हे पाकिस्तान आणि मुस्लिमविरोधी द्वेष पसरवणारे होते.

एका रिपोर्टनुसार, केरळमधील फेसबुक संशोधकाने दोन वर्षांपूर्वी एक युजर अकाउंट तयार केले होते. तेव्हा संशोधनात फेसबुकद्वारे, द्वेषयुक्त भाषणं आणि चुकीची माहिती असलेली सामग्री सुचवण्यात आली होती.

'द इंडियन एक्स्प्रेस'च्या वृत्तानुसार, फेसबुकच्या प्रवक्त्याने सांगितले आहे की, अहवालाचे पूर्ण विश्लेषण करण्यात आले आहे. त्यातून सुधारणा करण्यास मदत देखील होणार आहे. त्यांनी असंही म्हंटल आहे की, फेसबुकने अल्गोरिदमच्या यंत्रणेतून राजकीय गट काढून टाकले आहेत. यावरुन द्वेष, प्रक्षोभक आणि हिंसाचाराचे साहित्य पुरवण्यात राजकीय गटांचा सहभाग असल्याचं स्पष्ट होतं.

प्रवक्त्याने सांगितले की, द्वेषयुक्त भाषणाला आळा घालण्याचे आमचे कार्य सुरूच आहे आणि द्वेषयुक्त सामग्री नष्ट करण्यासाठी आम्ही आमची प्रणाली आणखी मजबूत केली आहे. यामध्ये ४ भारतीय भाषांचा समावेश करण्यात आल्याचे देखील त्यांनी सांगितले आहे.

अंखी दास प्रकरण...

फेसबुक इंडियाच्या वादग्रस्त संचालक अंखी दास यांना गेल्या वर्षी त्यांच्या पदाचा राजीनामा द्यावा लागला होता. त्यांच्या राजीनाम्याचं मूळ कारण कळू शकलं नाही, परंतु फेसबुकने त्यांना पद सोडण्यास सांगितले असावे. असं सांगण्यात येत आहे.

जेव्हा वॉल स्ट्रीट जर्नलने, 'फेसबुकने अंखी दास यांच्या सांगण्यावरून भाजप आमदाराची मुस्लिम विरोधी पोस्ट हटवली नाही' असं वृत्त दिलं होतं. त्या वृत्तात असं देखील सांगण्यात आलं होतं की, तेलंगणाच्या आमदाराची द्वेष पसरवणारी पोस्ट फेसबुक इंडियाच्या टीमने शोधली होती. ती काढून टाकण्याचा सल्ला दिला होता. पण असं केल्याने कंपनीचे भारत सरकारसोबतचे संबंध बिघडतील आणि त्याचा परिणाम या देशातील फेसबुकच्या व्यवसायावर होईल, असे अंखी दासने म्हटले होते.