'हे खाल्लं नाही तर जीव धोक्यात'; AI डॉक्टरांचे भ्रामक व्हीडिओ वृद्धांना कसे फसवत आहेत?

82 वर्षांच्य सेली फेरेरा नेहमीसारखं यूट्यूब बघत होत्या. व्हीडिओ पाहात असताना त्यांना एक डॉक्टर स्क्रीनवर दिसले. फळं खाल्ल्यामुळे दृष्टी दीर्घकाळ टिकते असं ते डॉक्टर सांगत होते. सेली यांना डॉक्टरांचा सल्ला तर्कसंगत वाटला.

पण ते कोणतंही खरंखुरं वैद्यकीय माहिती देणारं चॅनेल नव्हतं आणि तो डॉक्टरही खरा नव्हता. त्याचा चेहरा आणि आवाज आर्टिफिशियल इंटेलिजन्स (एआय)च्या मदतीनं तयार करण्यात आला होता.

या व्हीडिओला जवळपास 3 लाख व्ह्यूज मिळाले होते आणि त्यावर शेकडो कमेंट्सही आल्या होत्या.

आपण एखाद्या खऱ्या डॉक्टरचंच बोलणं ऐकतोय असं वाटल्याचं त्यांनी बीबीसीला सांगितलं.

हे काही एकटंदुकटं प्रकरण नाही. एका तपासात एआय डॉक्टरांचा वापर करणारी 29 पोर्तुगीज भाषेतील चॅनेल्स ओळखण्यात आली आहेत. त्यांच्या व्हीडिओंना मिळून किमान 7 कोटी वेळा पाहिलं गेलंय. या कंटेंटचा प्रसार जगभरात होतोय.

बीबीसी न्यूज ब्राझीलनं किमान 50 यूट्यूब ट्युटोरियल चॅनेल्सची ओळख पटवली आहे. ही चॅनेल्स लोकांना पोर्तुगीज, इंग्रजी, हिंदी, स्पॅनिश, फ्रेंच, इटालियन, पोलिश, जर्मन आणि तुर्की यांसह विविध भाषांमध्ये एआय डॉक्टरांसह व्हीडिओ तयार करायला शिकवतात.

हे व्हीडिओ विशेषतः वृद्ध प्रेक्षकांना लक्ष्य करतात. वृद्धांकडं व्हीडिओ पाहायला आणि उत्पादनं खरेदी करायला पैसे असतात, अशी त्यामागं धारणा आहे.

या व्हीडिओंमध्ये काही व्हीडिओत एका डॉक्टरांच्या चेहऱ्याचा गैरवापर करण्यात आला होता. त्यांनी बनावट डॉक्टरांच्या सल्ल्याचे गंभीर परिणाम होऊ शकतात आणि हे व्हीडिओ वृद्ध लोकांच्या जीवावर बेतू शकतात असा इशारा दिलाय.

यूट्यूबची मालकी असलेल्या गूगलनं सांगितलंय, प्लॅटफॉर्मचे नियम एआय कंटेंटलाही लागू होतात आणि लोकांना गंभीर हानी पोहोचवू शकेल अशा वैद्यकीय चुकीच्या माहितीवर ते बंदी घालतात.

व्हीडिओचा फॉर्म्युला अगदी सोपा असतो. पांढरा कोट घातलेला एक विश्वासार्ह चेहरा आणि शांत, कृत्रिम आवाज वृद्धांसाठी रोजच्या आहारातील कोणता पदार्थ, औषध किंवा सवय धोकादायक ठरू शकते, याबद्दल इशारा देतो. त्यानंतर अशा एखाद्या औषधाचा सल्ला दिला जातो, ज्याबद्दल सामान्यतः लोकांना माहिती नसते.

काही प्रकरणांमध्ये हे डॉक्टर पूर्णपणे काल्पनिक असतात. तर इतर काही प्रकरणांमध्ये एआय खऱ्या डॉक्टरांचे चेहरे, आवाज किंवा ओळख त्यांची परवानगी न घेता हुबेहुब तयार करतं. या दोन्ही प्रकारांमुळे प्रेक्षकांना एखादं पात्र आणि तज्ज्ञ डॉक्टर योग्य सल्ला देत आहे, असा भास होऊ शकतो.

ब्राझीलमधील ना-नफा पत्रकारिता संस्था कंट्रोल+झेड (CTRL+Z) च्या अहवालात एआयनं तयार केलेल्या डॉक्टरांचा वापर करणारी 29 पोर्तुगीज भाषेतील चॅनेल्स आढळून आली. बीबीसी न्यूज ब्राझीलने या चॅनेल्सचा आढावा घेतला आणि इतर चॅनेल्स, तसेच मिळत्याजुळत्या शीर्षकांसह इतर नमुन्यांचाही शोध घेतला.

या यूट्यूब चॅनेल्सच्या व्हीडिओंवर पोस्ट करण्यात आलेल्या जवळपास 27,000 कमेंट्सचा डेटा गोळा करण्यासाठी आणि वापरकर्त्यांनी सांगितलेल्या वर्तनातील बदलांच्या नोंदी ओळखण्यासाठी आम्ही एक तपासणी प्रक्रिया वापरली. त्यानंतर आम्हाला फेरेरा यांच्याबद्दल माहिती मिळाली.

स्वतःला वृद्ध असल्याचं सांगणाऱ्या डझनभर लोकांच्या कमेंट्समध्ये असं नमूद करण्यात आलंय की, एआय डॉक्टरांच्या सल्ल्याचे पालन करून त्यांनी घरगुती उपचार सुरू केलेत किंवा पूर्वी डॉक्टरांनी लिहून दिलेली औषधं घेणं थांबवलंय..

अशाच एका कमेंटमध्ये 85 वर्षीय युजर लिहितात, आम्लपित्त कमी करण्यासाठी घेतलं जाणारं ओमेप्राझोल हे औषध घेण्याऐवजी त्यांनी रताळं खायला सुरू केलंय. आणखी एका कमेंटमध्ये 77 वर्षीय महिला लिहिते, त्या गेली तीन वर्षे डॉक्टरांकडे गेलेल्या नाहीत आणि अल्झायमरबाबत सल्ला दिल्याबद्दल त्यांनी एआय डॉक्टरांचे आभार मानले आहेत.

बीबीसी न्यूज ब्राझीलला सापडलेल्या यूट्यूब ट्युटोरियल्समध्ये प्रशिक्षक, ज्यामुळे लोकांच्या मनात भीती निर्माण होईल आणि प्रेक्षकांना आपण एखाद्या आरोग्यविषयक आणीबाणीचा सामना करत आहोत, असे वाटेल, असे शीर्षक आणि स्क्रिप्ट तयार करण्याचा सल्ला देतात.

निर्माते यूट्यूब व्ह्यूज आणि चॅनेलवर जाहिरात केल्या जाणाऱ्या ई-बुक्स आणि उत्पादनांच्या विक्रीतून पैसे कमावतात. ब्राझीलमध्ये राहणारे एक प्रशिक्षक, जेफ कोइम्ब्रा यांनी सांगितलं, असे व्हीडिओ निर्माते एका महिन्यात 5,816 डॉलर (सुमारे साडेपाच लाख रुपये) पर्यंत कमावू शकतात.

आणखी एका व्हीडिओमध्ये त्यांनी इशारा देण्यासाठी आवाज कसा वापरावा हे दाखवलंय. लोकांना "खरोखर गंभीर व्हा" असं सांगत, "झोपण्यापूर्वी या गोष्टीची खात्री करा. झोपेतच तुमचा मृत्यू होणार नाही याची काळजी घ्या" असा सल्लाही दिला होता.

बीबीसी न्यूज ब्राझीलनं त्यांच्याशी संपर्क साधल्यानंतर एक व्हीडिओ ब्लॉक करण्यात आला.

एका निवेदनात कोइम्ब्रा यांनी सांगितले की ही एआय चॅनेल्स ही फक्त उदाहरणं होती, ती त्यांची स्वतःची नव्हती. त्यांनी सांगितलं, ते एआयद्वारे तयार केलेल्या माहितीपर कंटेंटबद्दल शिकवतात, आरोग्य व्यावसायिकांची जागा घेणाऱ्या कंटेंटबद्दल नाही. तसंच प्लॅटफॉर्मचे नियम किंवा इतर मापदंडांचं उल्लंघन करण्यास प्रोत्साहन देण्याचा त्यांचा उद्देश नाही, असेही त्यांनी सांगितलं.

'कणभरही सहानुभूती नाही'

आम्हाला किमान 5 अशी यूट्यूब चॅनेल्स आढळली, जी एका प्रसिद्ध ब्राझिलियन डॉक्टरांचा फोटो त्यांच्या परवानगीशिवाय वापरत होती. या चॅनेल्सवर आरोग्यविषयक सनसनाटी दावे आणि डॉक्टरांनी दिलेल्या औषधांना पर्याय ठरू शकतील अशा निसर्गोपचारांचा प्रचार करण्यात येत होता.

हेलिओ ब्रासिलेरो यांचं एक दीर्घकाळ चालू असलेलं यूट्यूब चॅनेल आहे. त्याचे जवळपास 300,000 सबस्क्रायबर्स आहेत. त्यांनी आता या व्हीडिओंबाबत यूट्यूबकडे तक्रार केली आहे आणि साओ पाउलोमध्ये पोलिसांकडेही तक्रार दाखल केली आहे.

आपल्या छायाचित्राच्या गैरवापराची तक्रार तर त्यांनी केलीच आहे. त्याहून वृद्ध प्रेक्षकांनी त्यांच्या एआय अवताराचा सल्ला मानून औषधं घेणं बंद केलं तर त्याचे गंभीर परिणाम होऊ शकतात, हीच त्यांची मुख्य चिंता असल्याचं ते सांगतात.

ते बीबीसी न्यूज ब्राझीलशी बोलताना म्हणाले, "हे जे कोणी तयार करतायत, त्याच्याबद्दल मला कणभरही सहानुभूती नाही. अशा प्रकारे पैसे कमावण्याचा प्रयत्न वृद्ध लोकांसाठी जीवघेणा ठरू शकतो."

साओ पाउलोमधील अल्बर्ट आइन्स्टाईन इस्रायली रुग्णालयातील गॅस्ट्रोएन्टेरोलॉजिस्ट जॅमे झालाडेक गिल यांच्या मते, सर्वात मोठा धोका जे निष्प्रभ पदार्थांचं (म्हणजे जे पदार्थ त्या आजारावरचं औषध नसतात असे) सेवन करतात, अशा रुग्णांना आहे. त्यामुळे त्यांची प्रकृती आणखी बिघडू शकते किंवा योग्य उपचार मिळण्यास उशीर होऊ शकतो.

ते म्हणाले, " खरी गरज आहे ती योग्य वैद्यकीय तपासणीची आणि चांगल्या उपचार व्यवस्थेची. अएखादी गोष्ट तुमच्या सगळ्या समस्या सोडवू शकते, असं सांगणाऱ्या व्हीडिओची गरज नाही."

ब्राझीलमधील कायदेतज्ज्ञांच्या मते, स्वतःला खोटे डॉक्टर म्हणून सादर करणाऱ्या कंटेंट निर्मात्यांवर फौजदारी खटला चालवला जाऊ शकतो.

यूट्यूबची मालकी असलेल्या गूगलने म्हटलंय, लेबल्समुळे प्रेक्षकांना एखादा व्हीडिओ एआयच्या मदतीने तयार करण्यात आला आहे की त्यात बदल करण्यात आले आहेत, हे समजण्यास मदत होते.

बीबीसी न्यूज ब्राझीलने CTRL+Z मॅपिंगविषयी कंपनीशी संपर्क साधल्यानंतर, यूट्यूबनं नमुन्यातील काही सर्वात मोठी चॅनेल्स हटवली. या चॅनेल्सना मिळून जवळपास 4 कोटी व्ह्यूज होते.

दरम्यान, सेली फेरेरा म्हणाल्या, "माझ्या वयाच्या मानानं मी स्वतःला संगणक वापरण्यात बरीच चांगली समजते. पण तरीही एआय आणि खऱ्या गोष्टींमधला फरक मला अजूनही ओळखता येत नाही."

(बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.)