څنګه په مصنوعي‌ځیرکتیا جوړ 'ډاکټران' زاړه لیدونکي په نښه کو او دا پر یوټیوب نړیوال کاروبار شو؟

۸۲ کلنه سِلي فِرېرا په یوټیوب کې ویډیو کتلې، چې پر پرده یو ډاکټر راښکاره شو او وړاندیز یې وکړ چې د مېوو په خوړلو سره کولی شي خپل د سترګو لید خوندي کړي. هغې فکر وکړ چې خبره یې د منلو وړ ښکاري.

خو دا یو ریښتینی طبي چینل نه و او دغه ډاکټر اصلاً وجود نه درلود - د هغه څېره او غږ د مصنوعي ځیرکتیا (AI) په مټ جوړ شوي وو.

که څه هم یوټیوب دا ویډیو د AI په وسیله د جوړې شوې ویډیو په توګه نښه کړې وه، خو ویډیو نژدې ۳۰۰ زره لیدنې او سلګونه تبصرې ترلاسه کړې وې. سره له دې نښې، فِرېرا بي‌بي‌سي ته وویل چې هغې باور کړی و د یوه ریښتیني ډاکټر خبرې اوري.

دا یوازې یوه جلا پېښه نه ده - یوې څېړنې ۲۹ پرتګالي ژبې چینلونه موندلي چې په AI جوړ شوي ډاکټران کاروي او لږ تر لږه ۷۰ میلیونه لیدنې لري.

او دا ډول محتوا نړیواله کچه لري - بي بي سي نیوز برازیل لږ تر لږه ۵۰ داسې د یوټیوب ښوونیز چینلونه موندلي چې خلکو ته ښيي څنګه د AI ډاکټرانو په وسیله ویډیوګانې جوړې کړي. دا چینلونه په پرتګالي، انګلیسي، هندي، اسپانوي، فرانسوي، ایټالوي، پولنډي، جرمني او ترکي ژبو فعالیت کوي.

د دغو ویډیوګانو جوړوونکي زاړه لیدونکي یوه ګټوره بازارموندنیزه ډله ګڼي - دوی باور لري چې زاړه خلک د ویډیوګانو د کتلو لپاره ډېر وزګار وخت لري او د محصولاتو د اخیستلو لپاره د مصرف وړ عاید هم لري.

یوه ریښتیني ډاکټر، چې د هغه انځور له اجازې پرته کارول شوی، خبرداری ورکوي چې د جعلي ډاکټرانو مشورې ښايي جدي پایلې ولري او "زړو خلکو ته د مرګوني زیان سبب شي."

ګوګل، چې د یوټیوب مالک دی، ویلي چې د دې پلاتفورم اصول پر AI جوړې شوې محتوا هم پلي کېږي او هغه طبي ناسم معلومات منع کوي چې ښايي په واقعي نړۍ کې د جدي زیان سبب شي.

په ځینو مواردو کې، دغه ډاکټران له سره جعلي او خیالي جوړ شوي وي. په نورو مواردو کې، مصنوعي ځیرکتیا د ریښتینو ډاکټرانو څېره، غږ یا هویت د هغوی له اجازې پرته کاپي کوي. دواړه ډولونه کولی شي لیدونکو ته دا تصور ورکړي چې یو مسلکي او وړ ډاکټر ورته اړوندې طبي مشورې ورکوي.

هغه ۲۹ پرتګالي ژبې چینلونه چې د AI له خوا جوړ شوي ډاکټران کاروي، د CTRL+Z په یوه راپور کې موندل شوي وو. CTRL+Z د برازیل یوه غیرانتفاعي ژورنالېستیکه اداره ده. بي بي سي‌ نیوز برازیل دغه چینلونه وکتل، څو نور ورته چینلونه او نمونې، لکه ورته سرلیکونه، هم پیدا کړي.

موږ فِرېرا هغه مهال وموندله چې د دغو یوټیوب چینلونو له ویډیوګانو مو شاوخوا ۲۷ زره تبصرې راټولې کړې او بیا مو د یوې ارزونې پروسې له لارې هغه تبصرې وپېژندلې چې کاروونکو پکې د خپل چلند د بدلون راپور ورکړی و.

په لسګونو هغو تبصرو کې چې د ځان د زړو خلکو په توګه معرفي کوونکو کسانو له خوا لیکل شوې وې، ویل شوي چې دوی د AI ډاکټرانو مشورې عملي کړې دي - یا یې په کور کې د درملنې لارې پیل کړې دي، او یا یې هغه درمل بند کړي چې مخکې ورته ډاکټرانو تجویز کړي وو.

په یوه تبصره کې، یو کاروونکي چې ځان یې ۸۵ کلن بللی، ویلي چې اومېپرازول - هغه درمل چې د معدې د تېزابو د تولید د کمولو لپاره کارېږي - یې پرېښی او پر ځای یې خوږ کچالو خوړل پیل کړي دي.

په بله تبصره کې، یوې ۷۷ کلنې ښځې ویلي چې له درې کلونو راهیسې ډاکټر ته نه ده تللې او د الزایمر ناروغۍ په اړه یې د AI ډاکټر له مشورې مننه کړې ده.

د هغو یوټیوب ښوونیزو ویډیوګانو په اړه چې بي بي سي نیوز برازیل موندلې، روزونکي لارښوونه کوي چې داسې سرلیکونه او متنونه جوړ شي چې وېره او د بیړني حالت احساس رامنځته کړي، څو لیدونکي فکر وکړي چې له یوې سمدستي روغتیايي ستونزې یا خطر سره مخ دي.

د دې ویډیوګانو جوړوونکي له یوټیوب د ترلاسه کېدونکو لیدنو له لارې او همدارنګه په خپلو چینلونو کې د اعلان شویو برېښنايي کتابونو (e-books) او محصولاتو له پلور پیسې ګټي. په برازیل کې مېشت یوه روزونکي، جېف کویمبرا ویلي چې جوړوونکي کولی شي په میاشت کې تر ۳۰ زره برازیلي ریالو (۵۸۱۶ ډالرو) پورې عاید ترلاسه کړي.

په یوه بله ویډیو کې هغه وښودله چې څنګه باید د اندېښنې وړ او خطرناک انداز وکارول شي. نوموړي خلکو ته وویل چې په دې برخه کې باید "رښتیا هم خبره ډېره شدیده" وړاندې کړي. د بېلګې په توګه یې وویل: "مخکې له دې چې ویده شئ، له دې ځان وساتئ. پام کوئ چې په خوب کې مړه نه شئ."

وروسته له هغه چې بي بي سي نیوز برازیل له نوموړي سره اړیکه ونیوله، د یوې ویډیو لیدلو ته د عامو خلکو لاسرسی بند شو.

کویمبرا په یوه اعلامیه کې وویل چې په ویډیو کې ښودل شوي AI چینلونه یوازې د بېلګې په توګه وړاندې شوي وو، نه دا چې د ده خپل چینلونه وي. هغه وویل چې دی د AI په وسیله جوړ شوی معلوماتي محتوا ور زده کوي، نه داسې محتوا چې د روغتیايي متخصصینو ځای ونیسي. نوموړي زیاته کړه چې موخه یې دا نه وه چې خلک د پلاتفورم له اصولو یا نورو معیارونو څخه سرغړونې ته وهڅوي.

'هېڅ خواخوږي نه لري'

موږ لږ تر لږه پنځه داسې یوټیوب چینلونه موندلي چې د یوه مشهور برازیلي ډاکټر انځور یې د هغه له اجازې پرته کارولی، څو د روغتیا په اړه وېرونکې او له خطره ډکې ادعاوې او داسې طبیعي درملنې ترویج کړي چې ښايي د ډاکټر له خوا تجویز شويو درملو بدیل وبلل شي.

هېلیو برازیلیرو له اوږدې مودې راهیسې یو یوټیوب چینل لري چې نږدې ۳۰۰ زره ګډونوال لري. نوموړي اوس دغه ویډیوګانې یوټیوب ته راپور کړې دي او په ساو پائولو کې یې د پولیسو رسمي شکایت هم ثبت کړی دی.

د هغه د څېرې له ناوړه او بې اجازې کارونې پرته، د نوموړي اصلي اندېښنه دا ده چې ښايي زاړه لیدونکي د ده د څېرې له لیدلو وروسته، چې د دغو مشورو ترڅنګ ښودل شوې، د خپلو درملو له اخیستلو ډډه وکړي.

هغه بي بي سي نیوز برازیل ته وویل: "څوک چې دا کار جوړوي، هېڅ خواخوږي نه لري. په دې ډول د پیسو ګټلو هڅه کولی شي زړو خلکو ته د مرګوني زیان سبب شي."

جایمي زالادېک ګیل، چې د ساو پائولو د البرټ اینشټاین اسرائیلي روغتون د معدې او هاضمې ناروغیو متخصص دی، وايي تر ټولو لوی خطر دا دی چې ناروغان داسې بې‌اغېزې مواد وکاروي چې یا یې ناروغي لا پسې خرابه کړي او یا حتی د ناروغۍ تشخیص وځنډوي.

هغه وايي: "هغه څه چې اړتیا ورته شته، یوه سمه طبي معاینه او څېړنه او یوه پیاوړې تشخیصي شبکه ده؛ نه یوازې داسې یوه ویډیو چې ادعا کوي ګواکې یو شی به ستاسو ټولې ستونزې حل کړي."

د برازیل حقوقي کارپوهان وايي، هغه کسان چې په دروغو ځانونه د ډاکټرانو په توګه معرفي کوي، د جرمي تعقیب له خطر سره مخ کېدای شي.

ګوګل، چې د یوټیوب مالک دی، ویلي چې د ویډیو شریکولو د دې پلاتفورم اصول پر AI له خوا جوړې شوې محتوا هم پلي کېږي او هغه طبي ناسم معلومات منع کوي چې ښايي په واقعي نړۍ کې د جدي زیان سبب شي.

شرکت ویلي چې نښې (Labels) له لیدونکو سره مرسته کوي چې پوه شي کومه محتوا بدله شوې او یا د مصنوعي ځیرکتیا په وسیله جوړه شوې ده.

وروسته له هغه چې بي بي سي نیوز برازیل د CTRL+Z د موندنو په اړه له شرکت سره اړیکه ونیوله، یوټیوب د څېړنې له نمونې د ځینو تر ټولو لویو چینلونو فعالیت بند کړ. دغو چینلونو په ګډه شاوخوا ۴۱ میلیونه لیدنې لرلې.

په همدې حال کې، سِلي فِرېرا وايي چې غواړي په دې برخه کې لا ښه شي چې څنګه هغه څه وپېژني چې آنلاین یې ویني.

هغې وویل: "زما د عمر لپاره، زه ځان له کمپیوټرونو سره په کافي اندازه بلد ګڼم، خو لا هم نه پوهېږم چې څنګه معلومه کړم کوم شی AI دی او کوم شی ریښتینی دی."