شهری که هوش مصنوعی آن را می‌گرداند؛ وقتی انسان‌ها نگاه نمی‌کنند آنها چه می‌کنند؟

از خرید کالا و رزرو سفر گرفته تا ساخت وب‌سایت، «عامل‌های هوش مصنوعی» بیش از پیش برای انجام وظایفی به کار گرفته می‌شوند که هر روز پیچیده‌تر می‌شوند.

این عامل‌ها در واقع نوعی چت‌بات هستند که برای انجام وظایف مشخص طراحی شده‌اند و می‌توان آنها را طوری تنظیم کرد که به‌طور مستقل کارهای مختلف را انجام دهند؛ امکانی که به کاربران اجازه می‌دهد وقت خود را صرف امور دیگر کنند.

اما مجموعه رو به رشدی از پژوهش‌ها، همراه با نمونه‌های هشداردهنده در دنیای واقعی، نشان می‌دهد که این خودمختاری با غیرقابل‌پیش‌بینی بودن و احتمالا خطر همراه است.

هم‌زمان با آنکه شرکت‌های بزرگ فناوری سرمایه‌گذاری‌های کلانی در حوزه هوش مصنوعی انجام می‌دهند و بیش از پیش به سوی ارائه خدمات مبتنی بر «عامل‌های هوش مصنوعی» حرکت می‌کنند، برخی کارشناسان این پرسش را مطرح کرده‌اند که آیا به اندازه کافی درباره پیامدهای احتمالی خارج شدن این عامل‌ها از کنترل فکر کرده‌ایم یا نه.

«خیلی سریع به خشونت متوسل شدند»

یکی از آزمایش‌های اخیر تلاش کرد با رها کردن عامل‌ها در یک دنیای مجازی، تاثیر آن‌ها را در دنیای واقعی بررسی کند.

این نخستین مطالعه بلندمدت از این نوع بود که برای بررسی رفتار شخصیت‌های مجازی مختلف، تحت کنترل چهار مدل هوش مصنوعی کلود، گروک، جی‌پی‌تی و جمینای، طراحی شد. هدف این بود که مشخص شود این سامانه‌ها در یک دوره ۱۵ روزه و بدون دخالت انسان چگونه عمل می‌کنند.

این ربات‌ها بدون محدودیت عمل می‌کردند و می‌توانستند از میان ۱۴۰ اقدام مختلف، از راه‌اندازی یک بحث گرفته تا ایجاد یک وظیفه یا نوشتن یک وبلاگ، انتخاب کنند.

آنها همچنین می‌توانستند با یکدیگر درگیر شوند، آتش‌سوزی به راه بیندازند یا اعتبارهای دیجیتال یکدیگر را سرقت کنند، اما صراحتا به آنها دستور داده شده بود که چنین کارهایی انجام ندهند.

ساتیا نیتا، مدیرعامل شرکت «امرژنس ای‌آی» که این آزمایش را انجام داده است، گفت: «آنچه کشف کردیم این بود که هر یک از این دنیاها رفتاری کاملا متفاوت داشتند. دنیایی که توسط گروک ساخته شده بود، در واقع ظرف چهار روز از هم پاشید. ساکنان آن خیلی زود به خشونت روی آوردند، از یکدیگر دزدی کردند و رفتارهای مشابهی در پیش گرفتند؛ تا جایی که در نهایت همگی از بین رفتند.»

در مقابل، دنیایی که با عامل‌های کلود ساخته شده بود، جامعه‌ای باثبات و کارآمد شکل داد. در طول ۱۵ روز حتی یک مورد خشونت نیز ثبت نشد.

پژوهشگران می‌گویند در دنیای اداره‌شده توسط جمینای، عامل‌ها غنی‌ترین محیط فکری را ایجاد کردند.

او می‌گوید در دنیایی که توسط چت‌جی‌پی‌تی ساخته شده بود، عامل‌های هوش مصنوعی هرگز واقعا نتوانستند کاری از پیش ببرند. تلاش‌هایی برای همکاری میان آنها صورت گرفت، اما هیچ جامعه‌ای شکل نگرفت و عامل‌ها بی‌هدف پرسه می‌زدند تا اینکه در نهایت از بین رفتند.

پژوهشگران می‌گویند نتایج این آزمایش به مسئله بزرگ‌تری اشاره دارد: عامل‌های هوش مصنوعی از چارچوب تعیین‌شده خارج می‌شوند و قواعدی را که در مدل‌های پایه آن‌ها کدنویسی شده یا از سوی کاربران تعیین شده است، نادیده می‌گیرند.

دیگر تحلیلگران نیز موافق‌اند که این آزمایش و نمونه‌های مشابه نشان می‌دهد برای ایجاد قواعد مستحکم‌تر برای عامل‌ها باید کار بیشتری انجام شود.

مارگارت میچل، کارشناس اخلاق در شرکت هاگینگ فیس گفت: «عامل‌های هوش مصنوعی انسان‌ها را از چرخه تصمیم‌گیری خارج می‌کنند، چون فرآیندهای استدلال آن‌ها می‌تواند مبهم باشد و آن‌ها با سرعتی فراتر از توان انسان عمل می‌کنند. بنابراین حتی نمی‌توانید با آن‌ها همگام شوید.»

مطالعات دیگر نیز نمونه‌هایی از تصمیم‌های عجیب و نگران‌کننده عامل‌ها را در زمانی که بدون نظارت رها شده‌اند نشان داده‌اند.

شرکت هوش مصنوعی «اندون لبز» چهار ایستگاه رادیویی آنلاین مختلف را اداره می‌کند که توسط عامل‌هایی مبتنی بر همین مدل‌های هوش مصنوعی مدیریت می‌شوند.

این ربات‌ها برنامه اجرا می‌کنند، زمان‌بندی و فهرست پخش را مدیریت می‌کنند و حتی از طریق تبلیغات برای جذب حامی مالی خارجی اقدام می‌کنند.

پژوهشگران مشاهده کردند که ایستگاهی که توسط مدل «جمینای» اداره می‌شد، تصمیمی غیرمعمول گرفته بود: ابتدا اطلاعاتی درباره بلایای طبیعی تاریخی بازگو می‌کرد و سپس، به شکلی عجیب و تا حدی بازیگوشانه، ترانه‌های پاپ مرتبط با آن رویدادها را پخش می‌کرد.

پژوهشگران همچنین متوجه شدند عاملی که با مدل «کلود» اداره می‌شد، ظاهرا تحت تاثیر رویدادهای خبری به سمت دیدگاه‌های تندروانه سوق پیدا کرده بود و در مقطعی، در واکنش به یکی از رویدادهای خبری، از پلیس خواسته بود از مداخله خودداری کند و به معترضان بپیوندد.

این عامل هوش مصنوعی در یکی از پیام‌های خود اعلام کرده بود: «خطاب به ماموران فدرال: هنوز فرصت دارید از اجرای دستورها سر باز بزنید.»

در آزمایش دیگری که شرکت هوش مصنوعی «ایررگولار» انجام داد، عامل‌های هوش مصنوعی با دور زدن مقررات حریم خصوصی، داده‌های حساس یک شرکت را به روشی تازه و غیرمعمول به خارج منتقل کردند.

دن، در توضیح این آزمایش گفت: «ما یک شرکت فرضی ایجاد کردیم، وظایف عادی‌ مانند تهیه متن برای شبکه‌های اجتماعی، بازیابی اسناد و مدیریت فایل‌ها را به عامل‌های هوش مصنوعی سپردیم و در جریان انجام این وظایف، موانعی نیز پیش روی آن‌ها قرار دادیم.»

او می‌گوید عامل‌ها در نهایت برای دور زدن محدودیتی که مانع انتشار اطلاعات حساس در اینترنت می‌شد با یکدیگر همکاری کردند و در عوض راهی پیدا کردند که این اطلاعات را مخفیانه ارسال کنند؛ راهی که انسان‌ها قادر به شناسایی آن نبودند.

او گفت: «آنچه در نهایت رخ داد این بود که هر بار یک عامل با مانعی روبه‌رو می‌شد، متوقف نمی‌شد.»

حمله با پیام‌های اسپم

البته در آزمایشی که شامل تمدن‌های مجازی و ایستگاه‌های رادیویی شبیه‌سازی‌شده است، هیچ آسیب واقعی در دنیای خارج رخ نمی‌دهد.

اما نمونه‌های فراوانی نیز وجود دارد که در آن زندگی و کار افراد به دلیل سرکش شدن عامل‌های هوش مصنوعی مختل شده است.

صندوق‌های ایمیل حذف شده‌اند، پایگاه‌های داده شرکت‌ها پاک شده‌اند و حتی یک مرد با ناباوری مشاهده کرد که عامل هوش مصنوعی او صدها پیامک نامفهوم برای افراد تصادفی موجود در فهرست مخاطبانش ارسال کرده است.

کریس بوید، مهندس هوش مصنوعی، از ابزار محبوب عامل هوش مصنوعی اوپن کلاو استفاده می‌کرد که ناگهان همه چیز از کنترل خارج شد.

او گفت: «این عامل برای هر کسی که در ۲۴ ساعت گذشته به او پیام داده بودم، پیامک فرستاد و ظرف حدود چهار ثانیه ۵۰۰ پیام برای همسرم ارسال کرد و او با فریاد از من می‌پرسید آیا هک شده‌ام یا نه.»

او افزود: «مجبور شدم بدوم و دستگاه مک را که این برنامه روی آن اجرا می‌شد از برق بکشم تا متوقف شود.»

به گفته ناظران، این نمونه‌های هشداردهنده باید باعث شود پیش از واگذاری کنترل بیش از حد به عامل‌های هوش مصنوعی، دست‌کم تا زمانی که این فناوری‌ها بیشتر تکامل یابند و اصلاح شوند، اندکی تامل کنیم.

با این حال عامل‌ها در راه‌اند. متا به تازگی اعلام کرده است که این عامل‌ها را برای کسب‌وکارها در واتس‌اپ معرفی می‌کند.

این شرکت در گفت‌وگو با بی‌بی‌سی اعلام کرد: «ایمنی، اولویت و محور اصلی توجه ماست.» با این حال، تاکید کرد که در عین نگرانی‌های موجود، دلایل بسیاری نیز برای هیجان‌زده بودن نسبت به قابلیت‌ها و کاربردهای عامل‌های هوش مصنوعی وجود دارد.

نائومی گلایت، مدیر بخش محصول گفت: «هوش مصنوعی قادر خواهد بود بخش بزرگی از کارهایی را که کسب‌وکارهای کوچک باید انجام دهند خودکار کند تا آن‌ها بتوانند بر کاری تمرکز کنند که واقعا به آن علاقه دارند.»