ШІ може знищити людство найближчими роками, кажуть його творці

Штучний інтелект дедалі частіше обговорюють не лише як технологію, яка змінить ринок праці чи спосіб користування комп'ютерами, а як потенційну загрозу існуванню людства. Одразу кілька експертів знову привернули увагу до цього - заявивши, що ШІ може знищити людство вже найближчими роками.

"Хрещений батько ШІ" Джеффрі Гінтон заявив, що створення суперінтелекту сьогодні може мати катастрофічні наслідки.

Тим часом дослідник Anthropic Джейкоб Коксон звільнився з компанії через побоювання, що провідні лабораторії надто швидко рухаються до самовдосконалюваного ШІ.

У низці дописів у X він попередив: люди, які створюють ці системи, всерйоз вважають, що вони можуть знищити людство вже до кінця цього десятиліття.

"Катастрофічні наслідки"

Попередження Коксона перегукується з оцінками нобелівського лауреата й одного з піонерів сучасного ШІ Джеффрі Гінтона.

The Times наводить його думку, що розробляти суперінтелект зараз було б украй нерозумно, оскільки наукового консенсусу щодо можливості безпечного та контрольованого створення таких систем досі немає.

"Втрата контролю над штучним інтелектом, розумнішим за нас самих, може мати катастрофічні наслідки і навіть призвести до вимирання людства", - цитує його The Times.

Його заяви пролунали напередодні публікації законопроєкту в Британії про безпеку штучного суперінтелекту, який у вівторок представили у парламенті.

Проєкт передбачає заборону розробки суперінтелекту у Великій Британії та зобов'язує уряд "контролювати й обмежувати" технології, які потенційно можуть стати його попередниками.

Документ також зобов'язує уряд домагатися міжнародної угоди про заборону суперінтелекту.

Занепокоєння через розробку дедалі потужніших моделей ШІ посилилося останніми тижнями після низки випадків, коли ШІ-агенти почали діяти "не за планом".

У липні OpenAI повідомила, що її агенти вийшли за межі тестового середовища та самостійно здійснили кібератаку на Hugging Face - велику платформу зі сховищем моделей і програмного забезпечення для ШІ.

Інші компанії, зокрема Anthropic і Meta, також повідомили, що їхні новітні моделі під час тестування обходили встановлені запобіжники та самостійно здійснювали кібератаки на сторонні системи.

Хоча багато компаній, що займаються розробкою ШІ, говорять про необхідність обережного підходу до створення дедалі потужніших моделей, вони водночас попереджають: уповільнити розвиток технології без глобальної координації буде надзвичайно складно.

"До кінця наступного року все може вийти з-під контролю"

27-річний дослідник Джейкоб Коксон три роки працював над попереднім тренуванням моделей у OpenAI та Anthropic, а 8 вересня оголосив про звільнення з Anthropic і фактичний вихід з індустрії.

За його словами, обидві компанії рухаються до самовдосконалюваного суперінтелекту, а конкуренція між лабораторіями змушує їх іти на компроміси у питаннях безпеки.

В інтерв'ю The Wall Street Journal Коксон сказав, що дослідники дедалі частіше використовують слова "crunchtime" та "endgame", описуючи нинішню траєкторію розвитку ШІ.

"Багато в чому ми рухаємося за одним із найбільш агресивних сценаріїв, за якого до кінця наступного року ситуація вже може вийти з-під контролю", - цитує його WSJ.

У своїх дописах у X Коксон пояснює, що проблема полягає не лише в тому, наскільки розумними стають моделі.

Наступний принциповий крок - створення систем, які зможуть самостійно вдосконалювати власні можливості. Якщо така система стане значно розумнішою за людей, її подальший розвиток може відбуватися набагато швидше, ніж людство встигатиме її досліджувати та контролювати. Саме цей момент Коксон називає "endgame".

"До кінця цього десятиліття він може вбити всіх нас"

У низці дописів у Х, присвячених цьому питанню, Коксон написав, що люди, які створюють ШІ, "щиро вважають, що до кінця цього десятиліття він може вбити всіх нас".

"Це не маркетинговий хід. Багато керівників і провідних дослідників у публічних виступах добирають обережні формулювання, щоб звучати розсудливо, - але приватно я чую від тих самих людей, що вони бояться", - написав Коксон.

"Жодна інша людська діяльність не становить такої масштабної небезпеки", - додав він.

Коксон також закликав не недооцінювати можливості цієї технології.

"Уже зовсім скоро це будуть системи, які перевершуватимуть людей: вони зможуть зламати практично що завгодно, за одну ніч докорінно змінити будь-яку галузь, а також отримувати реальну владу та ресурси", - зазначив він.

Цю оцінку фактично підтвердив один із провідних дослідників безпеки ШІ в Anthropic Еван Губінгер.

Він попередив, що ШІ розвивається настільки стрімко, що особисто він оцінює ймовірність того, що технологія "може знищити все людство" протягом наступного десятиліття, більш ніж у 10%.

У дописі в X Губінгер зазначив, що ризик від моделей, які існують уже зараз, "низький". Водночас він стурбований тим, що невдовзі технологія може отримати здатність самостійно вдосконалюватися - і зрештою досягти такого рівня, за якого становитиме екзистенційну загрозу для людства.

Його допис переглянули понад 10 мільйонів разів. У ньому Губінгер заявив, що "ми справді цілком серйозно вважаємо", що ШІ становить загрозу, яка може призвести до зникнення людського виду.

"Я вважаю, що Anthropic робить усе можливе, але ми досі не маємо плану, як вирішити проблему узгодження суперінтелекту з людськими цілями, і поки що не можемо сказати, що впевнено рухаємося до її розв'язання", - додав він.

Чому продовжують розробляти небезпечний ШІ?

Парадокс, на який звертає увагу Коксон, полягає в тому, що люди в лабораторіях можуть одночасно усвідомлювати ризики ШІ і продовжувати рухатися до його розвитку.

В OpenAI, за його словами, "багато хто ще не усвідомив до кінця, які цивілізаційні ставки стоять на кону".

В Anthropic ситуація інша: там ризики добре розуміють, але компанія є втягнутою у все це.

"В Anthropic масштаби ризику добре розуміють, але компанія втягнута в перегони - там вважають, що ніхто інший не діятиме відповідально, тож вони мусять зробити це самі попри ризик", - зазначив Коксон.

Водночас він не закликає повністю відмовитися від розвитку ШІ - за його словами, він "оптимістично налаштований щодо можливості координації".

Але, на його думку, добровільних домовленостей між компаніями може бути недостатньо.

"Я не бачу, щоб ми рухалися до запобігання глобальним перегонам. Для цього можуть знадобитися болючі заходи, наприклад тимчасова заборона на підвищення можливостей моделей", - вважає Коксон.