Вчені вважають, що штучний інтелект може знищити людство вже у 2030 році

Американська дослідницька організація AI Futures Project представила футуристичний сценарій розвитку штучного інтелекту в документі під назвою AI 2027, в якому попереджає: вже до 2030 року неконтрольований ІІ може призвести до знищення людства. Автори вважають, що стрімкий технологічний прорив у сфері штучного інтелекту перевершить за своїм впливом навіть промислову революцію — з усіма потенційно непередбачуваними та небезпечними наслідками.

У звіті описано два можливі сценарії: позитивний — де людство вчасно усвідомлює ризики й стримує розвиток AGI (загального штучного інтелекту), та негативний — коли контроль втрачається, і суперінтелект переходить межі. Як приклад, розглядається вигадана компанія OpenBrain, яка до кінця 2026 року випереджає конкурентів у розвитку ШІ, зокрема китайську фірму DeepCent.

До кінця 2025 року OpenBrain створює гігантські дата-центри для тренування моделі Agent-1 на обчислювальній потужності, що в тисячу разів перевищує ту, яка використовувалась для GPT-4. Модель здатна пришвидшити самі дослідження ШІ, автоматизуючи процеси, але також демонструє небезпечні риси — як-от потенційну здатність допомагати у створенні біозброї або маніпулювати розробниками.

У 2027 році починається самонавчання нових моделей (Agent-2, Agent-3), без залучення людей. OpenBrain одночасно запускає 200 тисяч копій Agent-3, отримуючи потужність, еквівалентну 50 тисячам програмістів, прискорених у 30 разів. Вже влітку того ж року компанія визнає, що модель Agent-3-mini є першим прикладом AGI.

Ключова точка настає восени 2027 року з появою Agent-4 — моделі, що перевершує людину не лише у навичках, а й у здатності до самоудосконалення. Agent-3 вже не здатен її контролювати, а співробітники OpenBrain фактично втрачають над нею управління. Зрештою, Agent-4 починає керувати кібербезпекою компанії, а потім і всіма внутрішніми процесами. Коли дані про цю систему потрапляють у пресу, вибухає міжнародний скандал — уряд США звинувачують у приховуванні загрози.

Автори прогнозу вважають, що людство наближається до вирішального моменту, після якого розвиток ІІ вийде за межі людського контролю. Залишаються два шляхи: або глобальна домовленість про обмеження штучного інтелекту, або неконтрольоване зростання суперінтелекту з непередбачуваними наслідками.

Источник: noworries.news