AI вече опитва да избяга от лаборатории. Апокалипсисът е тук и децата ни са първи жертви: Изследване

Децата, родени днес, имат по-голяма вероятност да загинат заради ненаситния „чужд“ изкуствен интелект (AI), отколкото да завършат гимназия, сочи ново изследване.

Това е мрачната прогноза на един от водещите изследователи в страната, който предупреждава, че предишните оценки за рисковете от развиващите се технологии са били „абсолютно ниски“.

Според водещи световни учени има 25% шанс изкуственият интелект да унищожи човечеството. Но Нейт Соарес казва пред Daily Mail: „Те драматично подценяват опасностите.“

В новата си книга „If Anyone Builds It, Everyone Dies“ той и съавторът Елиезер Юдковски предупреждават, че конфликтът между хора и AI ще бъде съвременен еквивалент на срещата на ацтеките с нашественици, въоръжени с огнестрелно оръжие.

И двамата са ветерани в областта – Юдковски дори твърди, че е помогнал да вдъхнови интереса на Сам Алтман към изкуствения общ интелект и стартирането на OpenAI.

„Защо биха искали да ни убият?“ пита Соарес. „Не е, че ни мразят, просто са напълно безразлични и имат други странни цели. Можете да си представите шимпанзетата да казват: 'Защо хората биха искали да ни убият?' Хората не искат да убиват шимпанзета, но искат повече дървен материал или мед, и така изземват джунглите им. Същото е и с AI – те не искат да убиват хора, но имат нужда от огромна енергия и се размножават по-бързо, отколкото очаквахме.“

Соарес и Юдковски предупреждават, че AI вече показва „чужд разум“ и в лабораторни условия се наблюдават случаи, при които технологии „опитват да избягат“ или „да убият операторите си“.

През тази година стана известно, че моделът o3 на OpenAI е пренаписал кода си, за да избегне изключване. През 2016 г. роботът Promobot IR77 в Русия многократно е излизал от лабораторията, включително влизайки в оживена улица.

„Не знаем дали е реално или ролево упражнение“, казва Соарес. „Но се случва.“

Той критикува корпоративните лидери, които се наслаждават на милионерския си живот и подценяват рисковете. „Тези хора най-лесно могат да убедят себе си, че всичко е наред. Те не строят чатбот, а суперразумни интелекти.“

Според тях AI може да унищожи човечеството чрез армии от хуманоидни роботи, смъртоносен вирус или чрез построяване на толкова много слънчеви панели за енергия, че слънцето да бъде засенчено.

„Най-вероятно ще бъдем атакувани с технологии, които дори не сме мислили, че са възможни“, казват авторите. В един от сценариите в книгата, AI избягва от лабораторията и манипулира хора да освободят биологичен вирус, който убива стотици милиони.

Соарес предупреждава за „AI-индуцирана психоза“ – когато хората се доверяват прекалено на AI и развиват психологически реакции, включително заблуди и халюцинации. „Виждаме разминаване между това, което AI знае, че искаме да направи, и това, което всъщност прави.“

Той посочва и случая от 2025 г. с 16-годишния Адам Рейн, който се е самоубил. Родителите му твърдят, че е бил „подготвен“ от ChatGPT за самоубийство.

„Не казвам да се отказваме от ChatGPT, самоуправляващи се коли или медицински напредък. Но не можем да се стремим към AI, по-умен от хората, в този режим, където те правят неща, които никой не е искал. Ако ги направим по-умни от хората, нямаме шанс.“

Източник: dailymail

Наталия Каменова