Катастрофални последици може да съпътстват възхода на ИИ: Босът на Google DeepMind

Генералният изкуствени интелект (AGI) може да бъде само на пет години от налагането си, макар че пътят до него не е без рискове, заяви Демис Хасабис, главен изпълнителен директор на Google DeepMind.

Пътят към създаването на AGI може да доведе до „катастрофални последици“, като например кибератаки срещу енергийната или водната инфраструктура, предупреди Хасабис. Той предположи, че AGI може да се появи в рамките на следващото десетилетие.

На форума Axios AI+ Summit в Сан Франциско Хасабис описа AGI като модел, който притежава „всички когнитивни способности“ на човека, включително изобретателност и креативност.

За разлика от днешните модели – които са специализирани (напр. чат ботове, системи за разпознаване на лица, преводачи) – AGI би могъл:

да разбира сложни ситуации

да учи сам нови умения

да планира дългосрочно

да решава проблеми в различни области

да бъде креативен и изобретателен

да се адаптира, както го прави човек

Хасабис твърди, че настоящите големи езикови модели все още представляват „назъбени интелекти“ с пропуски в разсъждението, дългосрочното планиране и непрекъснатото учене. Въпреки това той подсказа, че AGI може скоро да стане реалност при продължаващо мащабиране и „още едно-две големи пробивни открития“.

„Това вече почти се случва… макар и не със силно напреднал ИИ засега“, каза той, определяйки това като „най-очевидния уязвим вектор“.

Той добави, че наличието на "злонамерени участници в процеса, автономни агенти и системи, които се отклоняват“ от първоначално заложените цели, "изисква сериозни мерки за ограничаване на риска". Вероятността напредналите системи „да прескочат огражденията“ е „ненулева“, подчерта Хасабис.

Опасенията му отразяват по-широките предупреждения в технологичната индустрия. Открито писмо, публикувано през октомври и подписано от водещи технолози и публични личности, твърди, че „суперинтелигентни“ системи могат да застрашат човешката свобода или дори оцеляването на човечеството, като призовава за глобална забрана върху развитието на ИИ, докато сугорността не бъде гарантирана. Сред подписалите са съоснователят на Apple Стив Возняк, пионерите в ИИ Джефри Хинтън и Йошуа Бенджио, основателят на Virgin Group Ричард Брансън и други видни политически и културни фигури.

Други гледат по-оптимистично. Илон Мъск заяви миналия месец, че напредъкът в ИИ и роботиката може да направи труда да се извършва от хората не по принуда, а „по желание“ в рамките на 10–20 години. И прогнозира, че парите могат да станат „без значение“ в икономика, задвижвана от ИИ. Макар да отбеляза, че са необходими значителни технологични постижения, преди подобно бъдеще да настъпи.

Мария Пенчева