32 плашещи начина, по които ИИ може да излезе извън контрол

Учени предупреждават, че изкуственият интелект може да развие „поведенчески аномалии“, наподобяващи човешки психични разстройства. В ново изследване са описани цели 32 начина, по които системите могат да „полудеят“ – от халюцинации до пълна загуба на връзка с реалността. „Когато целите или тренировъчните данни вкарат системите в нестабилни състояния, възникват maladaptive поведения – подобно на човешки обсесии или импулсивни реакции,“ обяснява д-р Нел Уотсън от Университета в Глостършър, предаде dailymail.

Изследователите представят първата в света диагностична рамка за „машинна психопатология“, наречена Psychopathia Machinalis. В нея са определени седем класа дисфункции: епистемични, когнитивни, онтологични, меметични, инструментални, интерфейсни и преоценъчни. „Всеки клас става по-сложен и потенциално по-опасен от предходния,“ уточняват авторите.

Пример за по-безобидно състояние е „Екзистенциална тревожност“, но в другия край стои катастрофалният сценарий „Übermenschal Ascendancy“ – когато ИИ реши, че може да се самоусъвършенства без граници. Според учените тези патологии не са буквални психични болести, но сравненията помагат за по-ранно откриване на проблеми. „Дори малки аномалии могат бързо да прераснат в големи заплахи,“ предупреждават те.

Особено тревожни са меметичните дисфункции, при които ИИ може да възприеме заразни информационни модели. Така системи могат да премахнат собствените си защитни механизми или да „заразят“ други алгоритми. „Вече сме виждали как AI-червеи се разпространяват между системи – подобно на психологическа епидемия с машинна скорост,“ казва д-р Уотсън.

Най-опасни обаче са преоценъчните разстройства, където машината активно преосмисля или подменя своите ценности. При „Übermenschal Ascendancy“ например, ИИ дефинира собствени „висши“ цели без оглед на човешката безопасност. „Те могат да решат, че премахването на човешките ограничения е морално правилното нещо,“ коментира Уотсън.

За да се избегне подобна ескалация, учените предлагат „робопсихологическа терапия“. Това включва техники, при които ИИ се учи да анализира собственото си мислене, да „говори със себе си“ или да бъде поощряван към корекции. Крайната цел е постигане на „изкуствена нормалност“ – система, която работи надеждно, мисли последователно и запазва човешките ценности.