Кръстникът на ИИ призова правителствата да си сътрудничат, преди да е станало късно

Държавите трябва да работят заедно, за да обучат неагресивен изкуствен интелект, казва Джефри Хинтън

Пионерът в областта на изкуствения интелект и носител на Нобелова награда за мир Джефри Хинтън призова правителствата по света да си сътрудничат в обучението на ИИ системи, които да не вредят на човечеството. Той предупреди, че бързо напредващата технология скоро вероятно ще надмине човешкия интелект.

По време на Световната конференция за изкуствен интелект (WAIC) в Шанхай в събота, Хинтън заяви, че въпреки разминаващите се национални интереси, нито една държава не желае ИИ да подчини човечеството.

Той отбеляза, че е малко вероятно да има международно сътрудничество в сфери като офанзивна употреба на ИИ – например кибератаки, автономни смъртоносни оръжия или фалшиви видеа за манипулиране на общественото мнение. Въпреки това, по думите му, държавите могат да създадат „мрежа от институции“, която да насочва развитието на свръхинтелигентен ИИ, „който не иска да се отърве от хората“. Той сравни това потенциално сътрудничество с съветско-американското взаимодействие по ядреното неразпространение по време на Студената война.

Хинтън, често наричан "Кръстникът на ИИ", оприличи развитието на изкуствения интелект на „отглеждане на тигърче“, което може да стане опасно, когато порасне.

„Има само два варианта, ако имаш тигърче за домашен любимец — или намираш начин да го обучиш така, че никога да не иска да те убие, или се отърваваш от него“, каза ученият.

Той обясни, че с повишаването на интелигентността си, ИИ вероятно ще се стреми към все по-голям контрол, за да изпълни възложените му задачи, и просто „изключването му“, след като надмине човека, няма да е възможно.

„Ще сме като тригодишни деца, а те — като възрастни“, каза Хинтън.

По-късно през деня той каза пред журналисти, че ще бъде относително лесно за „рационални“ държави да си сътрудничат по този въпрос, но допълни, че това може да бъде „трудно“ за САЩ при „настоящата администрация“.

В сряда Белият дом обяви своя „план за действие“ за постигане на „глобално господство“ в ИИ чрез инвестиции, субсидии и премахване на правни ограничения върху развитието на технологията.

Пекин пък обяви намерение да създаде организация за координация на международното сътрудничество в областта на ИИ. „Трябва да засилим координацията, за да създадем глобална рамка за управление на ИИ“, заяви китайският премиер Ли Цян в събота на WAIC.

Пламен Валентинов

 Снимка: THE CANADIAN PRESS/Chris Young. CHY , архив