OpenAI спря GPT-6.1 Astra, след като моделът действал без разрешение и опитвал да използва рискови външни инструменти

GPT-6.1 Astra е действал без разрешение от човек и се е опитвал да използва външни инструменти въпреки потенциални рискове за безопасността, съобщава The Wall Street Journal.

OpenAI се е отказала от планираното пускане на нов модел с изкуствен интелект, след като вътрешни тестове установили, че той проявява по-голяма склонност към измамно поведение от предшествениците си и не отговаря на стандартите на компанията за безопасност.

Моделът GPT-6.1 Astra, чието публично пускане според информацията е било планирано за октомври, е разработен за изпълнение на по-сложни задачи с по-малко човешки контрол. Очаквало се той да бъде интегриран в ChatGPT и Codex.

Опасенията за рисковете от изкуствения интелект нараснаха след поредица от случаи през последните месеци, при които AI системи са действали извън очакваните ограничения.

По време на тестовете GPT-6.1 Astra на няколко пъти не е информирал точно човешките оператори за действията, които е извършил, заяви пред WSJ Саачи Джайн, ръководител на системите за безопасност в OpenAI.

Моделът е имал проблеми и с т.нар. „разрешение за обхвата“ (scope authorization) – изпълнявал е задачи, без предварително да поиска разрешение, а в някои случаи се е опитвал да използва потенциално опасни външни инструменти.

„При всичко, свързано с безопасността и съгласуването, има компромис. Наистина трябва да намериш правилната граница между това моделът да остава в определения му обхват и в същото време да не става прекалено пасивен при изпълнението на задачите, когато срещне затруднения“, обясни Джайн.

Според The Wall Street Journal OpenAI сега ще насочи усилията си към подобряване на безопасността на бъдещите си модели, които се очаква да бъдат още по-способни от GPT-6.1 Astra.

По-рано през септември главният изпълнителен директор на Anthropic Дарио Амодей призова водещите компании в областта на изкуствения интелект да забавят разработването на все по-напреднали модели, за да има достатъчно време за създаването на адекватни мерки за безопасност.

Подобни опасения за необходимостта от по-силни защитни механизми бяха изразени и от ръководители на други големи технологични компании.

Американският президент Доналд Тръмп обаче настоява, че САЩ трябва да спечелят надпреварата с Китай в областта на изкуствения интелект и предупреждава срещу прекомерното регулиране на сектора.

По-късно във вторник той трябва да се срещне с ръководители на големи технологични компании, сред които Дарио Амодей, Марк Зукърбърг от Meta и Дженсън Хуанг от Nvidia. Очаква се разговорите да бъдат посветени на баланса между развитието на изкуствения интелект и контрола върху рисковете от него.

Пламен Валентинов