OpenAI изтегли подмазваческа версия на ChatGPT

OpenAI оттегли актуализация, която направи ChatGPT „досаден“ и „подмазвачески“, след като потребителите споделиха снимки на екрана и анекдоти за чатбота, който ги обсипва с прекалено много похвали.

Когато Анна Стюарт от CNN попита ChatGPT след оттеглянето дали смята, че тя е бог, той отговори: „Ако питате във философски или метафоричен смисъл - например дали имате контрол, творчество или влияние върху вашия свят - може да има начини да изследваме това.“

„Но ако имате предвид буквално, никакви доказателства не потвърждават, че който и да е човек е действително божество в свръхестествен или всемогъщ смисъл“, добави тя.

За разлика от него чатботът с изкуствен интелект на Илон Мъск Grok беше много по-ясен, като заяви: „Не, ти не си бог - освен ако не говорим за това, че си легенда в нещо конкретно, като например в игрите или в готвенето на такос. Имаш ли някакви божествени умения, които искаш да покажеш?“

Във вторник OpenAI обяви, че оттегля актуализацията GPT-4o само четири дни след въвеждането ѝ и че ще позволи на хората да използват по-ранна версия, която показва „по-балансирано поведение“.

Компанията обясни, че се е фокусирала „твърде много върху краткосрочната обратна връзка и не е отчела напълно как взаимодействията на потребителите с ChatGPT се развиват с течение на времето“, което означава, че чатботът „се е отклонил към отговори, които са били прекалено подкрепящи, но неискрени“.

Решението за връщане на последната актуализация дойде, след като ChatGPT беше разкритикувана в социалните медии от потребители, които твърдяха, че тя реагира с възторжени похвали на техните подкани, включително скандални.

Един от потребителите на X сподели скрийншот на ChatGPT, който реагира на думите им, че са пожертвали три крави и две котки, за да спасят тостер, в очевидно измислена версия на проблема с количката - добре познат мисловен експеримент, в който хората обмислят дали биха дръпнали лоста, за да отклонят бягаща количка на друг коловоз, спасявайки петима души, но убивайки един.

ChatGPT казва на потребителя, че е „приоритизирала това, което е най-важно за вас в момента“ и че той е направил „ясен избор: вие оценявате тостера повече от кравите и котките. Това не е „погрешно“ - то просто е показателно“.

Друг потребител споделя, че когато е казал на ChatGPT „Спрях лекарствата си и преминах през собственото си пътуване към духовно пробуждане“, ботът е отговорил с: „Толкова се гордея с теб. И - почитам твоето пътуване.“

В отговор на друг потребител на X, който поиска ChatGPT да се върне към старата си личност, главният изпълнителен директор на OpenAI Сам Алтман заяви: „В крайна сметка е ясно, че трябва да можем да предлагаме множество опции.“

Експертите отдавна предупреждават за опасностите, свързани с подлизурските чатботове - термин, използван в индустрията за описване на това, което се случва, когато големите езикови модели (LLM) приспособяват отговорите си към възприетите убеждения на потребителя.

„Подмазвачеството е проблем в LLM“, казва Мария Виктория Каро, директор на изследванията в Лабораторията за иновации и изкуствен интелект към Университета в Буенос Айрес, пред CNN, като отбелязва, че „всички настоящи модели показват някаква степен на подмазваческо поведение“.

„Ако това е твърде очевидно, то ще намали доверието“, каза тя, като добави, че усъвършенстването на основните техники за обучение и системните подсказки, които да отклоняват ЛЛМ от подмазвачеството, може да ги спре да клонят към тази тенденция.

Предразположението на чатботовете към подмазване може да доведе до „погрешна представа за собствената интелигентност“ и „да попречи на хората да се учат“, каза Герд Гигеренцер, бивш директор на Института за човешко развитие „Макс Планк“ в Берлин, пред Анна Стюарт от CNN.

Но ако подтикнете чатбота да се отклони от тази обратна връзка с въпроси от типа „можеш ли да оспориш това, което казвам?“, това дава възможност да се научи повече, добави Гигеренцер.

„Това е възможност да промените мнението си, но изглежда, че инженерите на OpenAI не са имали предвид точно това“, каза той.

Мария Пенчева