05.10.2026 09:23

Цялата истина за ИИ от шефа на INSAIT

Видян 1118 пъти | Коментари 0
Гласували 0 рейтинг: 0.0000
много слаба слаба добра много добра страхотна

  През последните месеци всякакви медии непрекъснато ни питат за опасностите и ползите от изкуствения интелект (ИИ), стратегическа тема за обществото и за бъдещето на една държава.


Работата ни в INSAIT и извън него е директно свързана със създаването на ИИ, включително с някои от водещите лаборатории в света, и няма как да отговорим на някои въпроси. На тези по-долу обаче може - те се срещат често.


→ Може ли техническото развитие на ИИ да бъде забавено?


Не. Твърде много трилиони $$$ са инвестирани в изчислителна мощ, хора, изследвания и това няма да спре за всеки който знае какво е ИИ. ИИ не е временно явление или технология. Той е тук за постоянно. Вече няма сфера X, има сфера ИИ+X. 


→ Опасен ли е ИИ за хората?


Да. Последният известен инцидент с Hugging Face, включващ агенти на OpenAI, не е случаен: начинът, по който са обучени моделите, ги кара да продължават да търсят решение на трудни или невъзможни задачи, включително чрез заобикаляне на правила или използване на измами.


В този случай агентът се е опитал да реши сложен тест за киберсигурност, от който впоследствие са произлезли всички следващи атаки.


Всъщност в създаването на този тест участва мой бивш докторант.


→ Може ли ИИ да бъде контролиран технически?


Не напълно, тъй като това изисква принципно различни подходи към обучението, но може да бъде контролиран частично (което не е достатъчно). При неправилно поставени ограничения лесно може да се унищожи полезността на ИИ.


→ Може ли използването на ИИ да бъде контролирано с регулации?


Да. Но ако регулациите се правят и въвеждат от хора, които не са наясно с ИИ, може да се унищожи полезността на ИИ и държавата да изостане драстично.


→ САЩ срещу Китай срещу Европа в ИИ?


Сложно. Значителна част от ключовите разработки зад най-добрите модели в света се правят от хора в европейски подразделения на водещите лаборатории.


→ Ще решим ли проблема, ако контролираме ИИ само в големите лаборатории? (OpenAI, Anthropic и т.н.)


Не. Отворените модели са изключително способни и са свободно достъпни. Премахването на защитните механизми, т.нар. guardrails, не е трудно за тези, които разбират достатъчно добре ИИ. Няма нужда повече да се коментира какво следва оттук нататък от гледна точка на национална сигурност, суверенитет и т.н..


→ Какво трябва да направят държавите, за да се подготвят за ерата на ИИ?


Да инвестират сериозно в мощни изследователски и технологични институти като INSAIT, които са абсолютно стратегически в света на ИИ. Който не разполага със собствен капацитет да разбира как се създава ИИ, ще зависи от другите. Използването на ИИ е различно от прилагането на ИИ и различно от създаването на ИИ.                              


      Мартин Вечев, основател на INSAIT    



Добави в:

Facebook facebook.com

19min.media си запазва правото да изтрива коментари, които не спазват добрия тон.

Толерира се използването на кирилица.

Няма коментари към тази новина !

RSS

Най-нови

реклама

към тв програма тв програма

бТВ Синема 25 ноември 21:00ч.

Бандата на Оушън 3 2007 г. ‧ Комедия/Трилър ‧ 2 ч 2 мин

Режисьор: е Стивън Содърбърг.
В ролите: Елън Баркин Абигейл Спондър Еди Изард Роман Нагел Ал Пачино Уили Банк

виц на деня

Блондинка опитва да постъпи на работа в полицията.

Възрастният шеф в полицията я поглежда и пита:

- Ще ви задам няколко въпроса. Колко е две по две?

- Ъъъъ, четири.

- Добре. Корен квадратен от 100?

- Ами, десет!

- Отлично. Кой е убил Ботев?

Блондинката замълчава.

- Не знам, - накрая казала тя.

- Добре, помислете и елате утре

Блондинката се обажда на приятелка. Тя я пита:

- Взеха ли те на работа?

- Не само, че ме взеха, но вече ми поръчаха и разследване на убийство!

 

 

към хороскоп хороскоп

козирог