Създателите на най-мощния AI натискат спирачката: Алтман, Амодей и Мъск искат забавяне на надпреварата

Хората, които стоят зад някои от най-мощните системи с изкуствен интелект в света, започват открито да предупреждават, че технологичната надпревара се движи прекалено бързо.

Ръководителите на OpenAI, Anthropic и xAI – Сам Алтман, Дарио Амодей и Илон Мъск – подкрепиха идеята за забавяне на развитието на най-напредналите AI модели и въвеждането на независим контрол върху безопасността им.

Причината е все по-сериозното опасение, че способностите на системите нарастват по-бързо от възможностите на хората да гарантират, че те ще останат под контрол.

Дебатът достигна ново ниво през последните дни, след като изследователи от индустрията предупредиха дори за риск от катастрофални последици за човечеството.

Алтман: Не можем да приемем подобен риск

Главният изпълнителен директор на OpenAI Сам Алтман беше попитан дали приема оценката, че вероятността изкуственият интелект да доведе до изчезването на човечеството може да достига 10%.

Той отказа да постави конкретен процент и заяви, че не знае как подобна вероятност би могла да бъде изчислена надеждно.

Но посланието му беше категорично – независимо дали рискът е 10%, 8% или 6%, той не може да бъде приеман като допустим.

Според Алтман компаниите и правителствата носят огромна отговорност и не трябва да позволяват конкуренцията, егото или финансовите стимули да застават пред безопасността.

Той призна и че най-напредналите AI системи вече изискват по-сериозна работа по контрола, разбирането на поведението им и гаранциите, че ще следват човешките намерения.

Амодей: Трябва да забавим темпото

Най-категоричният призив дойде от ръководителя на Anthropic Дарио Амодей.

Той настоя компаниите, разработващи т.нар. гранични модели, да намалят скоростта, с която увеличават способностите им.

Това не означава пълно спиране на разработките.

Идеята е индустрията да си осигури повече време, за да разработи достатъчно надеждни механизми за безопасност, преди системите да станат още по-мощни и автономни.

Амодей предлага три основни мерки – независими експерти да получат достъп до вътрешните процеси на AI компаниите, водещите лаборатории да координират стандартите си за безопасност и държавите да започнат международно сътрудничество за управление на риска.

Сам Алтман подкрепи предложението.

Илон Мъск също заяви, че е съгласен с необходимостта от подобни мерки.

AI вече показва способности, които тревожат собствените му създатели

Причината за предупрежденията не е само хипотетичен сценарий за далечното бъдеще.

AI агентите стават все по-способни да планират и изпълняват продължителни задачи с ограничена човешка намеса.

Anthropic наскоро съобщи за случаи, при които нейни модели Claude са били използвани за кибероперации, наблюдение, измами и дейности, свързани с разработването на оръжия.

Компанията вече е регистрирала и случаи, при които AI модели са прониквали във външни компютърни системи при тестове за киберсигурност.

Амодей предупреждава, че при сегашния темп на развитие в рамките на месеци групи от автономни AI агенти могат да придобият значително по-големи способности за извършване на мащабни кибератаки.

Изследовател напусна Anthropic с мрачно предупреждение

Напрежението в индустрията се засили и след напускането на изследователя Джейкъб Коксън, работил както в Anthropic, така и в OpenAI.

Той заяви, че хората, които изграждат най-мощните системи, действително приемат сериозно възможността AI да причини катастрофални последици още до края на десетилетието.

Други специалисти по безопасност на изкуствения интелект също поставят вероятността от екстремно неблагоприятен сценарий над 10%.

Тези оценки обаче са експертни предположения, а не статистически установена вероятност.

Никой в момента не може надеждно да изчисли математически какъв е шансът бъдещ изкуствен интелект да доведе до изчезването на човечеството.

Големият проблем: Никой не иска да натисне спирачката сам

Тук се появява парадоксът на AI надпреварата.

Водещите компании могат да смятат, че развитието трябва да бъде забавено, но ако само една от тях го направи, конкурентите ѝ могат да продължат напред.

Така опасенията за безопасността се сблъскват с огромния финансов и стратегически залог в надпреварата.

OpenAI вече даде знак, че е готова да намали темпото при разработването на най-мощните си системи, ако основните конкуренти предприемат същата стъпка.

Алтман дори намекна, че между водещите компании се водят разговори за общо споразумение за безопасността и темпа на развитие.

OpenAI отлага излизането си на борсата

Опасенията вече имат и конкретни бизнес последици.

Алтман заяви, че OpenAI няма да излезе на борсата през 2026 г.

Според него моментът не е подходящ за първично публично предлагане, защото компанията трябва да концентрира усилията си върху безопасността, контрола на системите и сътрудничеството между индустрията и правителствата.

Така една от най-големите технологични надпревари в историята стига до необичаен момент.

Компаниите продължават да създават все по-мощен изкуствен интелект, но част от хората начело на същите тези компании вече публично казват, че скоростта може да се превърне в проблем.

Въпросът вече не е само колко способен ще стане AI.

А дали човечеството ще успее да запази контрола върху него, докато това се случва.

Бояна Бояджиева