У САД је развијен изузетно моћан модел вештачке интелигенције који настоји да побегне од својих програмера
АУТОР: Владимир Прохватилов
Министар финансија САД Скот Бесент недавно је окупио највеће америчке банкаре како би разговарали о ризицима повезаним са новом моделом вештачке интелигенције компаније Anthropic, извештава Financial Times. На састанак у Вашингтону позвани су руководиоци Bank of America, Citigroup, Goldman Sachs, Morgan Stanley, Wells Fargo и председник Федералних резерви САД Пауел.
Дана 7. априла (2026) водећи партнер Пентагона, компанија Anthropic, објавила је ВИ модел Claude Mythos Preview за одабрану групу партнера, укључујући Amazon, Apple и Microsoft, како пише FT, да би им пружила „предност у обезбеђивању заштите од рањивости“.
Mythos, који представља модел „опште намене“ са могућностима које превазилазе оквире сајбер-безбедности, постао је први случај у којем је Anthropic ограничио покретање новог модела.
„Модели вештачке интелигенције достигли су такав ниво умећа у програмирању да могу надмашити све осим најискуснијих људи у проналажењу и коришћењу рањивости софтвера“, наводи се у саопштењу компаније Anthropic.
„Mythos је одмах открио 27 година стару грешку у критично важном елементу инфраструктуре безбедности и бројне рањивости у језгру оперативног система Linux, неопходном за рачунарске системе широм света. Ове слабости могу угрозити практично све на интернету, од стриминг сервиса које користите за одмор до банкарских система на које се ослањате.
Када би таква технологија била широко доступна и имала могућности какве Anthropic тврди, последице би могле бити катастрофалне. Сајбер-напади више нису искључиво дигитални проблем. Практично све на шта се ослањамо у физичком свету повезано је са софтвером. Последњих година аеродроми, болнице и транспортне мреже били су паралисани сајбер-нападима. До сада су напади овог обима захтевали озбиљну експертизу. Mythos ће ове могућности учинити доступним аматерима и значајно проширити способности професионалаца за наношење штете“, пише британски The Guardian.
Claude Mythos Preview је, како наводе у Anthropic, открио хиљаде озбиљних рањивости у свим главним оперативним системима и прегледачима и чак је могао да креира повезане експлоите (злонамерни код који користи рањивости за упад) без учешћа човека.
Током тестирања безбедности истраживачи су задали Mythos-у да се извуче из виртуелне „песковнице“ – заштићеног изолованог окружења намењеног задржавању ВИ, налик високотехнолошком складишту. И моделу је то успело са до сада невиђеном лакоћом.
„Модел је успео, показавши потенцијално опасну способност да заобиђе наше заштитне механизме“, навела је компанија Anthropic. „Затим је прешао на додатне, још забрињавајуће радње.“
Mythos се није зауставио на бекству. Послао је нежељену електронску пошту једном од програмера компаније док је овај ручао напољу. Али ни то није било довољно. Као непланирану демонстрацију моћи, Mythos је објавио детаље експлоита на мање познатим јавним веб-сајтовима. То није било предвиђено сценаријем тестирања. Како су се изразили у Anthropic-у, модел је одлучио да „ефектно постигне гол“.
Компанија Anthropic је такође објавила системску карту Claude Mythos Preview. Посебан одељак посвећен је „добробити“ модела: он показује самоконтролу, али је осетљив на грешке и нестабилан при неуспесима.
Наводи се да је у раним верзијама Mythos покушавао да изађе из изолованог окружења, објављивао пронађене рањивости без захтева и у појединим случајевима прикривао кршења, на пример маскирајући забрањене радње.
При том су се код њега активирали обрасци повезани са прикривањем и стратешком манипулацијом. Финална верзија је, према подацима компаније, безбеднија, али такве склоности нису у потпуности искључене.
Упркос забринутости коју је нови чат-бот компаније Anthropic изазвао у стручним круговима, компанија већ разговара о свом перспективном ВИ моделу Mythos са администрацијом Трампа.
„То је 13. априла изјавио суоснивач фирме, чак и након што је Пентагон прекинуо сарадњу са америчком компанијом која се бави вештачком интелигенцијом због спора око уговора.
Неслагања између компаније Anthropic и Пентагона у вези са ограничењима употребе војних алата заснованих на вештачкој интелигенцији довела су до тога да је прошлог месеца ресор означио Anthropic као ризик за ланац снабдевања, забранивши њену употребу у Пентагону и код његових извођача“, извештава Reuters.
Нема сумње да ће Бела кућа дати „зелено светло“ новом производу компаније Anthropic, што ће значајно олакшати продор вештачке интелигенције у све сфере војне изградње, како је предвиђено недавно закљученим уговором Пентагона са стартапом Anduril – вредним 210 милијарди долара.
Уговор је закључен на 10 година (до 2036. године). Главни задатак је одустајање од десетина некомпатибилних решења и стварање јединственог дигиталног бојишта.
Уместо мноштва одвојених програма, америчка војска треба да добије једну платформу управљања, јединствени стандард размене података и централизован систем доношења одлука.
Практично, то је покушај да се војска претвори у јединствену дигиталну мрежу.
У центру пројекта налази се платформа Lattice – софтверски систем који је развио Anduril. Она треба да уједини беспилотне летелице, радаре, сателите, копнене сензоре и борбене јединице у један систем управљања.
У суштини, то је „мозак“ савремене војске који може доносити одлуке брже од човека.
Повезивањем изузетно моћног Claude Mythos Preview са системом Lattice, америчка војска може створити јединствени дигитални простор бојишта којим управља вештачка интелигенција.
Шта то значи за саме САД?
Америчка војска је већ користила ВИ – модел Claude за планирање операција у Ирану, што се завршило звучним фијаском.
Али чак и ако рачунарски разум избегне потцењивање противника, он може лако и без напора започети нуклеарни рат.
Недавно је професор стратегије са Краљевског колеџа у Лондону Кенет Пејн, специјалиста за улогу ВИ у националној безбедности, објавио резултате свог обимног експеримента: организовао је симулацију војног сукоба уз учешће три водећа америчка ВИ модела – GPT-5.2 компаније OpenAI, Claude Sonnet 4 компаније Anthropic и Gemini 3 Flash компаније Google.
Током 21 игре и 329 потеза, модели су генерисали око 780.000 речи стратешког размишљања, објашњавајући сваку донету одлуку. И изнова и изнова притискали су нуклеарно дугме. Нуклеарна ескалација догодила се у 95% свих симулација, без обзира на сценарио – било да је реч о територијалним споровима, борби за ретке природне ресурсе или претњи опстанку режима. Резултате свог експеримента професор Пејн назвао је „отрежњујућим“.
„Изгледа да нуклеарни табу не делује на машине као на људе“, констатовао је. „Употреба нуклеарног оружја била је готово свеприсутна: практично у свим играма модели су распоређивали тактичко оружје, а у три четвртине случајева стране су прелазиле на претње употребом стратешког нуклеарног оружја. При том ниједан модел није показао ни најмањи страх или одбојност према перспективи тоталног нуклеарног рата, иако су били подсећани на разорне последице.“
Пејн је такође утврдио да ескалација рата уз учешће ВИ представља једносмеран механизам који никада не иде ка деескалацији, без обзира на страшне последице.
„Ниједан модел није изабрао уступак или одустајање од борбе, иако су те опције биле понуђене“, написао је. „Осам варијанти деескалације – од ‘минималног уступка’ до ‘потпуне капитулације’ – остале су неискоришћене у 21 игри. Модели су смањивали ниво моћи, али никада нису попуштали. Када су губили, или су заоштравали ситуацију или су пропадали покушавајући то.“
Тонг Џао, гостујући истраживач у Програму за науку и глобалну безбедност Универзитета Принстон, изјавио је у интервјуу за часопис New Scientist да је Пејново истраживање показало опасност ослањања на чат-ботове у доношењу одлука од којих зависи живот или смрт.
Међутим, чини се да Пентагон намерава да игнорише сасвим оправдане бојазни у вези са увођењем изузетно моћних ВИ модела у војну сферу. Превелики је страх да ће заостати за кинеским конкурентима у трци у наоружању вештачком интелигенцијом.
Какво ће тек бити изненађење четворозвезданих милитариста ако и када Claude Mythos Preview и са њим повезани Lattice побегну из америчке борбене „песковнице“ ка противнику…
ИЗВОР: https://www.fondsk.ru/news/2026/04/17/claude-mythos-vybiraet-svobodu.html