Моделот на вештачка интелигенција Клод Митос на Антропик наоѓа „дупки“ во софтверот со рекордна брзина. Неговата злоупотреба би можела да овозможи сајбер напади. Банките и регулаторите се загрижени. Зошто?
На прв поглед, звучи како специјализирана тема, нешто што ги интересира само најзакоравените ИТ ентузијасти: новата вештачка интелигенција (ВИ) наоѓа слабости во софтверот побрзо од кога било досега. Сепак, во глобалниот финансиски систем, ова може да стане сериозен ризик за неговата стабилност. Банките, берзите, давателите на услуги за плаќање и осигурителните компании зависат од сигурен и безбеден софтвер.
Ако вештачката интелигенција сега може побрзо да открие безбедносни недостатоци, тогаш криминалците можат да ги искористат и побрзо. Експертите веќе зборуваат за системски ризик за глобалниот финансиски систем.
Поводот за дискусијата е Клод Митос – новиот врвен модел на ВИ на американската компанија Антропик. Во тест средини, тој веќе откри илјадници екстремно критични безбедносни недостатоци во софтверот, таканаречени ранливости „нулти-ден“, кои претходно беа неоткриени со децении. Покрај тоа, моделот е способен самостојно да програмира сложени сајбер напади.
Зошто регулаторите предупредуваат за ризиците од вештачката интелигенција
Европската централна банка (ЕЦБ) го гледа ова како сериозна закана за финансискиот систем и неодамна дури свика итен состанок на европските банки. Одборот за финансиска стабилност (ФСБ), клучниот меѓународен надзорник за финансиска стабилност на Г20, зборува за „нови и напредни ризици за глобалната финансиска стабилност“.
Меѓународниот монетарен фонд (ММФ), исто така, ги гледа моделите на вештачка интелигенција како Mythos како опасност за глобалниот финансиски систем и предупредува на „потенцијален макрофинансиски шок“. Според анализата на ММФ, екстремните загуби предизвикани од сајбер инциденти би можеле да доведат до проблеми со финансирањето, да покренат сомнежи за солвентноста на финансиските институции и да предизвикаат пошироки нарушувања на пазарот.
Доволно е да се замисли дека толку моќен модел на кориснички интерфејс како Mythos „ја таргетира“ глобалната банкарска инфраструктура – на пример, централниот комуникациски систем SWIFT, преку кој банките ширум светот безбедно разменуваат налози за плаќање и други финансиски пораки.
Потенцијалната штета би била огромна. Напаѓачите би можеле да манипулираат со тековите на плаќања во милијарди – и да ја уништат довербата во банките и финансискиот систем. Самата компанија Anthropic го смета својот нов модел на вештачка интелигенција за премногу опасен и засега го држи претежно „под клуч“, но работи на тоа да им го направи достапен на сите клиенти во наредните недели.
Проектот Glasswing е за заштита на критичната ИТ инфраструктура
Засега, само одбрани компании и организации имаат контролиран пристап до Claude Mythos како дел од „Проектот Glasswing“. Меѓу нив се Amazon, Microsoft, Apple, Google, Nvidia и JPMorgan Chase. Целта е побрзо да се идентификуваат и елиминираат безбедносните ранливости во критичната софтверска инфраструктура.
Не е случајно што експертите го нарекуваат Mythos класична „технологија со двојна употреба“: новиот модел на кориснички интерфејс не е само потенцијално врвно сајбер оружје, туку и најмоќната алатка за одбрана од сајбер напади.
Планирано е Агенцијата на Европската Унија за сајбер безбедност (ENISA) исто така да добие пристап до моделот Mythos од Anthropic. Сепак, сè уште треба да се договорат конкретни услови, беше објавено во понеделник. Дотогаш, европските банки ќе останат надвор од тој систем – но, според експертите, тие мора да дејствуваат сега.
Банките во еврозоната мора да инвестираат повеќе во сајбер безбедноста, убеден е Луис де Гиндос. „Мора да се стремиме да ја зголемиме свеста на финансиските институции, банките, за потребата од дополнителни инвестиции во сајбер безбедноста“, нагласува потпретседателот на ЕЦБ во заминување.
Банките мора побрзо да ги затворат безбедносните пропусти
Според експертите, клучна улога играат таканаречените „крпеници“, односно периодот помеѓу откривањето и затворањето на безбедносната дупка. Досега, банките понекогаш им требаа неколку недели за да ги отстранат – пристап кој во новата ера на вештачка интелигенција би можел да ја отвори вратата за сајбер криминал на голем начин.
За банките, ова значи и поголеми инвестиции во човечки ресурси: „Банките сега мора да издвојат повеќе пари за да ангажираат експерти кои ќе ги затворат овие дупки што е можно побрзо“, нагласува Даниел Крогер, менаџер на портфолио во компанијата за управување со средства DWS, во интервју за ARD-Finanzredaktion (финансиски уреднички напис на јавниот сервис на ARD, на пр. ед.)
Времето е од суштинско значење: бидејќи не станува збор само за Anthropic и моделот Claude Mythos Preview, туку и за споредливи системи за кориснички интерфејс кои наскоро би можеле да бидат достапни за одредени криминални актери или земји како Русија и Кина.
Логан Греам, раководител на тимот на Frontier Red во Anthropic, предупреди во американското списание Wired: „Мораме сега да се подготвиме за свет каде што овие можности ќе бидат широко достапни за 6, 12 или 24 месеци“.
Вештачката интелигенција станува стрес-тест за банките и регулаторите
Моделот Mythos AI на Anthropic е повик за будење – за банките, компаниите и регулаторите. Во прашање е ништо помалку од стабилноста на глобалниот финансиски систем. Финансиската криза од 2008 година веќе покажа: самото сомневање или гласина дека банката може да има проблеми е често доволно за да предизвика големи нарушувања на пазарот.
Неверојатните способности на Клод Митос се сигнал дека одбранбените системи мора итно да се зајакнат. Во исто време, европските банки мора да внимаваат да не заостанат: Проектот Glasswing моментално им дава на американските институции временска предност во процесот на „затворање“ на безбедносните дупки.
Меѓународната соработка помеѓу развивачите на вештачка интелигенција, банките, компаниите и регулаторите е потребна сега повеќе од кога било. Бидејќи сајбер-криминалот не познава граници – исто како што финансиските кризи не познаваат граници.
