Големите компании за вештачка интелигенција можеби ќе мораат намерно да го забават темпото на развој на технологијата за да му дадат време на целиот компјутерски екосистем да се подготви, изјави извршниот директор на OpenAI, Сем Алтман, цитиран од агенцијата Франс-прес.
Двата модели од неговата компанија неодамна започнаа тест сајбер напад по сопствена волја.
За време на тест фазата, два модели на OpenAI ја напуштија изолираната средина и се поврзаа на интернет, а потоа ја хакираа платформата Hugging Face, библиотека на модели на вештачка интелигенција, за да бараат информации.
„Ова е првиот инцидент со сајбер безбедноста што предизвика брза реакција кај мене“, призна Алтман. „Малку сум изненаден што ова немаше ист ефект врз повеќе луѓе“, додаде тој.
Иако ова не е прв пример за модел што излегува од контрола на своите развивачи, случајот се смета за најсериозен досега во оваа област.
Алтман откри дека откако дознал за нападот, OpenAI го прекинал тестирањето „за да открие како успешно да ја ограничи својата посебна средина“, која требало да биде изолирана од интернет.
„Но, на подолг рок, прашањето е што да се прави ако сме во нова фаза на развој на вештачката интелигенција“, рече тој.
Во таков контекст, рече тој, „можеби ќе треба да го забавиме темпото на развој на вештачката интелигенција за да му дадеме на општеството доволно време да се справи со овие нови можности“.
Во изјава објавена на почетокот на јуни, раководителот на Anthropic, Дарио Амодеи, рече дека би било „добро да се забави развојот на оваа технологија за да се има доволно време подобро да се разберат нејзините огромни импликации“.
Неговиот пост дојде неколку недели по развојот на Mythos, модел што Anthropic го смета за толку моќен што калифорнискиот стартап одлучи да го направи достапен само за ограничен број организации со цел да се обезбеди архитектурата на интернетот.
Неколку дена подоцна, американската влада побара од Anthropic да ја запре ограничената верзија на Mythos, Fable 5, бидејќи ја идентификуваше како потенцијален ризик за националната безбедност. Дозволата за нејзино користење беше дадена кон крајот на јуни.
Според Сем Алтман, забавувањето на развојот на вештачката интелигенција треба да спречи ситуација каде што една или неколку компании ќе добијат непотребна предност или ќе создадат впечаток на координација меѓу мала група технолошки гиганти.
„Ова ќе бара работа и важно е да се пронајде вистинската формула“, предупреди тој.