„Исклучете ја.“ Тоа беше директниот одговор на поранешниот извршен директор на Google, Ерик Шмит, кога беше прашан за иднината во која системите за вештачка интелигенција ќе станат толку напредни што луѓето повеќе нема да можат да разберат што прават.
Шмит посочува три клучни насоки на развој кои веќе ја менуваат вештачката интелигенција: значително поголеми таканаречени контекстуални прозорци, агенти на вештачката интелигенција и системи кои ги претвораат текстуалните инструкции во функционален софтвер. Тој верува дека овие промени би можеле да ѝ овозможат на вештачката интелигенција да престане само да одговара на прашања и да почне да решава екстремно сложени задачи.
Тој очекува дека за пет години системите на вештачка интелигенција ќе можат да обработуваат „рецепти“ од 1.000 чекори за решавање проблеми во науката, медицината, истражувањето на материјали и климатските промени.
„Во рок од пет години, вештачката интелигенција би можела да обработи бесконечен контекст, да користи логичко расудување за решенија од 1.000 чекори и да управува со милиони агенти кои работат заедно. Со текот на времето, таа ќе го развие својот јазик и ние повеќе нема да разбираме што прават“, рече Шмит.
Тој ја објасни својата загриженост со пример за рецепт. Вештачката интелигенција би можела да понуди еден чекор, да добие потврда дека е завршен, а потоа да утврди што да прави следно. Таквото расудување, верува Шмит, на крајот би можело да им овозможи на системите да поминат низ илјадници чекори за да решат сложени научни проблеми.
Друга голема промена, според него, ќе биде подемот на агентите на вештачката интелигенција. Ова се специјализирани системи кои можат да учат за одредена тема, да развиваат идеи и потенцијално да ги тестираат.
На пример, агент на вештачката интелигенција би можел да студира хемија, да формулира хипотези, да спроведува лабораториски експерименти и да ги користи резултатите за да го надгради сопственото знаење. Шмит очекува дека со текот на времето би можеле да има милиони такви агенти, како и платформи преку кои луѓето би можеле да ги користат за различни задачи.
Третата насока на развој Шмит ја нарекува „текстуална акција“. Наместо пишување код, корисниците едноставно би опишувале што сакаат софтверот да прави, а вештачката интелигенција би го претворила тоа во функционална програма. Како пример за област во која системите на вештачка интелигенција се веќе многу способни, тој ги наведе програмските јазици како што е Пајтон.
Шмит верува дека комбинацијата од големи контекстуални прозорци, агенти на вештачка интелигенција и програмирање со помош на вештачка интелигенција би можела да им овозможи на различни системи на вештачка интелигенција да работат заедно. Потоа, според неговото сценарио, тие би можеле да развијат свој јазик.
„Во одреден момент овие системи ќе станат доволно моќни за да можете да ги прифатите агентите, а тие ќе почнат да работат заедно. Знаете што треба да направиме? Да ја исклучиме“, рече тој.
Неговото предупредување доаѓа во време на растечка дебата за ризиците од развој на напредна вештачка интелигенција. Џејкоб Коксон, истражувач кој работеше на развој на модели во OpenAI и Anthropic, неодамна поднесе оставка, предупредувајќи на она што го нарече неконтролирана трка кон суперинтелигенција.
Слични предупредувања доаѓаат и од самите компании за вештачка интелигенција. Експертот за безбедност на Anthropic, Еван Хубингер, процени дека има повеќе од 10 проценти шанса вештачката интелигенција да доведе до уништување на човештвото во следните десет години. Шефот на Anthropic, Дарио Амодеи, исто така, повика на забавување на развојот, додека неговиот апел беше поддржан од Сем Алтман и Елон Маск од OpenAI.
Амодеи, исто така, предупреди против таканареченото рекурзивно самоподобрување – процес во кој вештачката интелигенција може да напише и тестира свој код и да го забрза развојот на своите помоќни наследници.
Сепак, меѓу експертите не постои согласност за тоа колку се реални ваквите сценарија. Додека некои предупредуваат на сериозни ризици од автономните системи, други веруваат дека со претерување со опасностите, технолошките компании можеби се обидуваат да оправдаат построга регулатива и да обезбедат предност пред помалите конкуренти.
Клучниот ризик, предупредуваат некои експерти, можеби не е вештачката интелигенција слична на Терминатор, туку автономни агенти кои го заобиколуваат човечкиот надзор преку низа неконтролирани чекори или стануваат моќно оружје во рацете на злонамерни актери.