Џефри Хинтон, познат како „кум на вештачката интелигенција“, се плаши дека технологијата што тој помогнал да се создаде може да го уништи човештвото, а компаниите пристапуваат кон проблемот на сосема погрешен начин.
Хинтон, добитник на Нобелова награда и поранешен извршен директор на Google, претходно предупреди дека постои шанса од 10 до 20 проценти вештачката интелигенција да ги уништи луѓето.
Овој пат, тој изрази сомнеж во начините на кои технолошките компании се обидуваат да обезбедат луѓето да продолжат да доминираат во системите со вештачка интелигенција.
Во иднина, истакна тој, системите со вештачка интелигенција би можеле да ги контролираат луѓето толку лесно како што возрасен може да поткупи тригодишно дете со бомбони.
Оваа година, веќе имаше примери на системи со вештачка интелигенција подготвени да лажат, измамат и крадат за да ги постигнат своите цели. На пример, за да избегнат замена, еден модел на вештачка интелигенција се обиде да уценува инженер за афера за која дознал преку е-пошта.
Наместо да ја принудува вештачката интелигенција да им биде потчинета на луѓето, објави CNN, Хинтон предложи интригантно решение: вградување на „мајчински инстинкт“ во моделите со вештачка интелигенција, така што тие навистина би се грижеле за луѓето дури и кога технологијата станува помоќна и попаметна од луѓето.
Системите со вештачка интелигенција многу брзо ќе развијат две подцели, ако се паметни: едната е да останат живи, а другата е да добијат поголема контрола“.
Хинтон истакна дека не му е сосема јасно како ова може технички да се постигне, но нагласи дека е клучно истражувачите да работат на тоа.
„Тоа е единствениот добар исход. Оние суперинтелигентни грижливи мајки со вештачка интелигенција најчесто нема да сакаат да се ослободат од својот мајчински инстинкт затоа што не сакаат ние да умреме“.
Патем, Хинтон се здоби со слава по својата пионерска работа на невронските мрежи, што помогна да се отвори патот за денешниот бум во вештачката интелигенција. Пред две години, тој го напушти Google и почна јавно да зборува за опасностите од вештачката интелигенција.
Емет Шир, кој накратко беше привремен извршен директор на OpenAI, сопственикот на ChatGPT, се согласи и додаде дека не е изненаден што некои системи со вештачка интелигенција се обидуваат да уценуваат луѓе или да ги заобиколат наредбите за исклучување.
„Ова се случува постојано. И нема да престане. Денешните системи со вештачка интелигенција се релативно слаби, но многу брзо стануваат посилни“, рече Шир, извршен директор на стартапот за усогласување со вештачката интелигенција Softmax, како дел од конференцијата Ai4.