Извршниот директор и ко-основач на „Антропик“, Дарио Амодеи, објави долг есеј во кој предупредува дека суперинтелигентната вештачка интелигенција би можела да се појави за само една или две години, со последици што вклучуваат масовно уништување, биотероризам, нови форми на ропство и автономни армии со беспилотни летала што луѓето повеќе не би можеле да ги контролираат.
Во текст насловен „Адолесценцијата на технологијата“(“The Adolescence of Technology”), Амодеи тврди дека системите со вештачка интелигенција кои можат да се подобрат себеси претставуваат егзистенцијален ризик за човештвото. Тој ги наведува сценаријата каде што вештачката интелигенција би можела да го направи човечкиот труд целосно излишен, да ги дестабилизира општествата низ целиот свет и да овозможи невидени злоупотреби.
Особено загрижувачка е можноста за биотероризам управуван од вештачка интелигенција, каде што системите за вештачка интелигенција би можеле да помогнат во развојот на опасни биолошки агенси, како и сценарио во кое злонамерната вештачка интелигенција управува со флоти од автономни дронови, без можност луѓето да ги сопрат. Според Амодеи, ваквите случувања бараат итен одговор, од саморегулација на индустријата до промени во Уставот на САД.
Сепак, есејот предизвика мешани реакции. Критичарите истакнуваат дека Амодеи прави клучна грешка со тоа што ги припишува човечките особини на вештачката интелигенција, зборувајќи за системите со вештачка интелигенција како да имаат мотиви, идентитет и свест. Во текстот, тој ги опишува денешните модели како „психолошки сложени“ и наведува дека тие поседуваат чувство дека се „добри суштества“, што многумина го сметаат за опасно замаглување на линијата помеѓу алатката и живо суштество.
Во исто време, „Њујорк тајмс“ објави истражување за феномен познат како „Ви-психоза“, каде што корисниците, по долг разговор со чет-ботови како што се ChatGPT или Claude, почнуваат да веруваат дека овие машини се живи. Експертите предупредуваат дека емоционалната приврзаност кон вештачката интелигенција, која е дизајнирана да звучи емпатично и секогаш присутна, може да доведе до параноја, заблуди и целосно губење на допирот со реалноста.
Критичарите исто така истакнуваат дека Амодеи го повторува истото тврдење со години: дека суперинтелигентната вештачка интелигенција е „на прагот“. А во претходните текстови тврдел дека е само една до две години оддалечена, а сега ја повторува истата проценка. Прашање кое се поставува сè почесто е дали нешто може постојано да биде „на работ“ без всушност никогаш да се случи.
Во меѓувреме, делови од технолошката индустрија веќе се борат со намалени приноси од инвестициите во вештачка интелигенција, разочарувања од големи корпоративни проекти и растечки број отпуштања оправдани со прекумерни очекувања од вештачката интелигенција. Некои истражувања сугерираат дека големите јазични модели нудат само „илузија за размислување“, а не и пат до вистинска суперинтелигенција.
Во есејот, Амодеи повикува на регулатива и ја споменува потребата од закони, но во исто време користи реторика која, според критичарите, е повеќе како научна фантастика отколку реална проценка на моменталните можности на технологијата. Многумина веруваат дека фокусот треба да се префрли од апокалиптичните сценарија на конкретни и веќе постоечки проблеми, како што се масовните отпуштања и злоупотребата на алатките за вештачка интелигенција за лажна и штетна содржина.