„Стратегијата функционираше. Приказните за производи што би можеле да го уништат светот не им наштетија на овие компании. Напротив, тие ги натераа луѓето да веруваат дека тие се единствените што можат да нè заштитат“, објавува Trender.
Ако ова ви звучи познато, не сте сами. Технолошките компании го користат истиот наратив со години. Тие развија толку моќна вештачка интелигенција што е речиси опасно да се пушти во светот. Најновиот пример доаѓа од Anthropic, кој тврди дека нивниот модел Claude Mythos може да ги пронајде безбедносните ранливости подобро од човечките експерти и дека ако падне во погрешни раце, последиците за економијата и националната безбедност би можеле да бидат сериозни.
Сепак, ваквите изјави предизвикуваат скептицизам, пишува BBC. Критичарите велат дека тоа е внимателно конструирана нарација за страв што го одвлекува вниманието од вистинските проблеми што вештачката интелигенција веќе ги создава, од влијанието врз животната средина до експлоатацијата на работната сила. Во исто време, таков дискурс ја зајакнува позицијата на компаниите, бидејќи сугерира дека тие се единствените што можат да ја контролираат сопствената технологија и да го заштитат општеството од неговите ризици.
„Ако ги претставите овие технологии како речиси натприродни, луѓето почнуваат да веруваат дека се немоќни“, предупредува Шенон Валор од Универзитетот во Единбург. „А потоа се свртуваат кон тие компании како единствени решенија.“
Вештачката интелигенција и крајот на светот
Ова не е прв пат да се повтори слична приказна. Уште во 2019 година, додека беше во OpenAI, директорот Дарио Амодеи беше вклучен во одлуката да не се објави моделот GPT-2 поради потенцијална злоупотреба. Потоа, неколку месеци подоцна, тој беше објавен за јавноста. Денес, слична реторика се користи за многу понапредни системи.
Парадоксот е очигледен. Компаниите истовремено предупредуваат на апокалипсата и нудат свои производи како решение. Сем Алтман со години вели дека вештачката интелигенција може да доведе до крајот на светот, но и дека ќе донесе огромни деловни можности. Слични изјави доаѓаат од лидери како Бил Гејтс и Демис Хасабис, кои предупредија во 2023 година дека ризикот од вештачка интелигенција може да биде еднаков на нуклеарна војна или пандемии.
Претерување со способностите без јасни докази
Сепак, експертите ги доведуваат во прашање специфичните тврдења на моделот Mythos. Хајди Клаф истакнува дека Anthropic не објави клучни метрики, како што е стапката на лажно позитивни резултати, што е стандард во индустријата за сајбер безбедност. Без тие податоци, тешко е да се процени вистинската ефикасност на системот. Исто така, моделот не е спореден со постојните алатки што инженерите ги користат со децении.
Ова не значи дека опасностите не постојат. Вештачката интелигенција може навистина брзо да анализира огромни количини код и да идентификува ранливости, што може да биде корисно, но и ризично. Проблемот, според експертите, е претерувањето со тие способности без јасни докази.
Во меѓувреме, компаниите за вештачка интелигенција ги менуваат своите принципи. Google ги ублажи ограничувањата за развој на вештачка интелигенција за воена употреба, додека OpenAI водеше правни битки за да го промени својот непрофитен статус. Anthropic, од друга страна, се откажа од претходните ветувања да не развива модели без загарантирана безбедност.
Во исто време, вистинските проблеми растат. Системите за вештачка интелигенција прават грешки во медицинските дијагнози, центрите за податоци ги зголемуваат емисиите на гасови, а технологијата за длабока измама станува речиси невозможна за контрола. И покрај ова, фокусот на јавната дебата често останува на далечните сценарија за „крајот на светот“.
„Ако вештачката интелигенција може да го уништи човештвото, сè друго изгледа помалку важно“, вели Валер. „Тоа е наратив што им користи на компаниите“.
Приказни од Силиконската долина
Во исто време, истите лидери кои предупредуваат на катастрофа, исто така, ветуваат утопија, од решавање на климатските промени до колонизирање на вселената. Таа комбинација од апокалипса и спасение, велат експертите, служи за обесхрабрување на регулацијата и претставување на вештачката интелигенција како сила надвор од човечката контрола.
Но, како што истакнуваат критичарите, вештачката интелигенција не е божество, туку производ. И како и секоја друга технологија, може да се регулира.
На крајот, прашањето не е дали вештачката интелигенција е потенцијално опасна, туку колку веруваме во приказните што доаѓаат од самата индустрија што директно профитира од тој страв. Бидејќи историјата на Силиконската долина веќе се сеќава на големи ветувања што не се остварија. Тие се движат од метаверзумот до криптовалутите што требаше да го заменат глобалниот финансиски систем, заклучува Би-Би-Си.