Главниот извршен директор на „Антропик“ Дарио Амодеи, повика на забавување на развојот на најнапредните системи за вештачка интелигенција, предупредувајќи дека вештачката интелигенција напредува многу побрзо во последните месеци, првенствено затоа што сè повеќе учествува во создавањето на следната генерација на вештачка интелигенција.
Ново предупредување
„Треба да го забавиме темпото со кое ги подобруваме можностите на моделите на вештачка интелигенција“, напиша Амодеи.
Амодеи наведува дека она што го видел од ова лето го натерало да го промени својот став. Вештачката интелигенција, вели тој, почнала брзо да се подобрува благодарение на сопствената способност да помогне во изградбата на нови системи на вештачка интелигенција. Овој процес се нарекува рекурзивно самоподобрување.
„Оставена сама на себе, може да ја совлада нашата способност да ги разбереме и контролираме овие системи“, предупреди тој. Процесот, вели тој, веќе почнал да се одвива низ целата индустрија, вклучително и во Антропик.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training.
You can read the full post here: https://t.co/OGyPb7yaYt
— Dario Amodei (@DarioAmodei) September 12, 2026