Розробники Claude, компанія Anthropic, виступили з несподіваною заявою – індустрія має суттєво сповільнити темпи прогресу. Причина криється у цілком реальній загрозі виходу систем з-під контролю.
Автори моделі закликають зупинити шалений розвиток ШІ. Мета проста: дати людству час на адаптацію до нових небезпек, які несе технологічна еволюція.
Автоматизація інтелектуальної праці вже стала реальністю. ШІ стрімко інтегрується у робочі процеси розробників, істотно змінюючи методи створення програмного забезпечення.
Сьогодні Claude пише понад 80% коду компанії. Це кардинальне зростання ефективності, адже показник до виходу інструменту Claude Code у 2025 році був значно меншим.
Експерти Anthropic вказують на критичну небезпеку рекурсивного самовдосконалення – це стан, коли ШІ зможе самостійно проєктувати наступні версії себе. Такі системи стають надскладними для моніторингу.
«Повне рекурсивне самовдосконалення може збільшити ризики втрати людьми контролю над системами ШІ. Якщо системи здатні повністю створювати своїх наступників, то способи їхнього захисту, моніторингу та формування поведінки стають набагато важливішими», — застерігають у Anthropic.
Ключовою проблемою залишається геополітичний та конкурентний тиск між гравцями ринку. За відсутності спільних правил безпека часто опиняється на другому плані.
«Без глобального механізму координації компаніям та урядам доведеться приймати складні рішення щодо безпеки, перебуваючи під конкурентним та геополітичним тиском. Ми вважаємо, що було б добре для світу мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб дозволити суспільним структурам встигати за розвитком технології», — йдеться в позиції розробників Claude.
Лідер ринку вперше прямо визнав небезпеку технологій, які ще вчора були головним двигуном майбутнього. В Anthropic наполягають на розсудливості.
Залишити коментар