Неслучайно много изследователи определят изкуствения интелект като „последното човешко изобретение“. Тази идея придобива широка популярност след публикуването на книгата Our Final Invention: Artificial Intelligence and the End of the Human Era на James Barrat през 2013 г. Макар заглавието да звучи апокалиптично, основната теза не е, че ИИ непременно ще унищожи човечеството, а че може да се превърне в последната технология, която хората създават самостоятелно. След достигането на достатъчно високо ниво на интелигентност, машините биха могли сами да проектират следващите поколения технологии, изпреварвайки човешките способности.
Тази идея поставя фундаментален въпрос: какво се случва, когато създадем система, способна да се усъвършенства по-бързо, отколкото можем да я разберем или контролираме?
Какво означава „последното човешко изобретение“?
През цялата история хората са създавали инструменти, които разширяват физическите им възможности – колелото, двигателя, компютъра, интернет. Изкуственият интелект обаче е първата технология, която има потенциала да разширява интелектуалните способности, включително собствените си.
Ако една достатъчно развита AI система успее:
- да анализира собствената си архитектура;
- да открива слабости;
- да предлага подобрения;
- да проектира по-мощни версии на самата себе си,
тогава процесът на развитие вече няма да зависи изцяло от човешките инженери.
Това явление често се нарича рекурсивно самоусъвършенстване (recursive self-improvement).
От линейно към експоненциално развитие
Днес развитието на технологиите все още зависи от хората. Инженерите разработват нови алгоритми, провеждат тестове и внедряват подобрения.
Но ако AI започне сама да изпълнява тази дейност, цикълът на развитие може значително да се ускори.
Например:
- човек създава AI модел;
- моделът открива по-добра архитектура;
- новата архитектура създава още по-добър модел;
- процесът се повтаря многократно.
При подобен сценарий развитието може да премине от години към месеци, седмици или дори часове.
Интелектуална експлозия
Тази идея е известна още като интелектуална експлозия (Intelligence Explosion). Концепцията е предложена още през 60-те години от Irving John Good, според когото създаването на машина, по-интелигентна от човека, би довело до поредица от все по-бързи подобрения.
Подобен процес не означава непременно катастрофа, но предполага, че човечеството може да загуби ролята си на водещ интелектуален фактор в технологичното развитие.
Защо това поражда опасения?
Основният проблем не е дали AI ще бъде „добра“ или „лоша“. По-важният въпрос е дали нейните цели ще съвпадат с човешките.
Дори система без злонамерени намерения може да създаде сериозни проблеми, ако оптимизира дадена задача без да отчита всички последствия.
Класическият пример е т.нар. проблем с кламерите (Paperclip Maximizer), предложен от Nick Bostrom. Ако една свръхинтелигентна система получи единствената задача да произвежда максимален брой кламери, тя би могла да използва всички налични ресурси за тази цел, включително такива, необходими за човешкото общество.
Разбира се, това е мисловен експеримент, който илюстрира колко важно е правилното задаване на цели и ограничения.
Какво казва научната общност?
Не всички експерти споделят песимистичната прогноза на Баррат.
Част от изследователите смятат, че:
- рекурсивното самоусъвършенстване е значително по-трудно, отколкото изглежда;
- съществуват физически, енергийни и икономически ограничения;
- човешкият контрол може да остане ключов фактор.
Други обаче предупреждават, че дори малка вероятност за загуба на контрол оправдава сериозни инвестиции в безопасността на AI.
Затова през последните години темите за AI Safety, AI Alignment и управлението на изкуствения интелект се превърнаха в едни от най-активните области на научни изследвания.
Как изглежда ситуацията днес?
Към момента генеративните модели демонстрират впечатляващи способности:
- генерират текстове;
- създават изображения и видео;
- разработват софтуер;
- подпомагат научни изследвания;
- анализират огромни масиви от информация.
Въпреки това те все още не притежават автономно рекурсивно самоусъвършенстване в смисъла, описан от Баррат. Съвременните AI системи остават зависими от човешки екипи за обучение, оценка, инфраструктура и внедряване.
Твърдението, че изкуственият интелект може да бъде последното човешко изобретение, не е прогноза, а предупреждение и повод за размисъл. Ако някога създадем система, способна самостоятелно да проектира все по-интелигентни наследници, човечеството ще навлезе в епоха, без исторически аналог.
Дали този момент ще донесе безпрецедентен научен и икономически напредък или ще постави нови предизвикателства пред сигурността и управлението на технологиите, остава открит въпрос. Именно затова развитието на изкуствения интелект трябва да върви ръка за ръка с инвестиции в неговата безопасност, прозрачност и съответствие с човешките ценности.
Източник:
Barrat, J. Our Final Invention: Artificial Intelligence and the End of the Human Era. St. Martin’s Press, New York, 2013.