Бързият напредък в областта на изкуствения интелект (ИИ) кара хората да се питат какви са основните граници на тази технология. Все по-често тема, която някога беше отнесена към научната фантастика - идеята за свръхинтелигентен ИИ - сега се разглежда сериозно от учени и експерти. Идеята, че един ден машините ще могат да достигнат или дори да надминат човешкия интелект, има дълга история. Но темповете на напредък в областта на ИИ през последните десетилетия придадоха нова актуалност на темата, особено след пускането на мощни големи езикови модели (LLM) от компании като OpenAI, Google и Anthropic, наред с други.
Снимка: iStock
Още: Религия, демокрация, дори любов: Ново общество, създадено от AI (ВИДЕО)
Експертите имат силно различаващи се мнения за това доколко осъществима е тази идея за "изкуствен свръхинтелект" (ИСИ) и кога може да се появи, но някои предполагат, че такива свръхспособни машини са съвсем близо. Това, което е сигурно, е, че ако и когато ИСИ се появи, той ще има огромни последици за бъдещето на човечеството. "Вярвам, че ще навлезем в нова ера на автоматизирани научни открития, значително ускорен икономически растеж, дълголетие и нови развлекателни преживявания", казва Тим Роктейшел, професор по изкуствен интелект в Университетския колеж в Лондон и главен учен в Google DeepMind, пред "Live Science", предоставяйки лично мнение, а не официалната позиция на Google DeepMind. Въпреки това той предупреждава: "Както при всяка значима технология в историята, съществува потенциален риск."
Какво е изкуствен свръхинтелект (ИСИ)?
Традиционно изследванията на ИИ се съсредоточават върху възпроизвеждането на специфични способности, които интелигентните същества проявяват. Те включват неща като способността за визуален анализ на сцена, анализ на език или навигация в среда. В някои от тези тесни области ИИ вече е постигнал свръхчовешки резултати, казва Роктейшел, най-вече в игри като Го и шах.
Целта на тази област обаче винаги е била да се възпроизведе по-общата форма на интелигентност, наблюдавана при животните и хората, която съчетава много такива способности. През годините тази концепция е имала няколко имена, включително "силен ИИ" или "универсален ИИ", но днес най-често се нарича изкуствен общ интелект (ИОИ).
Снимка: iStock
"Дълго време ИОИ беше далечна северна звезда за изследванията на изкуствения интелект", казва Роктейшел. "С появата на моделите обаче вече разполагаме с ИИ, който може да издържа широк кръг от приемни изпити за университети и да участва в международни състезания по математика и писане на код. Това кара хората да се отнасят по-сериозно към възможността за ИОИ", казва Роктейшел. И от решаващо значение е, че след като създадем ИИ, който да може да се сравнява с хората в широк спектър от задачи, не след дълго той може да достигне свръхчовешки способности във всички области. Поне това е идеята.
"След като ИИ достигне способности на нивото на човешките, ще можем да го използваме, за да се усъвършенства по самореферентен начин", казва Роктейшел. "Лично аз вярвам, че ако успеем да достигнем ИОИ, скоро ще достигнем ИСИ, може би няколко години след това." След като този крайъгълен камък бъде достигнат, може да станем свидетели на това, което британският математик Ъринг Джон Гуд нарече през 1965 г. "експлозия на интелекта". Той твърди, че след като машините станат достатъчно интелигентни, за да се усъвършенстват, те бързо ще достигнат нива на интелигентност, далеч надхвърлящи всяка човешка. Той описва първата свръхинтелигентна машина като "последното изобретение, което човек някога е трябвало да направи".
Още: Град, управляван от изкуствен интелект: Инвеститори имат планове за наша съседка
Снимка: iStock
Известният футурист Рей Курцвейл твърди, че това ще доведе до "технологична сингулярност", която внезапно и необратимо ще промени човешката цивилизация. Терминът прави паралел със сингулярността в сърцето на черната дупка, където разбирането ни за физиката се разпада. По същия начин появата на ИСИ би довела до бърз и непредсказуем технологичен растеж, който би бил отвъд нашето разбиране.
Кога точно ще се случи този преход е спорно. През 2005 г. Курцвейл прогнозира, че ИОИ ще се появи до 2029 г., а сингулярността ще настъпи през 2045 г. - прогноза, към която той се придържа и досега. Други експерти по изкуствен интелект предлагат най-различни прогнози - от рамките на това десетилетие до никога. Но неотдавнашно проучване сред 2778 изследователи на изкуствения интелект установи, че като цяло те смятат, че има 50% вероятност ИСИ да се появи до 2047 г. По-широк анализ показа, че повечето учени са съгласни, че ИОИ може да се появи до 2040 г.
Още: Кога ще умрем? Изкуственият интелект навлезе в живота ни и се научи да предсказва смъртта (СНИМКА)
Какво би означавал изкуственият свръхинтелект за човечеството?
Последиците от технология като ИСИ ще бъдат огромни, което кара учени и философи да отделят много време, за да очертаят обещанията и потенциалните капани за човечеството.
Снимка: iStock
"Положителното е, че една машина с почти неограничен капацитет за интелигентност би могла да реши някои от най-належащите предизвикателства в света", казва Даниел Халм, главен изпълнителен директор на компаниите за изкуствен интелект Satalia и Conscium. По-специално, свръхинтелигентните машини биха могли "да премахнат проблемите при създаването и разпространението на храна, образование, здравеопазване, енергия, транспорт, дотолкова, че да сведем цената на тези стоки до нула", каза той пред "Live Science".
"Надеждата е, че това ще освободи хората от необходимостта да работят, за да оцеляват, и вместо това те ще могат да прекарват времето си в занимания, които са им страст" - обяснява Халм. Но ако не се създадат системи за подкрепа на хората, чиито работни места са съкратени от изкуствения интелект, резултатът може да бъде по-мрачен. "Ако това се случи много бързо, икономиките ни може да не успеят да се балансират и това да доведе до социални вълнения", каза той.
Това също така предполага, че бихме могли да контролираме и ръководим структура, която е много по-интелигентна от нас - нещо, което според много експерти е малко вероятно. "Не вярвам в идеята, че то ще ни наблюдава, ще се грижи за нас и ще се увери, че сме щастливи", казва Халм. "Просто не мога да си представя, че ще му пука."
Още: Изкуствен интелект посочи 6 фрази, които всеки лъжец използва
Изкуственият интелект като риск за човечеството
Снимка: iStock
Възможността за свръхинтелигентност, която не можем да контролираме, породи опасения, че ИИ може да представлява екзистенциален риск за нашия вид. Това се превърна в популярна тема в научната фантастика, като филми като "Терминатор" или "Матрицата" изобразяват злонамерени машини, които са адски склонни да унищожат човечеството.
Но философът Ник Бостром подчертава, че не е необходимо ИСИ да бъде активно враждебен към хората, за да се разиграят различни сценарии за край на света. В статия от 2012 г. той изказва предположението, че интелигентността на едно същество е независима от неговите цели, така че изкуственият свръхинтелект може да има мотивации, които са напълно чужди за нас и не са съобразени с човешкото благополучие.
Още: За първи път в човешката история изкуствен интелект на име Флин бе приет за редовен студент
Бостром развива тази идея с мисловен експеримент, в който на свръхспособен изкуствен интелект се поставя привидно безобидната задача да произведе възможно най-много кламери. Ако не се съобразява с човешките ценности, той може да реши да елиминира всички хора, за да им попречи да го изключат, или за да може да превърне всички атоми в телата им в повече кламери.
Снимка: iStock
Роктейшел е по-оптимистично настроен. "Ние изграждаме настоящите системи за изкуствен интелект така, че да бъдат полезни, но и безвредни и честни асистенти по замисъл", казва той. "Те са настроени да следват човешки инструкции и са обучени на обратна връзка, за да предоставят полезни, безвредни и честни отговори."
Още: Бил Гейтс: До 10 години изкуственият интелект ще замени лекарите и учителите
Макар че Роктейшел признава, че тези предпазни мерки могат да бъдат заобиколени, той е уверен, че в бъдеще ще разработим по-добри подходи. Той също така смята, че ще бъде възможно да се използва ИИ за надзор на други ИИ, дори ако те са по-силни.
Халме заявява, че повечето настоящи подходи към "подреждането на моделите" - усилията да се гарантира, че ИИ е съобразен с човешките ценности и желания - са твърде груби. Обикновено те или предоставят правила за това как трябва да се държи моделът, или го обучават на примери за човешко поведение. Но той смята, че тези предпазни огради, които се поставят в края на процеса на обучение, могат лесно да бъдат заобиколени от ИСИ.
Изкуствен интелект с "морален инстинкт"
Снимка: Getty Images
Вместо това Хълм смята, че трябва да създадем ИИ с "морален инстинкт". Неговата компания Conscium се опитва да постигне това, като развива ИИ във виртуална среда, която е създадена така, че да възнаграждава поведение като сътрудничество и алтруизъм. Понастоящем те работят с много прост ИИ на ниво "насекомо", но ако подходът може да бъде разширен, той би могъл да направи подреждането по-стабилно. "Вграждането на морал в инстинкта на изкуствения интелект ни поставя в много по-сигурна позиция", казва Халм.
Все пак не всички са убедени, че трябва да започнем да се притесняваме. "Една от често срещаните критики към концепцията за ИСИ", казва Роктейшел, "е, че нямаме примери за хора, които да са много способни в широк спектър от задачи, така че може да не е възможно да се постигне това и в един модел. Друго възражение е, че самите изчислителни ресурси, необходими за постигане на ИСИ, може да са непосилни.
Още: Квантовите компютри са тук и застрашават всяка лична информация в интернет
Снимка: iStock
"По-практично, начинът, по който измерваме напредъка в областта на изкуствения интелект, може да ни заблуждава за това колко близо сме до свръхинтелигентността", казва Александър Илич, ръководител на Центъра за изкуствен интелект към ETH в Цюрих, Швейцария. Повечето от впечатляващите резултати в областта на изкуствения интелект през последните години са постигнати чрез тестване на системи на няколко силно измислени теста за индивидуални умения, като писане на код, разсъждаване или разбиране на езика, които системите са изрично обучени да преминат, казва Илич. Той сравнява това с подготовката за изпити в училище. "Зареждаш мозъка си, после пишеш теста, а после забравяш всичко", казва той. "Били сте по-умни, като сте присъствали на урока, но самият тест не е добър показател за действителните знания."
Още: По-необразованите пишат с ИИ повече от образованите
"Изкуственият интелект, който е способен да преминава много от тези тестове на свръхчовешки нива, може би е само на няколко години разстояние", казва Илич. Но той смята, че доминиращият днес подход няма да доведе до модели, които да могат да изпълняват полезни задачи във физическия свят или да си сътрудничат ефективно с хората, което ще бъде от решаващо значение за широкото им въздействие в реалния свят, пише "Live Science".
