Великобритания и САЩ подписаха първото в света споразумение за безопасност на AI

Великобритания и САЩ подписаха забележително споразумение за съвместна работа за тестване на усъвършенстван изкуствен интелект (AI), предава BBC.

Още: Краят на "Северен поток 2": Тайни документи показват - точно преди Путин да нападне Украйна

Още: Световното производство на риба и аквакултури достигна нов рекорд

Споразумението гласи, че двете страни ще работят заедно за разработването на „стабилни“ методи за оценка на безопасността на инструментите за изкуствен интелект и системите, които ги подкрепят. Това е първото по рода си двустранно споразумение в областта.

Британският министър на технологиите Мишел Донелан каза, че това е „определящото технологично предизвикателство на нашето поколение“. „Винаги сме били ясни, че осигуряването на безопасно развитие на ИИ е споделен глобален проблем. Само като работим заедно, можем директно да се справим с рисковете на технологията и да впрегнем нейния огромен потенциал, за да ни помогне да живеем по-лесно и по-здравословно“, казва тя.

ОЩЕ: ООН призова за насоки относно рисковете и ползите от изкуствения интелект

Още: Копачите на биткойни вече инвестират в изкуствения интелект

Още: Европейските фондови пазари потънаха след евроизборите

Държавният секретар по въпросите на науката, иновациите и технологиите добави, че споразумението се основава на ангажиментите, поети на срещата на върха за безопасността на AI, проведена в Блечли Парк през ноември 2023 г.

Събитието, на което присъстваха шефове на AI, включително Сам Олтман от OpenAI, Демис Хасабис от Google DeepMind и технологичният милиардер Илон Мъск, видяха както Обединеното кралство, така и САЩ да създадат Институти за безопасност на AI, които имат за цел да оценят AI системи с отворен и затворен код.

Снимка: iStock

Още: След евроизборите: Рязка промяна в курса на еврото, достигна стойност, невиждана от месец

Още: ЕС разследва купувач от ОАЕ в рамките на първата проверка за използването на местни субсидии

Докато нещата бяха тихи на фронта на безопасността на AI след срещата на върха, самият сектор на AI беше много натоварен. Конкуренцията между най-големите AI чатботове – като ChatGPT, Gemini, Claude – остава жестока.

Досега почти изцяло базираните в САЩ компании, които стоят зад цялата тази дейност, още си сътрудничат с концепцията за регулиране, но регулаторите още не са ограничили нищо, което тези компании се опитват да постигнат.

По същия начин регулаторите не са изисквали достъп до информация, която фирмите за изкуствен интелект не желаят да споделят, като например данните, използвани за обучение на техните инструменти, или екологичните разходи за тяхното използване.

ОЩЕ: Технологичен гигант вгражда генеративен изкуствен интелект в хуманоидни роботи

Законът за AI на ЕС е напът да се превърне в закон и след като влезе в сила, ще изисква от разработчиците на определени системи за AI да бъдат откровени за своите рискове и да споделят информация за използваните данни.

Това е важно, след като OpenAI наскоро каза, че няма да пусне разработен от него инструмент за клониране на глас поради „сериозни рискове“, които технологията представя, особено в година на избори.

През януари фалшиво, генерирано от изкуствен интелект обаждане, за което се твърди, че е от президента на САЩ Джо Байдън, призова избирателите да пропуснат първичните избори в Ню Хемпшир.

AI опасения

Снимка: iStock

В момента по-голямата част от AI системите са в състояние да изпълняват само единични, интелигентни задачи, които обикновено се изпълняват от човек.

Известни като „тесен“ AI, тези задачи могат да варират от бързо анализиране на данни до предоставяне на желан отговор на подкана.

Но има опасения, че по-интелигентни „общи“ инструменти за изкуствен интелект – способни да изпълняват редица задачи, обикновено изпълнявани от хора – могат да застрашат човечеството. „Изкуственият интелект, подобно на химията, ядрената наука и биологията, може да бъде въоръжен и използван за добро или зло“, казва проф. Найджъл Шадболт пред BBC. Но професорът от Оксфордския университет добави, че страховете около екзистенциалния риск на AI „понякога са малко преувеличени“.

ОЩЕ: Мъск пуска безплатно чатбота Grok за премиум абонатите на X

„Трябва наистина да подкрепяме и да оценяваме усилията да накараме големите сили на AI да мислят и изследват какви са опасностите. Трябва да разберем колко податливи са тези модели, а също и колко мощни са те“, пояснява той.

Джина Раймондо, министър на търговията на САЩ, направи коментар, че споразумението ще даде правителствата по-добро разбиране на AI системите, което ще им позволи да излязат с по-добри насоки.

„Това ще ускори работата на двата ни института в пълния спектър от рискове, независимо дали за националната ни сигурност, или за обществото“, казва тя. „Нашето партньорство ясно показва, че ние не бягаме от тези опасения – ние бягаме срещу тях“, заяви тя.