Трескавата надпревара на технологичните гиганти за разработване на все по-мощен изкуствен интелект (ИИ) може да има „вредни“ последици, предупреди водещият изследовател Йошуа Бенгио. Компютърният учен и носител на престижната награда „Тюринг“ за 2018 г. представи първия по рода си Международен доклад за безопасността на изкуствения интелект, съставен под негово ръководство, в парижкия университет ENS. Учените отбелязаха началото на световната среща на върха по тази технология в Париж.
Какви са рисковете?
Бенгио посочи рискове, свързани с ИИ, които вече са широко признати, като например използването му за създаване на фалшиво или подвеждащо съдържание онлайн. Но професорът от Университета в Монреал добави, че „непрекъснато се появяват доказателства за допълнителни рискове, като биологични атаки или кибератаки“.
В по-дългосрочен план той се опасява от възможна „загуба на контрол“ от страна на хората върху системите с изкуствен интелект, които могат да бъдат мотивирани от „собствената си воля за оцеляване“.
ОЩЕ: Кофас: DeepSeek разтърси финансовите пазари
Появата през миналия месец на евтиния и високопроизводителен китайски модел на ИИ DeepSeek „ускори надпреварата, което не е добре за безопасността“, добави Бенгио.
Строга регулация
Той призова за по-строга международна регулация и по-обширни изследвания на безопасността на ИИ, която засега представлява „малка част“ от огромните инвестиции, които се правят в сектора. „Без правителствена намеса не знам как ще се справим с това“, каза Бенгио.
Засега все още водеща страна в света по отношение на ИИ, след встъпването в длъжност на Доналд Тръмп САЩ се отказаха от опита на бившия президент Джо Байдън да наложи някои правила за развитие.
ОЩЕ: „Дълбоко изследване“: Нов инструмент за ChatGPT
„Когато преди две години ChatGPT на OpenAI изгря на обществената сцена, почувствах спешността да се замисля по този въпрос за безопасността“, каза Бенгио, докато представяше доклада - разработен така, че да съответства на вече познатите документи от Междуправителствената експертна група по изменение на климата (IPCC). „Това, което ме плаши най-много, е възможността човечеството да изчезне в рамките на 10 години. Това е ужасяващо. Не знам защо повече хора не го осъзнават“, каза той.
Около 100 експерти от 30 държави, Организацията на обединените нации, Европейския съюз и ОИСР допринесоха за изготвянето на ръководения от Бенгио доклад, публикуван в края на януари. Работата по него беше стартирана на предишна среща на високо равнище по въпросите на безопасността на ИИ във Великобритания през ноември 2023 г.
