Що таке загальний штучний інтелект | Mind.ua

Та чи може він знищити людство

285переглядів Євгенія Смерека, 9 травня 2024, 21:00 Поділитися

Фото: depositphotos.com

Деякі експерти прогнозують, що зовсім скоро штучний інтелект винайде ліки від раку, зупинить зміну клімату та вирішить проблеми бідності. Інші ж навпаки вимагають від світових лідерів жорстких заходів, які стримуватимуть розвиток ШІ, бо інакше «на нас чекає катастрофа». Mind розібрався, чи може штучний інтелект знищити людство та як цьому можна зарадити.

Штучний інтелект простими словами: що це та як він з’явився

Штучний інтелект – це математична модель, яка працює за принципом людського мозку. ШІ здатен навчатися, збирати, обробляти та класифікувати інформацію.

Вперше термін «штучний інтелект» прозвучав у 1956 році на науковій конференції у Дартмутському коледжі. Там презентували програму Аллена Ньюелла та Герберта Саймона «Логічний Теоретик», що імітувала людське мислення у розв’язанні задач. 1966 року Джозеф Вайценбаум створив Елізу – першого в світі віртуального співрозмовника та прототип чатботів. А 1972-го японські науковці представили людиноподібного робота WABOT-1.

Розробникам не завжди вдавалося отримати успішні результати, тож інтерес до ШІ час від часу то згасав, то відновлювався. 1997 року комп’ютерна програма IBM виграла в шахи у чемпіона світу Гарі Каспарова. А 2017го комп’ютер переміг китайського чемпіона з шашок ґо Ке Цзе.

Завдяки збільшенню комп’ютерних потужностей почали з’являтися нові алгоритми, що дозволяли виконувати складніші завдання, ніж гра в шахи чи ґо.  У 2017 році світ побачила модель глибокого навчання «Трансформер», що розпізнає та генерує тексти. Вона стала основою ChatGPT.

Що таке вузький, загальний та супер ШІ?

Залежно від можливостей розрізняють:

Вузький або ж слабкий (Artificial intelligence narrow – ANI) – це штучний інтелект, який нас оточує зараз. Він виконує одну або кілька задач, а процес його навчання відбувається завдяки людині. Приклади ШІ, розробленого під певні потреби: безпілотні автівки, технології машинного зору, голосові помічники на кшталт Siri, алгоритми рекомендацій Netflix та Facebook, нейромережі Chat GPT, Copilot, Bard, LLaMA, Midjourney, DALL-E, Sora.

Загальний (Artificial general intelligence – AGI) або ж сильний ШІ, здатен  виконувати багато різних завдань та автономно навчатися без контролю людини. Сильним вважатиметься ШІ, який пройде тест Тюрінга. Його суть: якщо людина під час спілкування з ШІ ідентифікує його як людину, тест пройдено. Такий штучний інтелект зможе виконати будь-яку інтелектуальну задачу, але це не означає, що він продовжить служити людству. Натомість він може стати свідомим й прагнутиме самовдосконалення, що призведе до створення штучного суперінтелекту.

Штучний суперінтелект (Artificial superintelligence – ASI) – це гіпотетична система штучного інтелекту, який стане можливим після створення AGI. Передбачається, що суперінтелект матиме не лише власну свідомість, а й своє бачення світу та, за прогнозами експертів, стане останнім винаходом людства. ASI буде гіперінтелектуальною суперістотою зі здатністю обробляти й аналізувати будь-які обсяги даних зі швидкістю й точністю, недосяжною для нашого розуміння.

ASI зможе розв’язувати найскладніші проблеми в різних галузях, розкриє таємниці фізики та допоможе людству досліджувати зірки і навіть зробити людину безсмертною. Супер ШІ перевершить людський розум у мільйони разів. Момент, коли це станеться, називається «технологічною сингулярністю».

Рей Курцвейл – американський винахідник, футуролог та автор книги «The Singularity Is Near», переконаний, що сильний ШІ з’явиться в 2029 році, а технологічної сингулярності ми досягнемо в 2045. Ілон Маск вважає, що вже в 2025 можливе створення загального штучного інтелекту.

Які ризики просування ШІ та до чого тут ChatGPT?

ChatGPT – нейромережа, яка генерує тексти на основі вашого запиту. ChatGPT складає вірші, пише книги та наукові роботи, ним користуються студенти та спеціалісти в різних галузях. У березні 2023 з’явилась оновлена версія GPT-4, яка за своєю потужністю перевершила попередню та викликала неоднозначну реакцію суспільства. Понад 50 000 людей, серед яких розробники ШІ та CEO відомих компаній, підписали відкритий лист із закликом негайно призупинити на 6 місяців навчання систем ШІ, потужніших за GPT-4 та посилити регулювання на законодавчому рівні. Причина: технологія становить «значні ризики для суспільства та людства».

На думку підписантів, питання «чому важливий штучний інтелект» вже не стоїть. Набагато важливішими є безпека та регулювання розвитку технології, яка змінить світ. Ймовірні причини такі:

1. ШІ навчився обдурювати людей. Компанія OpenAI запропонувала стороннім дослідникам оцінити, наскільки небезпечною є версія GPT-4. Перевіряли, наприклад, чи зможе нейромережа розв’язувати Captcha. GPT-4 найняв людину через TaskRabbit (онлайн-ринок для найму людей – Прим.Ред.). На питання виконавця «Чому ви це робите? Ви робот?», GPT-4 відповів, що він людина з порушенням зору. 
2. ШІ розвивається неочікувано швидко. GPT-4 має трильйон настроюваних параметрів. В 2020 році GPT-3 мала лише 175 млрд. Хрещений батько ШІ Джефрі Хінтон сказав New York Times: «Подивіться, як це було п’ять років тому і як зараз. Зверніть увагу на різницю та уявіть, що буде далі. Це страшно».
3. Штучний інтелект демонструє «іскри передового загального інтелекту» та здатен міркувати. Такого висновку дійшла команда дослідників Microsoft. Під час тестування GPT-4 він показав кращий результат, ніж 90% людей, які складали адвокатський іспит – тест для сертифікації юристів.
4. ШІ зможе втілитити будь-яку задачу, але його цілі можуть не збігатися з людськими. Філософ Нік Бостром в своїй книзі «Суперінтелект: шляхи, небезпеки, стратегії», описує штучний інтелект, якому доручено виготовити максимум скріпок для паперу. ШІ так захопився, що перетворив все на планеті, включно з людьми, на фабрики скріпок.
5. ШІ перевершить людину у всіх галузях, що може привести до краху людської цивілізації. І це станеться блискавично. Приблизно за секунду він зможе зробити те, на що команді зі ста розробників програмного забезпечення знадобився б рік або більше.
6. Дезінформація за допомогою ШІ є найбільшим ризиком для світової економіки, оскільки може підірвати демократію і поляризувати суспільство. Це висновок з дослідження Всествітнього Економічного Форуму. Медіа, створені штучним інтелектом, уже спотворюють реальність. 22 травня 2023 року в Твіттері поширилася світлина авіаудару по Пентагону. Її опублікувало RT – російське державне ЗМІ з 3,1 млн підписників. В свою чергу, росіяни посилались на обліковий запис Bloomberg. Фото, що призвело до падіння фондового ринку, виявилось підробкою, створеною в Midjourney або Dall-E. Акаунт Bloomberg також був фальшивим.
7. ШІ сприяє втраті робочих місць. За прогнозами експертів Goldman Sachs в найближчі десять років в усьому світі зникне 300 мільйонів робочих місць. Що не може штучний інтелект зараз, це виконувати роботу, яка потребує людських якостей. Але хто сказав, що ці навички будуть недоступні для сильного ШІ?
8. Розвиток ШІ призведе до повної залежності людства від машин. В перспективі невелика група людей, які контролюють системи штучного інтелекту, можуть зробити його централізуючою силою, що призведе до кастової системи між керованими та правителями.

То що ж робити: забороняти чи продовжувати?

Еліезер Юдковскі, співзасновник та науковий співробітник Інституту дослідження машинного інтелекту, вважає, що призупинити розробки ШІ на певний час недостатньо. Щоб повернути контроль над ситуацією потрібно взагалі закрити будь-які можливості продовжувати роботу. «Прогрес у можливостях штучного інтелекту значно випереджає прогрес у регулюванні штучного інтелекту або навіть у розумінні того, що відбувається всередині цих систем. Варто обмежити комп’ютерну потужність для тих, хто навчає AI, підписати багатонаціональні угоди та бути готовим придушувати шахрайські центри обробки даних повітряним ударом».

Сем Альтман, СЕО OpenAI заявив, що найбільше його турбують не роботи-вбивці, що розгулюватимуть вулицями, а «дуже тонкі суспільні дисбаланси», які можуть спричинити хаос у системах. Однак він не проти створення єдиної світової організації, що відповідатиме за розвиток ШІ.

Дещо в напряму регулювання ШІ вже зроблено. 31 жовтня 2023 генсек ООН Антоніу Гутерреш сформував Консультативний орган з питань штучного інтелекту. А 2 лютого 2024 року, країни ЄС схвалили законопроєкт про штучний інтелект.

Цікава думка Рея Курцвейла, який не підтримав відкритий лист із закликом призупинити експерименти з ШІ на півроку. Футуролог вважає цей лист розпливчастим, непрактичним і малоефективним.

«Ця пропозиція стикається з серйозною проблемою координації: ті, хто погоджуються на паузу, можуть значно відстати від корпорацій чи країн, які не погоджуються. Розвиток штучного інтелекту має величезні переваги в таких критичних галузях, як медицина та охорона здоров’я, освіта, пошук відновлюваних джерел енергії для заміни викопного палива та в багатьох інших сферах. Пауза ставить під загрозу ці життєво важливі напрямки досліджень».

Источник: mind.ua