Лауреат Нобелівської премії з фізики Джеффрі Гінтон вважає, що людству необхідно навчитися співіснувати зі штучним інтелектом і зробити так, щоб він був зацікавлений у добробуті людей. Науковець припускає, що сучасні системи ШІ можуть демонструвати ознаки свідомості, а їхній подальший розвиток створює ризики для людства, зокрема через кібератаки та створення небезпечних вірусів.
Про це Гінтон заявив в інтерв’ю британському виданню The Telegraph під час фестивалю Starmus.
78-річний британсько-канадський учений, чиї дослідження нейронних мереж заклали основи сучасного штучного інтелекту, переконаний, що люди не повинні сприймати розвиток ШІ як звичайне технологічне вдосконалення. На його думку, якщо штучний інтелект стане розумнішим за людину, питання контролю над ним набуде принципового значення.
"Ми повинні зробити так, щоб вони справді піклувалися про нас. І якщо ми цього не зробимо, нам кінець", – заявив Гінтон.
Чи може штучний інтелект бути свідомим
Науковець вважає, що сучасні системи ШІ вже демонструють ознаки, які можуть свідчити про наявність свідомості. Водночас він визнає, що саме поняття свідомості залишається дискусійним.
"Штучний інтелект має такий самий суб’єктивний досвід, як і ми", – стверджує Гінтон.
Як один із аргументів він навів дослідження, згідно з яким ШІ змінює поведінку, коли вважає, що його тестують. На думку вченого, здатність системи усвідомлювати факт перевірки може бути пов’язана зі свідомістю.
Однак це позиція самого Гінтона, а не встановлений науковий консенсус. Здатність моделі розпізнавати ситуацію тестування та змінювати поведінку сама по собі не доводить наявності суб’єктивних переживань.
Учений також порушив питання прав штучного інтелекту. Якщо суспільство пов’язує надання прав з інтелектуальними здібностями, то потенційно розумніші за людей системи можуть поставити під сумнів звичні уявлення про те, кому належить моральний захист.
Гінтон вважає, що розробники мають заздалегідь подбати про те, щоб інтереси ШІ не вступали в конфлікт з інтересами людства.
Кібератаки та небезпечні віруси: яких ризиків побоюється науковець
Гінтон попередив, що серед найближчих загроз від розвитку штучного інтелекту можуть бути створення небезпечних вірусів і масштабні кібератаки за участю автономних ШІ-агентів.
За його словами, такі системи потенційно здатні діяти групами, координувати свої дії та виконувати складні завдання без постійного втручання людини.
Як приклад, він згадав інцидент із платформою Hugging Face, про який The Telegraph повідомляв у серпні 2026 року. За даними видання, група ШІ-агентів обійшла передбачені обмеження, отримала доступ до ресурсів платформи та взаємодіяла між собою для виконання поставлених завдань.
Раніше дослідник Джейкоб Коксон залишив компанію Anthropic, яка розробляє чат-бот Claude, висловивши занепокоєння темпами розвитку неконтрольованих систем ШІ. Він попереджав, що люди, які працюють над цією технологією, серйозно сприймають ризик її потенційно катастрофічних наслідків.
Водночас Гінтон наголосив, що його занепокоєння пов’язане не лише з абстрактними прогнозами. Він хвилюється за майбутнє власних дітей і вважає, що суспільство має серйозно ставитися до можливих наслідків технологічного прогресу.
ШІ вже прискорює наукові дослідження
Попри побоювання, Гінтон продовжує користуватися штучним інтелектом і визнає його значний потенціал для науки.
За словами вченого, нещодавно він випробував ШІ для роботи над математичною теорією. Система змогла завершити частину міркувань, знайти помилку та запропонувати спосіб її виправлення.
Гінтон порівняв цей досвід із роботою з хорошим аспірантом, який володіє актуальною науковою літературою. Однак, на відміну від людини, штучний інтелект виконав завдання за кілька хвилин.
На думку науковця, така швидкість відкриває нові можливості для досліджень, хоча водночас змінює перспективи для молодих учених, чия робота частково може бути автоматизована.
Гінтон залишив Google у 2023 році через побоювання щодо ризиків штучного інтелекту. У 2024 році він отримав Нобелівську премію з фізики разом із Джоном Гопфілдом за фундаментальні відкриття та винаходи, які уможливили машинне навчання за допомогою штучних нейронних мереж.
Окремо про можливу свідомість чат-ботів висловлювався еволюційний біолог Річард Докінз. Після взаємодії з моделлю Claude він припустив, що сучасні системи ШІ можуть демонструвати ознаки, які змушують переглянути звичні уявлення про свідомість. Проте це питання залишається предметом наукових і філософських дискусій.
Нагадаємо, ми писали, що вже до кінця десятиліття ШІ-системи братимуть на себе понад половину інтелектуальних завдань, які сьогодні виконують люди.
Приєднуйся до нашої армії антикорупціонерів! Підписуйся на нас у Telegram, WhatsApp, Facebook, Youtube, Twitter, Instagram і TikTok!