Лауреат Нобелевской премии по физике Джеффри Гинтон считает, что человечеству необходимо научиться сосуществовать с искусственным интеллектом и сделать так, чтобы он был заинтересован в благополучии людей. Ученый предполагает, что современные системы ИИ могут демонстрировать признаки сознания, а их дальнейшее развитие создает риски для человечества, в частности, из-за кибератак и создания опасных вирусов.
Об этом Гинтон заявил в интервью британскому изданию The Telegraph во время фестиваля Starmus.
78-летний британско-канадский ученый, чьи исследования нейронных сетей заложили основы современного искусственного интеллекта, убежден, что люди не должны воспринимать развитие ИИ как обычное технологическое усовершенствование. По его мнению, если искусственный интеллект станет умнее человека, вопрос контроля над ним приобретет принципиальное значение.
"Мы должны сделать так, чтобы они действительно заботились о нас. И если мы этого не сделаем, нам конец", – заявил Гинтон.
Может ли искусственный интеллект быть сознательным
Ученый считает, что современные системы ИИ уже демонстрируют признаки, свидетельствующие о наличии сознания. В то же время, он признает, что само понятие сознания остается дискуссионным.
"Искусственный интеллект имеет такой же субъективный опыт, как и мы", – утверждает Гинтон.
Как один из аргументов он привел исследование, согласно которому ИИ меняет поведение, когда считает, что его тестируют. По мнению ученого, способность системы отдавать себе отчет в факте проверки может быть связана с сознанием.
Однако это позиция самого Гинтона, а не установленный научный консенсус. Способность модели распознавать ситуацию тестирования и изменять поведение сама по себе не доказывает наличия субъективных переживаний.
Ученый также затронул вопросы прав искусственного интеллекта. Если общество связывает предоставление прав с интеллектуальными способностями, то потенциально умнее людей системы могут подвергнуть сомнению привычные представления о том, кому принадлежит моральная защита.
Гинтон считает, что разработчики должны заранее позаботиться о том, чтобы интересы ИИ не вступали в конфликт с интересами человечества.
Кибератаки и опасные вирусы: каких рисков опасается ученый
Гинтон предупредил, что среди ближайших угроз развития искусственного интеллекта могут быть создание опасных вирусов и масштабные кибератаки с участием автономных ШИ-агентов.
По его словам, такие системы могут действовать группами, координировать свои действия и выполнять сложные задачи без постоянного вмешательства человека.
В качестве примера он упомянул инцидент с платформой Hugging Face, о котором The Telegraph сообщал в августе 2026 года. По данным издания, группа ШИ-агентов обошла предусмотренные ограничения, получила доступ к ресурсам платформы и взаимодействовала для выполнения поставленных задач.
Ранее исследователь Джейкоб Коксон покинул компанию Anthropic, разрабатывающую чат-бот Claude, выразив обеспокоенность темпами развития неконтролируемых систем ИИ. Он предупреждал, что люди, работающие над этой технологией, серьезно воспринимают риск потенциально катастрофических последствий.
В то же время Гинтон подчеркнул, что его беспокойство связано не только с абстрактными прогнозами. Он волнуется за будущее своих детей и считает, что общество должно серьезно относиться к возможным последствиям технологического прогресса.
ИИ уже ускоряет научные исследования
Несмотря на опасения, Гинтон продолжает использовать искусственный интеллект и признает его значительный потенциал для науки.
По словам ученого, недавно он опробовал ИИ для работы над математической теорией. Система смогла завершить часть соображений, найти ошибку и предложить способ ее исправления.
Гинтон сравнил этот опыт с работой с хорошим аспирантом, обладающим актуальной научной литературой. Однако, в отличие от человека, искусственный интеллект выполнил задание через несколько минут.
По мнению ученого, такая скорость открывает новые возможности для исследований, хотя одновременно меняет перспективы для молодых ученых, работа которых частично может быть автоматизирована.
Гинтон покинул Google в 2023 году из-за опасений рисков искусственного интеллекта. В 2024 году он получил Нобелевскую премию по физике вместе с Джоном Гопфилдом за фундаментальные открытия и изобретения, которые сделали возможным машинное обучение с помощью искусственных нейронных сетей.
Отдельно о возможном сознании чат-ботов высказывался эволюционный биолог Ричард Докинс. После взаимодействия с моделью Claude он предположил, что современные системы ИИ могут демонстрировать признаки, заставляющие пересмотреть привычные представления о сознании. Однако этот вопрос остается предметом научных и философских дискуссий.
Напомним, мы писали, что уже к концу десятилетия ШИ-системы будут брать на себя более половины интеллектуальных задач, которые сегодня выполняют люди.
Присоединяйся к нашей армии антикоррупционеров! Подписывайся на нас в Telegram , WhatsApp , Facebook , Youtube , Twitter , Instagram и TikTok !
