Генеральный директор OpenAI Сэм Альтман назвал два сценария развития искусственного интеллекта, которые могут иметь очень опасные последствия для человечества. Он опасается, что люди могут потерять контроль над будущим ИИ или что очень мощную технологию монополизирует один человек или компания.
Альтман поддержал призыв замедлить развитие ИИ
Заявление Сэма Альтмана прозвучало после того, как глава Anthropic Дario Амодеи призвал замедлить развитие мощнейших моделей искусственного интеллекта и усилить контроль над технологией.
12 сентября Амодеи опубликовал эссе We Must Pace the Frontier, в котором предложил план по трем пунктам для сдерживания темпов развития ИИ. Он отметил потенциальные риски, которые быстрое совершенствование технологии может создать для общества.
Альтман согласился с необходимостью более осторожного подхода.
"Я соглашаюсь с Dario, что нам нужно установить темп развития передовых технологий", - написал глава OpenAI в соцсети X.
По его словам, OpenAI уже предпринимает дополнительные меры безопасности. В частности компания заранее проводит оценки безопасности перед запуском обучения передовых моделей с подкреплением, если ожидается существенный рост их возможностей.
Альтман также призвал другие компании создавать собственные механизмы и общие стандарты контроля, мониторинга и безопасности ИИ.
Сценарий №1: человечество потеряет контроль
Первой большой угрозой Альтман назвал возможность того, что люди не смогут больше контролировать развитие искусственного интеллекта.
"Мы можем потерять контроль над будущим из-за ИИ. Это неприемлемо", — заявил он.
Глава OpenAI подчеркнул, что искусственный интеллект должен служить человечеству. По его мнению, для этого технологии безопасности и методы согласования поведения ИИ с человеческими целями должны развиваться, по меньшей мере, такими же темпами, как и возможности самих моделей.
Сценарий №2: власть окажется в одних руках
Второй риск, по словам Альтмана, – чрезмерная концентрация власти.
Он опасается ситуации, когда чрезвычайно мощный искусственный интеллект окажется под контролем одного человека или компании, которая сможет навязывать другим собственное видение мира.
"Если чрезвычайно мощный ИИ будет использован одним человеком или компанией, чтобы навязать всем другим свое видение мира, последствия могут быть чрезвычайно антиутопическими", - отметил Альтман.
Поэтому он поддерживает идею определенного замедления развития передовых систем ИИ.
В то же время Альтман подчеркнул, что "замедление" не означает полной остановки прогресса. По его словам, развитие технологии будет продолжаться, однако темпы могут быть ниже максимально возможных ради дополнительных мер безопасности.
Ранее СтопКор писал, что искусственный интеллект пока не привел к массовой безработице в США : в августе 2026 года экономика страны создала 162 тысячи рабочих мест, а уровень безработицы составил 4,1%. В то же время, ИИ постепенно меняет структуру рынка труда — сокращается спрос на офисных работников, тогда как растет потребность в AI-специалистах, электриках, техниках и других специалистах, необходимых для развития дата-центров. Эксперты предупреждают, что после завершения инфраструктурного бума влияние автоматизации на занятость может стать более заметным.
Присоединяйся к нашей армии антикоррупционеров! Подписывайся на нас в Telegram , WhatsApp , Facebook , Youtube , Twitter , Instagram и TikTok !