Руководители OpenAI, Anthropic и других ведущих компаний в сфере искусственного интеллекта прорабатывают сценарии действий на случай масштабного инцидента, который может повлечь за собой общественный и политический кризис. Речь идет, в частности, о возможной кибератаке, способной нарушить работу финансовых сервисов, интернета, электроснабжения или водной инфраструктуры.
Об этом сообщает Axios.
По данным издания, руководители технологических компаний проводят закрытые стратегические упражнения, моделируя развитие событий после катастрофического инцидента, связанного с искусственным интеллектом. Среди главных вопросов – реакция общества, действия американских властей и возможные политические последствия для индустрии.
Чего опасаются компании
Как пишет Axios, в отрасли рассматривают разные сценарии: от опасного поведения самих ИИ-систем до их использования злоумышленниками. Один из возможных вариантов – масштабная кибератака, которая нарушит работу критически важных сервисов и повлияет на повседневную жизнь миллионов людей.
Некоторые руководители и исследователи, с которыми общалось издание, считают, что серьезный инцидент может произойти в ближайшие шесть-двенадцать месяцев. Однако это оценки собеседников Axios, а не подтвержденный прогноз. Издание не сообщает о конкретной подготовке к уже запланированной атаке.
В компаниях также опасаются, что реальный случай масштабного ущерба, связанного с опасным использованием ИИ, усугубит общественное недоверие к технологии и ее разработчикам. Под политическим давлением могут оказаться, в частности, руководитель Anthropic Дарио Амодей и глава OpenAI Сэм Альтман. Критиковать могут и президента США Дональда Трампа из-за его подхода к регулированию отрасли.
Как реагируют OpenAI и Anthropic
По информации Axios, часть подготовки компаний сосредоточена на коммуникации с членами Конгресса США и возможных политических решениях после масштабного инцидента.
OpenAI подтвердила изданию, что проводит подготовительные упражнения для обсуждения различных сценариев, подчеркнув, что их не считают неизбежными. Anthropic от комментариев отказалась.
Отдельно Axios сообщает об инициативе Anthropic в сфере киберзащиты критической инфраструктуры. Компания планирует предоставлять партнерам доступ к своим моделям, инженерную поддержку и исследование угроз, чтобы помогать проявлять уязвимости и усиливать защиту систем.
Напомним, глава OpenAI предупредил о риске утраты человечеством контроля над будущим искусственного интеллекта. Угрозу он видит в чрезмерной концентрации власти над ИИ в руках одного человека или компании.
Присоединяйся к нашей армии антикоррупционеров! Подписывайся на нас в Telegram , WhatsApp , Facebook , Youtube , Twitter , Instagram и TikTok !