Керівники OpenAI, Anthropic та інших провідних компаній у сфері штучного інтелекту опрацьовують сценарії дій на випадок масштабного інциденту, який може спричинити суспільну й політичну кризу. Йдеться, зокрема, про можливу кібератаку, здатну порушити роботу фінансових сервісів, інтернету, електропостачання або водної інфраструктури.
Про це повідомляє Axios.
За даними видання, керівники технологічних компаній проводять закриті стратегічні вправи, моделюючи розвиток подій після катастрофічного інциденту, пов’язаного зі штучним інтелектом. Серед головних питань – реакція суспільства, дії американської влади та можливі політичні наслідки для індустрії.
Чого побоюються компанії
Як пише Axios, у галузі розглядають різні сценарії: від небезпечної поведінки самих ШІ-систем до їх використання зловмисниками. Один із можливих варіантів – масштабна кібератака, яка порушить роботу критично важливих сервісів і вплине на повсякденне життя мільйонів людей.
Деякі керівники та дослідники, з якими спілкувалося видання, вважають, що серйозний інцидент може статися протягом найближчих шести-дванадцяти місяців. Однак це оцінки співрозмовників Axios, а не підтверджений прогноз. Видання не повідомляє про конкретну підготовку до вже запланованої атаки.
У компаніях також побоюються, що реальний випадок масштабної шкоди, пов’язаної з небезпечним використанням ШІ, посилить суспільну недовіру до технології та її розробників. Під політичним тиском можуть опинитися, зокрема, керівник Anthropic Даріо Амодей та очільник OpenAI Сем Альтман. Критикувати можуть і президента США Дональда Трампа через його підхід до регулювання галузі.
Як реагують OpenAI та Anthropic
За інформацією Axios, частина підготовки компаній зосереджена на комунікації з членами Конгресу США та можливих політичних рішеннях після масштабного інциденту.
OpenAI підтвердила виданню, що проводить підготовчі вправи для обговорення різних сценаріїв, водночас наголосивши, що їх не вважають неминучими. Anthropic від коментарів відмовилася.
Окремо Axios повідомляє про ініціативу Anthropic у сфері кіберзахисту критичної інфраструктури. Компанія планує надавати партнерам доступ до своїх моделей, інженерну підтримку та дослідження загроз, щоб допомагати виявляти вразливості й посилювати захист систем.
Нагадаємо, глава OpenAI попередив про ризик втрати людством контролю над майбутнім штучного інтелекту. Загрозу він вбачає у надмірній концентрації влади над ШІ в руках однієї людини або компанії.
Приєднуйся до нашої армії антикорупціонерів! Підписуйся на нас у Telegram, WhatsApp, Facebook, Youtube, Twitter, Instagram і TikTok!