Компанія Anthropic повідомила про блокування науковців, які використовували моделі штучного інтелекту Claude у спосіб, що потенційно міг сприяти розробці біологічної зброї.
Про це йдеться у новому звіті компанії, в якому описані п’ять таких випадків. За даними Anthropic, йдеться про реальних науковців, однак компанія не розкриває їхніх імен і не стверджує, що вони мали намір завдати шкоди.
У Anthropic наголосили, що виявлені випадки демонструють потенційні можливості моделей, але не доводять, що Claude використовували для фактичного створення біологічної зброї.
Окрім біологічної сфери, у звіті йдеться про інші випадки небезпечного використання ШІ. Серед них - стеження, шахрайство, розробка звичайних озброєнь та пропагандистські операції. За даними компанії, до таких активностей були причетні злочинці, ймовірно пов’язані з державами угруповання, постачальники шпигунського програмного забезпечення та державні пропагандистські структури.
Anthropic назвала зловживання ШІ у біологічній сфері одним із найсерйозніших ризиків для сучасних передових моделей. Водночас компанія зазначає, що ті самі біологічні знання можуть використовуватися і в мирних цілях - наприклад, для розробки вакцин або лікування захворювань.
Після виявлення підозрілої активності Anthropic заблокувала відповідні акаунти та використала отримані дані для посилення систем безпеки й виявлення подібних загроз у майбутньому.
Ми повідомляли: Центральний науково-дослідний інститут Збройних сил України презентував інтелектуально-інформаційну систему "Марічка", яка використовуватиме штучний інтелект для підтримки військових командирів під час ухвалення рішень.
Приєднуйся до нашої армії антикорупціонерів! Підписуйся на нас у Telegram, WhatsApp, Facebook, Youtube, Twitter, Instagram і TikTok!