Компания Anthropic сообщила о блокировке ученых, использовавших модели искусственного интеллекта Claude таким образом, что потенциально могла способствовать разработке биологического оружия.
Об этом говорится в новом отчете компании, в котором описаны пять подобных случаев. По данным Anthropic, речь идет о реальных ученых, однако компания не раскрывает их имен и не утверждает, что они намеревались нанести вред.
В Anthropic подчеркнули, что обнаруженные случаи демонстрируют потенциальные возможности моделей, но не доказывают, что Claude использовали для фактического создания биологического оружия.
Кроме биологической сферы, в отчете говорится о других случаях опасного использования ИИ. Среди них - слежка, мошенничество, разработка обычных вооружений и пропагандистские операции. По данным компании, к таким активностям были причастны преступники, предположительно связанные с государствами группировки, поставщики шпионского программного обеспечения и государственные пропагандистские структуры.
Anthropic назвала злоупотребление ИИ в биологической сфере одним из самых серьезных рисков для передовых современных моделей. В то же время компания отмечает, что те же биологические знания могут использоваться и в мирных целях - например, для разработки вакцин или лечения заболеваний.
После обнаружения подозрительной активности, Anthropic заблокировала соответствующие аккаунты и использовала полученные данные для усиления систем безопасности и выявления подобных угроз в будущем.
Мы сообщали: Центральный научно-исследовательский институт Вооруженных сил Украины представил интеллектуально-информационную систему "Маричка", которая будет использовать искусственный интеллект для поддержки военных командиров при принятии решений.
Присоединяйся к нашей армии антикоррупционеров! Подписывайся на нас в Telegram , WhatsApp , Facebook , Youtube , Twitter , Instagram и TikTok !