Anthropic заблокировала ученых, которые могли использовать Claude для разработки биологического оружия

Компания Anthropic сообщила о блокировке ученых, использовавших модели искусственного интеллекта Claude таким образом, что потенциально могла способствовать разработке биологического оружия.

Об этом говорится в новом отчете компании, в котором описаны пять подобных случаев. По данным Anthropic, речь идет о реальных ученых, однако компания не раскрывает их имен и не утверждает, что они намеревались нанести вред.

В Anthropic подчеркнули, что обнаруженные случаи демонстрируют потенциальные возможности моделей, но не доказывают, что Claude использовали для фактического создания биологического оружия.

Кроме биологической сферы, в отчете говорится о других случаях опасного использования ИИ. Среди них — слежка, мошенничество, разработка обычных вооружений и пропагандистские операции. По данным компании, к таким активностям были причастны преступники, предположительно связанные с государствами группировки, поставщики шпионского программного обеспечения и государственные пропагандистские структуры.

Anthropic назвала злоупотребление ИИ в биологической сфере одним из самых серьезных рисков для передовых современных моделей. В то же время компания отмечает, что те же биологические знания могут использоваться и в мирных целях — например, для разработки вакцин или лечения заболеваний.

После обнаружения подозрительной активности, Anthropic заблокировала соответствующие аккаунты и использовала полученные данные для усиления систем безопасности и выявления подобных угроз в будущем.

Мы сообщали: Центральный научно-исследовательский институт Вооруженных сил Украины представил интеллектуально-информационную систему «Маричка», которая будет использовать искусственный интеллект для поддержки военных командиров при принятии решений.