Anthropic заблокувала науковців, які могли використовувати Claude для розробки біологічної зброї

Компанія Anthropic повідомила про блокування науковців, які використовували моделі штучного інтелекту Claude у спосіб, що потенційно міг сприяти розробці біологічної зброї.

Про це йдеться у новому звіті компанії, в якому описані п’ять таких випадків. За даними Anthropic, йдеться про реальних науковців, однак компанія не розкриває їхніх імен і не стверджує, що вони мали намір завдати шкоди.

У Anthropic наголосили, що виявлені випадки демонструють потенційні можливості моделей, але не доводять, що Claude використовували для фактичного створення біологічної зброї.

Окрім біологічної сфери, у звіті йдеться про інші випадки небезпечного використання ШІ. Серед них – стеження, шахрайство, розробка звичайних озброєнь та пропагандистські операції. За даними компанії, до таких активностей були причетні злочинці, ймовірно пов’язані з державами угруповання, постачальники шпигунського програмного забезпечення та державні пропагандистські структури.

Anthropic назвала зловживання ШІ у біологічній сфері одним із найсерйозніших ризиків для сучасних передових моделей. Водночас компанія зазначає, що ті самі біологічні знання можуть використовуватися і в мирних цілях – наприклад, для розробки вакцин або лікування захворювань.

Після виявлення підозрілої активності Anthropic заблокувала відповідні акаунти та використала отримані дані для посилення систем безпеки й виявлення подібних загроз у майбутньому.

Ми повідомляли: Центральний науково-дослідний інститут Збройних сил України презентував інтелектуально-інформаційну систему “Марічка”, яка використовуватиме штучний інтелект для підтримки військових командирів під час ухвалення рішень.