Anthropic не випустить нову модель, бо вона навчилась зламувати софт

Компанія Anthropic вирішила не відкривати публічний доступ до своєї нової моделі Claude Mythos. Під час тестів вона почала самостійно знаходити критичні вразливості в операційних системах та браузерах і пропонувати способи їх використання для атак.

Модель змогла виявити стару вразливість в OpenBSD, яка залишалася непоміченою десятиліттями. За словами розробників, такі здібності з'явилися як побічний ефект розвитку, а не цілеспрямованого навчання.

Доступ до Mythos залишили лише обмеженому колу партнерів для посилення кібербезпеки.

Більше AI-новин → @minshifra