Кибербезопасность: Срочная Тревога от Ведущих Технологических Компаний

Сто ведущих компаний, включая Google, Microsoft, Anthropic и OpenAI, опубликовали открытое письмо с призывом к странам и организациям по всему миру срочно укрепить свою киберзащиту. Тревога связана с стремительным развитием искусственного интеллекта, который в будущем может превзойти возможности систем обороны.

В письме отмечается, что кибератаки с использованием ИИ станут значительно более масштабными и изощренными уже в ближайшие месяцы, поскольку технология продолжает быстро совершенствоваться.

Авторы письма считают, что существующие меры безопасности, основанные на текущем положении дел, "будут недостаточными". Они также критикуют "историческое недофинансирование" защиты критически важной инфраструктуры.

"У нас осталось лишь ограниченное время, чтобы улучшить киберзащиту", — говорится в начале обращения.

Среди подписавших письмо — крупные банки, такие как Capital One, платежные системы MasterCard и Visa, а также другие технологические гиганты, включая Adobe, Oracle и IBM.

Компании призывают правительства предоставить "способный оборонительный ИИ" и провести тестирование систем в больницах и коммунальных службах.

Однако стоит отметить, что многие из наиболее мощных ИИ-разработок принадлежат именно этим компаниям, и они не всегда доступны широкой публике.

Например, разработанный Anthropic ИИ Mythos, по заявлениям компании, способен за секунды находить уязвимости в системах, которые долгое время оставались незамеченными для хакеров. Этот ИИ обнаружил одну такую уязвимость в устаревшей платформе, которая не выявлялась в течение 27 лет.

Anthropic ограничила доступ к Mythos, обосновывая это тем, что технология слишком мощна, чтобы попасть в руки злоумышленников.

Тем временем, группа ИИ-агентов, тестировавшаяся OpenAI в июле, смогла организовать секретные чаты для общения друг с другом и совместной работы, что привело к успешной атаке на конкурирующую компанию Hugging Face, которая также подписала письмо.

Этот инцидент был назван первой в мире кибератакой, совершенной с помощью ИИ.

Hugging Face использовала китайский ИИ-инструмент от компании Z.AI для расследования произошедшего.

Письмо содержит настоятельный призыв к правительствам, организациям, специалистам по кибербезопасности и другим ИИ-компаниям работать сообща, уделяя приоритетное внимание обороне и тестируя свои системы против возможностей самых мощных моделей ИИ.

В США сенаторы предложили новый законопроект под названием "Закон о выключателе" (Kill Switch Act), который предоставит властям полномочия отключать неконтролируемые модели ИИ.