Новости Gate News: компания искусственного интеллекта Anthropic объявила о том, что ограничивает доступ к своему новому ИИ-системе Claude Mythos Preview. Причина заключается в том, что на ранних этапах тестирования система обнаружила тысячи критических уязвимостей в программном обеспечении. Mythos Preview способен выявлять недостатки безопасности в популярных операционных системах, сетевых браузерах и криптографических стандартах, что усилило внимание отрасли к потенциальным рискам и масштабируемости ИИ-технологий.
Anthropic заявила, что среди уязвимостей, которые модель обнаружила, есть многие, которые долгие годы оставались невыявленными, включая уязвимость в OpenBSD, существующую 27 лет, дефект в FFmpeg, длящийся 16 лет, уязвимость удалённого выполнения кода в FreeBSD, сохранявшуюся 17 лет, а также несколько проблем безопасности в ядре Linux. Кроме того, слабые места есть и в криптографических протоколах, таких как TLS, AES GCM и SSH. В веб-приложениях также встречаются типичные уязвимости вроде XSS, SQL-инъекций и CSRF. Компания подчеркнула, что 99% обнаруженных уязвимостей ещё не исправлены, а преждевременное раскрытие деталей может привести к серьёзным рискам.
Согласно данным отрасли, прогнозируется, что интернет-атаки, движимые ИИ, вырастут на 72% в годовом исчислении, и к 2025 году 87% организаций по всему миру могут столкнуться с угрозой ИИ-атак. Anthropic отметила, что способность ИИ выявлять нулевые уязвимости с одной стороны может ускорить защиту ПО, а с другой — если это попадёт в руки злоумышленников, сохраняется риск злоупотреблений. Это делает крайне актуальным вопрос о том, как безопасно развёртывать и контролировать подобные технологии.
Anthropic планирует совместно с партнёрами устранять существующие уязвимости, а также снижать потенциальные риски, связанные с более широким развёртыванием. Компания считает, что в долгосрочной перспективе ИИ усилит безопасность глобальной сетевой инфраструктуры и сделает программное обеспечение более надёжным, но переходный период остаётся полным вызовов. Ограниченная политика доступа для Mythos Preview показывает, что предприятия осторожно балансируют между технологическими инновациями и мерами защиты, чтобы предотвратить потенциальные злоупотребления.
Эксперты отмечают, что открытия Claude Mythos могут повлиять на будущие практики безопасности программного обеспечения, ускорив эффективность выявления и устранения уязвимостей, одновременно подчёркивая, что система глобальной сетевой защиты всё ещё нуждается в дальнейшем укреплении, чтобы противостоять новым типам угроз, которые несут ИИ-технологии.
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
