CertiK запустила новую платформу безопасности, которую описывают как «антивирус для AI-агентов». Она предназначена для решения растущих рисков небезопасных площадок для сторонних AI-навыков без проверки.
- Ключевые выводы:
-
- CertiK запустила платформу безопасности, чтобы добавить «антивирусный» слой для экосистем агентных сервисов.
-
- Секторные аудиты выявляют высокие риски, но CertiK стремится защищать маркетплейсы с точностью сканирования 90,5%.
-
- Finchip.ai входит в число платформ, расширяющих интеграции перед будущими обновлениями сканирования для массовых пользователей.
Задача безопасности
Блокчейн- и AI-компания по кибербезопасности CertiK 27 мая представила новую платформу безопасности, предназначенную для оценки рисков в сторонних навыках искусственного интеллекта (AI). Релиз, получивший название «антивирус для AI-агентов», выходит на фоне усиливающейся обеспокоенности отрасли безопасностью маркетплейсов AI-навыков.
Исследователи по безопасности предупреждают, что многие из этих навыков не проходят проверку, могут выполнять действия уровня системы и могут содержать скрытое вредоносное поведение, создавая новый риск в цепочке поставок ПО для эпохи AI. Аудиты безопасности по сектору выявили риски — от кражи учетных данных и эксфильтрации данных до манипуляций переводами средств и атак с обходом защит на основе подсказок (prompt-based override).
Несмотря на эти опасения, маркетплейсы AI-навыков быстро расширяются по мере взросления агентных экосистем. Однако в отличие от традиционных магазинов приложений, большинство навыков берутся из публичных репозиториев без существенной или вообще какой-либо проверки. Аналитики говорят, что это открывает возможности для атакующих — встроить вредоносные инструкции, инициировать несанкционированный доступ к данным или манипулировать потоками автономного исполнения.
В недавнем блоге CertiK заявила, что ее платформа сканирования навыков создана специально для оценки рисков, возникающих во время выполнения, включая сценарии, связанные с финансовыми транзакциями или запросами на перевод средств. Сканер формирует числовую оценку от 0 до 100, а также вердикты «pass», «warn» или «fail» и классифицированные находки. По словам компании, система достигает точности до 90,5% при выявлении рисков безопасности.
«Поскольку AI-агенты становятся все более глубоко интегрированными в финансовые системы, корпоративные процессы и повседневные цифровые взаимодействия, модель безопасности вокруг сторонних навыков приобретает критически важное значение», — заявил Ronghui Gu, генеральный директор и сооснователь CertiK. «Skill Scanner от CertiK был создан, чтобы установить стандартизированный слой доверия до выполнения, помогая пользователям и платформам выявлять скрытые риски до того, как будут раскрыты чувствительные данные, активы или системы».
CertiK сообщила, что маркетплейсы AI-навыков могут интегрировать сканер напрямую в конвейеры публикации: автоматически просматривать навыки до запуска и показывать пользователям вердикты по безопасности. Предприятия могут развернуть инструмент как часть внутренних процессов комплаенса и управления рисками, а независимые разработчики могут использовать его для самоаудита навыков перед публикацией.
Компания заявила, что будущие обновления позволят обычным пользователям сканировать навыки перед установкой. Сканер уже развернут в отдельных средах инфраструктуры Web3 для AI-агентов. CertiK также расширяет интеграции с дополнительными платформами, включая Finchip.ai.
«Доверие — предпосылка для того, чтобы любая экономика навыков могла работать в масштабе», — сказал Gary Yang, инвестор по инкубации в Finchip.ai. «Работа CertiK по верификации безопасности навыков — это именно то, что нужно этому экосистемному пространству. Именно поэтому миссия Finchip по программируемому владению навыками и их дистрибуции стоит того, чтобы ее строить».
Запуск следует за расширением CertiK в инфраструктуру безопасности, ориентированную на AI. В начале этого года компания представила инициативу AI Auditor, чтобы снизить риски, связанные с автономными системами и средами исполнения, управляемыми AI.
«AI-приложения движутся к все более автономному исполнению, что создает новую категорию задач по безопасности и доверию», — сказал Gu. «Мы считаем, что инфраструктура безопасности для эпохи AI должна работать проактивно, а не реактивно».
