3 июля компания Anthropic объявила о предлагаемой системе оценки серьезности поведения ИИ, связанного с 'джейлбрейком', и подробно описала меры кибербезопасности, реализованные в глобально запущенной модели Claude Fable 5. Компания классифицирует варианты использования, связанные с кибербезопасностью, на четыре типа, от 'запрещенного использования' до 'безвредного использования'. Запрещенные варианты включают такие действия, как разработка программ-вымогателей, создание вредоносных программ и атаки на киберфизическую инфраструктуру. Высокорисковые действия с характеристиками 'двойного назначения', такие как тестирование на проникновение, будут блокироваться до тех пор, пока не будут установлены более надежные механизмы контроля. Система рейтинга серьезности кибер-джейлбрейка, предложенная Anthropic, варьируется от CJS-0 до CJS-4, разделена на пять уровней и оценивается по четырем измерениям. Anthropic также запустила проект HackerOne, приглашая исследователей безопасности представлять потенциальные случаи джейлбрейка моделей. (Sina Finance)

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .

Награда
лайк
комментарий
Репост
Поделиться

комментарий

Добавить комментарий

Нет комментариев

Популярные темы
Подробнее
#
GUSDYieldRisesto3.8%
782,84K Популярность
#
PredictWorldCupShare20000U
214,66K Популярность
#
IsraelStrikesIranBTCPlunges
69,66K Популярность
#
StrategySells3588BTC
7,98M Популярность
#
GTBurns2.57MInQ
115,5K Популярность

Закреплено

Карта сайта

Anthropic выпускает меры безопасности для модели Fable 5 и структуру оценки поведения AI-джейлбрейка.

Популярные темы

GUSDYieldRisesto3.8%

PredictWorldCupShare20000U

IsraelStrikesIranBTCPlunges

StrategySells3588BTC

GTBurns2.57MInQ

Закреплено