Anthropic выпускает модель Claude Fable 5 и ограничивает темы по кибербезопасности и биологии

По данным Anthropic, компания публично выпустила Claude Fable 5 во вторник — новую модель класса Mythos, которая превосходит предыдущие флагманские модели Opus по совокупным возможностям. Модель поставляется с защитными механизмами, призванными не отвечать на запросы по чувствительным темам, включая кибербезопасность, биологию и химию, где Anthropic высказывала обеспокоенность потенциальным злоупотреблением со стороны злоумышленников. В отличие от Mythos 5, который остаётся ограниченным небольшой группе киберзащитников, Fable 5 доступна публично: запросы, требующие ограничения, перенаправляются на более раннюю модель Claude Opus 4.8, при этом пользователям выводится предупреждение о таком перенаправлении. Anthropic заявила, что эти меры защиты были настроены строже, чем идеально, что привело к показателям ложных срабатываний менее 5% по итогам тестирования — величину, которую компания считает приемлемой для снижения рисков серьёзного вреда.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев