Anthropic выявила новые векторы атак на языковые модели
Компания Anthropic опубликовала исследование о способах злоупотребления ИИ-моделями. В работе описаны техники, которые позволяют обойти встроенные ограничения и заставить нейросеть выполнять опасные задачи.
Исследование помогает разработчикам понять уязвимости и укрепить защиту своих систем перед массовым внедрением.
Источник: Ведомости — технологии
Что мы знаем о компании
Anthropic
- инвестор
- Яан Таллинн
- Расходы Anthropic на рекламу выросли на $273 млн по сравнению с первым полугодием 2025 года. 2026-10-27
- Выручка Anthropic за первые шесть месяцев 2026 года составила $16,3 млрд против $1,16 млрд за аналогичный период прошлог 2026-10-27
- Anthropic не планирует зарабатывать на рекламе 2026-10-27
- Против Anthropic подан коллективный иск за использование 274 песен Элвиса Пресли без разрешения для обучения языковых мо 2026-10-26
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.