DevNotes Live

Две новости про Anthropic:

1.

Завтра у CEO компании состоится встреча с Министром обороны США, так как Anthropic против использования своих моделей в военных целях (в январе стало известно, что Claude использовалась для планирования операции в Венесуэле). «Компания Anthropic понимает, что это не встреча для знакомства», — заявил высокопоставленный представитель Министерства обороны изданию Axios. «Это не дружеская встреча. Это встреча, на которой действует принцип либо паши, либо убирайся к черту».

Anthropic готовы пойти на уступки и сделать послабления в политике использования, но не готовы двигаться по двум направлениям: массовая слежка за американскими гражданами и разработка оружия, способного вести огонь без участия человека.

2.

Anthropic обнаружили, что как минимум 3 китайские LLM компании занимаются массовой дистилляцией моделей. Это запрещено правилами пользования, ну и понятно, почему Anthropic не хотят этого допускать.

DeepSeek запалились меньше всех, Anthropic атрибутируют им 150 тысяч запросов.
Moonshot AI, авторы Kimi, про которую я недавно писал лонг, 3.4 миллиона запросов.
Больше всех отличились MiniMax — более 13 миллионов запросов.

«Три описанные кампании по дистилляции следовали схожей схеме, используя мошеннические учетные записи и прокси-сервисы для масштабного доступа к Claude, избегая при этом обнаружения. Объем, структура и направленность запросов отличались от обычных паттернов использования, отражая преднамеренное извлечение возможностей наших моделей.

Мы с высокой степенью уверенности идентифицировали каждую кампанию как конкретную лабораторию на основе корреляции IP-адресов, метаданных запросов, индикаторов инфраструктуры, а в некоторых случаях и подтверждения от отраслевых партнеров, которые наблюдали те же субъекты и поведение на своих платформах.

Каждая кампания была направлена на наиболее разные возможности Claude: агентное рассуждение, использование инструментов и программирование. Мы делимся техническими показателями с другими лабораториями ИИ, облачными провайдерами и соответствующими органами. Это позволяет получить более целостную картину ситуации с дистилляцией»

1 view19:19