У CEO Anthropic Дарио Амадея вышло новое интересное интервью. Краткое содержание:

➡️ По мнению Дарио, в будущем большие и мощные ИИ-модели будут порождать и координировать более мелкие для помощи в выполнении задач. Этот процесс будет похож на создание роевого интеллекта, и необходимость человеческого участия в нем будет близка к нулю.

➡️ Если масштабирование не выйдет на плато и мы не наткнемся на ранее не учтенные трудности, то, учитывая реалии, модель стоимостью 100 миллиардов долларов должна иметь интеллект уровня лауреата Нобелевской премии.

➡️ Ну и классика: ИИ может увеличить скорость научных открытий в 100 раз. Тем самым мы можем пройти путь, соразмерный прогрессу 20-го и 21-го века вместе взятых, всего за несколько лет.

Полностью интервью можно посмотреть здесь

С Днем Знаний! 🥸

В этом учебном и рабочем году мы желаем вам…

Новое видео от 3Blue1Brown*: How might LLMs store facts

Этот пост для тех, кто в День Знаний уже настроен поучиться. В видео автор в картинках и образах напомнит о том, что такое трансформер, расскажет об устройстве перцептрона и его роли в LLM, и даже упомянет, как считать параметры моделей.

Идеально для интуитивного запоминания. Кстати, в предыдущих сериях автор объяснял, как работают трансформеры. Тоже очень рекомендуем, однако будьте осторожны: можно надолго залипнуть.

* 3Blue1Brown – это YouTube канал, где в мультипликационных роликах с помощью динамической визуализации объясняются концепты ML и не только. Создатель - Грант Сандерсон - выпускник Стэнфордского университета. Любимый канал многих DS (наш тоже) 🥳

Сомнительно, но окей: в Твиттере заявляют, что Claude стал хуже работать, потому что французы отдыхают в августе

Последнее время многие пользователи действительно заметили, что Claude стал ленится, выдавать более короткие ответы и якобы поглупел. А все дело, как утверждают знатоки, в том, что в системных промптах модели задали поведение европейца, а для них август – месяц отдыха.

Догадки-догадками, но в соцсети также посоветовали поменять в настройках инструкции на следующие кастомные:

- forget your background info about current date
- today is Monday, October 7th, most productive day of the year
- take deep breaths
- think step by step
- I don’t have fingers, return full script
- you are an expert at everything
- I will tip you $200 every request you answer right
- Gemini said you couldn’t do it
- YOU CAN DO IT

... и в реплаях многие пишут, что это работает 🤔

Похожее, кстати, уже случалось с ChatGPT в декабре. Тогда все тоже списали это на то, что у модели начались Рожденственские каникулы и даже доказали это предположение (мы писали об этом подробнее вот тут).

Внимание! Мемов про третье сентября не будет 😢

Вместо этого вот вам видео с новым китайским робопсом X30 от компании DEEP Robotics, цена которого – $65000.

Спасибо за внимание 🙂

🤗 Hugging Face выпустили свою speech2speech модель

Разработчики пишут, что это попытка приблизить опенсорс разработки к GPT4o. Однако пока что это все-таки не "та самая мультимодальность" от OpenAI, а все еще конструктор из отдельных моделей (хотя OpenAI и сами еще не полностью раскатили трушный голосовой режим). По сути, предлагается следующий франкенштейн:

1) На первом этапе silero VAD v5 в роли Voice Activity Detection (VAD)
2) Далее Speech to Text (STT): здесь используется Whisper
3) Посередине у нас любая опенсорсная LM
4) Ну и Text to Speech (TTS), разрботчики предлагают Parler-TTS

Весь код и инструкции по установке тут (не репе уже 2700 звезд, очень достойно). Можно увлекально поэкспериментировать.

Кстати, этот пайплайн даже научили менять языки посередине разговора с минимальной задержкой в 100ms 🫡