Gemma 3 12B локально 🤯

Я искал причину обновить свой макбук и решил запустить какую-нибудь LLMку. Благо Гемма вышла вчера.

Качаю квантованные веса. Открываю activity monitor. Открываю ollama. Открываю сайт apple с макбуками. И…

Модель из LMSYS лидерборда запустилась на совершенно скромном macbook air M1 16Gb 5-летней давности! И даже ещё хватило памяти на пару вкладок в хроме.

Если приглядеться на скриншот, можно заметить что вся нагрузка на видеокарте. В пике всего 10W. Процессор отдыхает.

Говорит мне это о том что все эти модельки переедут на устройства уже очень скоро.

спросили в комментариях какие то материала по Агентам ИИ - держите - https://www.youtube.com/live/iLVyYDbdSmM

Как погрузиться в любую тему за один день?

Часто рассказываю про Notebooklm от Google — а сегодня хочу показать, как я его использую. Давайте разберем на примере погружения в тему ИИ-Агентов:

1. Открываем Notebooklm, регистрируемся и добавляем источники: файлы на Google Диске, ссылки на сайты или YouTube ролики. А можно просто текст пихать. Все это машина переварит и превратит в эмбединги (векторные базы), где LLM будет искать ответы на ваши вопросы.

2. Что я советую добавить для погружения в тему ИИ-Агентов: Обязательно добавьте этот документ с базовой информацией про агентов и легендарную статью «Building effective agents» от Anthropic. Еще ролик от Кевина и текст от Google, можно еще это и хватит на первое время.

3. Когда все источники добавлены, можно попросить Notebooklm сформировать вам план обучения или составить краткое содержание всех документов. Либо воспользоваться меню справа и указать: «методичка», «краткий обзор» или «часто задаваемые вопросы» и LLM сама пересоберет информацию из источников в нужном формате.

Если этого будет мало (надеюсь), настоятельно советую пройти курс От Deep learning и Arize и Hugging Face про ИИ-Агентов. Для последнего я тут перевод выкладывал вот и вот.

Подсмотрено

🔥 Kling + DeepSeek!

Сегодня прилетело обновление, которое выводит Kling вперёд в гонке видеогенераторов! Теперь в интерфейсе появился DeepSeek — встроенный мощный AI, который не только пишет тексты, но и помогает улучшать промты.

Было бы круто, если бы модель реально затачивалась под работу с промтами. Пока тестирую — отпишусь, что да как. Если всё сработает, это будет прорыв!

Арт, дизайн и нейросети
@art_design_ai
#kling@art_design_ai

Правила жизни Стивена Хокинга:

1) Моя цель очень проста. Я хочу понимать вселенную, почему она устроена так, как устроена, и зачем мы здесь.

2) Уравнения — самая скучная часть математики. Я пытаюсь смотреть на вещи в терминах геометрии.

3) Мы всего лишь развитые потомки обезьян на маленькой планете с ничем не примечательной звездой. Но у нас есть шансы постичь Вселенную. Это и делает нас особенными.

4) Мне кажется, компьютерные вирусы стоит рассматривать, как форму жизни. Это многое говорит о природе человека: единственная форма жизни, которую мы создали к настоящему моменту, несет только разрушения. Мы создаем жизнь по образу и подобию своему.

5) Мы не должны удивляться тому, что устройство Вселенной пригодно для жизни — ведь это не является доказательством того, что Вселенная была задумана для жизни.

6) Главный враг знания — не невежество, а иллюзия знания.

7) Там где есть жизнь, есть надежда.

8) Эйнштейн никогда не принимал квантовую механику из-за присущего ей элемента случайности и непостоянства. Он говорил: «Господь не играет в кости». Он был неправ дважды. Наличие черных дыр доказывает, что Господь не только играет в кости, но еще и бросает их туда, где никто не сможет их увидеть.

9) Очень важно просто не сдаваться.

10) Я заметил, что даже те люди, которые утверждают, что все предрешено и что с этим ничего нельзя поделать, смотрят по сторонам, прежде чем переходить дорогу.

РБК: Расходы компаний на рекламу за 2024 выросли на четверть

– Рынок рекламы по итогам 2024 вырос на 24,3%, до 679,1 млрд руб.
– Почти 50% суммы (311,1 млрд руб.) пришлась на интернет-сегмент
– Динамика роста сегмента интернет-рекламы за 2024 достигла 24%
– Сегмент наружной рекламы увеличился на 40,4%, до 75,8 млрд руб.
– Наименьшим сегментом остается пресса (+7,4%, до 5,8 млрд руб.)
– На топ-5 рекламодателей приходится 15,1% всех бюджетов (+7,1 п.п.)
– «Сбер» дает российским медиа 5,5% от всех рекламных бюджетов
– В целом рейтинг крупнейших рекламодателей сильно не изменился
– На 2-е место вышел Ozon, но его бюджеты в 2+ раза меньше «Сбера»
– По итогам 2024 замыкает тройку крупнейших рекламодателей Яндекс
– Расходы топ-3 компаний были 37,3 млрд, 18 млрд и 16,4 млрд руб.
– Замыкают топ-5 рекламодателей Т-Банк и Avito (16 и 14,8 млрд руб.)

@ftsec

Mistral выпустил открытую модель для конкуренции с GPT-4o mini и Gemma 3

Mistral Small 3.1 — мультимодальная модель с контекстным окном на 128 тысяч токенов. В компании называют ее лучшей в своей весовой категории. В бенчмарках новинка превосходит Gemma 3 и GPT-4o mini.

Для работы Small 3.1 достаточно одной карты RTX 4090 или Mac с 32 ГБ RAM. Благодаря своей скорости модель подходит для виртуальных ассистентов и других приложений, где важны быстрые ответы.

Mistral Small 3.1 распространяется по лицензии Apache 2.0.

https://mistral.ai/fr/news/mistral-small-3-1

Adobe опубликовал интересные данные, демонстрирующие изменение структуры трафика на сайты электронной торговли. Доля источников, связанных с ИИ, растет экспоненциально — жаль, что сама эта доля в отчете не указана. Она, видимо, пока крошечная, но устойчивый рост в режиме «удвоение каждые два месяца» способен быстро дать заметные результаты, потому что пользовательские привычки уже начали меняться: 39% опрошенных покупателей сообщили, что пользуются ИИ-сервисами при покупках. Больше трети покупателей — и эта доля тоже растет — поменяли поведение; это серьезно.
Не менее важно и то, что этот новый ИИ-трафик — качественный:
consumers coming from generative AI sources show 8 percent higher engagement as they linger on the site for a longer period of time. These visitors also browse 12 percent more pages per visit, with a 23 percent lower bounce rate. С конверсией, однако, все не так радужно: она ниже на 9%, но этот разрыв постепенно сокращается.
Примечательно, что — как в раннем интернете — трафик с десктопов составляет 86%, словно и не было мобильной революции :)
В общем, ИИ продемонстрировал, что под его воздействием начала меняться структура трафика на коммерческие сайты, цифровому маркетингу предстоит быстро отреагировать.
https://blog.adobe.com/en/publish/2025/03/17/adobe-analytics-traffic-to-us-retail-websites-from-generative-ai-sources-jumps-1200-percent

🚀 SEO встречает ИИ: Как войти в индексы ChatGPT и Perplexity?

Новые данные Adobe (пост выше 👆) показывают: трафик с ИИ-источников растет на 1200% 📈, а вовлеченность таких пользователей на 8% выше. Но как попасть в топы AI-поисковиков?

🔍 Ключевые стратегии:
1️⃣ Краулинг для ИИ: Используйте пререндеринг (например, Prerender.io), чтобы боты видели JS-контент.
2️⃣ Семантика вместо ключей: Пишите естественно, как для диалога — AI-платформы анализируют контекст, а не слова.
3️⃣ Schema-разметка: Добавляйте FAQ и HowTo схемы — их любит ChatGPT.
4️⃣ Структура сайта: Логичные категории, минимум кликов до ключевых страниц.

📊 Цифры из отчета Adobe:
- 39% покупателей используют ИИ при выборе товаров
- Вовлеченность: +12% просмотров страниц, -23% отказов
- Десктопный трафик — 86% (мобильная эра? Не слышали 😉)

Что делать сейчас?
👉 Оптимизируйте контент под голосовой поиск
👉 Добавьте микроразметку для чат-ботов
👉 Тестируйте AI-генерацию контента с ручной редактурой

💡 Совет: Установите Prerender.io — клиенты видят до +800% трафика из ChatGPT!

📌 Лайкните, если готовы к SEO 2.0!
Расскажите в комментариях: Уже пробовали оптимизацию под ИИ?

TechCrunch: xAI приобретает ИИ-стартап, который занимается генерацией видео

– Стартап Илона Маска приобретает ИИ-стартап Hotshot
– Hotshot работает над ИИ-инструментами для видео
– За два года стартап Hotshot успел создать три модели
– Речь идет про Hotshot-XL, Hotshot Act One и Hotshot
– Кластер Colossus от xAI поможет технологиями Hotshot
– Изначально он создавал технологии для фотографий
– В конечном счете Hotshot переключился на ИИ для видео
– Его модели ИИ могут преобразовывать текст в видео
– Среди инвесторов стартапа были Lachy Groom и SV Angel
– Также инвестором Hotshot был соучредитель стартапа

@ftsec

Stability AI выпустила модель для превращения фото в 3D-сцены

Stable Virtual Camera может генерировать объемные видео с соотношением сторон 1:1, 9:16 и 16:9 длиной до 1000 кадров на основе изображений.

Модель доступна по некоммерческой лицензии: huggingface.co/spaces/stabilityai/stable-virtual-camera

Революция в мире ПК: Nvidia представили «настольный суперкомпьютер» DGX Spark размером с Mac Mini и производительностью дата-центра.

Девайс получил чип с мощностью ИИ-вычислений 1 петафлопс — его создали специально для работы с «думающими» LLM от DeepSeek, OpenAI и Google. Доступны 128 ГБ оперативной памяти и SSD на 4 ТБ.

Предзаказы уже начались. Цена — $4000.

Интересная тема: “Moore’s Law for AI agents”

Как со временем растёт длина задач, с которыми могут работать агенты.

https://x.com/metr_evals/status/1902384481111322929?s=46