УХ БЛЯ!!!!

Тут ШАД (Школа анализа данных Яндекса) подкатили годную движуху для тех, кто уже наигрался с обычными чат-ботами и начал пилить автономных агентов, которые сами ходят по API, пишут код и вообще распоряжаются ресурсами как взрослые полноценные сотрудники.

Вопрос в том, что если дать нейронке доступ к терминалу и корпоративной базе без чёткой архитектуры, разбираться с последствиями потом придётся вам. Именно поэтому стоит сходить на онлайн-интенсив AI Agents Security Week — там как раз про то, как строить это по уму, а не на удачу.

С 27 по 31 июля эксперты из Яндекса будут пояснять:

• В чем вообще разница между просто "умной моделькой" и автономным агентом (спойлер: в уровне ответственности и потенциального факапа).
• Как защитить персональные и корпоративные данные, чтобы они не улетели в открытый доступ.
• Как безопасно выдавать агентам доступы к инфраструктуре
• Какие грабли уже собрали разработчики топовых моделей и как на них не наступить.

Отлично зайдёт для ML-разработчиков, DevSecOps-инженеров, техлидов и студентов старших курсов, которые хотят шарить в безопасности нейронок.

Всего пять вечерних онлайн-занятий. Чтобы получить сертификат, придется пройти отборочный тест и затащить итоговую работу.

Подать заявку можно до 27 июля включительно.
Вся инфа и регистрация по ссылке.

Да

Когда нечего почитать перед сном

Я сделал open-source инференс движок для Gemma 4 26B-A4B 4-bit. Движок использует всего 2gb ram при размере модели 14gb. Проект написан на Swift/Metal и запускается на любом MacBook с M-процессором, даже на M1 Air.

Для того чтобы это работало, я использую стриминг весов с SSD и разные оптимизации. Кастомные fused kernels на Metal, репак весов в более подходящий формат, кеширование экспертов и I/O and compute overlap при работе с ними. Всего было более 100 разных экспериментов, все самое интересное описано в репе.

Сейчас движок выдает 4-5 tok/s на M1 Air, 5-6 на M2 Air, 26-29 tok/s на M4 MacBook Pro и 31-35 tok/s на M5 MacBook Pro.

Есть отдельное приложение на Mac, которое запускается буквально в одну команду. Надо только будет скачать веса с Hugging Face. Все абсолютно рабочее.

На GitHub есть красиво оформленная страничка и больше 110 звездочек

https://github.com/drumih/turbo-fieldfare

И в чём искусственный интеллект Google не прав?

Смотрите, какой-то умелец запустил языковую модель на ардуиноподобной плате за восемь баксов (ESP32-S3)

Внутрь удалось утрамбовать модельку на 28,9 миллиона параметров. Она занимает около 15 мегабайт памяти, работает офлайн и генерит текст со скоростью примерно 10 токенов в секунду.


Яснопонятно, что это не карманный ChatGPT. Модель обучена на датасете TinyStories и умеет в основном сочинять простенькие и небольшие рассказы. Вопросы, программирование и захват человечества пока не завезли. Но сам факт всё равно годный: теперь даже на железе за цену шавухи можно генерировать связный текст.

тут исходники и вся инфа

Как выжать максимум из ИИ в бизнесе и как считать эффект?
Разберемся на бесплатном курсе

Selectel подготовил прикладной курс «Искусственный интеллект в бизнесе». Эксперты рассказали, как безопасно внедрять ИИ в процессы и извлекать из этого прибыль.

Не сухая теория. На курсе вас ждут:

⚡️Опыт экспертов из Selectel, X5 Digital и red_mad_robot, которые внедряли ИИ для решения реальных бизнес-задач.
⚡️Практикум по созданию персонального ИИ-ассистента и бонусы на ИТ-инфраструктуру для его развертывания.
⚡️Дорожная карта по внедрению ИИ в бизнес на 6-12 месяцев.

Если вы только начинаете работать с ИИ или хотите использовать его эффективнее, курс станет оптимальным решением. Обучение проходит онлайн, нужно зарегистрироваться для доступа к материалам.

Регистрируйтесь на курс и умножьте эффект от ИИ в вашем проекте 💯

В канале @Selectel есть закреп с подборкой других бесплатных курсов по работе с ИИ, подписывайтесь, чтобы не пропустить новые.

Реклама. АО "Селектел". erid:2W5zFG7orKT

Киберпанк, который мы заслужили

Продолжая тему фермы движений рук.

Тема, как оказалось, зашла инвесторам настолько, что под это дело теперь пилят полноценную инфраструктуру и поднимают огромные бабки. Вот например, сингапурский стартап Ropedia только что привлёк 22 миллиона $. Их бизнес-модель очень проста: они собирают терабайты реального человеческого опыта и превращают его в готовые датасеты для обучения роботов.

Кормить роботам миллионы случайных видео из интернета — так себе идея. Железякам для нормального обучения недостаточно одних картиночек или сырых видео, нужна высокоточная разметка: траектория движений рук, геометрия предметов в 3D и физические последствия каждого действия.

А для того, чтобы собирать эти данные правильно и в промышленных масштабах, стартап разработал специальное устройство. Выглядит это чудо как пластиковая корона, которая надевается на голову. На ней во все четыре стороны торчат камеры. Штука весит около 200 грамм, не закрывает обзор и позволяет носителю спокойно заниматься своими повседневными делами: мыть посуду, таскать коробки или перебирать разный хлам.

На полученные миллионы стартап планирует выпустить вторую версию этой короны (обещают сделать её полегче и покрасивее, чтобы кожаный мешок не выглядел в ней как ебучий дегенерат) и масштабировать производство до 10000 устройств.

Интересно, чему научились бы роботы, если бы вы целую неделю ходили в такой короне?

тут все подробности о проекте

Китайский разработчик так сильно соскучился по своим университетским корешам, что дал Codex их общую фотку и попросил превратить каждого в отдельного десктопного питомца.

Теперь вся братва ползает по рабочему столу, валяется на панели задач и мешает работать.

настоящая дружба

взял отсюда

Китайцы реально живут в 3026 году