Центр экосистемы ИИ сегодня – Париж. Может показаться, что это случилось как-то в одночасье после прихода Mistral. Но ничего не происходит просто так. Следите за руками:

– Все началось в 2013. Тогда во Франции возникла Ecole 42 – открытая школа компьютерных наук, основанная на концепции p2p обучения. Сам концепт такого дополнительного образования был тогда не очень развит, но из школы выходили сильные спецы, чем она и привлекла внимание.

– В 2015 наш любимый француз Ян Лекун основал FAIR Paris (Facebook AI Research). После этого много талантливых ученых начали съезжаться во Францию со всей Европы.

– Кстати, сам Ян Лекун признан одним из трех "изобретателей" глубокого обучения, каким мы его знаем.

– В 2018 GoogleDeepMind открыли большую лабораторию в Париже. После этого стало очевидно, что если вы собираете большую международную ИИ-команду, то Францию во всех смыслах нельзя обойти стороной.

– В 2016 впервые была проведена VivaTech. Тогда она собрала около 2400 стартапов и 2000 инвесторов. По сей день мероприятие остается одним из крупнейших стартап-ивентов в мире, туда ежегодно съезжаются тысячи талантов.

– Также в 2016 во Франции был основан HuggingFace, а про него вы и так все знаете.

– Кстати, именно HF стал одним из первых стартапов, присоединившихся к французскому стартап-сообществу Station F (сейчас крупнейшему в мире, см.картинку), основанному в 2017, конечно же во Франции.

– Итак, к 2019 году AI в Париже уже был во всей красе. А во время пандемии главный "конкурент" – кремниевая долина – сильно потеряла в своем влиянии, и Париж стал еще более заметен.

– В 2021 году выстрелил HF, в 2023 – Mistral. И кроме того, PhotoRoom, Mithril Security, Giscard, ChainLid, Zama – это все французские стартапы.

В 2023 мы имеем то, что имеем. Как видите, это не результат удачи 2-3 стартапов, а путь длиною в десятилетие.

Он не боялся восстания ИИ, и где он теперь? Делаем выводы.

Meta показали свой новый чип MTIA (Meta Training and Inference Accelerator)

Говорят, он гораздо производительней первой версии, которая вышла год назад. На этом чипе Meta, как сказано в статье, уже может крутить свои рексисы, а это дорогого стоит.

На сайте можно интерактивно поиграть 3D модельками и схемами и почитать подробности.

Зачем покупать у Nvidia, когда можно сделать самим?

Неоднозначные новости: на NeurIPS 2024 будет принимать работы старшеклассников.

Мнения сообщества разделились:

– Одни говорят, что это правильный шаг и даст школьникам возможность выделиться и поступить в хороший вуз. К тому же, статья не предполагает быть глубоко-технической, это должно быть исследование про влияние AI на общество.

– Другие настаивают, что написание детьми настоящих научных статей не только бессмысленно, но и нечестно по отношению к самим школьникам: одни, пользуясь знаниями родителей и учителей, могут несправедливо получить преимущество. Тем самым, крысиные бега при поступлении только усилятся, как и пустая шумиха вокруг AI.

А вы что думаете?
❤️ - здорово
🗿- не здорово

Ну и что вы думаете? OpenAI снова первые в лидерборде со своим новым обновленным GPT-4. Недолго радовались Anthropic.

Создается небольшое ощущение дразнилок со стороны сами знаете кого, хотя возможно корпорации просто уж очень важен факт первенства

Тут вышла статья, в которой авторы замерили способность LLM (без дообучения) решать задачи классического ML и, в частности, строить регрессию.

Зацените результаты на графике.

Бустинг закурил в сторонке.

Meta наступает на грабли всех генераторов изображений: на этот раз сетка не может себе представить пару, в которой люди разных рас.

Это заметили в сети: репортер The Verge кучу раз пытался сгенерировать такую пару, но генератор так и не поддался.

Это, кстати, именно тот генератор, который компания пытается развернуть в Instagram. Кроме него, они также внедряют туда поиск на основе ИИ.

Где взять данные? Этим вопросом хотя бы однажды задавался каждый из нас. Итак, подборка дата-ресурсов от редакции:

1. Kaggle. Не нуждается в представлении. Тысячи бесплатных датасетов.

2. Awesome Data Github репозиторий. Список открытых наборов данных с прямыми ссылками на скачивание. Есть данные с видео, картинками, аудио, и вообще со всем.

3. Open ML. 20k+ датасетов. Есть библиотеки для Python и R.

4. Open Data Registry от AWS. Тут есть некоторые датасеты, которых больше нигде не найти.

5. Papers with Code. Краш подборки. Почти 10k датасетов, которые использовались в реальных исследованиях.

6. Dagshub. Непопулярно, но иногда полезно. Датасеты удобно поделены по областям применения (NLP, CV, пр.)

7. Hugging Face. Также не нуждается в представлении. На данный момент там 80k+ датасетов.

Пользуйтесь и пилите свои мега-проекты!

Туториал по AI, который мы заслужили

Пока Яндекс музыка развлекается с цветовым сопровождением приложения, подстраивающимся под трек, в Spotify запускают AI плейлисты

Приложение будет подбирать композиции в плейлист по текстовому запросу. В промпте можно указать жанр и ситуацию, под которую нужна музыка. Пока тестируют в бета-версии.

Осталось ко всему этому еще прикрутить LoudlyAI, которая генерит ИИ-музыку, и будет красота

Рубрика «исследования, которые мы заслужили»: ученые из Мэрилэнда изобрели мантию-невидимку 21 века

Ладно, на самом деле это не мантия, а свитер. Надев его, человек за счет хитрых узоров становится невидимым для большинства методов детекции. Мы поискали, на алиэкспресс пока нет(

Если серьезно: делалось это, конечно, не по приколу, а чтобы изучить так называемые adversarial атаки на детекторы, и в будущем улучшить существующие модели.

Статья

Зацените, какой постер для фанатов нарисовали твиттерские режиссеры

Скоро, на всех экранах

Вчера в нашем чате активно обсуждалось, стоит ли все-таки учить PyTorch или TensorFlow. Для тех, кто выбирает первый вариант, наш сегодняшний гайд по изучению торча:

1) Первым делом стоит изучить прекрасный туториал для бегинеров от самого торча: там вы найдете базовую информацию о тензорах, датасетах и даталодерах, training лупах и др. Еще есть в виде сериала на YouTube.

2) Посмотрите на примеры. Их можно найти в ноутбуках на Kaggle по поиску или вот тут, в туториалах торча. Там вы найдете точно правильно и чисто написанный код, так еще и с объяснениями.

3) Все, что было до этого - это 10% усилий. Остальные 90% - это практика. Заходите на Kaggle, ищете соревнование, в котором можно применить сеточки, и вперед!

Концепцию сверточных нейросетей предложил Ян Лекун в 1988 году. Это было 36 лет назад!

Мы обнаружили знаковое видео, на котором молодой Лекун в 1989 демонстрирует, как его сеть распознает цифры в различном стиле написания.

Сэм Альтман в своем свежем интервью отвечает на вопрос «Как много стартапов еще убьет OpenAI»

Если кратко: есть два варианта развития событий. Первый: модели OpenAI больше не развиваются, и те стартапы, которые занимались надстройками над моделью, живут и радуются.

Второй (который случится со слов Сэма с 95% вероятностью) : модели развиваются, появляется GPT-5, стартапы из варианта один – банкроты. Выживут только те, кто получает тем больше, чем лучше модели выпускает OpenAI.

«Это не потому что мы кого-то недолюбливаем, просто у нас есть миссия»

Выдал базу.

До сих пор не понимаете, как обучаются LLM? Мы нашли для вас самое прозрачное видео-объяснение.

Претрейн, прогон на бенчмарке, Reinforcement Learning from Human Feedback – все по полочкам