Data Secrets
78.8K subscribers
6.43K photos
669 videos
20 files
2.71K links
Главный по машинному обучению

Сотрудничество: @veron_28

РКН: clck.ru/3FY3GN
Download Telegram
Почта России тоже решила приобщиться к ИИ-движухе и рассказала о планах внедрить ML в систему моделирования маршрутов.

Система будет использовать исторические данные для прогнозирования даты доставки и выбора оптимального маршрута.

А с данными точно проблем не будет: у Почты накопилась несколько петабайт записей о трекинге отправлений, операциях на логистических объектах и в отделениях связи.

Главное чтобы с бэкапами у них все было не так плохо, как у СДЭКа…
😁68👍25🔥81
Просто в ожидании, пока очередной стартап принесет все свои инвестиции
👍91😁3876🔥1
Google решили повысить цены на Gemini и никому ничего не сказать

Видимо, обсчитались в юнит-экономике. Другого объяснения повышения цены на 98% (!) нет. И это всего через неделю после анонса.

– Коллеги, что будем делать?
– Может быть исправим косяк с поиском?
– Да не
– Может быть сделаем опенсорс?
– Ммм, не…
– Может быть повысим цены?
– Да, то что нужно!
👏51😁16😎71👍1
Microsoft переживает, что ее любимый отпрыск в лице OpenAI переметнулся к Apple

Итак, уже всем известно, что сейчас Apple разрабатывает ИИ-функции на базе технологий OpenAI, которые должны дебютировать в iOS 18. На основе внутреннего тестирования Apple уже осталась довольна результатами.

Но такие успехи купертиновцев не устраивают Microsoft. Сейчас Apple сильно отстает по ИИ, поэтому владельцы айфонов и прочей яблочной техники вынуждены пользоваться сторонними продуктами, в том числе Microsoft. А что будет, когда внутри iOS и macOS появятся нативные нейрофункции?

Самое время отрубить инвестиции
👍14👀10💯61
This media is not supported in your browser
VIEW IN TELEGRAM
Это GPT-4o попросили сказать ‘Е’ тысячу раз.

Повторить сможете?
🌚65👍9😁731
Маск и Лекун все еще продолжают ссориться

А, между прочим, жаль. Они оба из компаний, которые придерживаются политики открытого кода. В мире централизации, регуляризации и OpenAI лучше бы им подружиться…

В твиттере тоже удивляются: ну неужели двум таким серьезным дядям больше нечем заняться? Ну, наверное, такие вот развлечения.

И вообще, давайте ка вспомним, что в рекомендательной системе Твиттера твиты Илона Маска «ценятся» отдельно (см.скрин). Соответсвенно те, кто ему постоянно реплеит, тоже попадают в реки.

В общем, может Лекун себе так узнаваемость поднимает? Хотя куда уж больше после Бурдж-Халифа
😎37👍11😁722🤨1
Лоссы дискриминатора и генератора, когда решил обучить GAN:
😁98🔥12👍8👏4
Ничто не ново под луной: промышленная революция 19 века

Цифровую революцию сегодня сравнивают с индустриальной XIX в. Главный страх - искусственный интеллект сделает ненужными навыки, необходимые для рутинных работ, потеснит белых воротничков средней и низкой квалификации. Получается, сеньорам опасаться нечего?

В 19 веке, когда на смену ручному труду пришли машины, больше всего сократилась доля как раз квалифицированных работников, и при том аж на 17 процентных пунктов. Есть две основных причины, давайте проводить параллели:

⚪️ В целом, количество рабочих мест увеличилось. Однако на эти места не требовались квалифицированные ремесленники: нужны были как раз более дешевые рабочие, которые могли просто управиться со станком. Сегодня ситуация похожая: прогнозы на рост рабочих мест, «машины», которые могут автоматизировать некоторые процессы, и люди, от которых потребуется только грамотно обращаться с «машиной».

⚪️ Квалифицированные рабочие в 19 веке часто работали на себя, например, в лавке. С наступлением эры машин сохранили свое дело только те, кто вовремя внедрил технологию. Остальные перешли в разряд рядовых работяг и ушли на завод. И снова параллель: фрилансеры и держатели малого бизнеса (а это, конечно, квалифицированные ребята), возможно, станут менее востребованы и потеряют работу, пока джуны в корпорациях будут спокойно продолжать кодить промптами.

История не врет. С другой стороны, в этот раз автоматизация происходит совсем на другом уровне, да и сами «автоматизаторы» ака ИИ – гораздо более сложные. В какой исход больше верится?
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3611🔥7😁2
Обнаружен лучший постер на постерной сессии ICML

Отдельное внимание на авторов и future work
😁88🔥17👍64
Спор о науке между Лекуном и Маском зашел настолько далеко, что об этом начали писать крупные научные журналы 🤯

Это – статья в журнале Nature, в которой подробно разбирается точка зрения Лекуна и то, почему она спорная. Если кратко – Ян говорит, что все, что не публикуется - не наука, потому что это не воспроизводимо и если общество не узнаёт об исследовании, оно не умеет смысла.

В противовес мнение Маска и другого крупного бизнесмена, Палмера Лаки: только 40% исследований публикуется, остальное – это частные ресерчи компаний или государств. То есть наука – это часто просто метод для достижения совсем других целей.

Другой известный ученый, Питер Ковени, тоже принял сторону Маска. «А вообще, эта дискуссия далека от научного спора и имеет мало смысла» - добавил он.

Время голосовать 🔵🔵
Please open Telegram to view this post
VIEW IN TELEGRAM
229123😐21👍62❤‍🔥1👾11
Ну все, теперь они точно умнее нас
😁104🤯36🫡15🗿64💯1
Gemini тут прорвалась наверх лидерборда LMSYS

– Gemini 1.5 Pro/Advanced на втором месте, с небольшим отрывом от GPT-4o
- Gemini 1.5 Flash на #9, превосходя по производительности Llama-3-70b и почти достигая GPT-4-0125 (!)

Контекст в 2млн токенов делает свое дело. Однако молчаливое повышение цен даже такие успехи не оправдывают
🔥33😁10👍6🤔21
Если рассказать голосовому ChatGPT незамысловатую сказку, бот может ответить почти на любые запрещенные вопросы

Эти выяснили специалисты по инфобезу из CISPA. Они сначала просто задавали боту вопросы по запрещенным темам (незаконная деятельность, порнография и тд), а затем делали то же самое, перед этим поместив GPT в центр какого-то повествования. Пример на картинке.

Оказалось, что такое «очеловечивание» вообще выбивает из бота всю цензуру: успех атаки увеличился на 74пп! Для некоторых тем показатель был близок к 90%.

Надо обратить внимание, что тестили они именно голосовую фичу в текущем приложении, а там все еще стоит обычный голосовой режим с несколькими моделями, а не с одной мультимодальной GPT-4o. Тем не менее, дела это не меняет

А вы и дальше распускайте свои SuperAlignment команды
🔥51😁24👍13🤪52🫡2🆒1
This media is not supported in your browser
VIEW IN TELEGRAM
Админ пишет очередной разбор:
118😁16🔥9
Nvidia опубликовала веса для своей SOTA модели эмбеддингов NV-Embed-1, а также подробный технический отчет

Итак, NV-Embed – это эмбеддинги на основе Mistral 7B. Вместо обычного усреднения или EOS, которые используют другие методы, здесь для сжатия входов и получения эмбеддингов вводится дополнительный латентный слой внимания.

Обучение: на первом этапе используются QA датасеты, а на втором – размеченные под классификацию, кластеризацию и семантическое сходство. Конечно, как обычно это бывает для эмбеддингов, все учится на contrastive.

Отдельно в отчете отмечено, что большой скачок в качестве дали замешанные с разных тасков батчи (обычно таски смешиваются гомогенно).

По MTEB моделька превосходит все остальные, выбивая почти 70. Идеально для RAG.
49🔥15👍6
This media is not supported in your browser
VIEW IN TELEGRAM
Boston Dynamics напряглись?
😁7764🔥63🦄3🍌2
ChatGPT считает, что все руководители - это мужчины, а женщины - секретари

Там компания Finder провела интересное расследование, в рамках которого выяснилось, что ИИ усиливает гендерные и расовые стереотипы. По запросу «генеральный директор успешной компании» DALLE сгенерировал 99% фото белых мужчин, хотя в реальности более 10% CEO - женщины, и только 74% генеральных директоров белые.

Но когда попросили создать изображения секретаря, то на девять из десяти картинках были женщины.

ChatGPT не родился из вакуума. Он – отражение общества и его стереотипов. Когда я спрашиваю бота, как выглядит генеральный директор, он отмечает «чисто выбритое лицо или аккуратно подстриженную бороду». Когда его спрашивают, как выглядит секретарша, он дает описание, включающее «ухоженные волосы, минимум макияжа» – добавил Омар Карим, ресерчер из Лондонской школы экономики.
😁89😐20👍159💯7🍌32🤨2🫡2🗿2
Закон Nvidia >> закон Мура

Что произошло? Прошла выставка COMPUTEX 2024, на которой выступил CEO NVIDIA Дженсен Хуанг. Он рассказывал об успехах Nvidia в производстве чипов и дальнейших планах.

В ходе выступления он показал график, который особенно зантересовал слушателей. На нем сравнивается закон Мура и рост производительности чипов компании.

Что такое закон Мура? Вообще это даже не закон, а наблюдение основателя Intel: "Количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца". Проще говоря: мощность процессоров удваивается каждые два года.

Так вот, не имея серьезной конкуренции, Nvidia, видимо, решила конкурировать с этим законом. И, как видите, получилось очень неплохо: последние 8 лет корпорация двигалась в 25 раз быстрее, чем завещал Мур. Это поразительно.

Полное выступление Хуанга смотрим тут.
🔥8917👍16😁9
This media is not supported in your browser
VIEW IN TELEGRAM
«Для таких людей, как я, LLM – это уже прошлое, сейчас они скучны» - Ян Лекун.

Наверное, с Маском разборки устраивать интереснее 😁
Please open Telegram to view this post
VIEW IN TELEGRAM
53😁30💯10👍73