Data Secrets
78.8K subscribers
6.42K photos
665 videos
20 files
2.7K links
Главный по машинному обучению

Сотрудничество: @veron_28

РКН: clck.ru/3FY3GN
Download Telegram
Когда спросили, будут ли айфоны собирать данные о пользователях
🔥70😁42🤪5👍41🤔1🤨1
Подробный гайд от Meta* AI по self-supervised learning

Это даже не просто гайд, а целый cookbook. В ней можно найти и определения, и историю SSL, и обзоры основных подходов, и всякие инсайдерские трюки по обучению.

Сами Meta в своем анонсе книги назвали SSL "темной материей интеллекта", и "ключевых ингридиентом недавних прорывов".

Книга: The self-supervised learning cookbook
👍6619🔥13😁32
У OpenAI, помимо денег и мощей Microsoft, теперь будет компьют Oracle

Компании заключили сделку, в рамках которой Oracle предоставит свои мощности под облако Azure, которое OpenAI будет использовать для инференса и размещения моделей.

По словам OpenAI, Microsoft не в обиде: весь пре-трейн все также будет происходить на их суперкомпьютерах.

Забавно, что одновременно Oracle заключил сделку с Google. Также одним из основных клиентов облачного гиганта является xAI Маска.
👍47🤔13🔥76😁4🤨2🎉1😐1
Не достаем двойные листочки
😁137👍8🔥8🤔1
RLHF – убийца кретивности LLM

Алгоритм, который призван делать модели человечнее и воспитаннее, на самом деле понижает их способность к творческому и разнообразному мышлению.

Это показали ученые в новой статье с прикольным названием "Creativity Has Left the Chat: The Price of Debiasing Language Models".

Что такое RLHF? Что происходит с внутрянкой модели во время этого процесса? Почему феномен из статьи – настоящая преграда на пути к AGI? Читайте в нашем мини-разборе 👆
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
71👍19🔥7😁3
This media is not supported in your browser
VIEW IN TELEGRAM
Breaking! Вышла Stable Diffusion 3

Модель поражает: справляется с текстом на картинках, генерит супер реалистичные изображения и прекрасно понимает все детали промпта.

А самое приятное – для некоммерческого пользования модель доступна бесплатно. Ну что за чудо.

Блогпост | Веса
🔥8711👍10😍10🎉1
⚡️ Bad News: Министерство финансов США запретит предоставлять любые виды услуг в сфере ПО и IT в России, даже для физ. лиц.

Решение вступает в силу 12 сентября 2024 года. Это что получается, отвалится Github, Kaggle и Colab?
Please open Telegram to view this post
VIEW IN TELEGRAM
🫡110🤯51🍾15🤪12👍1074🤨4🍌1
This media is not supported in your browser
VIEW IN TELEGRAM
Линус Торвальдс, создатель Linux, дает свой неположительный отзыв на Nvidia, 2012 год. Досматриваем до 19 секунды.

Тем временем Nvidia в 2024: 🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
😁14629❤‍🔥72😍2👍1
⚡️ Внимание: инсайдеры только что опубликовали новый секретный логотип Apple Intelligence.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁194🔥16👏8🗿7😐64🎃2👍1🍓1
Anthropic рассказали, как и зачем они сделали Claude моделью с характером

Компания недавно выпустила подкаст с разработчиками Claude – Амандой Аскелл и Стюартом Ричи. Самое интересное:

⚪️ Claude 3 – первая LLM, в которой заложена собственная личность и характер.

⚪️ Воспитание характера было частью процесса alignment'а на этапе файнтюнинга и RLHF.

⚪️ С такими моделями, по мнению разработчиков, пользователям общаться привычнее и легче. Они видят в них компаньонов и помощников, а не поисковых роботов.

⚪️Основной проблемой внедрения "характера" стало то, что моделью могут пользоваться люди с разными традициями, политическими и религиозными взглядами и тд. А если у модели есть личность, то, конечно, всем сразу она мила не будет. Что делать?

⚪️ В итоге Claude не избегает обсуждение ценностей, но и не соглашается со всем подряд. Если озвученное сождение не совпадает с его "мировозрением", то он прямо (но деликатно) об этом говорит.

Советуем послушать подкаст полностью – там еще много деталей. А пока оставим на рассуждение вопрос: должна ли модель вообще иметь личность и характер, или ее роль – просто утилита без своего мнения?
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5917🔥9🍌2😁1
Исследователи из Google запустили конкурс на $1 млн.

Цель – новые идеи, выходящие за рамки современных LLM, которые могут стать шагом к AGI.

Называется конкурс ARC Prize – в честь бенчмарка ARC AGI. Бенчмарк создан одним из учредителей конкурса, и нацелен именно на сравнение общих способностей интеллекта машины с человеческим разумом (а это собственно и есть проверка на AGI).

Современные LLM выбивают на бенчмарке сильно меньше человека – это отличает его от остальных тестов, которые проверяют не общий разум, а лишь способность решать отдельные задачи. Задача участников – выбить максимальный скор на ARC AGI. Ну как, миллион долларов хотим?

Лендинг | Kaggle
👍4317🔥10🐳4🌚3🕊1
OpenAI взяли в совет директоров отставного генерала разведки армии США

Он также присоединился к совету безопасности компании. Генерал Накасон служил в кибервойсках в США, Ираке, Афганистане и Корее, и раньше возглавлял крупное подразделение ФБР. Цитата из блога OpenAI:

«Генерал привносит в совет директоров OpenAI опыт мирового уровня в области кибербезопасности и помогает нам выполнять нашу миссию, защищая наши системы от все более изощренных злоумышленников.»


Интересно, какой конкретно «опыт» привнесет человек из ФБР и что насоветует Альтману
119😁28👍18🙈711🕊1
Это лучший роадмап по Deep Learning, который вы когда-либо видели. Лучше сохранить
😁16122🔥17🕊75👍2🙈2
This media is not supported in your browser
VIEW IN TELEGRAM
Все уже слышали про Dream Machine, генератор видео от лаборатории LumaAI?

Может работать по промпту или оживлять поданные на вход картинки (в этом случае качество намного лучше). Результат достойный, но убийцей SORA назвать модель нельзя.

Никакие детали реализации, и тем более веса не доступны. Зато продукт доступен всем и каждому бесплатно: пробовать тут.
🔥48👍178