Data Secrets
78.8K subscribers
6.42K photos
665 videos
20 files
2.7K links
Главный по машинному обучению

Сотрудничество: @veron_28

РКН: clck.ru/3FY3GN
Download Telegram
Когда спросили, будут ли айфоны собирать данные о пользователях
🔥70😁42🤪5👍41🤔1🤨1
Подробный гайд от Meta* AI по self-supervised learning

Это даже не просто гайд, а целый cookbook. В ней можно найти и определения, и историю SSL, и обзоры основных подходов, и всякие инсайдерские трюки по обучению.

Сами Meta в своем анонсе книги назвали SSL "темной материей интеллекта", и "ключевых ингридиентом недавних прорывов".

Книга: The self-supervised learning cookbook
👍6619🔥13😁32
У OpenAI, помимо денег и мощей Microsoft, теперь будет компьют Oracle

Компании заключили сделку, в рамках которой Oracle предоставит свои мощности под облако Azure, которое OpenAI будет использовать для инференса и размещения моделей.

По словам OpenAI, Microsoft не в обиде: весь пре-трейн все также будет происходить на их суперкомпьютерах.

Забавно, что одновременно Oracle заключил сделку с Google. Также одним из основных клиентов облачного гиганта является xAI Маска.
👍47🤔13🔥76😁4🤨2🎉1😐1
Не достаем двойные листочки
😁137👍8🔥8🤔1
RLHF – убийца кретивности LLM

Алгоритм, который призван делать модели человечнее и воспитаннее, на самом деле понижает их способность к творческому и разнообразному мышлению.

Это показали ученые в новой статье с прикольным названием "Creativity Has Left the Chat: The Price of Debiasing Language Models".

Что такое RLHF? Что происходит с внутрянкой модели во время этого процесса? Почему феномен из статьи – настоящая преграда на пути к AGI? Читайте в нашем мини-разборе 👆
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
71👍19🔥7😁3
This media is not supported in your browser
VIEW IN TELEGRAM
Breaking! Вышла Stable Diffusion 3

Модель поражает: справляется с текстом на картинках, генерит супер реалистичные изображения и прекрасно понимает все детали промпта.

А самое приятное – для некоммерческого пользования модель доступна бесплатно. Ну что за чудо.

Блогпост | Веса
🔥8711👍10😍10🎉1
⚡️ Bad News: Министерство финансов США запретит предоставлять любые виды услуг в сфере ПО и IT в России, даже для физ. лиц.

Решение вступает в силу 12 сентября 2024 года. Это что получается, отвалится Github, Kaggle и Colab?
Please open Telegram to view this post
VIEW IN TELEGRAM
🫡110🤯51🍾15🤪12👍1074🤨4🍌1
This media is not supported in your browser
VIEW IN TELEGRAM
Линус Торвальдс, создатель Linux, дает свой неположительный отзыв на Nvidia, 2012 год. Досматриваем до 19 секунды.

Тем временем Nvidia в 2024: 🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
😁14629❤‍🔥72😍2👍1
⚡️ Внимание: инсайдеры только что опубликовали новый секретный логотип Apple Intelligence.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁194🔥16👏8🗿7😐64🎃2👍1🍓1
Anthropic рассказали, как и зачем они сделали Claude моделью с характером

Компания недавно выпустила подкаст с разработчиками Claude – Амандой Аскелл и Стюартом Ричи. Самое интересное:

⚪️ Claude 3 – первая LLM, в которой заложена собственная личность и характер.

⚪️ Воспитание характера было частью процесса alignment'а на этапе файнтюнинга и RLHF.

⚪️ С такими моделями, по мнению разработчиков, пользователям общаться привычнее и легче. Они видят в них компаньонов и помощников, а не поисковых роботов.

⚪️Основной проблемой внедрения "характера" стало то, что моделью могут пользоваться люди с разными традициями, политическими и религиозными взглядами и тд. А если у модели есть личность, то, конечно, всем сразу она мила не будет. Что делать?

⚪️ В итоге Claude не избегает обсуждение ценностей, но и не соглашается со всем подряд. Если озвученное сождение не совпадает с его "мировозрением", то он прямо (но деликатно) об этом говорит.

Советуем послушать подкаст полностью – там еще много деталей. А пока оставим на рассуждение вопрос: должна ли модель вообще иметь личность и характер, или ее роль – просто утилита без своего мнения?
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5917🔥9🍌2😁1
Исследователи из Google запустили конкурс на $1 млн.

Цель – новые идеи, выходящие за рамки современных LLM, которые могут стать шагом к AGI.

Называется конкурс ARC Prize – в честь бенчмарка ARC AGI. Бенчмарк создан одним из учредителей конкурса, и нацелен именно на сравнение общих способностей интеллекта машины с человеческим разумом (а это собственно и есть проверка на AGI).

Современные LLM выбивают на бенчмарке сильно меньше человека – это отличает его от остальных тестов, которые проверяют не общий разум, а лишь способность решать отдельные задачи. Задача участников – выбить максимальный скор на ARC AGI. Ну как, миллион долларов хотим?

Лендинг | Kaggle
👍4317🔥10🐳4🌚3🕊1
OpenAI взяли в совет директоров отставного генерала разведки армии США

Он также присоединился к совету безопасности компании. Генерал Накасон служил в кибервойсках в США, Ираке, Афганистане и Корее, и раньше возглавлял крупное подразделение ФБР. Цитата из блога OpenAI:

«Генерал привносит в совет директоров OpenAI опыт мирового уровня в области кибербезопасности и помогает нам выполнять нашу миссию, защищая наши системы от все более изощренных злоумышленников.»


Интересно, какой конкретно «опыт» привнесет человек из ФБР и что насоветует Альтману
119😁28👍18🙈711🕊1
Это лучший роадмап по Deep Learning, который вы когда-либо видели. Лучше сохранить
😁16122🔥17🕊75👍2🙈2