Оч интересный видос
Мы все привыкли что ллмки, со времён o1/R1, прежде чем ответить, ДУМАЮТ. И эти "мысли" мы в чате не видим! Это сделано не только для удобства но и для защиты от той самой широко известной дистилляции🥸
Оказывается, по техническим причинам, эти зашифрованные мысли можно кидать между разными модели... А обмануть небольшого haiku чтобы он слил весь трейс (созданный опусом) не составляет большого труда!🙂
https://youtu.be/rtYTguPItDE
Мы все привыкли что ллмки, со времён o1/R1, прежде чем ответить, ДУМАЮТ. И эти "мысли" мы в чате не видим! Это сделано не только для удобства но и для защиты от той самой широко известной дистилляции🥸
Оказывается, по техническим причинам, эти зашифрованные мысли можно кидать между разными модели... А обмануть небольшого haiku чтобы он слил весь трейс (созданный опусом) не составляет большого труда!
https://youtu.be/rtYTguPItDE
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
They Found a Way to Steal Frontier LLM’s Reasoning
Try CodeRabbit for free and simplify your PR reviews https://coderabbit.link/ad-bycloud-001
my latest project: Intuitive AI Academy
We just wrote a new piece on Optimization!!
https://intuitiveai.academy/
limited time code "LOCKIN" for 35% off yearly plan…
my latest project: Intuitive AI Academy
We just wrote a new piece on Optimization!!
https://intuitiveai.academy/
limited time code "LOCKIN" for 35% off yearly plan…
👀2
курсор на треть увеличил месячные лимиты перманентно.
гпт лимиты ресетнули вчера.
жить хорошо!
гпт лимиты ресетнули вчера.
жить хорошо!
🔥4
кароче, друзья, железо.
Ещё весной (когда я активно писал посты) подчёркивал что будущее за запеканием ллмок в железо. Только так добиться скорости и дешевизны! Мне оч не нравилось что корпорация добра Anthropic ставила на аренду чужих железяк, мне кажется у них была идея о том, что консюмеры будут готовы переплатить за их йоба умные модельки и они смогут жить на эту маржу после аренды. Но этим летом и они протрезвели и вот в августе у них вакансии на создание "custom silicon"!🥰
OpenAI вайбкодят свои ASICи давно уже.
Чё думаю. Все лабы рано или поздно будут жить на каком-то йоба проприетарном железе! Не то чтобы полностью откажутся от NVIDIA/AMD, но что-то в этом направлении или гига специализация. Пытаться отказываться от посредников в этом вопросе.
Думаю, друзья, NVIDIA и GOOGLE тоже включатся в гонку S tier ллмок. Даже не потому что там наймут гениев изобретать науку с нуля итд а потому что они будут брать опенсорс решение а адово оптимизировать расходы на инференс и увеличивать его скорость.
Самая хайповая моделька за последние месяцы, моё мнение, Luna от ГПТ. OpenAI её просто БЕСКОНЕЧНОЙ сделали в чате☠ Думаю, это напрямую связано с оптимизацией вот этой низкоуровневой. И, судя по тому что ещё не прошло года с момента выпуска опус 4.5, оч интересно думать а что будет ещё через год... счас корпорация добра соберёт команду. Чз пол года рабочий прототип. Чз год огромный кластер опус6 который выдаёт тыщу тпс... ваше мнение
Ещё весной (когда я активно писал посты) подчёркивал что будущее за запеканием ллмок в железо. Только так добиться скорости и дешевизны! Мне оч не нравилось что корпорация добра Anthropic ставила на аренду чужих железяк, мне кажется у них была идея о том, что консюмеры будут готовы переплатить за их йоба умные модельки и они смогут жить на эту маржу после аренды. Но этим летом и они протрезвели и вот в августе у них вакансии на создание "custom silicon"!🥰
OpenAI вайбкодят свои ASICи давно уже.
Чё думаю. Все лабы рано или поздно будут жить на каком-то йоба проприетарном железе! Не то чтобы полностью откажутся от NVIDIA/AMD, но что-то в этом направлении или гига специализация. Пытаться отказываться от посредников в этом вопросе.
Думаю, друзья, NVIDIA и GOOGLE тоже включатся в гонку S tier ллмок. Даже не потому что там наймут гениев изобретать науку с нуля итд а потому что они будут брать опенсорс решение а адово оптимизировать расходы на инференс и увеличивать его скорость.
Самая хайповая моделька за последние месяцы, моё мнение, Luna от ГПТ. OpenAI её просто БЕСКОНЕЧНОЙ сделали в чате☠ Думаю, это напрямую связано с оптимизацией вот этой низкоуровневой. И, судя по тому что ещё не прошло года с момента выпуска опус 4.5, оч интересно думать а что будет ещё через год... счас корпорация добра соберёт команду. Чз пол года рабочий прототип. Чз год огромный кластер опус6 который выдаёт тыщу тпс... ваше мнение
1🔥2
Харнесы разваливаются!🫨
За последнюю неделю и курсор и клодкодик падали. Не припомню чтобы хоть раз такое видел. Ох не к добру это, братцы.
За последнюю неделю и курсор и клодкодик падали. Не припомню чтобы хоть раз такое видел. Ох не к добру это, братцы.
Please open Telegram to view this post
VIEW IN TELEGRAM
💔3
контекст rot
HTMX 4 https://four.htmx.org/announcements/2026-08-28-htmx-4.0.0-is-released
Вы чо. Кто поставил клоуна????
ДРУЗЬЯ, ЭТО H T M X.
Новые версии HTMX часто выходят по вашему????
Исторический момент, не иначе. Эта новость заслуживает появиться на обложке какого-то Times хз. Это наше будущее и оно создаётся прямо на наших глазах.
Столько возможностей появляется.
Смысл айти - экономить время людей, так? Вот HTMX позволяет экономить время людей которые позволяют экономить время людей, стоит на уровень выше. HTMX это база ДРУЗЬЯ это РЕВОЛЮЦИЯ в мире веба.😱
ДРУЗЬЯ, ЭТО H T M X.
Новые версии HTMX часто выходят по вашему????
Исторический момент, не иначе. Эта новость заслуживает появиться на обложке какого-то Times хз. Это наше будущее и оно создаётся прямо на наших глазах.
Столько возможностей появляется.
Смысл айти - экономить время людей, так? Вот HTMX позволяет экономить время людей которые позволяют экономить время людей, стоит на уровень выше. HTMX это база ДРУЗЬЯ это РЕВОЛЮЦИЯ в мире веба.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤡19🔥1