Forwarded from Технозаметки Малышева
Мне нужно было запустить большую модель.
Я сказал об этом одному человеку из ИИ-тусовки.
Он спросил:
— Знаешь кого-нибудь с M3 Ultra на 512 ГБ?
Я не знал.
Он посмотрел на меня с искренней тревогой.
Не с жалостью. Именно с тревогой.
Так смотрят на человека, который в августе 2026 года говорит, что у него всего одна RTX 4090.
— Ты обязан знать кого-нибудь с M3 Ultra 512 ГБ.
Я спросил, как вообще заводят такого человека.
Он ответил:
— Ну, просто заводишь.
В ИИ это вообще универсальный ответ.
Как сделать RAG?
Просто делаешь.
Как поднять агента?
Просто деплоишь.
Как запустить 400B дома?
Просто находишь человека с 512 ГБ unified memory.
Он сказал:
— Спроси Серёгу.
Я не знал никакого Серёгу.
Через четыре дня знал.
У Серёги стоял Mac Studio M3 Ultra 512 ГБ.
Но Серёга купил его не для себя.
Никто не покупает 512 ГБ памяти только для себя.
Человек с таким Mac автоматически становится локальным облачным провайдером для всех знакомых.
На нём уже запускали модели друзья, друзья друзей, два стартапа и какой-то человек из Telegram, которого Серёга никогда не видел.
Про себя я подумал:
ЭТОТ ЧЕЛОВЕК КУПИЛ 512 ГБ UNIFIED MEMORY И ПРИНЯЛ ПОСЛЕДСТВИЯ.
Я приехал в субботу.
Серёга был не один.
Рядом сидел Дима.
Я не просил Диму.
Дима приехал, потому что была большая модель.
Дима открыл терминал, посмотрел на веса и сказал:
— Это влезет.
Я впервые услышал эти слова про LLM без смеха.
Через двадцать минут модель работала.
Я предложил деньги.
Они засмеялись.
Серёга сказал:
— Пиццу закажи.
Вот она, экономика локального инференса.
Mac за несколько миллионов рублей стоит одну пиццу в час.
Электричество не считается.
Амортизация не считается.
Время Димы не считается.
Пицца считается.
Через три недели Серёга написал:
«Свободен в воскресенье? Антону надо агента поднять».
Он не спросил, хочу ли я.
Он просто поставил меня перед фактом существования Антона и агента.
Я приехал.
Антону изначально нужно было «иногда отвечать на вопросы по PDF».
Через два часа у него были:
LLM,
три агента,
RAG,
reranker,
Qdrant,
Postgres,
Langfuse,
Grafana
и Kubernetes, происхождение которого никто уже не мог объяснить.
Потом какой-то незнакомый человек спросил меня:
— Ты не знаешь кого-нибудь с нормальным железом?
Я хотел сказать, что нет.
Но ответил:
— Ага. У меня есть человек.
Теперь я и сам чей-то человек.
Серёга уже дал мой контакт двум людям.
Дима описывает меня как:
«У него железа нет, но он знает, у кого есть 512 гигов».
Так в 2026 году и выглядит товарищеский инференс.
#юмор
———
@tsingular
Я сказал об этом одному человеку из ИИ-тусовки.
Он спросил:
— Знаешь кого-нибудь с M3 Ultra на 512 ГБ?
Я не знал.
Он посмотрел на меня с искренней тревогой.
Не с жалостью. Именно с тревогой.
Так смотрят на человека, который в августе 2026 года говорит, что у него всего одна RTX 4090.
— Ты обязан знать кого-нибудь с M3 Ultra 512 ГБ.
Я спросил, как вообще заводят такого человека.
Он ответил:
— Ну, просто заводишь.
В ИИ это вообще универсальный ответ.
Как сделать RAG?
Просто делаешь.
Как поднять агента?
Просто деплоишь.
Как запустить 400B дома?
Просто находишь человека с 512 ГБ unified memory.
Он сказал:
— Спроси Серёгу.
Я не знал никакого Серёгу.
Через четыре дня знал.
У Серёги стоял Mac Studio M3 Ultra 512 ГБ.
Но Серёга купил его не для себя.
Никто не покупает 512 ГБ памяти только для себя.
Человек с таким Mac автоматически становится локальным облачным провайдером для всех знакомых.
На нём уже запускали модели друзья, друзья друзей, два стартапа и какой-то человек из Telegram, которого Серёга никогда не видел.
Про себя я подумал:
ЭТОТ ЧЕЛОВЕК КУПИЛ 512 ГБ UNIFIED MEMORY И ПРИНЯЛ ПОСЛЕДСТВИЯ.
Я приехал в субботу.
Серёга был не один.
Рядом сидел Дима.
Я не просил Диму.
Дима приехал, потому что была большая модель.
Дима открыл терминал, посмотрел на веса и сказал:
— Это влезет.
Я впервые услышал эти слова про LLM без смеха.
Через двадцать минут модель работала.
Я предложил деньги.
Они засмеялись.
Серёга сказал:
— Пиццу закажи.
Вот она, экономика локального инференса.
Mac за несколько миллионов рублей стоит одну пиццу в час.
Электричество не считается.
Амортизация не считается.
Время Димы не считается.
Пицца считается.
Через три недели Серёга написал:
«Свободен в воскресенье? Антону надо агента поднять».
Он не спросил, хочу ли я.
Он просто поставил меня перед фактом существования Антона и агента.
Я приехал.
Антону изначально нужно было «иногда отвечать на вопросы по PDF».
Через два часа у него были:
LLM,
три агента,
RAG,
reranker,
Qdrant,
Postgres,
Langfuse,
Grafana
и Kubernetes, происхождение которого никто уже не мог объяснить.
Потом какой-то незнакомый человек спросил меня:
— Ты не знаешь кого-нибудь с нормальным железом?
Я хотел сказать, что нет.
Но ответил:
— Ага. У меня есть человек.
Теперь я и сам чей-то человек.
Серёга уже дал мой контакт двум людям.
Дима описывает меня как:
«У него железа нет, но он знает, у кого есть 512 гигов».
Так в 2026 году и выглядит товарищеский инференс.
#юмор
———
@tsingular
😁21👍5👀3👎1
Forwarded from Эксплойт
Чувак создал рубашку, которая сбивает с толку камеры с ИИ — яркая гавайка Digital Camouflage покрыта хаотичным узором из розовых, оранжевых и зелёных фигур.
Она специально ломает силуэт человека, из-за чего алгоритму сложнее понять, кто перед камерой находится. Дизайн создавали через генеративный ИИ: узор снова и снова проверяли на детекторе объектов YOLO, пока тот не начал значительно хуже распознавать человека.
Автор уже протестировал рубашку на ИИ-камере в Берлине и она РАБОТАЕТ. Цена вопроса: 88 баксов (~7700 рублей).
Это мы покупаем.
@exploitex
Она специально ломает силуэт человека, из-за чего алгоритму сложнее понять, кто перед камерой находится. Дизайн создавали через генеративный ИИ: узор снова и снова проверяли на детекторе объектов YOLO, пока тот не начал значительно хуже распознавать человека.
Автор уже протестировал рубашку на ИИ-камере в Берлине и она РАБОТАЕТ. Цена вопроса: 88 баксов (~7700 рублей).
Это мы покупаем.
@exploitex
👍21⚡4😁3
Forwarded from Эксплойт
This media is not supported in your browser
VIEW IN TELEGRAM
Пакистанские технологии: блогер навайбкодил свой автопилот для автомобиля, но во время тестового заезда что-то пошло не так.
Посреди поездки токены закончились.
@exploitex
Посреди поездки токены закончились.
@exploitex
😁17
Forwarded from ИИволюция 👾
ИИ начинает ломать привычную систему образования гораздо глубже, чем кажется
Появилось исследование о том, как ИИ влияет на обучение школьников. Исследователи 30 месяцев наблюдали за 26 811 китайскими учениками 12–18 лет и сравнивали их домашние работы с результатами экзаменов, которые дети уже писали самостоятельно, без помощи ИИ.
После того как школьники начинали пользоваться китайскими ИИ-ассистентами вроде Doubao от ByteDance и DeepSeek, оценки за домашку в среднем росли на 18%, а времени на неё уходило примерно на 30% меньше. По всем внешним метрикам всё выглядело отлично: задания сделаны быстрее, оценки выше, производительность выросла.
Но уже через полгода результаты этих же учеников на экзаменах без ИИ были примерно на 20% хуже. Причём на важных экзаменах эффект продолжал накапливаться и полностью проявлялся только спустя примерно два года.
Самое интересное в том, что раньше хорошая домашняя работа довольно неплохо показывала, насколько ученик разобрался в теме. Теперь эту связь можно легко разорвать. Школьник получает отличные оценки, делает задания быстрее и выглядит успешнее по всем формальным показателям, при этом реальные знания могут становиться хуже.
Особенно сильно результаты падали у тех, кто после появления ИИ резко сокращал время на домашку. У учеников, которые продолжали тратить на задания примерно столько же времени и использовали ИИ для объяснений, подсказок и разбора материала, потери были значительно меньше.
Это хорошо совпадает с другим свежим экспериментом в Middlebury College. Студентам дали изучать незнакомую тему с ИИ и без него, после чего проверили знания сразу и через неделю. Группа с ИИ в итоге действительно выучила больше, особенно те, кто использовал модель для объяснений, поиска информации и разбора сложных моментов. Когда ИИ просто генерировал готовый результат, эффект на реальные знания был намного слабее.
И вот здесь появляется главная проблема для всей системы образования. Десятилетиями она работала примерно так: чтобы хорошо написать сочинение, решить задачу или подготовить доклад, человеку приходилось самому проделать большую часть мыслительной работы. Поэтому по качеству конечного результата можно было хотя бы примерно судить о знаниях и навыках ученика.
А вот с ИИ это перестаёт работать. Можно получить отличное сочинение, презентацию, решение задачи или исследование, практически не приобретая навык, который раньше был нужен для создания такого результата. В исследованиях уже появляется термин “product–process dissociation”: качество готовой работы растёт, а качество мыслительного процесса, который раньше стоял за этой работой, может снижаться.
В итоге школам и университетам придётся постепенно менять сам подход к оценке знаний. Домашнее сочинение всё хуже показывает, умеет ли человек писать. Решённая дома задача всё хуже показывает, умеет ли он её решать. Хороший доклад всё меньше говорит о том, насколько автор действительно разбирается в теме.
ИИ всё сильнее разделяет хороший результат и реальные знания и для образования это становится большой проблемой.
Забавно, недавно прочитал, что разработчики в OpenAI не могут полностью объяснить код, который сами “создали” с помощью AI. Речь не о том, что они не понимают собственный код в принципе, а о том, что часть решений была сгенерирована ИИ и собрана итеративно, без полного понимания каждой строки и всех взаимосвязей.
Похоже, мир действительно меняется: для некоторых задач уже не всегда требуется понимать, что именно происходит внутри. Важно уметь поставить задачу, проверить результат и заметить ошибку. Но в образовании всё наоборот, это опасный момент, потому что сам процесс понимания и есть главный результат.
Появилось исследование о том, как ИИ влияет на обучение школьников. Исследователи 30 месяцев наблюдали за 26 811 китайскими учениками 12–18 лет и сравнивали их домашние работы с результатами экзаменов, которые дети уже писали самостоятельно, без помощи ИИ.
После того как школьники начинали пользоваться китайскими ИИ-ассистентами вроде Doubao от ByteDance и DeepSeek, оценки за домашку в среднем росли на 18%, а времени на неё уходило примерно на 30% меньше. По всем внешним метрикам всё выглядело отлично: задания сделаны быстрее, оценки выше, производительность выросла.
Но уже через полгода результаты этих же учеников на экзаменах без ИИ были примерно на 20% хуже. Причём на важных экзаменах эффект продолжал накапливаться и полностью проявлялся только спустя примерно два года.
Самое интересное в том, что раньше хорошая домашняя работа довольно неплохо показывала, насколько ученик разобрался в теме. Теперь эту связь можно легко разорвать. Школьник получает отличные оценки, делает задания быстрее и выглядит успешнее по всем формальным показателям, при этом реальные знания могут становиться хуже.
Особенно сильно результаты падали у тех, кто после появления ИИ резко сокращал время на домашку. У учеников, которые продолжали тратить на задания примерно столько же времени и использовали ИИ для объяснений, подсказок и разбора материала, потери были значительно меньше.
Это хорошо совпадает с другим свежим экспериментом в Middlebury College. Студентам дали изучать незнакомую тему с ИИ и без него, после чего проверили знания сразу и через неделю. Группа с ИИ в итоге действительно выучила больше, особенно те, кто использовал модель для объяснений, поиска информации и разбора сложных моментов. Когда ИИ просто генерировал готовый результат, эффект на реальные знания был намного слабее.
И вот здесь появляется главная проблема для всей системы образования. Десятилетиями она работала примерно так: чтобы хорошо написать сочинение, решить задачу или подготовить доклад, человеку приходилось самому проделать большую часть мыслительной работы. Поэтому по качеству конечного результата можно было хотя бы примерно судить о знаниях и навыках ученика.
А вот с ИИ это перестаёт работать. Можно получить отличное сочинение, презентацию, решение задачи или исследование, практически не приобретая навык, который раньше был нужен для создания такого результата. В исследованиях уже появляется термин “product–process dissociation”: качество готовой работы растёт, а качество мыслительного процесса, который раньше стоял за этой работой, может снижаться.
В итоге школам и университетам придётся постепенно менять сам подход к оценке знаний. Домашнее сочинение всё хуже показывает, умеет ли человек писать. Решённая дома задача всё хуже показывает, умеет ли он её решать. Хороший доклад всё меньше говорит о том, насколько автор действительно разбирается в теме.
ИИ всё сильнее разделяет хороший результат и реальные знания и для образования это становится большой проблемой.
Забавно, недавно прочитал, что разработчики в OpenAI не могут полностью объяснить код, который сами “создали” с помощью AI. Речь не о том, что они не понимают собственный код в принципе, а о том, что часть решений была сгенерирована ИИ и собрана итеративно, без полного понимания каждой строки и всех взаимосвязей.
Похоже, мир действительно меняется: для некоторых задач уже не всегда требуется понимать, что именно происходит внутри. Важно уметь поставить задачу, проверить результат и заметить ошибку. Но в образовании всё наоборот, это опасный момент, потому что сам процесс понимания и есть главный результат.
👀19⚡2👎1😁1
Forwarded from Эксплойт
Новая Fable 5.1 смогла за 44 минуты разгадать один из сложнейших шифров в истории, над которым люди бились целых 373 (!) года — Cyphral Distich Томаса Уркхарта занимал почётное 28 место в списке неразгаданных загадок человечества.
Всего две строки по 32 числа в каждой не давали покоя энтузиастам со всего мира сотни лет, а разгадка оказалась до смешного простой. Впервые шифр появился в трактате Уркхарта «Logopandecteision, or An Introduction to the Universal Language», в котором среди размышлений о несуществующем языке, были 32 пронумерованных пожелания автора. Догадываетесь?
Правило оказалось издевательски простым: шифр указывает, какое слово из какого пожелания надо взять — если число 8 в строке первое, то ищем восьмое слово в первом пожелании. 66 — второе, а значит — ищем шестьдесят шестое слово во втором пожелании.
У полученных 64 слов берём по первой букве и получаем предложение
Даже немного стыдно за людей.
@exploitex
Всего две строки по 32 числа в каждой не давали покоя энтузиастам со всего мира сотни лет, а разгадка оказалась до смешного простой. Впервые шифр появился в трактате Уркхарта «Logopandecteision, or An Introduction to the Universal Language», в котором среди размышлений о несуществующем языке, были 32 пронумерованных пожелания автора. Догадываетесь?
Правило оказалось издевательски простым: шифр указывает, какое слово из какого пожелания надо взять — если число 8 в строке первое, то ищем восьмое слово в первом пожелании. 66 — второе, а значит — ищем шестьдесят шестое слово во втором пожелании.
У полученных 64 слов берём по первой букве и получаем предложение
О Боже, поддержи короля Карла II и сделай его верховным правителем этой земли.
Даже немного стыдно за людей.
@exploitex
😁23👍6👀1
Forwarded from Банкста
К 2030 году ИИ полностью убьёт профессии копирайтера, юриста, бухгалтера и эйчара, предупредил инвестор Владимир Виноградов. Компании всё активнее внедряют ИИ-сервисы и будут увольнять всех, кого можно заменить нейронкой. Востребованы будут лишь те, кто умеет настраивать и работать с нейросетями. У россиян осталось всего 3,5 года, чтобы переквалифицироваться и не остаться без денег, отметил эксперт. @banksta
😁7
🧬 Похоже, у генома обнаружили ещё один скрытый режим работы
Учёные выяснили, что клетки млекопитающих могут брать фрагменты РНК, полученные от совершенно разных генов — даже находящихся на разных хромосомах — и склеивать их вместе.
Получается новая химерная мРНК, по которой клетка способна собрать белок, содержащий части сразу двух разных генетических инструкций.
В иммунных клетках мышей исследователи нашли более 30 тысяч кандидатов на такие химерные РНК, а в человеческих макрофагах — более 900.
И как минимум одна такая химера действительно работает. У мышей белок, созданный комбинацией генов Gsdmd и Tmem106a, регулирует воспалительный ответ. Без него животные хуже боролись с Salmonella, зато значительно лучше переживали экспериментальный сепсис.
Самое странное: при воспалении участки разных хромосом физически сближаются внутри ядра, словно клетка специально подносит два нужных фрагмента инструкции друг к другу.
Важная оговорка: функциональную роль подробно доказали на мышах. У людей такие химерные РНК тоже обнаружены, но что делает большинство из них, пока неизвестно.
Мы расшифровали человеческий геном ещё в начале века и решили, что получили инструкцию.
Теперь выясняется, что некоторые страницы инструкции можно ещё и складывать друг с другом.
#генетика #биология #РНК #геном #иммунитет #наука
https://www.nature.com/articles/s41586-026-10982-x
Учёные выяснили, что клетки млекопитающих могут брать фрагменты РНК, полученные от совершенно разных генов — даже находящихся на разных хромосомах — и склеивать их вместе.
Получается новая химерная мРНК, по которой клетка способна собрать белок, содержащий части сразу двух разных генетических инструкций.
В иммунных клетках мышей исследователи нашли более 30 тысяч кандидатов на такие химерные РНК, а в человеческих макрофагах — более 900.
И как минимум одна такая химера действительно работает. У мышей белок, созданный комбинацией генов Gsdmd и Tmem106a, регулирует воспалительный ответ. Без него животные хуже боролись с Salmonella, зато значительно лучше переживали экспериментальный сепсис.
Самое странное: при воспалении участки разных хромосом физически сближаются внутри ядра, словно клетка специально подносит два нужных фрагмента инструкции друг к другу.
Важная оговорка: функциональную роль подробно доказали на мышах. У людей такие химерные РНК тоже обнаружены, но что делает большинство из них, пока неизвестно.
Мы расшифровали человеческий геном ещё в начале века и решили, что получили инструкцию.
Теперь выясняется, что некоторые страницы инструкции можно ещё и складывать друг с другом.
#генетика #биология #РНК #геном #иммунитет #наука
https://www.nature.com/articles/s41586-026-10982-x
Nature
Functional chimeric mRNAs encode proteins in mammalian immunity
Nature - Inflammation induces interchromosomal DNA interactions that bring parent genes into close proximity, facilitating the formation of chimeric mRNAs that encode physiologically relevant,...
👍8👀5