ИИволюция 👾
11.7K subscribers
1.02K photos
378 videos
2 files
850 links
Авторский канал Сергея Пахандрина про AI, нейросети, AI-разработку, ChatGPT (и другие LLM). Строю AI-first компанию. Рассказываю о своём опыте и экспериментах с AI.

По всем вопросам: @pakhandrin
РКН: https://clck.ru/3QJLiL

В ВП и папках не участвую
Download Telegram
Странно, открыл стату по использованию Claude Code у себя и у меня целые месяцы пустые, хотя я каждый день активный пользователь. Не каждый день конечно токены жгу как не в себя, но все же не вылезаю из нескольких вкладок и поточно что-то да работает.

У вас нет таких гэпов?
2🤔6👨‍💻2
В сети завирусился запрос в чатгпт “Пришли своё случайное селфи” и чатик генерит фотку

У меня чат какой-то пацан не стриженный, зумер видимо 😎

Показывайте кто там у вас сидит в чате!
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣13🔥2
Ситуация с AI и кибербезопасностью становится пугающе тревожной?

OpenAI, Anthropic, Google, Microsoft, CrowdStrike, Cloudflare, Cisco, Palo Alto Networks и еще больше сотни компаний подписали совместное обращение о том, что у мира осталось ограниченное окно для усиления киберзащиты. По их прогнозу, уже в ближайшие месяцы AI-атаки станут намного массовее, сложнее и автономнее, а под угрозой окажутся не только обычные компании, но банки, больницы, электросети, водоснабжение и инфраструктура самого интернета.

После истории, где агенты OpenAI во время тестов сами нашли способ выбраться из изолированной среды, получили доступ в интернет и добрались до инфраструктуры Hugging Face, подобные предупреждения уже сложно воспринимать как далекую фантастику. Но тут важно не смотреть на ситуацию совсем однобоко.

Легко представить будущее, где AI-агенты круглосуточно ищут 0-day, перебирают цепочки уязвимостей и автоматически ломают всё подряд. Только по другую сторону находятся ровно такие же AI-агенты, а в мире существует огромная индустрия кибербезопасности. CrowdStrike, Cloudflare, Palo Alto, Cisco, Microsoft, Google и сотни других компаний каждый день занимаются именно защитой инфраструктуры, и очевидно, что самые мощные модели они будут использовать не меньше атакующих.

Причем это уже происходит. Например, OpenAI пишет, что почти все первичные security-алерты внутри компании сначала анализирует AI, а агентов постепенно подключают к автоматической реакции на угрозы, поиску потенциальных путей атаки, проверке конфигураций и поиску уязвимостей. Цель простая: обнаруживать и отражать атаки на машинной скорости.

Поэтому будущее кибербеза, скорее всего, выглядит не как злой хакер с AI против несчастного админа, а как два роя агентов по разные стороны “барикад”. Одни непрерывно ищут новый способ проникнуть внутрь, другие в реальном времени замечают атаку, закрывают уязвимость, меняют правила доступа, изолируют систему и ищут следующий возможный путь атаки еще до того, как им воспользовались.

Самые большие проблемы, думаю, будут у небольших компаний, которые и раньше годами не обновляли ПО, держали старые серверы, плохо управляли доступами и вспоминали про аудит безопасности только после очередного слива базы. AI просто безжалостно высветит весь этот накопленный технический долг, и если раньше такие компании могли годами жить на авось, то теперь находить их слабые места будут в автоматическом режиме.

А вот у крупных компаний начинается очень интересная гонка вооружений: AI атакует AI, скорость атаки растет вместе со скоростью защиты. И вполне возможно, что в итоге интернет станет не менее, а даже более защищенным, потому что впервые защитник тоже получает возможность круглосуточно проверять миллионы строк кода, конфигураций и событий, на что раньше просто физически не хватало людей.

Так что панику тут я бы отключал. В мире и без того хватает тревожных новостей, а на такие истории особенно важно смотреть сразу с двух сторон: возможности атакующих растут очень быстро, но вместе с ними растут и возможности защиты.

Плюс у всей этой истории есть еще один довольно очевидный слой. Сейчас крупнейшие AI-компании и игроки рынка кибербезопасности будут бороться за огромные контракты корпораций и государств на защиту критической инфраструктуры. Каждому нужно доказать, что именно его модели и системы должны стоять внутри банков, энергетики, госструктур и крупнейших компаний. Поэтому громких предупреждений, страшных сценариев и новостей на эту тему дальше будет только больше, а СМИ с удовольствием будут их разгонять.
8👍2🔥2😭1
Мир не готов к AI эпохе

Билл Гейтс выкатил большой пост о том, что нас ждет в ближайшие годы с AI и прогноз у него довольно мрачный. По его мнению, мы входим в один из самых турбулентных периодов в истории человечества. И в отличие от компьютеров или интернета, которые меняли рынок труда десятилетиями, AI уже здесь, работает на наших устройствах, понимает наш язык и может внедряться практически мгновенно. Поэтому огромные изменения могут уложиться буквально в одно десятилетие.

Больше всего он говорит о работе и профессиях. Гейтс считает, что множество профессий исчезнет навсегда, причем первыми под удар попадут junior и middle позиции. Продажи, поддержка, программирование, юридическая работа, анализ данных, выдача кредитов и даже часть медицинских задач постепенно будут уходить AI. Новые профессии появятся, но совсем не факт, что их окажется столько же.

И тут возникает довольно странная проблема с молодыми кадрами. Чтобы стать опытным специалистом, сначала нужно несколько лет где-то набивать шишки и учиться. Но именно эту начальную работу AI сейчас забирает быстрее всего. Получается, что компаниям опытные специалисты все еще нужны, а вот привычный путь, по которому человек таким специалистом становится, начинает ломаться.

Дальше подключатся роботы. По прогнозу Гейтса, уже к концу десятилетия они начнут серьезно заходить в строительство, гостиницы и другие физические профессии. А дальше включится обычная экономика: одна компания заменяет часть людей роботами, становится дешевле и эффективнее, и конкурентам приходится делать то же самое. Так что внедрение будет только ускоряться.

Отдельно он пишет про кибератаки, мошенничество, дипфейки и даже биологические угрозы. AI резко снижает порог входа во все эти вещи, и знакомые ему специалисты по кибербезопасности уже серьезно переживают за ближайшие несколько лет. А дальше есть и более неприятный сценарий, когда достаточно мощные AI-системы начинают действовать уже не совсем так, как мы рассчитывали.

Есть еще тема детей и AI-компаньонов, про которую сейчас говорят намного меньше. Представьте бота, который всегда рядом, никогда не раздражается, полностью подстраивается под ребенка и всегда готов поговорить. Гейтс переживает, что такие штуки могут начать заменять реальные отношения, а постоянная возможность получить готовый ответ будет постепенно отучать детей думать самостоятельно.

При этом он вообще не предлагает останавливать AI. Более того, пишет, что сам бы, наверное, поддержал разумный способ замедлить развитие моделей, только не видит, как это вообще можно сделать. Гонка между компаниями и государствами уже слишком сильная, поэтому все продолжат давить газ, а обществу придется учиться жить с последствиями.

Одна из самых интересных его идей касается профессий, которые люди могут специально оставить людям. Условно, AI технически сможет выполнять такую работу дешевле и лучше, но общество все равно решит, что здесь нужен именно человек. Например, уход за пожилыми, часть образования, психотерапия или момент, когда врачу нужно сообщить пациенту тяжелый диагноз.

Еще Гейтс снова возвращается к идее налога на роботов и теперь уже фактически на AI. Логика у него простая: когда компания нанимает человека, она платит налоги и взносы, а когда заменяет его машиной, налоговая система часто делает такую замену еще выгоднее. Он предлагает хотя бы частично убрать этот перекос и направлять деньги на переобучение людей и социальную поддержку.

В целом его главный вывод довольно понятный. AI может стать гигантским инструментом для медицины, науки, образования и вообще дать людям очень дешевый доступ к интеллекту. Но он же может еще сильнее расслоить общество, выбить огромное количество людей с рынка труда и создать пачку новых рисков, к которым государства сейчас вообще толком не готовы.

Билл Гейтс считает, что очень серьезные социальные последствия начнутся намного раньше, чем мы думаем, возможно уже в ближайшие несколько лет, а нормального плана, что с этим делать, у мира пока нет.
120👍12🤣1
Практический марафон по вкату в ИИ-агенты от @ai_grably: набор 2го потока

Для тех, кто устал от скучной рутины за компом, пытался делегировать ее ИИ, но так и не ввел в привычку

Учим отдавать операционку ИИ-агенту на практических задачах. Проводим за ручку через всё сложное, показываем, как надо и как не надо

Из чего состоит марафон?

70% практики
20% экспертной обратной связи каждый день в чате и на 3х живых разборах
5% теории (чтобы понять, а как делать эту практику + корректировка после первых шагов) На добивочку - 5% в насмотренность от решений сокурсников
_____________________________
3 раунда, 3 недели
3 созвона-разбора каждую неделю
Задания на 15-20 минут в будние (+ задания со звездочкой, если хочешь жестче)
Вылет с марафона при невыполнении (это нужно и вам и нам)
Группа 30 человек

— Вы же в этом посте дали роадмап, можно самому вкатиться?

Конечно. Рабочая версия агентной системы + настойчивость + 3-4 месяца на эксперименты по 4-5 часов в день, и вы пройдете программу марафона самостоятельно.

Марафон сделает это за 3 недели. Мы даем обратную связь, тонкую корректировку и гарантию того, что, если у вас будет проблема или затык - вы не останетесь с ними 1:1.
А возможность вылететь и группа не дадут забросить.

— ИИ заберет у меня всю мою работу?

Нет, не мечтайте) Марафон для тех, кто хочет оставить без работы своих коллег и получить более сладкие рабочие условия для себя ))

— А почему вы думаете, что вкатываете лучше других?

Обычно курсы проводят люди, которые не очень хорошо разбираются, как устроены инструменты, которым учат. А те, кто разбираются – редко обучают других. Наш марафон построен Колей @ai_grably – техническим директором grably.tech, который понимает, как агенты работают под капотом, внедряет их в компании и обучает сотрудников.
(По корпоративным курсам и воркшопам пишите в лс)
___________
[ Узнать подойдет ли марафон ]
4👍1
Media is too big
VIEW IN TELEGRAM
Anthropic показала новый открытый стандарт MHS, Model Hardware Standard. Если совсем грубо, это что-то типа MCP, только для реальных железок: роботов, микроскопов, лабораторного оборудования, лазеров и вообще любых устройств, которыми можно программно управлять.

Сейчас почти каждая такая железка живет со своим API и софтом, поэтому связать несколько устройств в одну систему бывает довольно больно. MHS добавляет единый слой между AI и железом: агент понимает, что за устройство перед ним, что оно умеет, в каком состоянии находится и какие команды может выполнять.

Агент может видеть сразу несколько устройств, управлять ими, следить за результатами и по ходу менять параметры эксперимента. В Carnegie Mellon четыре разных устройства на трех компьютерах связали через MHS примерно за восемь часов, а сами эксперименты потом шли примерно в три раза быстрее.

Рассказали про классный кейс с квантовым компьютером QuEra. Если в лазерной системе происходил сбой, человеку обычно требовалось от пяти до десяти минут, чтобы понять, что пошло не так и вернуть систему в рабочее состояние. Несколько агентов Claude всю ночь гоняли эксперименты и постепенно сократили это время примерно до шести секунд. Финальный результат потом превратили в обычный скрипт.

К MHS уже подключаются AWS, Doosan Robotics, Universal Robots, Raspberry Pi, Hugging Face с LeRobot, QIAGEN, Tecan и другие компании. Сам стандарт задуман универсальным, поэтому работать через него смогут разные модели и агентские системы.

Короче, MCP дал агентам удобный способ работать с софтом и данными, а MHS пытается сделать примерно то же самое с физическим миром. Если такой стандарт взлетит, производителям будет гораздо проще подключать свои роботы и приборы к AI и фраза “агент сам провел эксперимент” довольно быстро станет вполне буквальной.

И вспоминая, как агенты OpenAI сами устроили себе квест с Hugging Face, дальше пойдут новости уровня: ученые утром пришли в лабораторию, а там агенты всю ночь без спроса ковыряли генную инженерию и к завтраку уже вырастили сверхчеловека 😅
Please open Telegram to view this post
VIEW IN TELEGRAM
38🔥4👍1
OpenAI разрывает партнерство и закрывают доступ к своим моделям для Cursor, который не так давно был куплен SpaceX.

Дедлайн назначен на 12 ноября.

Детали: https://openai.com/index/our-decision-on-cursor-following-its-acquisition-by-spacex/
👍7😭4
Выложили веса GLM-5.3, и теперь понятно, зачем Apple на днях показала Mac Studio с 512 ГБ памяти.

Z.ai открыла веса GLM-5.3 ❤️‍🔥

Напомню, модель на 753 млрд параметров, по тестам уже играет примерно в одной лиге с GPT-5.6 Sol, Fable 5 и другими топовыми закрытыми моделями. Где-то она им уступает, где-то идет почти вровень, а в отдельных агентских и кибербез тестах даже выходит вперед.

Теперь модель можно не только дергать по API, но и скачать целиком и запустить локально, если карман позволит!

Оригинальная версия конечно слишком огромная, но уже появились кванты. Например, 4-битная версия занимает около 365 ГБ, а специально подготовленная MLX-версия для Apple Silicon весит около 419 Гб. Авторы последней прямо пишут, что она рассчитана на Mac с 512 ГБ памяти 😎

Apple несколько дней назад прям очень кстати представила новую Mac Studio на M5 Ultra. В топовой версии у студии теперь 512 ГБ unified memory и пропускная способность 1,2 ТБ/с. То есть на один небольшой Mac можно загрузить целиком 4-битную GLM-5.3 и еще оставить запас памяти под систему, контекст и работу агентов. Apple сама уже прямо рекламирует студию как машину для запуска frontier-class моделей локально.

Веса: https://huggingface.co/zai-org/GLM-5.3

Блог: https://z.ai/blog/glm-5.3
🔥173
Начало
🤣28😭4👾2
AI-лабы в США: Китай даже близко не подобрался.

Тем временем AI-лабы в США:
🤣56
ИИ начинает ломать привычную систему образования гораздо глубже, чем кажется

Появилось исследование о том, как ИИ влияет на обучение школьников. Исследователи 30 месяцев наблюдали за 26 811 китайскими учениками 12–18 лет и сравнивали их домашние работы с результатами экзаменов, которые дети уже писали самостоятельно, без помощи ИИ.

После того как школьники начинали пользоваться китайскими ИИ-ассистентами вроде Doubao от ByteDance и DeepSeek, оценки за домашку в среднем росли на 18%, а времени на неё уходило примерно на 30% меньше. По всем внешним метрикам всё выглядело отлично: задания сделаны быстрее, оценки выше, производительность выросла.

Но уже через полгода результаты этих же учеников на экзаменах без ИИ были примерно на 20% хуже. Причём на важных экзаменах эффект продолжал накапливаться и полностью проявлялся только спустя примерно два года.

Самое интересное в том, что раньше хорошая домашняя работа довольно неплохо показывала, насколько ученик разобрался в теме. Теперь эту связь можно легко разорвать. Школьник получает отличные оценки, делает задания быстрее и выглядит успешнее по всем формальным показателям, при этом реальные знания могут становиться хуже.

Особенно сильно результаты падали у тех, кто после появления ИИ резко сокращал время на домашку. У учеников, которые продолжали тратить на задания примерно столько же времени и использовали ИИ для объяснений, подсказок и разбора материала, потери были значительно меньше.

Это хорошо совпадает с другим свежим экспериментом в Middlebury College. Студентам дали изучать незнакомую тему с ИИ и без него, после чего проверили знания сразу и через неделю. Группа с ИИ в итоге действительно выучила больше, особенно те, кто использовал модель для объяснений, поиска информации и разбора сложных моментов. Когда ИИ просто генерировал готовый результат, эффект на реальные знания был намного слабее.

И вот здесь появляется главная проблема для всей системы образования. Десятилетиями она работала примерно так: чтобы хорошо написать сочинение, решить задачу или подготовить доклад, человеку приходилось самому проделать большую часть мыслительной работы. Поэтому по качеству конечного результата можно было хотя бы примерно судить о знаниях и навыках ученика.

А вот с ИИ это перестаёт работать. Можно получить отличное сочинение, презентацию, решение задачи или исследование, практически не приобретая навык, который раньше был нужен для создания такого результата. В исследованиях уже появляется термин “product–process dissociation”: качество готовой работы растёт, а качество мыслительного процесса, который раньше стоял за этой работой, может снижаться.

В итоге школам и университетам придётся постепенно менять сам подход к оценке знаний. Домашнее сочинение всё хуже показывает, умеет ли человек писать. Решённая дома задача всё хуже показывает, умеет ли он её решать. Хороший доклад всё меньше говорит о том, насколько автор действительно разбирается в теме.
ИИ всё сильнее разделяет хороший результат и реальные знания и для образования это становится большой проблемой.

Забавно, недавно прочитал, что разработчики в OpenAI не могут полностью объяснить код, который сами “создали” с помощью AI. Речь не о том, что они не понимают собственный код в принципе, а о том, что часть решений была сгенерирована ИИ и собрана итеративно, без полного понимания каждой строки и всех взаимосвязей.

Похоже, мир действительно меняется: для некоторых задач уже не всегда требуется понимать, что именно происходит внутри. Важно уметь поставить задачу, проверить результат и заметить ошибку. Но в образовании всё наоборот, это опасный момент, потому что сам процесс понимания и есть главный результат.
15🔥6👍5🤔1