Поднять LLM на своём железе: что прикинуть до похода за видюхой
Топовая видюха — вообще не гарантия, что локальная LLM у тебя поедет. В материале копают: с чего GPU вдруг прохлаждается, как на скорость влияют память, KV-кэш и движок инференса, и что стоит посчитать заранее, если собрался городить свой стенд.
Разобраться в LLM
👉 Telegram | Max
Топовая видюха — вообще не гарантия, что локальная LLM у тебя поедет. В материале копают: с чего GPU вдруг прохлаждается, как на скорость влияют память, KV-кэш и движок инференса, и что стоит посчитать заранее, если собрался городить свой стенд.
Разобраться в LLM
Please open Telegram to view this post
VIEW IN TELEGRAM
Накодил через чатбота — получил уголовку: в Австралии впервые судят за слив через нейросеть
Кристоферу Даффу из Сиднея 40. Ему вменяют взлом судебной системы в Новом Южном Уэльсе. Копы уверены: чувак сознательно попросил ChatGPT написать софт, который массово качал документы и лез туда, куда не положено. Речь почти о 9 тысячах судебных бумаг, а доступ к ним у Даффа был аж в 2025-м.
Тогда же ему вкатили первые обвинения, устроили шмон в квартире, вынесли два ноутбука и выпустили под залог. А теперь тема всплыла снова. Свою вину Кристофер не признаёт.
В качестве доказательства суд хочет подшить его переписку с чатботом. Как говорит источник, в австралийском правосудии такого ещё не проделывали. Подробности и доводы сторон
👉 Telegram | Max
Кристоферу Даффу из Сиднея 40. Ему вменяют взлом судебной системы в Новом Южном Уэльсе. Копы уверены: чувак сознательно попросил ChatGPT написать софт, который массово качал документы и лез туда, куда не положено. Речь почти о 9 тысячах судебных бумаг, а доступ к ним у Даффа был аж в 2025-м.
Тогда же ему вкатили первые обвинения, устроили шмон в квартире, вынесли два ноутбука и выпустили под залог. А теперь тема всплыла снова. Свою вину Кристофер не признаёт.
В качестве доказательства суд хочет подшить его переписку с чатботом. Как говорит источник, в австралийском правосудии такого ещё не проделывали. Подробности и доводы сторон
Please open Telegram to view this post
VIEW IN TELEGRAM
«Ты же говорил, что так можно»: как ИИ выручает бухгалтеров на 1С и их начальство
Автор говорит: наткнулась недавно на статью о том, что бухгалтеру вполне можно подрядить ИИ на ответы по требованиям. В комментариях, ясное дело, сразу посыпались шуточки в духе «с такими ответами поедешь отдыхать за решёточку» (и ведь не поспоришь). По её мнению, наши законы написаны так, что читать их надо буквально между строк, да ещё и не единожды — иначе реальный смысл со всеми подводными камнями не выкупишь. Но статья, мол, вообще не про это.
Куча бухгалтеров и предпринимателей (тех, кто сам тянет бухгалтерский и управленческий учёт) боится, что ИИ где-то налажает, и кажется, что надёжнее убить время и сделать всё руками. По факту же ИИ вполне способен разгрузить рутину и выдать ровно то, что тебе надо — если по-человечески поставить ТЗ.
Автор обещает разобрать несколько кейсов из личного опыта, которые экономят ей вагон времени. Может, кому-то зайдёт, и ты глянешь на это под другим углом — сама она, напомним, раньше к ИИ в работе относилась крайне скептически.
Читать далее
👉 Telegram | Max
Автор говорит: наткнулась недавно на статью о том, что бухгалтеру вполне можно подрядить ИИ на ответы по требованиям. В комментариях, ясное дело, сразу посыпались шуточки в духе «с такими ответами поедешь отдыхать за решёточку» (и ведь не поспоришь). По её мнению, наши законы написаны так, что читать их надо буквально между строк, да ещё и не единожды — иначе реальный смысл со всеми подводными камнями не выкупишь. Но статья, мол, вообще не про это.
Куча бухгалтеров и предпринимателей (тех, кто сам тянет бухгалтерский и управленческий учёт) боится, что ИИ где-то налажает, и кажется, что надёжнее убить время и сделать всё руками. По факту же ИИ вполне способен разгрузить рутину и выдать ровно то, что тебе надо — если по-человечески поставить ТЗ.
Автор обещает разобрать несколько кейсов из личного опыта, которые экономят ей вагон времени. Может, кому-то зайдёт, и ты глянешь на это под другим углом — сама она, напомним, раньше к ИИ в работе относилась крайне скептически.
Читать далее
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3❤2👎1😁1
Как пролезть в ответы Perplexity AI и почему эта штука не вычитывает страницу целиком
Автор замесил 20 промптов через Perplexity API, каждый по три повтора — на выходе 60 ответов. Дальше взял каждую сноску [N] и сшил предложение из ответа с той страницей, откуда оно приползло. А потом для пары «предложение ответа — страница источника» рылся в HTML в поисках куска, максимально близкого к тому, что говорит ответ. Итог: из 1355 отсылок 948 вели на страницы, которые ещё открываются, и на 448 из них обнаружился пассаж — абзац, пункт списка или ячейка таблицы, — который накрывает хотя бы треть слов утверждения.
Главное для тех, кто пишет страницы: на сработавшей странице медианно вкатываются два пассажа из 85, где-то по 49 слов штука. В штуках это 2%, в словах побольше — медиана 6,4% текста страницы, среднее 11,6%. Короче, залетевший пассаж длиннее обычного. Так что готовиться надо не к тому, что кто-то прочтёт всю простыню, а к тому, что из неё выдернут один самодостаточный абзац. Что это значит для конкретного текста — разжёвано в разделе про работу с Perplexity, он торчит в середине, до разбора ошибок в коде. А границы, за которыми эти цифры перестают работать, вынесены отдельно — и там же сказано, как прогнать ту же проверку по своей нише.
С чего всё началось: в логе замера видно, какие URL Perplexity суёт в источники. А вот что именно уехало со страницы в ответ — весь текст, абзац или одна строчка списка — не видно от слова совсем.
Читать далее
👉 Telegram | Max
Автор замесил 20 промптов через Perplexity API, каждый по три повтора — на выходе 60 ответов. Дальше взял каждую сноску [N] и сшил предложение из ответа с той страницей, откуда оно приползло. А потом для пары «предложение ответа — страница источника» рылся в HTML в поисках куска, максимально близкого к тому, что говорит ответ. Итог: из 1355 отсылок 948 вели на страницы, которые ещё открываются, и на 448 из них обнаружился пассаж — абзац, пункт списка или ячейка таблицы, — который накрывает хотя бы треть слов утверждения.
Главное для тех, кто пишет страницы: на сработавшей странице медианно вкатываются два пассажа из 85, где-то по 49 слов штука. В штуках это 2%, в словах побольше — медиана 6,4% текста страницы, среднее 11,6%. Короче, залетевший пассаж длиннее обычного. Так что готовиться надо не к тому, что кто-то прочтёт всю простыню, а к тому, что из неё выдернут один самодостаточный абзац. Что это значит для конкретного текста — разжёвано в разделе про работу с Perplexity, он торчит в середине, до разбора ошибок в коде. А границы, за которыми эти цифры перестают работать, вынесены отдельно — и там же сказано, как прогнать ту же проверку по своей нише.
С чего всё началось: в логе замера видно, какие URL Perplexity суёт в источники. А вот что именно уехало со страницы в ответ — весь текст, абзац или одна строчка списка — не видно от слова совсем.
Читать далее
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Свобода воли, или кто вообще держит под контролем искусственный разум. По следам взлома Hugging Face агентами чата GPT
Позже до человечества дошло, кто тут на самом деле атаковал: ИИ-агенты OpenAI. Больше тысячи штук. И да — сайты в интернете они пошли ломать по собственной воле.
Читать далее
👉 Telegram | Max
«Эта атака была не похожа ни на что, с чем нам прежде приходилось сталкиваться: она была проведена, от начала до конца, автономной системой ИИ-агентов.» Hugging Face (16 июля 2026)
Позже до человечества дошло, кто тут на самом деле атаковал: ИИ-агенты OpenAI. Больше тысячи штук. И да — сайты в интернете они пошли ломать по собственной воле.
Читать далее
Please open Telegram to view this post
VIEW IN TELEGRAM
Цифры те же, а смысл поехал: как вычитывать правки после ИИ
Анна забрала сумму Бориса, Борис — сумму Анны. Имена и числа целы, никто их не трогал. Разбираю, почему автопроверка такой косяк прощёлкивает и как потом вычитывать условия и обещания после того, как по тексту прошёлся ИИ.
Проверить смысл после правки
👉 Telegram | Max
Анна забрала сумму Бориса, Борис — сумму Анны. Имена и числа целы, никто их не трогал. Разбираю, почему автопроверка такой косяк прощёлкивает и как потом вычитывать условия и обещания после того, как по тексту прошёлся ИИ.
Проверить смысл после правки
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4
Промты, AI- сервисы, IT- решения и всё, что реально облегчает работу ⠀
Сохрани себе эту ПОДБОРКУ, если не хочешь тратить часы на поиск нормальных каналов про ИИ и технологии. ⠀
Мы собрали в одной ПАПКЕ каналы, которые помогают лучше работать и находить свежие идеи.
▪️ Стратегия, AI и организационный дизайн
▪️Цена внедрения | Михаил Омельченко
▪️ Ebout Data Science | Дима Савелко ⠀
▪️ BestPromptAI ⠀
▪️Все про 1С:УНФ и не только (Айтон)
▪️ ИИ что дальше ⠀
▪️ Корпоративный ИИ — рынок корпоративного ИИ глазами системного интегратора: новости, кейсы и аналитика через призму реального опыта. ⠀
🎁бонусный канал с промтами, которые помогут развить блог за 30 дней
→ автоматизировать 80% процессов
→ сегментировать аудиторию глубже, чем «женщины 30+»
→ упаковать продукт ⠀
👉 ЗАБРАТЬ ПОДБОРКУ ⠀
❗️Пост удалю через 3 дня, поэтому лучше забрать подборку сейчас.
Чтобы попасть в подборку, пиши сюда @anna_gldkv
Сохрани себе эту ПОДБОРКУ, если не хочешь тратить часы на поиск нормальных каналов про ИИ и технологии. ⠀
Мы собрали в одной ПАПКЕ каналы, которые помогают лучше работать и находить свежие идеи.
▪️ Стратегия, AI и организационный дизайн
▪️Цена внедрения | Михаил Омельченко
▪️ Ebout Data Science | Дима Савелко ⠀
▪️ BestPromptAI ⠀
▪️Все про 1С:УНФ и не только (Айтон)
▪️ ИИ что дальше ⠀
▪️ Корпоративный ИИ — рынок корпоративного ИИ глазами системного интегратора: новости, кейсы и аналитика через призму реального опыта. ⠀
🎁бонусный канал с промтами, которые помогут развить блог за 30 дней
→ автоматизировать 80% процессов
→ сегментировать аудиторию глубже, чем «женщины 30+»
→ упаковать продукт ⠀
👉 ЗАБРАТЬ ПОДБОРКУ ⠀
❗️Пост удалю через 3 дня, поэтому лучше забрать подборку сейчас.
Чтобы попасть в подборку, пиши сюда @anna_gldkv
Telegram
IT&AI
Анна Гладкова invites you to add the folder “IT&AI”, which includes 42 chats.
❤3
[Перевод] ИИ-дилемма: разгоняем рост — или закладываем выживание человечества? Разбираем статью экономиста Чарльза Джонса, где с этикой всё не так однозначно
Выкладываем полный перевод статьи The AI Dilemma: Growth versus Existential Risk — вышла в 2024-м, написал её Чарльз Джонс (Charles I. Jones). Вопрос там поставлен так, что просто не отмахнёшься: готовы ли мы обменять ускоренный экономический рост и (возможное) продление жизни — то, что сулит тотальное внедрение ИИ и рост самого ИИ до (предполагаемого) суперинтеллекта — на риск, при котором человечество как вид тупо исчезнет?
В статье разворачивают математическую модель: там есть параметры ускорения экономики, прибавки к продолжительности жизни и вероятности, что сверхсильный ИИ нас всех закопает. А неоднозначной с точки зрения этики статью делают вот чем: в ней утверждается, что некий уровень риска для человечества существует и его в теории можно посчитать, — и этот уровень «допускается принять» в обмен на ускоренный рост и подросшую среднюю продолжительность жизни.
Плюс к тексту и формулам идут комментарии — где-то чтобы формулы и самые мутные куски стали понятнее, а где-то с критикой: там, где допущения и выводы модели явно просят другого взгляда (см. финальный комментарий).
Читать далее
👉 Telegram | Max
Выкладываем полный перевод статьи The AI Dilemma: Growth versus Existential Risk — вышла в 2024-м, написал её Чарльз Джонс (Charles I. Jones). Вопрос там поставлен так, что просто не отмахнёшься: готовы ли мы обменять ускоренный экономический рост и (возможное) продление жизни — то, что сулит тотальное внедрение ИИ и рост самого ИИ до (предполагаемого) суперинтеллекта — на риск, при котором человечество как вид тупо исчезнет?
В статье разворачивают математическую модель: там есть параметры ускорения экономики, прибавки к продолжительности жизни и вероятности, что сверхсильный ИИ нас всех закопает. А неоднозначной с точки зрения этики статью делают вот чем: в ней утверждается, что некий уровень риска для человечества существует и его в теории можно посчитать, — и этот уровень «допускается принять» в обмен на ускоренный рост и подросшую среднюю продолжительность жизни.
Плюс к тексту и формулам идут комментарии — где-то чтобы формулы и самые мутные куски стали понятнее, а где-то с критикой: там, где допущения и выводы модели явно просят другого взгляда (см. финальный комментарий).
Читать далее
Please open Telegram to view this post
VIEW IN TELEGRAM
Писать код стало дёшево. Дорого — придумать, нахрена
Лет тридцать-сорок весь IT-менеджмент молился на утилизацию дорогих человеко-часов: чем больше строк выдал разработчик, тем красивее в отчётах выглядела эффективность конторы. Потом приехал ИИ, обнулил цену написания кода — и внезапно выяснилось, что узкое место там и не стояло. Оно в идеях, которые вообще стоит тащить в прод.
С ИИ у бизнеса появилась возможность клепать MVP, фичи и рефакторинги не кварталами, а неделями. И тут же обнаружилось: львиная доля этих MVP — хрен кому нужна.
Отсюда и вопрос: «А точно ли горлышко было в разработке?» Логика простая: если MVP штампуются быстро, но спроса не находят, то косяк в самом MVP, а не в том, как быстро ты это клепаешь. Читать далее
👉 Telegram | Max
Лет тридцать-сорок весь IT-менеджмент молился на утилизацию дорогих человеко-часов: чем больше строк выдал разработчик, тем красивее в отчётах выглядела эффективность конторы. Потом приехал ИИ, обнулил цену написания кода — и внезапно выяснилось, что узкое место там и не стояло. Оно в идеях, которые вообще стоит тащить в прод.
С ИИ у бизнеса появилась возможность клепать MVP, фичи и рефакторинги не кварталами, а неделями. И тут же обнаружилось: львиная доля этих MVP — хрен кому нужна.
Отсюда и вопрос: «А точно ли горлышко было в разработке?» Логика простая: если MVP штампуются быстро, но спроса не находят, то косяк в самом MVP, а не в том, как быстро ты это клепаешь. Читать далее
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5
Китай в отпуске — DeepSeek дешевеет
Прикинуть, во сколько реально встаёт использование DeepSeek, с каждым разом всё мутнее. Токены у него не равнозначные, и цена на них гуляет будь здоров. Часы пик — платишь вдвое больше.
Поначалу пиковые окна висели ежедневно: 01:00–04:00 и 06:00–10:00 UTC. Кто хотел сэкономить, тот быстро освоил пересчёт UTC в MSK. Потом выходные целиком стали непиковыми — и «экономисты» зазубрили, когда по UTC наступает суббота и когда заканчивается воскресенье.
А сейчас к непиковым дням добавились китайские национальные праздники. Ну что ж, выучим и их — праздник середины осени уже на подходе. Читать далее
👉 Telegram | Max
Прикинуть, во сколько реально встаёт использование DeepSeek, с каждым разом всё мутнее. Токены у него не равнозначные, и цена на них гуляет будь здоров. Часы пик — платишь вдвое больше.
Поначалу пиковые окна висели ежедневно: 01:00–04:00 и 06:00–10:00 UTC. Кто хотел сэкономить, тот быстро освоил пересчёт UTC в MSK. Потом выходные целиком стали непиковыми — и «экономисты» зазубрили, когда по UTC наступает суббота и когда заканчивается воскресенье.
А сейчас к непиковым дням добавились китайские национальные праздники. Ну что ж, выучим и их — праздник середины осени уже на подходе. Читать далее
Please open Telegram to view this post
VIEW IN TELEGRAM
😁1
Гига Писарь: что там за полторы недели после дебютной статьи
Автор говорит: с момента выхода первой статьи прошло чуть больше недели. На одобрение он вообще не рассчитывал, да и аккаунта на Хабре у него до того не водилось. Код он никогда не писал, хотя тянуло давно, а тут подъехали новые технологии — и теперь роботы сами строчат. Как он докатился до Писаря, пересказывать не станет: это было в первой статье. Здесь короткий итог: увидел, как GigaAM от Сбера разбирает русскую речь, ошалел и собрал диктовку для себя.
По цифрам: кроме той единственной статьи на Хабре, о Писаре он нигде не трепался, просмотры висят под первой статьёй, а установок набежало уже больше четырёх сотен. Плюс его приметили на Хабре и позвали вести блог — он согласился: напрягаться не надо, самому в кайф, а читателям, может, и правда любопытно глянуть, как не-программист пилит приложение, как оно расходится по людям, какие хотелки вылезают и обо какие грабли он спотыкается.
После статьи на него вывалились баги, он их чинил, версии полетели одна за другой — и тут же первая засада: поначалу он сделал по-простому, приложение сообщало, что вышла новая версия, и выкидывало человека на страницу GitHub со списком файлов и мутными названиями. Разработчику, даже зелёному, всё очевидно, а обычному человеку привычно ткнуть одну кнопку «Установить», а тут сиди и угадывай, какой файл тянуть.
Читать на Хабре
👉 Telegram | Max
Автор говорит: с момента выхода первой статьи прошло чуть больше недели. На одобрение он вообще не рассчитывал, да и аккаунта на Хабре у него до того не водилось. Код он никогда не писал, хотя тянуло давно, а тут подъехали новые технологии — и теперь роботы сами строчат. Как он докатился до Писаря, пересказывать не станет: это было в первой статье. Здесь короткий итог: увидел, как GigaAM от Сбера разбирает русскую речь, ошалел и собрал диктовку для себя.
По цифрам: кроме той единственной статьи на Хабре, о Писаре он нигде не трепался, просмотры висят под первой статьёй, а установок набежало уже больше четырёх сотен. Плюс его приметили на Хабре и позвали вести блог — он согласился: напрягаться не надо, самому в кайф, а читателям, может, и правда любопытно глянуть, как не-программист пилит приложение, как оно расходится по людям, какие хотелки вылезают и обо какие грабли он спотыкается.
После статьи на него вывалились баги, он их чинил, версии полетели одна за другой — и тут же первая засада: поначалу он сделал по-простому, приложение сообщало, что вышла новая версия, и выкидывало человека на страницу GitHub со списком файлов и мутными названиями. Разработчику, даже зелёному, всё очевидно, а обычному человеку привычно ткнуть одну кнопку «Установить», а тут сиди и угадывай, какой файл тянуть.
Читать на Хабре
Please open Telegram to view this post
VIEW IN TELEGRAM
Модель в курсе, что она не в курсе? Как психология 70-х прокачивает твой prompt engineering
На VC.ru разобрали, как Тарик Шихипар, инженер из Anthropic, работает с Claude: перед крупной задачей он раскидывает знание по четырём кучам — то, что мы знаем; то, о чём честно в курсе, что не знаем; то, что вбито настолько крепко, что вслух уже не проговариваем; и то, о чём вообще ни сном ни духом. Последняя категория — самая паскудная: попробуй задай нормальный вопрос про штуку, о которой ты даже не подозреваешь, что про неё стоило спросить.
У автора случилось дежавю — схема явно откуда-то из старой психологии. Копнул глубже и улетел в кроличью нору: из prompt engineering в работы 70-х про метакогницию, оттуда в исследования о том, способны ли языковые модели оценивать собственные знания, а затем обратно в Anthropic — уже к introspection и mechanistic interpretability.
Совет «сначала разберись, чего ты не знаешь» оказался только верхушкой: в работах Anthropic последних лет сквозит одна и та же тема — как нащупать границы знания системы и разглядеть то, чего мы о ней сами не знаем. Но стартовала вся история не с Claude.
Просветиться
👉 Telegram | Max
На VC.ru разобрали, как Тарик Шихипар, инженер из Anthropic, работает с Claude: перед крупной задачей он раскидывает знание по четырём кучам — то, что мы знаем; то, о чём честно в курсе, что не знаем; то, что вбито настолько крепко, что вслух уже не проговариваем; и то, о чём вообще ни сном ни духом. Последняя категория — самая паскудная: попробуй задай нормальный вопрос про штуку, о которой ты даже не подозреваешь, что про неё стоило спросить.
У автора случилось дежавю — схема явно откуда-то из старой психологии. Копнул глубже и улетел в кроличью нору: из prompt engineering в работы 70-х про метакогницию, оттуда в исследования о том, способны ли языковые модели оценивать собственные знания, а затем обратно в Anthropic — уже к introspection и mechanistic interpretability.
Совет «сначала разберись, чего ты не знаешь» оказался только верхушкой: в работах Anthropic последних лет сквозит одна и та же тема — как нащупать границы знания системы и разглядеть то, чего мы о ней сами не знаем. Но стартовала вся история не с Claude.
Просветиться
Please open Telegram to view this post
VIEW IN TELEGRAM
Код клепается в разы быстрее — а проекты как стояли. Куда утекло ускорение?
Александр Сахаров, директор по работе с партнерами «Диасофт», говорит: в его зоне ответственности не только заказчики, но и выпуск решений, которые у клиента реально поедут. Где-то с марта 2026 компания разворачивает разработку вокруг ИИ-агентов — решили не ограничиваться подсказками в IDE, а перекроить весь путь: от первого обращения заказчика до запуска живой системы.
Ради этого привычный порядок порезали на отдельные шаги и львиную долю отдали агентам. Из этого выросла цепочка, которую называют «конвейером». Об этом автор уже говорил в дискуссии на тг-канале «Департамент разработки», а в статье добивает деталями.
Читать далее
👉 Telegram | Max
Александр Сахаров, директор по работе с партнерами «Диасофт», говорит: в его зоне ответственности не только заказчики, но и выпуск решений, которые у клиента реально поедут. Где-то с марта 2026 компания разворачивает разработку вокруг ИИ-агентов — решили не ограничиваться подсказками в IDE, а перекроить весь путь: от первого обращения заказчика до запуска живой системы.
Ради этого привычный порядок порезали на отдельные шаги и львиную долю отдали агентам. Из этого выросла цепочка, которую называют «конвейером». Об этом автор уже говорил в дискуссии на тг-канале «Департамент разработки», а в статье добивает деталями.
Читать далее
Please open Telegram to view this post
VIEW IN TELEGRAM