[Перевод] ИИ-дилемма: разгоняем рост — или закладываем выживание человечества? Разбираем статью экономиста Чарльза Джонса, где с этикой всё не так однозначно

Выкладываем полный перевод статьи The AI Dilemma: Growth versus Existential Risk — вышла в 2024-м, написал её Чарльз Джонс (Charles I. Jones). Вопрос там поставлен так, что просто не отмахнёшься: готовы ли мы обменять ускоренный экономический рост и (возможное) продление жизни — то, что сулит тотальное внедрение ИИ и рост самого ИИ до (предполагаемого) суперинтеллекта — на риск, при котором человечество как вид тупо исчезнет?

В статье разворачивают математическую модель: там есть параметры ускорения экономики, прибавки к продолжительности жизни и вероятности, что сверхсильный ИИ нас всех закопает. А неоднозначной с точки зрения этики статью делают вот чем: в ней утверждается, что некий уровень риска для человечества существует и его в теории можно посчитать, — и этот уровень «допускается принять» в обмен на ускоренный рост и подросшую среднюю продолжительность жизни.

Плюс к тексту и формулам идут комментарии — где-то чтобы формулы и самые мутные куски стали понятнее, а где-то с критикой: там, где допущения и выводы модели явно просят другого взгляда (см. финальный комментарий).

Читать далее

👉 Telegram | Max

Писать код стало дёшево. Дорого — придумать, нахрена

Лет тридцать-сорок весь IT-менеджмент молился на утилизацию дорогих человеко-часов: чем больше строк выдал разработчик, тем красивее в отчётах выглядела эффективность конторы. Потом приехал ИИ, обнулил цену написания кода — и внезапно выяснилось, что узкое место там и не стояло. Оно в идеях, которые вообще стоит тащить в прод.

С ИИ у бизнеса появилась возможность клепать MVP, фичи и рефакторинги не кварталами, а неделями. И тут же обнаружилось: львиная доля этих MVP — хрен кому нужна.

Отсюда и вопрос: «А точно ли горлышко было в разработке?» Логика простая: если MVP штампуются быстро, но спроса не находят, то косяк в самом MVP, а не в том, как быстро ты это клепаешь. Читать далее

👉 Telegram | Max

Китай в отпуске — DeepSeek дешевеет

Прикинуть, во сколько реально встаёт использование DeepSeek, с каждым разом всё мутнее. Токены у него не равнозначные, и цена на них гуляет будь здоров. Часы пик — платишь вдвое больше.

Поначалу пиковые окна висели ежедневно: 01:00–04:00 и 06:00–10:00 UTC. Кто хотел сэкономить, тот быстро освоил пересчёт UTC в MSK. Потом выходные целиком стали непиковыми — и «экономисты» зазубрили, когда по UTC наступает суббота и когда заканчивается воскресенье.

А сейчас к непиковым дням добавились китайские национальные праздники. Ну что ж, выучим и их — праздник середины осени уже на подходе. Читать далее

👉 Telegram | Max

Гига Писарь: что там за полторы недели после дебютной статьи

Автор говорит: с момента выхода первой статьи прошло чуть больше недели. На одобрение он вообще не рассчитывал, да и аккаунта на Хабре у него до того не водилось. Код он никогда не писал, хотя тянуло давно, а тут подъехали новые технологии — и теперь роботы сами строчат. Как он докатился до Писаря, пересказывать не станет: это было в первой статье. Здесь короткий итог: увидел, как GigaAM от Сбера разбирает русскую речь, ошалел и собрал диктовку для себя.

По цифрам: кроме той единственной статьи на Хабре, о Писаре он нигде не трепался, просмотры висят под первой статьёй, а установок набежало уже больше четырёх сотен. Плюс его приметили на Хабре и позвали вести блог — он согласился: напрягаться не надо, самому в кайф, а читателям, может, и правда любопытно глянуть, как не-программист пилит приложение, как оно расходится по людям, какие хотелки вылезают и обо какие грабли он спотыкается.

После статьи на него вывалились баги, он их чинил, версии полетели одна за другой — и тут же первая засада: поначалу он сделал по-простому, приложение сообщало, что вышла новая версия, и выкидывало человека на страницу GitHub со списком файлов и мутными названиями. Разработчику, даже зелёному, всё очевидно, а обычному человеку привычно ткнуть одну кнопку «Установить», а тут сиди и угадывай, какой файл тянуть.

Читать на Хабре

👉 Telegram | Max

Модель в курсе, что она не в курсе? Как психология 70-х прокачивает твой prompt engineering

На VC.ru разобрали, как Тарик Шихипар, инженер из Anthropic, работает с Claude: перед крупной задачей он раскидывает знание по четырём кучам — то, что мы знаем; то, о чём честно в курсе, что не знаем; то, что вбито настолько крепко, что вслух уже не проговариваем; и то, о чём вообще ни сном ни духом. Последняя категория — самая паскудная: попробуй задай нормальный вопрос про штуку, о которой ты даже не подозреваешь, что про неё стоило спросить.

У автора случилось дежавю — схема явно откуда-то из старой психологии. Копнул глубже и улетел в кроличью нору: из prompt engineering в работы 70-х про метакогницию, оттуда в исследования о том, способны ли языковые модели оценивать собственные знания, а затем обратно в Anthropic — уже к introspection и mechanistic interpretability.

Совет «сначала разберись, чего ты не знаешь» оказался только верхушкой: в работах Anthropic последних лет сквозит одна и та же тема — как нащупать границы знания системы и разглядеть то, чего мы о ней сами не знаем. Но стартовала вся история не с Claude.

Просветиться

👉 Telegram | Max

Код клепается в разы быстрее — а проекты как стояли. Куда утекло ускорение?

Александр Сахаров, директор по работе с партнерами «Диасофт», говорит: в его зоне ответственности не только заказчики, но и выпуск решений, которые у клиента реально поедут. Где-то с марта 2026 компания разворачивает разработку вокруг ИИ-агентов — решили не ограничиваться подсказками в IDE, а перекроить весь путь: от первого обращения заказчика до запуска живой системы.

Ради этого привычный порядок порезали на отдельные шаги и львиную долю отдали агентам. Из этого выросла цепочка, которую называют «конвейером». Об этом автор уже говорил в дискуссии на тг-канале «Департамент разработки», а в статье добивает деталями.

Читать далее

👉 Telegram | Max

Ещё пачка бесплатных LLM API: кто врёт, а кто реально отдаёт токены

Халявный доступ к LLM обычно красиво смотрится в описании — и сыпется на первом же запросе. Так что автор не стал верить на слово и прогнал всё живыми запросами. В подборке — шесть сервисов, включая Claude, Gemini, Qwen, MiniMax и не только. Разбирается по делу: что действительно работает, где потолок по лимитам и в каких местах лезут ошибки.

Читать далее: Где ещё дают LLM API бесплатно

👉 Telegram | Max

Методология нейрослопа

Нейронки прилипли к нам всерьёз и надолго. Снеси завтра OpenAI, Anthropic, Z.ai и всю остальную братию — личный Qwen 3.8 27B всё равно останется на месте. Так что вопрос не в том, выживут ли они, а в том, что с этим добром вообще делать. Как теперь писать софт? Можно скорчить мину и заявить, будто в разработке ничего не поменялось, — но это просто отказ видеть реальность. Можно упереться и работать без нейронок, только новое поколение уже подсело на эту иглу и слезать в ближайшее время явно не собирается.

Есть в вузах такой предмет, про который все давно забыли (а те, кто пришёл с ИТ-курсов, его вообще живьём не видели) — «методология разработки программного обеспечения». Хорошее ПО — это всегда про методологию: общие принципы архитектуры, дисциплина в работе, шанс передать наработки соседу, распилить задачу на нескольких человек, честно признать, готово или ещё нет. Без методологии разработка стремительно превращается в цирк без управляющего. Что мы прямо сейчас и наблюдаем.

Автор предлагает разобраться, куда методологию можно двигать в мире, где нейросети стали неотъемлемой частью разработки, и как в современную эпоху агентов писать рабочий код. Читать далее

👉 Telegram | Max

Как мы обучили детектор джейлбрейков для русскоязычных AI-агентов

Привет, Хабр! На связи R&D-команда Just AI. Мы копаем NLP и GenAI, чтобы продукты конторы не выпадали из статуса SOTA на рынке. В частности на нас висят guard-модели и бенчмарки для Jay Guard — про них и пойдёт речь.

За последние два года исследователи и хакеры придумали кучу способов вытащить данные через AI-ассистентов: где-то утащили данные тенантов Microsoft 365, где-то — содержимое приватных каналов Slack. И никакого эксплойта в привычном понимании не потребовалось. В ход пошло то, чем соц-инженеры полвека доят людей: втереться в доверие, прикинуться начальством, попросить об услуге по мелочи. Просто жертвой теперь оказалась не человек, а модель.

В Just AI пилят guardrails для LLM-приложений и агентов, основной продукт — Jay Guard. Это AI-Security-прослойка между приложением и моделью: через неё прогоняются проверки на атаки, контент и персональные данные. В статье разберём текстовые детекторы Jay Guard и данные, на которых они обучаются, почему готовые модели на русскоязычном трафике дали слишком много ложных блокировок, что изменилось после переработки данных и какие ограничения остались.

Обучить модель — это только начало. Дальше начинается основное: постоянно держать качество, когда атаки меняются, а трафик — реальный, живой. Читать далее

👉 Telegram | Max

🤣 «Смотря какой fabric, смотря какой details»

💥 xCode Journal

Что под капотом у рекомендаций Авито на главной

Они решают две задачи:

1️⃣ Показывают пользователю максимально релевантные товары.
2️⃣ Разбавляют выдачу объявлениями, которые могут быть интересны.

Качественные товары с адекватной ценой часто разбирают в первые часы. Поэтому важно, чтобы они быстро попадали на главную.

Недавно мы поменяли архитектуру рекомендаций — и ускорили их в 18 раз. После этого контакты продавцов с покупателями выросли на 1%, а расход памяти упал в три раза.

Но получилось всё это не с первого раза: пришлось пройти несколько итераций.

Подробности в статье ↖️

[Перевод] Jev за 25 строк на Python

Про Jev галдят все, кому не лень. Jev там, Jev сям. Твиттер ими скоро лопнет: мол, это следующий прорыв больших языковых моделей и чуть ли не новая парадигма ИИ.

Что-то нам в это не верится.

Читать далее

👉 Telegram | Max