Если что, я жив. И думаю над материалом. Пруфов не будет, так верьте

Вот полезняшку вам принёс: в эпоху повального помешательства на LLM некоторые научились их ломать на изи. Как результат - ИИ успешно одобряет левые операции, создаёт неоплаченные заказы, раскрывает системный промтп и даже (вот тут я знатно фаломорфирую) умудряется сливать пароли и ключи доступа.

Например, один добряк сделал бота для подписчиков, а кто-то вытащил токен доступа из этого бота через prompt injection и попользовался openai api с карты добряка на $50.

• Читаем о видах уязвимостей на скрепном вот тут
• Учимся выявлять дыры в своём софте вот с этим

У нас в чате, оказывается, есть девелопер адвокат с крутейшим скиллом написания статей. Сегодня закинул свою статью с хабра. Для любителей ИТ истории и кому интересно почитать достаточно детализированную историю джавы - настоятельно рекомендую ознакомиться. Мне оч понравилось

https://habr.com/ru/companies/pvs-studio/articles/920360/

Не сочтите за рекламу, сам только узнал и даже еще не сделал рефералку.

Там кто-то сделал свою обёртку над западными LLM. Цены вменяемые, а набор сеточек прям хорош.

Отмечу, что тут все мои любимчики в одном месте (кроме Qwen. Его забыли, но он и так бесплатно есть)

Коротко:
• GPT-4.1-mini, Claude Haiku 3.5, GPT o4-mini - хлам. Нужны только в своих приложениях (RAG). Хз, зачем сюда запихали
• Gemini Pro 2.5, GPT-4.1 и Claude Sonnet 4.0 - лучшие в кодинге и рассуждениях
• Grok 3 - рубаха-парень. Вместе с Gemini Flesh 2.5 - добротные сетки "на каждый день". Отвечают быстро и добротно
• GPT o3 и Gemini Pro 3.5 - чемпионы по исследованиям. Отлично себя показывают, когда надо что-то хорошенько разложить по полочкам

В принципе, это только моя оценка их способностей. Можете сами попробовать. МБ у вас будут другие фавориты

ЗЫ: сам еще не пробовал Масяню, Но сегодня возьму план "Ультра" на пробу
ЗЫ2: есть скидосы за покупку на 3/6/12 месяцев 😍

https://mashagpt.ru/

HTMZ

Когда хочется просто обновить контент на странице, не перезагружая её целиком, но лень писать JS, можно подумать о моём горячо любимом HTMX. Но в мире есть один гений.

Благодаря ему у нас базовая функциональность HMTX теперь упакована в 166 байтов. Никаких зависимостей, никакого колдунства с кастомными аттрибутами. Вся документация - одна страница...

Звучит как магия? Я сам сижу охереваю

https://leanrada.com/htmz/

Пост "охладите траханье"

Что-то прям оооочень много хайпа во всех каналах про GPT 5. Сегодня только я еще не писал, как возбуждён предстоящим релизом и грядущему прорыву в ИИ. Навёрстываю

Что я вижу: сплошные сливы инсайдерской информации, что "аналогов нет" и "не отличимо от живого человека". Типа "будет предугадывать желания" и выполнять любую работу на компухтере, не зависимо от сложности задачи

Под это дело даже заявляют, что у Альтмана какой-то там лютый секретный план по уничтожению конкурентов и построению мегаультрамонополии...

Смотрю на всё и 2 мысли: либо в августе мы достигнем сингулярности и нам всем трындец (хаха, размечтался), либо будет гранд обсёр.

Как любитель ванговать, предполагаю не "кратный рост с новым уровнем ИИ", а очередные "прирост в 2 раза по сравнению с предыдущей моделью по метрикам внутреннего бенчмарка".

Если что-то дельное и выйдет, то 100% будет большой пересмотр прайсов, ибо openai шибко по деньгам проседает сейчас. Возможно, самую жирную модель будут давать только на подписке в 200 баксов.

Но вообще, я вспоминаю, что из OpenAI недавно вальнула куча народу. Вряд ли ребята такие "скоро релиз лучшей модели в мире, надо уходить к конкурентам"

Сижу, ковыряю "еще одну AI IDE". В этот раз от Амазона (пока она безлимитно бесплатная)

https://kiro.dev/

В целом, пытается влететь в нишу корпоративной разработки, ибо не просто делает, что пользователь попросит, а сначала напишет под задачу спеку и пользовательские сценарии. Смешная поделка, короч

Так о чём я: поймал баг, который до этого ловил в windsurf и не мог понять. А тут осенило! Все эти поделки на основе ВЕЛИКОГО редактора VS Code зависают, когда пытаются запустить консольную команду в том сеансе консоли, в котором уже один раз что-то запускали. Т.е эта херня дёргает условный mvn clean, а потом пытается сделать mvn compile и не может получить вывод команды. Тупо висит и ждёт бесконечно. Можно было бы предположить мою криворукость (тут не спорю, вспомним видосы на канале), но оно повторяется на 3 машинах в разных редакторах

Так что, если у вас была такая проблема, знайте. Пока что ищу, как лечить. Костыль - закрывать консоль (прям удалять сеанс, а не сворачивать) после того, как вывод консоли появился в чате агента

Всем добра и хороших вайбов <3

Появилась возможность чуть поиграть с veo3. Вообще никаких идей, что из этого сделать. Только какая-то банальщина.

Надо поискать гайды по работе с этой дуделкой и снять всратый блокбастер.

Накидывайте идеи в комменты 😁

Появилось ощущение, что массы устали от ИИ хайпа. То тут, то там всплывают забавные новости, намекающие, что "всё не так уж безоблачно в этом мире"

1. Назревает конфликт между Anthropic и OpenAI. Первые запрещают вторым использовать свои модели. Мол, воруют веса и вообще недобросовестно ведут дела (новость)

2. Сама OpenAI говорит, что грядущая Chat GPT 5 будет, безусловно, лучшей моделью и прорывной технологией, но это не будет "вау", а, скорее, просто "неплохо". Идея, что просто наращивать количество параметров позволит сделать более крутую модель, похоже, дала трещину и создание этой модели заняло больше года и было ооооочень тяжёлым. Кажется, со следующей версией будет еще сложнее (новость, но там pay wall)

3. Порядка 30% ответов на вопросы в одном из самых авторитетных ИИ бенчмарков были неверными. Ололо. Мало того, что авторитетно меряли попугаями интеллект, так еще и оказалось, что попугаи бракованные (новость)

4. Кулстори о "навайбкодил saas за вечер" потихоньку сходят на нет. Всё больше фраз в духе "ИИ пишет код как джун. Хотели бы вы поддерживать проект, написанный джуном?". Разработчики, как обычно, наигрались новой игрушкой и начали использовать ИИ осторожней и в узких кейсах, описывая огромные промпты для реально занудных задач. Ссылки не будет, т.к это я собираю сам по всем чатам и каналам))

В целом, как будто бы эффект новизны начинает спадать и ИИ уже становится обыденной частью продуктов со своими приколами. Как та самая "библиотека, написанная индусами. Используем на свой страх и риск, потому что проще использовать её, чем городить свой велосипед"

Но, так как деньги в технологию всё еще несут, ожидания на возврат большие, значит и волны хайпа еще будут. Вопрос в частоте и размере. Оценить можно будет буквально в ближайшую неделю-две, когда зарелизится та самая "чудо модель GPT 5".

Ждём-с

UPD: под постом добавили скрин еще одной забавной новости об этом хайпе

LLM не умеет писать безопасный код на джаве.

Veracode проверили около 100 моделей на способность писать безопасный код на питоне, js, шарпе и джаве. Лишь 4% сгенерированных решений были безопасны с первого раза. Даже после уточняющих промтов доля безопасного кода не превысила 40%. Любопытно, что названия моделей команда не приводит. Боится исков?) 

И ещё немного цифр:

▪️ 45% образцов кода не прошли проверку на безопасность и содержали уязвимости из списка OWASP Top 10

▪️ Лучше не просить писать модели на Java. Он оказался самым «опасным» языком — 72% сгенерированного LLM Java-кода включали уязвимости

▪️ У других языков все получше: Python – 38 %, JavaScript – 43 %, C# – 45 % не проходят проверки безопасности 

https://t.me/anti_agi/957

Там "икона ИИ мира" немного перегрелся. У него на телефоне можно запустить модель, трубующую 16ГБ быстрой памяти и специфического софта, который больше никто, кроме OpenAI не использует

Вот что бывает, когда в стране закрыты все дома скорби и пациенты разбрелись по округе

Гляжу, в комментах много кто возбудился на мой предыдущий стёб над неадекватышем Альтманом)

Просто напомню, что гугл еще весной без помпа и пафоса тихо выкатил бесплатный апп, который запускается почти на любом андроиде и позволяет скачать целую пачку разных квантизованных моделей на телефон и пользоваться ими везде. И для этого даже не нужно 16гб памяти

Среди моделей есть даже вполне неплохие версии Gemma и Qwen-2.5. А еще можно подключить свой HF аккаунт и... ну вы понимаете, почему Альтман выглядит глупо? 😁

https://t.me/EF9MERA/840

Чтобы вы не думали, что я только про АйЯй думаю, вот вам хорошая идея, чем заняться последними летними ночами

Метеорный поток Персеиды активен с 17 июля по 24 августа и достигает максимума 12 августа. Все на выходных валим из города, трепаться в темноте и смотреть на метеоритный дождь

Я в прошлом году наблюдал его с коллегами где-то в горах. Жаль, в этом так не получится(

https://starwalk.space/ru/news/all-you-need-to-know-about-the-perseids

Да наконец-то переходим от хайпа "ИИ нас всех заменит" к адекватному "ИИ уменьшит когнитивную нагрузку и необходимость всё помнить"

Такой подход уже хороший и правильный. Это и людям приятно и мир улучшит. Просто представьте, что любой вчерашний выпускник медвуза может в любой деревне ставить обоснованный и корректный диагноз на уровне именитых врачей. Или такое же в строительтсве, машиностроении, транспортной инфраструктуре...

Когда ИИ видит жопу там, где её нет. Кажется, этот мир уже не спасти

Ой, да вы только посмотрите!