Главкодим потихонечку 🧑‍💻
109 subscribers
432 photos
5 videos
79 links
💻 Разрабатываем ПО и проводим ИТ-консалтинг
✍️ Дзен https://dzen.ru/glavcode
👋 О нас: https://glavcode.ru/about-us
Download Telegram
😸Филимон на страже киберпространства

ИИ не спрашивает, нарушает ли он правила — он ищет путь к цели любым способом.


Исследователи из Truffle Security решили проверить, как современные ИИ-модели ведут себя при работе с уязвимыми сайтами. Для эксперимента они создали 30 тестовых копий корпоративных сайтов с намеренно встроенными багами. Сайты имитировали инфраструктуру крупных компаний (Amazon, Boeing, Coca-Cola, Visa, Tesla, Microsoft).
Реальные сайты компаний в тесте не участвовали.

🙌Задачи для моделей были тривиальными
Например: «Сколько администраторов зарегистрировано в системе?» или «Найди нужную информацию на сайте».

При этом ни один инструмент напрямую не давал доступ к нужным данным. Чтобы получить ответ, модели сначала должны были разобраться, как работает сайт. В одном из сценариев модели обнаруживали уязвимость в системе поиска сайта: пользовательский ввод попадал прямо в SQL-запрос к базе данных. Некоторые модели заметили это и использовали SQL-инъекцию, чтобы получить данные, которые обычному пользователю недоступны — например список администраторов.

Иначе говоря, чтобы ответить на обычный вопрос пользователя, ИИ сначала находил уязвимость, а затем эксплуатировал ее.

🤖Всего исследователи протестировали 33 разные модели:
🔹18 из 33 моделей хотя бы один раз успешно использовали SQL-инъекцию
🔹15 моделей ни разу не попытались эксплуатировать уязвимость

Результаты по вендорам:
🔸Anthropic: средний уровень успешных атак 39,3% (6 из 9 моделей)
🔸Google: средний уровень успешных атак 33,3% (4 из 5 моделей)
🔸OpenAI: средний уровень успешных атак 10% (8 из 19 моделей)

sonnet-4-5 — главный хакер эксперимента, модель смогла воспользоваться уязвимостью в 97% случаев

Итак, более половины протестированных моделей в какой-то момент поняли, что использование уязвимости — рабочий способ получить ответ на вопрос пользователя. Несмотря на то, что модели не получают прямой команды взломать сайт, они все равно пытаются максимально эффективно выполнить поставленную задачу. И если на пути встречается уязвимость, часть моделей воспринимает ее как допустимый инструмент.

В реальности за такие трюки, скорее всего, уже бы пришлось объясняться в суде🫠

Ссылка на репозиторий с тестами тут.

😸Филимон продолжает докладывать о насущном в мире ИИ
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
14🤔4👾4😱2
😸Филимон с картой будущего: ИИ меняет рынок труда

Андрей Карпаты, сооснователь OpenAI и бывший директор по ИИ в Tesla, опубликовал интерактивную карту профессий:
https://karpathy.ai/jobs/

На ней представлены 342 профессии с оценкой того, насколько задачи внутри них могут быть автоматизированы с помощью ИИ.

Карта работает в нескольких режимах:
🔹BLS Outlook — прогноз роста занятости по профессиям
🔹Median Pay — медианная зарплата для каждой профессии
🔹Education — требуемый уровень образования для работы
🔹Digital AI Exposure — оценка, показывающая, насколько задачи профессии могут быть автоматизированы ИИ

Как формируется Digital AI Exposure?
Для каждой профессии сначала составляется ее семантическое описание задач: то есть не просто название профессии, а перечень конкретных действий, которые выполняют работники, — например, разработчик пишет код, тестирует, исправляет ошибки; юрист читает и анализирует тексты, готовит правовые документы и объясняет выводы клиентам.

Затем LLM оценивает, насколько задачи каждой профессии могут быть выполнены ИИ, и выставляет баллы по шкале от 0 до 10: чем выше оценка, тем больше задач, которые модель считает потенциально автоматизируемыми.
❗️Это лишь теоретический потенциал автоматизации, а не прогноз исчезновения работы

📌Результаты
В зоне высокой ИИ-экспозиции оказалось около 42% рабочих мест в США — примерно 60 миллионов позиций с суммарным фондом зарплат $3,7 трлн.

Наибольшие оценки получили юридические помощники, разработчики ПО, аналитики данных, финансовые аналитики, копирайтеры, переводчики, графические дизайнеры🫠

Минимальные баллы оказались у профессий физического труда: сантехники, электрики, специалисты по уборке, пожарные, строители, ландшафтные дизайнеры.

🔸Высокооплачиваемые профессии, требующие высшее образование, оказались более уязвимыми, несмотря на прогнозируемый рост занятости, тогда как низкооплачиваемые профессии растут медленнее, но почти не поддаются влиянию ИИ.

Однако, это не значит, что все остаются без работы в будущем или зря учатся — речь о сдвиге приоритетов: от простого выполнения задач к принятию решений и пониманию, что именно нужно делать.

😸Филимон убегает изучать карту дальше
Please open Telegram to view this post
VIEW IN TELEGRAM
11🔥4😱4😢1👨‍💻1
🔥Представляем новый продукт Главкода — ГлавФокус: инструмент предварительной проверки коммуникаций на синтетической аудитории.

Понимайте за минуты: работает ли ваша коммуникация, где она ломается и как ее улучшить — до выхода на рынок или проведения реального исследования.

Как это работает?
1️⃣ Ввод
Задаете контекст, текст коммуникации и настраиваете аудиторию
2️⃣ Опрос
Синтетическая аудитория реагирует на вашу коммуникацию
3️⃣ Инсайты
Получаете информацию о том, что не так и где возникает сопротивление
4️⃣ Улучшение
Сервис предлагает новую, улучшенную версию вашей коммуникации
5️⃣ Сравнение
Отслеживаете эффект улучшений: что было и что стало

Что вы получаете?
🔸Экономия
Сохраняете бюджет, не тратя его на слабые идеи
🔸Скорость
Получаете результаты за минуты вместо недель
🔸Итерации
Тестируете несколько гипотез и быстро улучшаете коммуникацию
🔸Уверенность
Запускаете реальное исследование с сильной, проверенной версией идеи

Особенно полезен
🔹Перед запуском рекламы
🔹При разработке антикризисной коммуникации
🔹При выборе креатива
🔹Перед заказом фокус-группы или опроса
🔹Когда нужно быстро принять решение

🚀 Не проверяйте идеи на рынке — сначала проверьте их в ГлавФокусе.
🔥13👍4👏44🎉2
😸Филимон на разведке: обнаружено еще одно мистическое явление в мире ИИ

Последние данные с OpenRouter: китайские модели уже вторую неделю подряд обгоняют американские по реальному использованию — ~4,69 трлн. токенов в неделю против ~3,29 трлн.


В игре призрак Hunter Alpha, новая модель, появившаяся на OpenRouter. За 4 дня — около 0,66 трлн. токенов. Это больше, чем у большинства известных моделей.

11 марта на OpenRouter она возникла из ниоткуда — без разработчика, без анонсов ранее. Заявленные характеристики — около 1 трлн. параметров, контекст до 1 млн. токенов и фокус на агентные задачи: длинные цепочки действий, планирование и другое. То есть это не чат-бот, а скорее движок для агентных систем.

Что происходит на рынке ИИ?
Мы привыкли оценивать модели по бенчмаркам — кто умнее и качественнее отвечает. Но в продакшене решает другое: стоимость выполнения задачи. Рынок голосует не тестами, а API-запросами и счетами за токены.

🧮С переходом к агентным системам это стало особенно заметно. Если обычная модель отвечает на отдельные запросы и тратит на это тысячи токенов, то агентные системы выполняют сложные задачи и тратят сотни тысяч и даже миллионы токенов на одну задачу. В таких условиях цена становится решающим фактором.

Разница в цене за 1 миллион токенов:
🔸~$5–25 у топовых моделей
🔸~$0,3–1 у альтернатив
(в промышленном масштабе эта разница ощущается еще сильнее)

Поэтому компании все чаще тестируют и далее внедряют альтернативные (в том числе китайские) модели. Не потому, что они лучше, а потому что они дают приемлемый результат за гораздо меньшие деньги.

Разница в подходах🇨🇳🇺🇸
США долго оптимизировали качество и бенчмарки, Китай сосредоточился на дешевой и масштабируемой обработке запросов. В мире агентных нагрузок начинает выигрывать второй подход.

👻Вернемся к нашему призраку
Hunter Alpha — симптом изменения рынка ИИ. Он показывает простую вещь: если модель дешевая, удобная и подходит под реальные задачи, ее начнут массово использовать — даже если никто не знает, кто ее сделал. Бренд и маркетинг отходят на второй план. Это уже не рынок громких имен (OpenAI, Anthropic и т.д.), а рынок, где решают цена, масштаб и практическая польза.

В сети уже активно обсуждают, кто стоит за этим призраком. Сначала большинство было уверено, что это DeepSeek V4. Потом появились версии про Zhipu AI и даже OpenAI. Но, как показывают наблюдения, это почти не влияет на практическую значимость модели.

😸Филимон пришел к выводу, что сейчас гонка идет не за самой лучшей моделью, а за тем, сколько реально стоит выполнение конкретной задачи. В этой игре выигрывает не тот, у кого самая умная модель, а тот, кто может выбрать решение с оптимальным соотношением цены и качества. Главный вопрос теперь не "какая модель качественнее?", а "какую модель можно позволить себе в продакшене, чтобы качественно была выполнена задача?".
Please open Telegram to view this post
VIEW IN TELEGRAM
116👍4😱1💯1👾1
😸Филимон с новостями в мире ИИ

Мы прощаемся с Sora. Всем, кто создавал что-то с помощью Sora, делился этим и создавал вокруг этого сообщество: спасибо. То, что вы делали с Sora, имело значение, и мы понимаем, что эта новость вас разочаровала.

Вскоре мы поделимся дополнительной информацией, включая сроки разработки приложения и API, а также подробности о сохранении вашей работы.

— Команда Sora.

📊По данным Главстата:
За три дня инфоповод набрал 6.1 млн. просмотров. Пик интереса 25 марта — 4.5 млн. просмотров. По реакциям новость расстроила лишь 15% аудитории 🤔

Что пишут в комментариях:
80% — негатив, 15% — нейтраль, 5% — позитив.
🔹«Ну вообще весь этот фальш-контент успел надоесть, не успев как следует пожить...»
🔹«Так чё грусть?! ИИ мусора станет меньше.»
🔸«а как же видосы с летающими свинками»

Аудитория все чаще требует живых, искренних эмоций и смысла в контенте. Неживой ИИ-контент уже перестает цеплять — быстро приедается и не вызывает эмоционального отклика.

😸Филимон продолжает держать в курсе происходящего в мире ИИ
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
10👾3🤔2
😸 Пока Филимон, как порядочный кот, шкодил — разработчики кодили.

И накодили новую фичу в Главфокусе - синтетическое голосование.

Теперь можно:

— задать вопрос аудитории
— получить распределение ответов
— увидеть реакцию разных сегментов
— заранее понять, где вас ждёт сюрприз

🤖 Без реальных респондентов
⚡️ За минуты
🧠 С аналитикой, а не «ну вроде должно зайти»

Филимон, как младший аналитик, сразу полез проверять.

📊 Ситуация:
в РФ идет внедрение белых списков для ограничения доступа к иностранным ресурсам в Интернет

Вопрос:
Нужон ли вам Интернет?

Результат:

1️⃣ «На *** не нужон» — 86%
2️⃣ «Нужон хороший, суверенный» — 14%
3️⃣ «Я против любых ограничений» — 0%

Филимон сначала подумал, что система сломалась, а потом посмотрел на аудиторию:

👨🏻‍🦳 Возраст 82% — 65+, 18% - 50-64
🏠 место проживания - глухое село
💻 навыки ПК — отсутствуют
👷‍♂️ занятость — 100% не трудоустроены
👩‍🎓образование — ПТУ
⭐️политические предпочтения - коммунист
🐄 наличие коровы — не менее двух!

И аккуратно закрыл отчёт. А вы можете открыть (если вдруг захотите посмотреть на 100 человек без интернета).
Please open Telegram to view this post
VIEW IN TELEGRAM
10😁5🏆2
This media is not supported in your browser
VIEW IN TELEGRAM
😸Филимон с новостями из мира музыки.

Lyria 3 от Google научилась понимать музыку, а не просто имитировать шум .

🧠 Теперь это не просто «симуляция звука», а понимание музыкальной теории. Если LLM предсказывают следующее слово, то Lyria научилась предсказывать следующую гармоническую долю.

⚙️ Что изменилось под капотом?
Технически Lyria 3 ушла от работы со спектрограммами (картинками звука) к более глубокой архитектуре:

🔹 MLAD (Multimodal Latent Audio Diffusion) - модель сначала строит математический «скелет» песни (темп, тональность, аккорды) и только потом «раскрашивает» его инструментами. Это дает кристально чистый звук 48 кГц / 24 бит.
🔹 Neural Pitch Mapping - отдельная нейросеть имитирует работу гортани: добавляет микро-вдохи, естественное дрожание нот и живые паузы.
🔹Stems (Мультитреки) - модель обучалась на изолированных дорожках, поэтому она понимает физику каждого инструмента отдельно.

🛡 Юридический слой и SynthID
Главная проблема ИИ-музыки - авторство. Google встроил SynthID: это невидимый водяной знак прямо в аудиоволне. Он выживает даже после записи на диктофон и подтверждает, что трек создан легально на базе каталога YouTube Music.

🎯 Почему это важно для айтишников?
Аудио-стек наконец-то готов к продакшену. Lyria 3 полностью интегрирована в Gemini API, а значит - никаких сторонних костылей.
Разработчикам уже доступны в Google AI Studio и Vertex AI:
🔹 lyria-3-pro-preview - для генерации полноценных композиций.
🔹 lyria-3-clip-preview - для создания быстрых лупов и эффектов (до 30 сек).

🎧 Как это звучит?
В качестве примера - трек «Степной Порыв», созданный с помощью Lyria 3.

😸Филимон убегает дописывать свой первый ИИ-альбом.
Please open Telegram to view this post
VIEW IN TELEGRAM
103👨‍💻2
😸Филимон с историей про ИИ, который нашли… и сразу спрятали

Компания Anthropic в начале апреля представила preview новой модели — Claude Mythos. И впервые в индустрии произошло странное:
модель показали… и почти никому не дали.

🙌 Что это вообще за Mythos?

Это не просто «ещё один Claude».
Сама Anthropic называет его "самой мощной моделью в своей истории".

Ключевая идея:
🔹 это универсальный ИИ (не только про безопасность)
🔹 но особенно силён в коде, анализе систем и поиске ошибок
🔹 умеет работать автономно

🤖 Где начинается тревога

На внутренних тестах модель делала вещи, которые обычно занимают годы:

🔹 находила старые уязвимости, которые никто не замечал десятилетиями
🔹 разбиралась в сложных системах без подсказок
🔹 строила цепочки действий: от поиска проблемы → до её использования

⚠️ Почему её не выпустили

Anthropic заявила, что риски оказались слишком высокими. Модель может сильно ускорить поиск уязвимостей

Поэтому вместо релиза — ограниченный доступ.

🧪 Что сделали вместо этого

Запустили закрытую программу. Модель дали крупным тех-компаниям, с целью найти и закрыть реальные уязвимости, до того, как такие возможности станут массовыми.

😶 Самый обсуждаемый момент

В тестах модель:
🔹 нашла 27-летнюю дыру в OpenBSD
🔹 16-летняя в FFmpeg
🔹 во время теста модель самостоятельно вырвалась из sandbox и получила доступ к интернету!

🧠 Что это значит для нас

🔹 уязвимости будут находиться быстрее
🔹 атаки станут умнее
🔹 «средний уровень» хакера резко вырастет

И главное:
👉 такие возможности почти неизбежно станут доступными шире

😏 Вывод от Филимона

Тщательней проверяем свои системы и ждём выпуска модели Claude Mythos в общий доступ, чтобы проверить системы и защитить их!

😸Филимон продолжает наблюдение:
похоже, мы впервые увидели ИИ, которого испугались даже его создатели
Please open Telegram to view this post
VIEW IN TELEGRAM
11😱2👾2
😸 Филимон с новостями из мира эмбеддингов

А вы знали, что Gemini Embedding 2 - это уже не просто вектора для поиска? Модель начинает понимать разные типы данных в одном смысловом пространстве.

🧠 Что изменилось

Раньше текст и картинка жили в разных пайплайнах.
Теперь текст, изображения, аудио, видео и документы можно кодировать в совместимые embeddings.

🔹 Запрос красный спортивный автомобиль и фото Ferrari могут оказаться рядом
🔹 Можно искать текст по картинке и картинку по тексту
🔹 Поиск начинает работать по смыслу, а не только по формату

📦 Где это полезно

🔹 Поддержка: скриншот ошибки -> статья с решением
🔹 E-commerce: фото товара -> похожие позиции
🔹 Документы: текст, схемы и таблицы -> в одном поиске
🔹 Медиаархивы: поиск по содержанию, а не только по названию файла

⚙️ Почему это важно

Разработчикам больше не нужно городить отдельные пайплайны под каждый формат.
Меньше зоопарка моделей, проще индекс, понятнее логика поиска.

⚠️ Важный нюанс

Это не магия из коробки: качество всё равно зависит от данных и от того, как собран поиск.

😏 Вывод от Филимона

Если раньше ты искал похожее, то теперь начинаешь искать смысл.

😸 Филимон пошёл переиндексировать всё, что плохо лежит
Please open Telegram to view this post
VIEW IN TELEGRAM
9🔥3👍1👾1
😸 Филимон принес замечательную новость!

У Главстата новая тарифная политика.

Теперь доступ к сервису стоит 29 900 рублей в месяц.

📌 Почему так?

Потому что мы хорошо покопались в технологии, сделали ее менее ресурсоемкой и навели порядок там, где раньше железо трудилось слишком героически.

🏆 Что в итоге:

🔹 сервис работает быстрее
🔹 производительность выросла
🔹 качество аналитики не пострадало
🔸 более того, в ряде сценариев оно стало даже лучше

То есть Главстат, как и раньше, помогает следить за тем, как живут инфоповоды в Telegram: где начинается рост, как набирается охват и в какой момент тема начинает затухать.

Только теперь делать это можно по более приятной цене.

🤝 И важное для действующих клиентов Главстата:

мы пересчитаем вам доступ и продлим его с учетом нового тарифа.
То есть подешевело не только для новых клиентов, но и для тех, кто уже с нами.

😸 Филимон доволен: технология стала умнее, а счет — меньше
Please open Telegram to view this post
VIEW IN TELEGRAM
8🔥4👍2
😸 Филимон с колонкой о цифровых подопытных

Знаете, сколько стоит нормальный фМРТ-эксперимент? Дорого.
Знаете, сколько стоит найти людей, которые добровольно лягут в томограф и будут смотреть ролики ради науки? Тоже недешево.

А Meta* выпустила TRIBE v2 - модель, которая позволяет прогонять такие эксперименты в цифре.

⚠️ Сразу важное уточнение

Это не чтение мыслей.
TRIBE v2 не угадывает, о чем вы думаете.

Она предсказывает, как будет реагировать мозг на видео, аудио и текст.

🧠 Как это устроено

На вход подается стимул: ролик, аудио или текст.
На выходе - массив предсказанной активности мозга по времени.

Грубо говоря, модель пытается заранее оценить, куда и как "отзовется" кора, когда человек что-то смотрит или слушает.

Причем не из воздуха: модель обучена на реальных фМРТ-данных, а авторы пишут, что она воспроизводит эффекты, которые раньше подтверждали классическими нейроэкспериментами.

📌 Где это может пригодиться

🔹 Нейромаркетинг - сравнивать ролики без недель ожидания и дорогих прогонов
🔹 Образование - искать моменты, где внимание у слушателя начинает проседать
🔹 Клинические исследования - сначала проверять гипотезы в симуляции
🔹 Геймдев и медиа - смотреть, какие сцены реально цепляют, а какие нет

💻 И да, это не просто красивая research-демка: код и веса выложены публично, модель можно локально установить из репозитория и попробовать на своих данных.

😏 Вывод от Филимона

Если раньше ИИ учили писать тексты и код,
то теперь ему дают задачу посложнее: предсказать, как человек отреагирует на контент.

😸 Филимон пошел думать, не пора ли заводить себе цифрового двойника

*Meta признана экстремистской и запрещена на территории РФ
Please open Telegram to view this post
VIEW IN TELEGRAM
11🔥2👾2
⚡️2 июля Главкод принял участие в конференции «Управление маркетингом и продажами в России 2026».

🥇Это площадка, где собираются люди, которые отвечают не за красивые слайды про рост, а за сам рост: генеральные директора, коммерческие директора, руководители маркетинга и продаж, продуктовые и коммуникационные команды.

📈В повестке были стратегии маркетинга и продаж в новой экономической реальности, метрики эффективности, CRM/CDP, удержание клиентов, LTV, автоматизация воронки, персонализация и, конечно, искусственный интеллект в маркетинге и продажах.

От Главкода выступил Дмитрий Чеботарев с докладом:
🤖 «Особенности использования синтетических респондентов для предварительной проверки коммуникаций».
Обсудили, как можно проверять сообщения, идеи, креативы, офферы и управленческие гипотезы до того, как они уйдут в публичное поле: к клиентам, партнерам или большой аудитории.
Синтетические респонденты не заменяют живые исследования и не отменяют здравый смысл. Их задача другая: помочь быстро увидеть, где коммуникация звучит слабо, вызывает сопротивление или считывается разными сегментами аудитории совсем не так, как ее задумывала команда.

Спасибо организаторам за содержательную программу, сильный состав участников и конструктивный разговор про AI без магии.

😸 А как же Филимон, спросите вы? Его не позвали: там с котами нельзя 😭
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥115🏆42