OpenAI научила ИИ взламывать собственные модели ради их защиты

OpenAI представил личного хакера GPT-Red. Это внутренний ИИ, который специально обучен искать уязвимости в других моделях. Он пытается обмануть их, внедрить вредные инструкции, украсть данные или заставить выполнить опасные действия.

После каждой успешной атаки эти примеры используют для обучения новых моделей. В результате GPT становятся устойчивее к промпт-инъекциям и другим видам атак.

По данным OpenAI, GPT-Red оказался эффективнее людей в поиске подобных уязвимостей. В одном из тестов он успешно атаковал 84% сценариев, тогда как команды специалистов справились только с 13%.

Главное, что сам GPT-Red не станет публичным. OpenAI оставляет его внутри компании, чтобы использовать как инструмент, который помогает делать будущие версии GPT безопаснее и надежнее.

dailyprompts.ru
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym

Все еще подхихикиваю над одним из комментариев на вчерашнем Research Mastermind: «Смотрим ваш стрим вместе с кошкой, понимаем примерно одинаково».

Я специально именно так скомпоновал программу, чтобы слушатели с самого начала погрузились в новые термины и проекты.

А в конце, когда уже смотришь на кошку и думаешь: «А мы это потянем?», приходит Стас Киреев (он был третьим спикером) и рассказывает, как не сойти с ума, погружаясь в ИИ. И, судя по отзывам, такой формат сработал.

Обязательно посмотрите выступления всех спикеров - они великолепны:
1. Михаил Дайхин рассказал, как создавать сложные продукты без технического бэкграунда
2. Дима Капустин показал и рассказал, как он строит мультиагентные системы на базе Multica
3. Стас Киреев посоветовал не впадать в ощущение упущенных возможностей и рассказал, как правильно учиться

Кстати, мы со Стасом делаем серию мастермайндов для «непрограммистов» о том, как во все это запрыгнуть, - от получения доступа к нейросетям до привлечения первых клиентов. В конце своего выступления он делал анонс, но я еще раз напомню сайт для регистрации в мастер-группу: https://kireev.expert

—
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym

В последнее время все чаще слышен вопрос: где брать клиентов, когда привычные каналы не дают нужный результат. Бюджеты на привлечение и удержание растут, а количество лидов нет, и универсальной таблетки, понятно, никто не даст.

Но есть места, где можно подсмотреть рабочие ходы у тех, кто прямо сейчас управляет бюджетами и тестирует гипотезы на реальных кампаниях. 19 июля Британка собирает индустриальный день «Где лиды?» — дискуссию практиков из Ingate, Realweb, «Азбуки вкуса», «Моё дело» и Dizengoff/99.

Отдельное место в программе занимает тема ИИ в маркетинге. Не в формате «мы тут промт написали и все заработало», а с кейсами, где нейросети реально снижают стоимость лида и ускоряют результат, а где делают коммуникацию настолько обезличенной, что аудитория перестает реагировать.

Плюс будет мастер-класс от директора по маркетингу СТМ «Лента», где на примере реальных кейсов разберут, как выстраивать позиционирование и УТП.

Зарегистрироваться и подробнее узнать о программе можно по ссылке.

#промо
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym

Тимур с нами делится 🤩
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym

Нейросети ничем не хуже людей, вот пруф.

@exploitex
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym

Как в Москве превращают воду в вино

В прошлом году «Кофеманию» обвиняли в грабительской цене за воду: маленький стакан стоил 350 рублей, большой — 650.

Бесплатно тоже наливали.

Но только при предъявлении таблетки.

Люди жаловались в ФАС на неправомерную цену. Нарушений не нашли.

А значит, можно не скромничать: теперь воду там подают за 1200 рублей за бутылку.

Но и это не предел. Свежий обзор показал разброс цен на воду в московских ресторанах от 710 рублей в «Горыныче» до 1650 в Salone Pasta & Bar.

Так бутылка питьевой воды на столе стала маркером статуса — заказавшему явно плевать на цифры в меню.

Иисус превращал воду в вино даром.

Московские рестораторы пошли дальше — научились превращать её сразу в деньги.
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym

Китайцы выпустили очередного убийцу (маньяки блин) Клода и ГПТ — Кими К3.

Говорят, что это их новая мощнейшая модель с контекстным окном в миллион токенов, которая сейчас по качеству ответов проигрывает только Fable и GPT-5.6 sol ultra.

И стоит недорого: 3 и 15 баксов за миллион токенов. По сравнению с тем, что нас ждет на фейбле, это прям шик. Так что если любите китайцев — можете тестить.

Но вот я честно скажу — я не понимаю, где и с кем они эти сравнения проводят. Сколько я не тестил умнейший китайев — они все равно не дотягивают до Клода и ГПТ. Ну вот не получается у меня выжать с ними даже за 10 запросов то, что выдают нормальные модели за 1-2. Их если и использовать, то только для выполнения ТЗ от умных нейронок.

Но мне лимитов и на попдисках хватает, поэтому зачем мне китайцы я не знаю. А у вас с ними как отношения?

Миша, давай по новой
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym

Летом 2025 года MIT опубликовал исследование The GenAI Divide: State of AI in Business, которое мгновенно разошлось по деловым медиа. Учёные проанализировали 300 корпоративных внедрений ИИ и выяснили: ощутимую прибыль приносят только 5% пилотных проектов. Остальные 95% застревают на стадии экспериментов.

Заголовки тогда вышли паническими, но самое интересное в исследовании то, что именно делают эти 5% компаний.

Что отличает 5% от остальных?

Спойлер: не бюджеты и не доступ к секретным технологиям.

Инструменты у всех одинаковые.
Разница в подходе. Большинство компаний «пробуют нейросети»: кто-то генерирует посты, кто-то выводы по встречам, кто-то картинки для презентаций. Это приятно, но на выручку не влияет. Согласно исследованию, успешные компании сначала находят процесс, где есть измеримые деньги или часы, и только потом интегрируют ИИ.

Результаты у такого подхода следующие: производительность в компаниях с системным внедрением выросла на 35–40% за два года, а 74% руководителей говорят, что инвестиции в ИИ окупились в первые 12 месяцев.

Четыре вывода из отчёта MIT, которые актуальны всем, кто в процессе интеграции:

▪️Начните с «теневого ИИ». По данным отчёта, больше 40% сотрудников уже используют нейросети в работе просто со своих личных аккаунтов. Спросите команду, кто и для чего. Это готовая карта точек внедрения: люди сами нашли, где ИИ экономит им время.

▪️Ищите эффект в «базовых» процессах, а не на витрине. Компании вкладывают ИИ-бюджеты в маркетинг и продажи, потому что это заметно. А самый быстрый возврат исследователи нашли в скучных местах: документооборот, отчётность, обработка заявок.

▪️Один процесс, одна метрика, один месяц. Проекты «внедрим ИИ везде» и проваливаются чаще всего. Работает обратное: узкий процесс, измеримая метрика (часы, стоимость операции, скорость цикла), зафиксированная до старта, и масштабирование только после подтверждённого эффекта.

▪️Не покупайте инструмент — встраивайте в процесс. Главная причина провалов по данным отчета MIT в том, что ИИ существует «рядом» с работой, а не внутри неё. Если сотруднику нужно открывать отдельное окно и переносить данные руками, инструмент умрёт через месяц.

Что это меняет для руководителя

Заметьте: ни один из этих пунктов не про технологии. Все четыре — про управленческие решения: где искать эффект, как считать, как перестроить работу людей. Узкое место внедрения ИИ сегодня не софт, а компетенция того, кто принимает решения. И делегировать её некому.

Разбираться самостоятельно можно, но долго. Поэтому рекомендую курс «Нейросети для бизнес-процессов» от Академии Эдюсон, он собран ровно вокруг этой логики: выбор процессов с максимальной отдачей, расчёт окупаемости (ROI) до старта, внедрение в ежедневную работу команды.

То есть всё то, что отличает 5% успешных компаний, в виде системы, а не набора лайфхаков.

Оставьте заявку по промокоду МАШСПИШЬ: получите максимальную скидку 65% и личную консультацию по внедрению ИИ в ваш бизнес бонусом.

Реклама. ООО «Эдюсон», ОГРН 1147746925369, erid:2W5zFJ4dJmw
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym

Встретил прикольную оболочку для маковского Finder для любителей понастальгировать по ретро дизайну: Aqua, Windows 98, XP, 7 и XFCE.

Тут не только ностальгия, а отдельная аппка которая имитирует 1 в 1 системный проводник с фишками для разрабов

Идея в том, чтобы вообще всё показывать как папки и файлы, не только то, что лежит на диске, но и внешние сервисы.

Например прям внутри проводника можно открыть терминал, смотреть GitHub-репозитории как обычные папки, подключаться по SSH и тд. Linear и Notion тоже разложены папками.

Получается такой рабочий стол разработчика в виде проводника, где (наверное) удобнее работать с файлами, репозиториями, задачами и серверами в одном месте.

Если такое нужно, вот ссылка для скачивания.

@tips_ai #tools
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym