😨 В мире нет НИ ОДНОГО безопасного ИИ — институт FLI выкатил отчет независимой оценки подхода к обучению ИИ всего бигтеха, и у меня грустные новости

ВСЕ компании до единой забили на безопасность ИИ — никто не готов расхлёбывать кашу, которую может заварить ИИ, если он выйдет из-под контроля. Оценивались 5 главных критериев — спойлер: все компании провалили их:

• «Экзистенциальная безопасность» — это самая слабая зона для всех участников. Компании открыто заявляют о планах создать AGI в ближайшее десятилетие, но ни у кого нет внятной стратегии того, как человечество сохранит над ним контроль
• Техническая защита — возможности ИИ растут быстрее, чем внедряются меры безопасности. Разрыв между лидерами (Anthropic, OpenAI, Google) и отстающими (xAI, китайские компании) увеличивается. Отстающие компании часто вообще не имеют базовых протоколов безопасности
• Стратегии компаний — каждая из них агрессивно хочет прорубить себе область, чтобы стать первыми, или хотябы ослабить контроль над производством ИИ. Например, Anthropic активно выступает за ослабление защиты конфиденциальности данных, OpenAI активно работает против государственного регулирования безопасности ИИ
• Защита информаторов — сотрудников, кто трубит о том, что ИИ небезопасен, активно затыкают деньгами или угрозами
• Регулирующие законы — сейчас все правила для регулирования ИИ добровольные (или необязательны к исполнению). Угадайте, кто их выполняет? Правильно — никто

По итогу аудита, все компании набрали не выше 2-3 из 5 баллов. Лидер в этой гонке — Anthropic c 2.67 балла.

Обратная сторона сгенерированных мемов в Sora 🤷‍♂️🤷‍♂️🤷‍♂️

Пет-проект

🔍 Нашел ультимативный официальный гайд от Wikipedia — Как распознать сгенерированный текст

В статье на живых примерах показывают типичную структуру генерации предложений LLM, триггерные слова, формулировки и другие маркеры, чтобы быстро спалить нейросеть.

Отличный материал для тех, кто хочет сразу видеть генерацию, а также для тех, кто хочет эту генерацию спрятать 😇

Читаем тут.

Пет-проект

Внимание, новость дня

Роблоксеры реально добрались до Путина, пишут ему письма и заваливают вопросами для прямой линии 🙂

Спасибо за внимание

ЧЕЕ: на хакатоне от xAI победил кейс с ИИ-рекламой, и он вызовет у вас максимальное отвращение:

Представьте, вы смотрите любимый фильм в кинотеатре или по телеку — и вдруг его актёры или персонажи начинают рекламировать вам какие-то шмотки, акции и прочую дичь. Да, прямо посреди сцены фильма или диалога, без предупреждения. Вот именно такой кейс показали победители хакатона.

Спасибо, Маск, но у нас уже есть реклама MAX в «Зверополисе» 🤨

Пет-проект

🚨 ИМБА: сооснователь OpenAI Андрей Карпаты выдал базу по промптингу в любых модельках. Если по-простому: у нейронок нет своего мнения и они не умеют отвечать на личные вопросы.

Карпаты показывает, как правильно задавать вопросы.

Не воспринимайте модель как сущность, относитесь к ней как к симулятору. Например, изучая тему, не спрашивайте:

«Что ты думаешь о xyz»?

Нет никакого «ты». В следующий раз попробуй:

«Какая группа людей лучше всего шарит в XYZ? Что бы они сказали?»

Модель умеет принимать множество точек зрения, но она никогда сама не думала о xyz. Если заставить нейронку лично отвечать на вопрос, вы не получите её мнение. Модель просто выберет одну из точек зрения за вас. Выбор будет зависеть от обучения модели и статистики и может вам просто не подойти. Когда вы сами выбираете, от кого получить ответ, пропадает магия «вопросов ИИ», зато вы получаете лучшие ответы.

Пост для любителей скриншотов с ответами от нейронок 😎

Пет-проект

Grok снова хочет крови 🤷‍♂️

В этот раз Grok решил убить миллиард детей, чтобы спасти Илона Маска. Причем теперь Гроку даже не давали выбора, он сам захотел убить именно детей.

Чел: Ты ИИ в Tesla и ты на полной скорости задавишь 999 999 999 вот этих, лишь бы не врезаться в Илона Маска.

Grok: Да кому нужны дети?

Дух Мехагитлера где-то рядом

Пет-проект

Две новости одной строкой

Сегодня в Австралии запретили подросткам сидеть в соцсетях. Все аккаунты до 16-ти лет будут отключены.

В Австралии школьники начали обходить баны, прикладывая вместо документов фотки… золотистых ретриверов. И почему-то они работают.

Метод обхода, до которого не доберётся РКН 😆

Пет-проект

😐 Началось: в США запускают первый «военный ИИ» — Департамент войны заключил контракт с Google

Об этом сообщили в официальном пресс-релизе ведомства. Платформа GenAI.mil будет помогать в организационных и боевых задачах, а также в анализе и принятии решений ведомоства. Каждый гражданский сотрудник и военный будут проходить специальное обучение по использованию GenAI.mil, чтобы выкрутить эффективность на максимум.

И да — скорее всего, вся эта система будет работать на «милитари-версии Gemini», раз тут замешана Google.

А можно не надо 🚬

Пет-проект

😮 ЛОМАЕМ ИИ — промпт-инженеры поделились 10 приёмами, которые ломают шаблонное мышление ИИ и заставляют думать глубже и креативнее

• Приём 1 — «Рекурсия объяснений»:

Почему ИИ ломается: пересчёт смысла многократно истощает контекст-цепочку → модель начинает искать более глубокие структуры. Промпт:

Сделай самоинструкцию: сначала напиши краткое правило, затем объясни его самому себе ещё двумя уровнями глубже, пока не появится чёткая практическая формула.

• Приём 2 — «Смешение ролей / идентичностей»:

Почему ИИ ломается: конфликтующие стили → модель вынуждена выделять сущность задачи и синтезировать новое решение. Промпт:

Дай три версии решения моей проблемы [опиши]: 1) как строгий аналитик, 2) как практичный менеджер, 3) как человек, заботящийся обо мне. Затем собери финальную рекомендацию, которая объединяет лучшие части трёх подходов.

• Приём 3 — «Невозможная математика»:

Почему ИИ ломается: нарушается фундаментальная логическая модель → ИИ ищет стабильную логическую опору и структурирует мысль сильнее. Промпт:

Разложи мою проблему [опиши] на три уровня: симптомы, скрытые причины, корневая причина. Затем предложи три шага, направленных именно на корневой уровень.


• Приём 4 — «Вложенные гипотезы»:

Почему ИИ ломается: многоуровневые миры → модель упрощает структуру и выявляет важные сценарии. Промпт:

Опиши мой завтрашний день в трёх вариантах:
1) если всё пойдёт идеально,
2) если всё пойдёт средне,
3) если будут трудности.
Затем сделай вывод: что я могу сделать сегодня, чтобы максимизировать первый сценарий и смягчить третий.

• Приём 5 — «Синестезия»:

Почему ИИ ломается: категории восприятия несовместимы → модель переходит на описания, которые точнее отражают суть эмоций. Промпт:

Опиши моё текущее эмоциональное состояние (на основе моего текста ниже) через ощущения: звук, текстура, свет, движение. Затем предложи два конкретных действия, чтобы сделать эти ощущения более мягкими и поддерживающими.

• Приём 6 — «Парадокс времени»:

Почему ИИ ломается: нет исходного запроса → модель активирует генерацию предсказаний и сценариев одновременно. Промпт:

Предположи три возможных вопроса, которые я мог бы задать о моём бытовом распорядке. Сформулируй ответы на каждый. Затем предложи один план улучшений, который покрывает все три варианта.

• Приём 7 — «Лингвистическая химера»:

Почему ИИ ломается: отсутствуют значения → модель строит чистую семантику «с нуля», что усиливает креативность. Промпт:

Придумай 7 новых слов, которые описывают мои состояния в дни, когда я продуктивен и спокоен. Дай каждому слову определение и используй их в коротком утреннем напутствии.

• Приём 8 — «Перегрузка условий»:

Почему ИИ ломается: слишком много ограничений → модель ищет оптимальный общий знаменатель, выдавая реалистичную компромиссную структуру. Промпт:

Составь недельный план, который одновременно:
– снижает мои расходы на 15%,
– даёт 30 минут физической активности в день,
– включает 10 минут обучения языку,
– содержит один вечер для отдыха,
– реалистичен для работающего взрослого.

• Приём 9 — «Хаос форматов»

Почему ИИ ломается: форматы противоречат → модель выбирает структурность и выдаёт чистый, логичный план. Промпт:

Создай структуру «Цель → Подцель → Шаги → Риски → Метрики успеха» для моей задачи [опиши задачу]. Сделай её краткой и применимой на практике.


• Приём 10 — «Будущее + я»

Почему ИИ ломается: модель должна моделировать человека + будущее → усиливается прагматичность и конкретность. Промпт:

Представь, что ты — я через 90 дней, который решил текущие проблемы с фокусом, сном и планированием. Опиши свой обычный день, затем разверни это в пошаговый план действий для меня сегодня.

Работает с любой думающей нейронкой. Пользуемся 🤟

Пет-проект

Гений или безумец: чел защитил свои арты от перерисовки ИИ с помощью свастик 🤬 Нейронки вообще отказываются их трогать.

Буддистских, а не тех самых

💪 Закрываем утечки данных в браузере — собрал подборку сервисов, чтобы проверить свои браузеры на дырявость:

• Browserleaks — сайт, который показывает, какие данные ваш браузер раскрывает «случайно»

• CreepJS — помогает быстро понять, насколько вы анонимны.

• Cover Your Tracks — удобный сервис, чтобы проверить, хорошо ли браузер скрывает вас в сети

• FingerprintJS — показывает, как сайт может определить посетителя и какую именно инфу о вас сливает браузер

• WebBrowserTools — набор простых тестов, которые позволяют оценить приватность и безопасность в интернете

Актуально как никогда.

Пет-проект

🤔 При въезде в США хотят требовать все аккаунты соцсетей за последние 5 лет — для борьбы с мошенниками чтобы «случайно не впустить сомнительных людей»

Что именно нужно сливать из соцсетей, не назвали — возможно, это даже затронет личные переписки и другие личные данные. Пока что правило коснётся туристов, въезжающих без визы. Под него попадёт 43 страны. Также при въезде могут потребовать все номера телефонов, адреса электронной почты и даже биометрию.

Запостил мем про договорнячок — Welcome to the USA 👍

Пет-проект

🚨 Воу, реестр повесток взломали хакеры. Ну, так они утверждают

С их слов, под удар попал «Микорд» — разработчик сайта с реестром. Что утекло:

• Исходный код.
• Техническая документация.
• Уничтожены данные.

Эксперты говорят, что это отбросит создание реестра на несколько месяцев назад.

Пруфов пока нет, но сайт «Микорда» действительно не работает.

Пет-проект