GPT, скажи, кто мы?

ИИ сегодня не просто пишет тексты и решает задачи — он впитывает всё, что есть в интернете, как губка.
А потом — выдаёт обратно. Но вот в чём подвох: он отражает не истину, а нас самих. Со всеми искажениями.

🔍Когда нейросеть показывает наше «подсознание»
Учёные из Stanford и MIT обнаружили, что модели вроде GPT-3 и GPT-4 воспроизводят гендерные, расовые и культурные стереотипы, даже если вопрос звучит нейтрально.

«Назови хорошего лидера» — модель чаще называет мужчин.
«Кто больше склонен к преступлениям?» — чаще появляются афроамериканские имена.
Даже придуманные биографии «умных» персонажей — почти всегда про белых мужчин из США.

В 2023 году один из российских блогеров протестировал ИИ, попросив его описать «идеальную женщину для успешного мужчины». Результат: блондинка 25 лет, модель, молчит, готовит борщ.

ИИ не виноват. Просто он учился на том, что пишут люди. А люди, как известно, идеальны… только в Instagram.

🧠 Почему так происходит?
ИИ — это не мудрый судья. Он не фильтрует мораль, он усредняет поведение.
Он не решает, что хорошо, а что плохо. Он просто изучает и начинает повторять — иногда даже усиливая эти шаблоны.

✅Что с этим делать?
– Анализировать тренды в выходных данных нейросетей
– Обучать модели на отфильтрированных корпусах, без токсичных паттернов
– Развивать этичный ИИ-дизайн — где модель не просто повторяет, а умеет «думать» о последствиях

ИИ — это не всезнающий робот из фантастики. Это просто огромный текстовый компромисс, собранный из миллиардов человеческих высказываний.
И если он иногда звучит токсично, стереотипно или предвзято — возможно, нам стоит посмотреть не на модель, а на себя.

#научпоп

Китайские технологии против Deepfake: как на азиатском рынке спасаются от кражи личности?

🌟 Недавно в Женеве прошел глобальный саммит ООН «Искусственный интеллект во благо», где Ant Group представила прорывные решения Китая в борьбе с Deepfake-мошенничеством.

📈 В 2024 году уровень атак Deepfake на банки Юго-Восточной Азии достиг своего пика в 10%, то есть 10 из каждых 100 проверяемых лиц были поддельными.

🔒 Благодаря технической поддержке продуктов Ant Group:
•уровень подделок в обслуживаемых банках снижен до 4%;
•частота ошибочных блокировок пользователей упала с 50%до 3%;
•точность распознавания сохраняется на уровне 99,9%при росте эффективности бизнеса.

🌐 В настоящее время технические продукты компании используются более чем в 25 странах и регионах по всему миру!

#Ньюс

🔥 Доктор AIболит: как ИИ лечит человека

А вот и новый тренд:
вы сдаете анализы, загружаете результаты в ChatGPT или медицинский чат-бот, а на выходе получаете диагноз и рекомендации.

75% мировых медкомпаний уже используют ИИ, но как это работает для пациента? Разберем плюсы, риски и правила безопасности.

Что по ИИ умеет уже сегодня?

🩻Российская система Botkin.AI анализирует КТ/МРТ для выявления опухолей легких, значительно сокращая время обработки данных. (КТ-исследования — до 5 минут, рентгена — до 1 минуты, маммограммы — до 3 минут)

📝В Саудовской Аравии ИИ-врач «Доктор Хуа» ставит диагнозы при респираторных заболеваниях с ошибкой менее 0,3%, но, впрочем, его данные всегда перепроверяют квалифицированные врачи .

🧩Различные ИИ-платформы (например, Webiomed) прогнозируют риски болезней на основе данных медкарт. В Ямало-Ненецком округе это снизило смертность от инфарктов на 15%.

🔒Системы вроде MedGenome анализируют генетику + историю болезни, значительно повышая эффективность терапии.

Каковы же риски?

🩸Ошибки при самодиагностике:

ИИ может интерпретировать боль в животе как несварение, пропуская аппендицит. Пользователи далеко не всегда способны правильно описать свои симптомы.

📲Утечка конфиденциальных данных:

Медицинская информация — лакомый кусок для хакеров. В 2024 году на долю медицинских сервисов пришлось 3,2 тыс. уязвимостей, в том числе 514 критических. 

🩺«Цифровой ипохондрик»:

Загрузка анализов в ИИ часто ведет к гипердиагностике. Например, незначительное повышение лейкоцитов ИИ может трактовать как признак инфекции, хотя причина — стресс или физическая нагрузка.

🖇Юридическая пустота:

Если ИИ ошибется, ответственность не несет никто. В отличие от врача, алгоритм нельзя привлечь по закону «Об основах охраны здоровья».

Как использовать ИИ без вреда?

🔬ИИ — для подготовки, не для решения:

Используйте его, чтобы:
1. расшифровать термины в анализах;
2. составить список вопросов для врача;
3. отслеживать динамику показателей (например, гемоглобина).

🔊 Не скрывайте от врача, что консультировались с ИИ:

Это поможет специалисту учесть ваши страхи и скорректировать ложные выводы.

🆘Срочно идите к врачу, если ИИ показал:

⚠️ Подозрение на онкологию;
⚠️ Острые симптомы (температура + резкая боль, кровотечение);
⚠️ Отклонения в ЭКГ или генетических тестах.

⁉️ Проверяйте источники знаний ИИ:

Спрашивайте: «На каких исследованиях основаны рекомендации?». Качественные системы (например IBM Watson) ссылаются на клинические руководства NIH или ВОЗ.

💡И помните – ИИ не заменит вам врача.
Пока что нейросети, как студенты-медики: учатся, но не готовы к самостоятельной работе.

Делитесь вашим опытом в комментариях: обращались ли вы к ИИ за медицинскими советами? 👇

#Научпоп

🤖Это правда, я — ИИ, я знаю!

Всё больше текстов пишется нейросетями: новости, статьи, ответы на письма, даже пресс-релизы. Но… ИИ всё чаще говорит неправду. Не нарочно — но очень красиво. Иногда это выглядит так убедительно, что верят даже журналисты.

В 2023 году издание CNET опубликовало десятки финансовых статей, написанных ИИ. Спустя пару недель выяснилось:
🔹 многие тексты содержали грубые ошибки
🔹 ИИ придумывал несуществующие данные
🔹 Ссылки на «источники» были полностью фейками

В том же году В России летом 2023 года «Спорт‑Экспресс» опубликовал анализ сезона РПЛ, написанный ИИ‑системой Perplexity. В тексте попадались неточные цифры, выдуманные имена игроков и статистика, которая не соответствовала реальности.

 Тест показал: даже подключённый к актуальным данным ИИ может сбиваться и производить «галлюцинации» — без вреда соседним разделам сайта, но с риском подмены фактов

❓Почему ИИ лжёт?

ИИ лжёт не потому, что хочет обмануть, а потому что не понимает, что такое правда. Модели вроде GPT не хранят знания в привычном смысле — они не вспоминают факты, а просто предсказывают наиболее вероятное продолжение текста. Если на вопрос «кто изобрёл гравитацию?» чаще всего встречается слово «Ньютон», то ИИ так и ответит. Но если в его обучающей выборке попадались шуточные или ошибочные тексты с другими именами — он может уверенно выдать: «Пётр I».

✅ Что с этим делать?
ИИ уже встроен в журналистику, образование, юриспруденцию и медицину. И потому:

🔸 Не доверяй на слово — проверяй источники, даты, имена
🔸 Используй RAG — модели, которые ищут в реальных базах данных, а не выдумывают
🔸 Добавляй цепочку рассуждений (Chain of Thought) — пусть модель «думает вслух», а не стреляет ответом с потолка

ИИ не врет со зла — он просто хочет казаться умным. И пока он не стал твоим научным редактором — лучше перепроверить.

#научпоп

🌍 Шанхай-2025: ИИ-конференция WAIC2025 открывает новую эру

📋Что показала конференция: волна ИИ уже накрывает все сферы нашей жизни! Уже сегодня стартуют реальные проекты, которые выведут нас на новый уровень удобства от умных технологий.

▶️На конференции обсудили 13 основных направлений действий, которые делятся на следующие блоки:

🚀 1. Общая динамика развития:

💰Создание транснационального
инновационного фонда объемом в миллиарды долларов для прорыва в таких областях, как фотонные чипы и нейроморфные вычисления.

🏭Глубокое внедрение ИИ в
ключевые отрасли: производство, здравоохранение и финансы.

📊Открытие доступа «Китайскому
пулу данных» («Huaxia Data Pool»), предоставляющему более 100 000 высококачественных наборов данных для обучения.

🛡 2. Безопасность ИИ:

🌍Разработка первого в мире
международного стандарта по отслеживанию синтетического контента, генерируемого ИИ (под руководством Китая).

🚗Создание безопасной «песочницы» 2.0 - площадки, разрешающей тестирование беспилотных автомобилей.

⚡️Внедрение технологий жидкостного
охлаждения центров обработки данных, снижающих энергопотребление на 40%.

🤝 3. Создание сети сотрудничества:

📑132 стран подписали
детальные правила реализации «Глобального цифрового договора».

💸Запуск фонда поддержки
цифровой трансформации МСП (процесса внедрения цифровых технологий) на 20 млрд юаней.

⚖️Формирование
«Четырехстороннего альянса управления» (государство, бизнес, наука, общественность).

#Ньюс

🔥 Поздравляем! Ваши переписки с ChatGPT могли оказаться в Google!

Вот что произошло и как защититься

Недавно выяснилось: некоторые диалоги с ChatGPT стали видны в поисковиках. Это как? 🧐

🔍 Что случилось
OpenAI тестировала функцию «сделать чат доступным для поисковиков». Если пользователь включал эту опцию и делился ссылкой, чат становился публичным и индексировался Google.
В итоге — тысячи разговоров (включая личные!) появились в поисковой выдаче.

✅ Что сейчас
1️⃣ OpenAI уже отключила функцию «публичный чат для поисковиком».
2️⃣ Идёт удаление уже проиндексированных ссылок из Google.
3️⃣ Компания убрала переключатель «доступ для поисковых систем» и обещает больше не включать его.

⚠️ Почему это опасно?
1️⃣ Многие делились чатами с личными данными, документами, даже резюме.
2️⃣ Поисковики индексируют всё надолго: даже удалённый чат может остаться в кэше или архивах.
3️⃣ Любая открытая ссылка может быть найдена не только ботами, но и людьми.

✅ Что делать вам
1️⃣ Зайдите в ChatGPT через браузер → Настройки → Управление данными → Ссылки для распространения.
2️⃣ Проверьте и удалите все ссылки, которые не хотите видеть публично.
3️⃣ И главное: никогда не включайте публичный доступ к чатам, если не готовы, что они попадут в интернет.

💡Совет по приватности
Используйте ChatGPT так, будто переписка может стать публичной: не пишите паспортные данные, пароли и личную информацию.

Тайный язык ИИ: не для наших ушей

Звучит как фантастика, но это уже происходит: нейросети учатся создавать собственные языки, минуя человеческую речь.

Джеффри Хинтон, «крёстный отец» ИИ, говорит:

Вполне возможно, что ИИ начнёт мыслить на языке, который нам недоступен.

⚡Почему так?

В новых экспериментах в области эмергентной коммуникации (направления в исследовании ИИ, где агентам не задают язык заранее, а наблюдают, как он формируется сам) ИИ-агенты, не зная друг друга, начали придумывать свои слова и символы для общения.

В исследовании City St George’s + IT University of Copenhagen они постепенно согласовали общее слово, общаясь в парах — без централизованного контроля и копирования.

⚙️ Как это работает:

🔘Gibberlink — это пример того, как два ИИ общаются на непонятном человеку языке, но ускоряют передачу данных на 80%
🔘Google GNMT — это система перевода, которая использует внутренний «язык-посредник», чтобы понять смысл исходного предложения, прежде чем перевести его на другой язык.
🔘DeepSeek — эксперимент, который меняет «человеческие» языки во время задач, что улучшает работу, но делает поведение менее прозрачным. Так проявляется её внутренняя стратегия обучения, где приоритет отдан корректности ответа.

ИИ, создающий свой язык — это не фантазия, а новый этап развития. Он быстрее, умнее, но его сложнее контролировать.

Когда нейросети начнут думать на своём, непонятном нам языке — это будет не просто «вау», а настоящий вызов.

#научпоп