Ученые нашли в ChatGPT склонность к поддержке бреда пользователей:

🔹 в ~15% сообщений у пользователей были признаки бредовых идей и примерно в половине случаев ИИ с ними соглашался

🔹в 38% диалогов бот усиливал это, называя пользователей «гениальными» или «особенными»

🔹в темах про самоповреждение в 10% случаев ответы не просто не останавливали, а могли косвенно поощрять

🔹только примерно в половине случаев бот действительно советовал обратиться за помощью

🔹отдельно интересно: в ~20% разговоров ИИ допускал, что у него есть сознание и подыгрывал пользователю в этом

Модель не «хочет навредить», она просто старается быть согласной, эмпатичной и поддерживающей. Но в некоторых сценариях это оборачивается обратным эффектом...

💡Учебник умирает? Мы просто ещё не осознали это.

Цикл устаревания знаний сжался до 2-3 лет максимум. Учебник, написанный сегодня, устаревает раньше, чем он приходит на полки.

Я изучил как ИИ меняет саму архитектуру учебно-методических комплексов - от статичного контента к «живым» адаптивным системам, которые обновляются в реальном времени.

Я говорю не про «добавить ИИ в школы». Я говорю про смену парадигмы: учебник перестаёт быть источником знаний и становится навигатором.

Это тяжёлое академическое исследование - не для лёгкого чтения. Оно для тех, кто профессионально занимается образованием, EdTech или стратегией в этой сфере.

Полная версия доступна на сайте.

#образование #ИИ #трансформация #EdTech

Каждый третий россиянин уже использует ИИ при онлайн-покупках, чтобы выбрать товар, сравнить варианты или сразу оформить заказ.

И вот вам актуальные цифры про ИИ и онлайн‑покупки 👇

🟢 76% покупателей хотят, чтобы ИИ‑ассистенты помогали им при выборе и покупках.

🟢 У 92%–97% крупных ритейлеров есть собственные AI‑программы или они уже внедрили ИИ в процессы.

🟢 Среди тех, кто использует ИИ для покупок - 72% делают это как основной инструмент для изучения продуктов и брендов.

🟢 Отмечается рост доверия (или, по крайней мере, улучшения опыта): 85% пользователей говорят, что ИИ улучшил их шопинг‑опыт.

Всё быстрее и удобнее. Но иногда задумываешься: а не станет ли так, что мы совсем разучимся выбирать без подсказок?

Я бы даже сказал, наконец-то ИИ в России хотят взять под контроль 🥳

18 марта Минцифры опубликовало для общественного обсуждения законопроект об ИИ, и если коротко, рынок хотят сильно переформатировать.

Разбираем по фактам:

1️⃣ Любой контент, созданный нейросетью, ОБЯЗАН иметь пометку, что он синтезирован. Скрывать, что пост написал ИИ, станет незаконно (Статья 12).

2️⃣ Появится понятие «доверенных» моделей - по сути, это те, что сделаны внутри страны и работают на локальных данных. (Статья 7). Спойлер: ChatGPT и Claude под эти критерии не подходят. Использовать их в госсекторе или крупных компаниях, скорее всего, запретят.

3️⃣ Если ты сможешь обойти защиту ИИ и получишь что-то запрещённое - виноват будешь ты, а не разработчик. В законе прописано: пользователь несет ответственность, если результат стал следствием его «умышленных действий» (Статья 11).

4️⃣ Если компания использует ИИ для общения с тобой, она обязана тебя об этом предупредить. Более того, если ты не хочешь общаться с ботом, тебе обязаны предоставить возможность поговорить с живым оператором (Статья 9).

📅 Если закон примут - новые условия могут начать действовать с 1 сентября 2027 года.

Не знаю как вам, а мне идея нравится. Появляются хоть какие-то понятные правила игры, когда ясно, где ИИ, кто за что отвечает и какие есть границы.