Forwarded from Облачный адвокат (Dmitri Soshnikov)
Я не так давно писал про ставшую уже классической статью про накопление когнитивного долга от использования GPT, иными словами - как необдуманное использование GPT убивает в людях способность думать. Недавно вышла ещё одна прекрасная статья: Human Creativity in the Age of LLMs, в которой авторы сравнивают, как использование LLM для решения задач дивергентной и конвергентной креативности влияет на способность решать такие задачи в дальнейшем. В эксперименте людей делили на 3 группы: в одной они решали креативную задачу сами, в другой - могли попросить LLM решить задачу, а в третьей - использовали LLM не для окончательного решения, а для подсказок о ходе решения. При этом люди трижды повторяли похожий эксперимент, затем отдыхали пару минут - после чего их просили решить такую же задачу уже самостоятельно, без LLM. Схема приведена на рис.1
Если говорить о дивергентной креативности, то решаемая задача - это стандартный тест Гилфорда (AUT). Результаты (рис 2) поражают!
Из хороших новостей - люди в третьем испытании, без нейросетей, в среднем решают задачу лучше, чем в первых двух. Вероятно, их мозг разогревается в процессе первых трех раундов, что с LLM, что без - и потом уже работает с увеличенной производительностью. Но что удивительно - люди, использовавшие LLM для решения, получили результаты хуже, чем люди без LLM!
Как же так!??? - спросите вы! Ведь исследования ранее показывали, что нейросети в среднем дивергентно-креативнее человека! Тут нет никакого противоречия: в данном исследовании LLM без человека даёт индекс оригинальности в районе 3.25, после чего люди всё портят, и оригинальность снижается до 2.73. На первый взгляд это ещё одна ситуация, когда люди портят прекрасные решения ИИ, но вероятно не всё так просто. Вспомним, что ИИ даёт нам очень дивергентные решения, часть из которых не выдерживает последующей конвергентной критики. Вероятно, люди отбрасывают такие решения как несостоятельные, тем самым повышая среднее качество решений, но снижая их разнообразие. Авторы выдвигают другую гипотезу - что люди не берут решения LLM, предпочитая им свои решения из соображений ревности.
Однако тот факт, что при этом получается хуже, чем у людей без LLM, вызывает вопросы... Возможно, люди в своём конвергентном порыве не могут остановиться, и убирают слишком много.
Справедливости ради ещё одна мера разнообразия идей - косинусное расстояние - ведёт себя намного предказуемее (рис.3). В обоих случаях при использовании LLM для генерации идей (LLM-assisted list of ideas) результат получается лучше, и в случае индивидуальных текстов при отказе от LLM результат ухудшается. Все-таки лучше использовать LLM для генерации идей!
В статье также исследуется и конвергентное мышление, но на мой взгляд довольно странными тестами на нахождение общих смыслов слов. В таких задачах LLM явно справляется лучше человека, и отказ от LLM имеет драматические последствия - что и показывает рис. 4.
Мораль: использовать нейросети для креативности полезно и нужно, но нужно делать это правильно!
Подробнее мы обсудим исходную статью про Cognitive Debt и эту статью сегодня в 11:30 МСК в программе "Физики и Лирики" с Александром Пушным и Ритой Митрофановой сегодня (22 октября 2025) на Радио Маяк. Подключайтесь!
Если говорить о дивергентной креативности, то решаемая задача - это стандартный тест Гилфорда (AUT). Результаты (рис 2) поражают!
Из хороших новостей - люди в третьем испытании, без нейросетей, в среднем решают задачу лучше, чем в первых двух. Вероятно, их мозг разогревается в процессе первых трех раундов, что с LLM, что без - и потом уже работает с увеличенной производительностью. Но что удивительно - люди, использовавшие LLM для решения, получили результаты хуже, чем люди без LLM!
Как же так!??? - спросите вы! Ведь исследования ранее показывали, что нейросети в среднем дивергентно-креативнее человека! Тут нет никакого противоречия: в данном исследовании LLM без человека даёт индекс оригинальности в районе 3.25, после чего люди всё портят, и оригинальность снижается до 2.73. На первый взгляд это ещё одна ситуация, когда люди портят прекрасные решения ИИ, но вероятно не всё так просто. Вспомним, что ИИ даёт нам очень дивергентные решения, часть из которых не выдерживает последующей конвергентной критики. Вероятно, люди отбрасывают такие решения как несостоятельные, тем самым повышая среднее качество решений, но снижая их разнообразие. Авторы выдвигают другую гипотезу - что люди не берут решения LLM, предпочитая им свои решения из соображений ревности.
Однако тот факт, что при этом получается хуже, чем у людей без LLM, вызывает вопросы... Возможно, люди в своём конвергентном порыве не могут остановиться, и убирают слишком много.
Справедливости ради ещё одна мера разнообразия идей - косинусное расстояние - ведёт себя намного предказуемее (рис.3). В обоих случаях при использовании LLM для генерации идей (LLM-assisted list of ideas) результат получается лучше, и в случае индивидуальных текстов при отказе от LLM результат ухудшается. Все-таки лучше использовать LLM для генерации идей!
В статье также исследуется и конвергентное мышление, но на мой взгляд довольно странными тестами на нахождение общих смыслов слов. В таких задачах LLM явно справляется лучше человека, и отказ от LLM имеет драматические последствия - что и показывает рис. 4.
Мораль: использовать нейросети для креативности полезно и нужно, но нужно делать это правильно!
Подробнее мы обсудим исходную статью про Cognitive Debt и эту статью сегодня в 11:30 МСК в программе "Физики и Лирики" с Александром Пушным и Ритой Митрофановой сегодня (22 октября 2025) на Радио Маяк. Подключайтесь!
Forwarded from Облачный адвокат (Dmitri Soshnikov)
Пару дней назад хорошо побеседовали в эфире программы Физики и Лирики с Александром Пушным про нейросети (слушать). Александр привёл пример профессии, которую полностью вытеснили нейросети - это получение качественной минусовки песен. Дело в том, что для качественной минусовки недостаточно "вычесть голос" - надо реконструировать исходную песню со всеми её звуками и инструментами, т.е. как бы записать её заново, но без голоса. Это типичный пример обратной задачи - т.е. исходная задача легко решается в прямом направлении, но сложно - в обратном. Примеры таких задач:
* Можно смешать холодную и горячую воду, но разделить их обратно уже нельзя. Энтропия всегда растёт
* Можно добавить майонез в оливье, но извлечь его обратно не получится
* На сложности обратной задачи разложения числа на простые множители основана криптография. Можно легко перемножить два простых числа, но найти исходные числа по произведению - задача сложная (если числа достаточно длинные)
В итоге для записи минуса привлекались профессиональные музыканты. Сейчас же нейросетевой инструмент MOISES может разделить песню на отдельные дорожки с весьма неплохим качеством, и потом оттуда не только можно убрать голос, но и модифицировать остальные треки и заново их смикшировать.
Возникает вопрос - действительно ли ИИ позволяет нам магическим образом решать сложные обратные задачи, как же как квантовые компьютеры в перспективе помогут решать обратную задачу криптографии? А что же в этом случае происходит со 2-м началом термодинамики (в расширенном его понимании, конечно), которое говорит о том, что энтропию нельзя бесплатно понизить, и чтобы навести порядок в комнате нужны усилия. Что думаете?
P.S. У меня есть ответ на этот вопрос, но думаю вам будет интереснее тоже подумать на эту тему, или как минимум побеседовать с вашей любимой LLM.
P.P.S. По результатам эфира к моему каналу присоединилось более полусотни читателей. Друзья, рад вас тут приветствовать, с добрым утром!
* Можно смешать холодную и горячую воду, но разделить их обратно уже нельзя. Энтропия всегда растёт
* Можно добавить майонез в оливье, но извлечь его обратно не получится
* На сложности обратной задачи разложения числа на простые множители основана криптография. Можно легко перемножить два простых числа, но найти исходные числа по произведению - задача сложная (если числа достаточно длинные)
В итоге для записи минуса привлекались профессиональные музыканты. Сейчас же нейросетевой инструмент MOISES может разделить песню на отдельные дорожки с весьма неплохим качеством, и потом оттуда не только можно убрать голос, но и модифицировать остальные треки и заново их смикшировать.
Возникает вопрос - действительно ли ИИ позволяет нам магическим образом решать сложные обратные задачи, как же как квантовые компьютеры в перспективе помогут решать обратную задачу криптографии? А что же в этом случае происходит со 2-м началом термодинамики (в расширенном его понимании, конечно), которое говорит о том, что энтропию нельзя бесплатно понизить, и чтобы навести порядок в комнате нужны усилия. Что думаете?
P.S. У меня есть ответ на этот вопрос, но думаю вам будет интереснее тоже подумать на эту тему, или как минимум побеседовать с вашей любимой LLM.
P.P.S. По результатам эфира к моему каналу присоединилось более полусотни читателей. Друзья, рад вас тут приветствовать, с добрым утром!
Forwarded from Облачный адвокат (Dmitri Soshnikov)
Я недавно писал про хакатон по промпт-инжинирингу в медицине. Результаты этого хакатона будут представлены на конференции MedPrompt Summit, которая пройдёт 31 октября 2025 г. в Москве. А, к слову, тоже там расскажу немного про LLM - как GPT спас собаку, как люди портят результаты ИИ и т.д. Кстати смотрите, как прикольно (но не очень похоже) стилизовали мой портрет под сайт конференции.
По опыту, такие тусовки оказываются очень вдохновляющими. Я недавно был на мероприятии от MTS-Link, как раз на медицинскую тематику, и там с большим интересом узнал, что медицинские компании и стартапы активно осваивают LLM, и немного поговорил в кулуарах про то, как они это делают. А грядущий MedPrompt Summit кажется будет ещё и изобиловать короткими докладами о том, как именно это делается.
В общем, рекомендую к посещению!
По опыту, такие тусовки оказываются очень вдохновляющими. Я недавно был на мероприятии от MTS-Link, как раз на медицинскую тематику, и там с большим интересом узнал, что медицинские компании и стартапы активно осваивают LLM, и немного поговорил в кулуарах про то, как они это делают. А грядущий MedPrompt Summit кажется будет ещё и изобиловать короткими докладами о том, как именно это делается.
В общем, рекомендую к посещению!
Forwarded from Облачный адвокат (Dmitri Soshnikov)
Меня позвали поучаствовать в открытии форума "Стань выше с Вышкой", где организуется круглый стол "Диалог на равных: Вышка - школам", посвященный использованию ГенИИ в преподавании. Круглый стол можно будет смотреть онлайн:
⏰ 27 октября 2025 г., 13:00-14:30
📺 вконтакте, на сайте ММСО
Почему это стоит смотреть? Помимо меня, будет отличный букет спикеров:
🧍♂️Максим Казарновский, директор ММСО
🧍♂️Валерий Пазынин, директор лицея НИУ ВШЭ
🧍♀️Елена Федоренко, доцент Института образования НИУ ВШЭ
🧍♀️Мария Горденко, академический руководитель программ по Анализу данных и Финтеху ФКН
🧍♂️Владимир Кривцов, директор школы №7, Наро-Фоминск
Модерировать дискуссию будет Ирина Резанова, директор Центра взаимодействия с регионами ВШЭ.
Учителя со всей России будут задавать вопросы, которые их действительно волнуют. Надеюсь, будет интересно и познавательно для всех участников. Если у Вас есть какие-то мысли по поводу использования GPT в образовании, которыми Вам очень хочется поделиться со мной в этой связи - пишите в комментариях! И приходите нас смотреть завтра.
⏰ 27 октября 2025 г., 13:00-14:30
📺 вконтакте, на сайте ММСО
Почему это стоит смотреть? Помимо меня, будет отличный букет спикеров:
🧍♂️Максим Казарновский, директор ММСО
🧍♂️Валерий Пазынин, директор лицея НИУ ВШЭ
🧍♀️Елена Федоренко, доцент Института образования НИУ ВШЭ
🧍♀️Мария Горденко, академический руководитель программ по Анализу данных и Финтеху ФКН
🧍♂️Владимир Кривцов, директор школы №7, Наро-Фоминск
Модерировать дискуссию будет Ирина Резанова, директор Центра взаимодействия с регионами ВШЭ.
Учителя со всей России будут задавать вопросы, которые их действительно волнуют. Надеюсь, будет интересно и познавательно для всех участников. Если у Вас есть какие-то мысли по поводу использования GPT в образовании, которыми Вам очень хочется поделиться со мной в этой связи - пишите в комментариях! И приходите нас смотреть завтра.
www.hse.ru
Программа форума – 2025
IT-Центр МАИ
Стань участником всероссийского исследования карьерных предпочтений студентов вузов! FutureToday проводит масштабное исследование, чтобы узнать, что действительно важно для студентов высших учебных заведений при выборе будущей профессии. Твое мнение поможет…
Telegram
Облачный адвокат
Вчера выступил на Дне науки МАИ и рассказал про перспективы восстания машин - опять же с позиции того, как работают нейросети, и коротко упомянув про последние отчёты OpenAI про сознательное враньё нейросетей. Но вообще, конечно, тема для отдельной дискуссии…
Облачный адвокат
Пару дней назад хорошо побеседовали в эфире программы Физики и Лирики с Александром Пушным про нейросети (слушать). Александр привёл пример профессии, которую полностью вытеснили нейросети - это получение качественной минусовки песен. Дело в том, что для качественной…
Telegram
Коммерсантъ FM
ИИ не хватает ума
Искусственный интеллект деградирует. К такому выводу пришли ученые нескольких американских университетов. Причиной регресса называют массовые запросы на создание так называемых брейн-рот видео для соцсетей. Языковые модели обучаются на некачественном…
Искусственный интеллект деградирует. К такому выводу пришли ученые нескольких американских университетов. Причиной регресса называют массовые запросы на создание так называемых брейн-рот видео для соцсетей. Языковые модели обучаются на некачественном…
⚡1
Особенный айтишник LIVE👨💻🇷🇺🕊🌏 pinned «🚨🚨🚨🚨 https://t.me/kfm936/32020»
Security Week 2544: уязвимость в IT-инфраструктуре «Формулы-1» https://habr.com/p/960466/
Habr
Security Week 2544: уязвимость в IT-инфраструктуре «Формулы-1»
Исследователь Сэм Карри вместе с коллегами хорошо известен благодаря своим исследованиям безопасности корпоративной инфраструктуры. Зачастую он находит довольно простые ошибки, которые тем не менее...
Forwarded from IT-Центр МАИ
Джангир объяснил, как новые алгоритмы и методики улучшают систему принятия решений в Сбере, а также рассказал о работе ИИ-агента, который проводит исследования и генерирует новые идеи.
Спасибо Джангиру Джангирову и команде Сбера за такое интересное мероприятие!
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Кубань 24
This media is not supported in your browser
VIEW IN TELEGRAM
Финансово-экономический блок остался в том же составе. То, что работает хорошо, как говорят инженеры, трогать не нужно.
Как отметил директор Краснодарского филиала Финансового университета при Правительстве РФ Эдуард Соболев, это профессионалы, которые четко выполняли и будут выполнять поставленные задачи. Когда экономика России сталкивалась с проблемами, край сохранял стабильность.
Кубань 24 в MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Кубань 24
В условиях ограничений мобильного интернета в Краснодарском крае к интернету можно подключиться в большинстве крупных торговых центров Краснодара.
К открытым Wi-Fi-зонам на Кубани присоединился МТС. По данным оператора В 15 городах Краснодарского края в салонах сотовой сети обеспечили доступ к бесплатному интернету.
Наибольшее количество открытых Wi-Fi-зон сосредоточено в Краснодаре. В краевой столице это салоны. расположенные практически в каждом микрорайоне.. До конца ноября общее количество салонов с открытым Wi-Fi будет более 70.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from СОЛОВЬЁВ
МАХ отметил 50-миллионного пользователя — им стала 34-летняя Анна Акулова из Барнаула. Девушка зарегистрировалась в мессенджере 27 октября и получила подарок — сертификат на семейное путешествие по России и фирменный мерч.
К 27 октября аудитория мессенджера достигла 50 млн пользователей, среднесуточный охват превысил 19 млн человек. За время работы сервиса пользователи отправили 3,7 млрд сообщений, совершили 842 млн звонков и записали 25 млн видеокружков.
🇷🇺 Соловьёв в Max | ✍ Соловьёв в Telegram
К 27 октября аудитория мессенджера достигла 50 млн пользователей, среднесуточный охват превысил 19 млн человек. За время работы сервиса пользователи отправили 3,7 млрд сообщений, совершили 842 млн звонков и записали 25 млн видеокружков.
Please open Telegram to view this post
VIEW IN TELEGRAM