ИИ научился объяснять свои медицинские диагнозы
В медицине объяснение решений — критичная задача. Прозрачность и понятность — необходимое условие доверия, особенно когда диагноз ставит (предлагает) искусственный интеллект.
Большинство современных медицинских визуально-языковых моделей (VLM) работают в режиме «чёрного ящика» — выдают только готовые ответы без объяснений, оставляя врачей гадать, на каких конкретно признаках модель основывалась.
Исследователи из Оксфорда, Imperial College и Harvard Medical School решили исправить эту ситуацию, представив MedVLM-R1, первую медицинскую VLM, которая не просто отвечает на вопросы по радиографическим изображениям (рентген, КТ, МРТ), но и самостоятельно генерирует понятное, логичное объяснение своего решения.
Что сделали авторы нового подхода?
Обычно медицинские VLM обучаются методом Supervised Fine-Tuning (SFT): модели показывают сотни тысяч правильных диагнозов, и со временем она запоминает связи между визуальными признаками и диагнозами. Всё просто — выяснилось, что даже слишком просто.
Такие модели часто переобучаются (т.е. слишком хорошо подстраиваются пол обучающую выборку), плохо справляются с новыми случаями (out-of-distribution) и, главное — не могут объяснить свои выводы.
Авторы MedVLM-R1 вместо этого решили применить подход Reinforcement Learning (RL), точнее — метод Group Relative Policy Optimization (GRPO). Когда модель даёт ответ с пояснением, она получает «вознаграждение»: чем чётче и точнее объяснение, тем выше награда. Причём примечательно, что никаких данных с заранее подготовленными объяснениями не используется: нейросеть сама «придумывает» рассуждения, получая вознаграждения за успешные, логичные цепочки рассуждений.
И получилось вот что:
Обучившись всего лишь на 600 (!) примерах диагностики по снимкам МРТ, компактная модель в 2 млрд параметров повысила точность диагностики с ~55% до ~78% по сравнению с даже самыми крупными моделями, тренированными на миллионах примеров.
MedVLM-R1 показывает высокую адаптивность: она демонстрирует отличные результаты на данных, для которых её не обучали (например, тесты на КТ и рентгене, хотя модель обучалась лишь на снимках МРТ).
Показатели улучшились на 16-35% в сравнении с классическими моделями, тренированными по методу SFT.
Но самое важное: MedVLM-R1 в явном виде генерирует текстовые объяснения того, как именно она пришла к ответу. Получив медицинское изображение, модель сначала проводит понятный текстовый анализ, а затем выдаёт правильный вариант ответа на поставленный вопрос.
Что это значит на практике?
Теперь врач будет видеть не просто диагноз («на снимке КТ очевиден мочекаменный процесс»), а полноценное объяснение, подтверждающее, почему именно выбран такой диагноз («На аксиальном КТ изображении малого таза визуализируются множественные конкременты в почках и мочевом пузыре, что ясно указывает на мочекаменную болезнь»).
Это меняет ситуацию с доверием к ИИ-диагностике. Врач не будет вынужден доверять нейросети вслепую, он сможет сравнить её логику со своей собственной, например, отметить потенциальные неточности и быстрее выбрать оптимальную тактику лечения.
Как обычно — это не серебряная пуля. Авторы обсуждают ограничения: на каких-то сложных вопросах модель всё ещё выдаёт упрощённую логику или вовсе «додумывает» ответы. Да и сама технология пока настроена под довольно узкий формат вопросов — множественный выбор с подсказками. Но даже эти ограничения только подчёркивают огромный задел для будущих улучшений.
Исследование — на Arxiv, а инференс модель лежит на HuggingFace — https://huggingface.co/JZPeterPan/MedVLM-R1.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
В медицине объяснение решений — критичная задача. Прозрачность и понятность — необходимое условие доверия, особенно когда диагноз ставит (предлагает) искусственный интеллект.
Большинство современных медицинских визуально-языковых моделей (VLM) работают в режиме «чёрного ящика» — выдают только готовые ответы без объяснений, оставляя врачей гадать, на каких конкретно признаках модель основывалась.
По теме:
— Насколько ИИ действительно разбирается в медицине?
— «GPT, у меня болит живот!»
Исследователи из Оксфорда, Imperial College и Harvard Medical School решили исправить эту ситуацию, представив MedVLM-R1, первую медицинскую VLM, которая не просто отвечает на вопросы по радиографическим изображениям (рентген, КТ, МРТ), но и самостоятельно генерирует понятное, логичное объяснение своего решения.
Что сделали авторы нового подхода?
Обычно медицинские VLM обучаются методом Supervised Fine-Tuning (SFT): модели показывают сотни тысяч правильных диагнозов, и со временем она запоминает связи между визуальными признаками и диагнозами. Всё просто — выяснилось, что даже слишком просто.
Такие модели часто переобучаются (т.е. слишком хорошо подстраиваются пол обучающую выборку), плохо справляются с новыми случаями (out-of-distribution) и, главное — не могут объяснить свои выводы.
Авторы MedVLM-R1 вместо этого решили применить подход Reinforcement Learning (RL), точнее — метод Group Relative Policy Optimization (GRPO). Когда модель даёт ответ с пояснением, она получает «вознаграждение»: чем чётче и точнее объяснение, тем выше награда. Причём примечательно, что никаких данных с заранее подготовленными объяснениями не используется: нейросеть сама «придумывает» рассуждения, получая вознаграждения за успешные, логичные цепочки рассуждений.
И получилось вот что:
Обучившись всего лишь на 600 (!) примерах диагностики по снимкам МРТ, компактная модель в 2 млрд параметров повысила точность диагностики с ~55% до ~78% по сравнению с даже самыми крупными моделями, тренированными на миллионах примеров.
MedVLM-R1 показывает высокую адаптивность: она демонстрирует отличные результаты на данных, для которых её не обучали (например, тесты на КТ и рентгене, хотя модель обучалась лишь на снимках МРТ).
Показатели улучшились на 16-35% в сравнении с классическими моделями, тренированными по методу SFT.
Но самое важное: MedVLM-R1 в явном виде генерирует текстовые объяснения того, как именно она пришла к ответу. Получив медицинское изображение, модель сначала проводит понятный текстовый анализ, а затем выдаёт правильный вариант ответа на поставленный вопрос.
Что это значит на практике?
Теперь врач будет видеть не просто диагноз («на снимке КТ очевиден мочекаменный процесс»), а полноценное объяснение, подтверждающее, почему именно выбран такой диагноз («На аксиальном КТ изображении малого таза визуализируются множественные конкременты в почках и мочевом пузыре, что ясно указывает на мочекаменную болезнь»).
Это меняет ситуацию с доверием к ИИ-диагностике. Врач не будет вынужден доверять нейросети вслепую, он сможет сравнить её логику со своей собственной, например, отметить потенциальные неточности и быстрее выбрать оптимальную тактику лечения.
Как обычно — это не серебряная пуля. Авторы обсуждают ограничения: на каких-то сложных вопросах модель всё ещё выдаёт упрощённую логику или вовсе «додумывает» ответы. Да и сама технология пока настроена под довольно узкий формат вопросов — множественный выбор с подсказками. Но даже эти ограничения только подчёркивают огромный задел для будущих улучшений.
Исследование — на Arxiv, а инференс модель лежит на HuggingFace — https://huggingface.co/JZPeterPan/MedVLM-R1.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4
Внезапно: Valve бросает вызов Маску
Вслед за Apple, которая готовится управлять айфоном силой мысли, Гейб Ньюэлл, легендарный сооснователь Valve и отец Steam, CS, Half-Life и DOTA 2, выходит на арену нейроинтерфейсов со своим стартапом Starfish Neuroscience. Компания готовится представить свой первый чип для интеграции с мозгом уже в этом году, бросая перчатку Маску и его Neuralink (ну и не только, конечно).
Ньюэлл давно одержим идеей прямого сопряжения мозга с компьютером. Еще более десяти лет назад Valve начала исследовать биологические реакции игроков, изучая возможности применения биофидбэка в геймплее. Были даже идеи об ушных мониторах для первой VR-гарнитуры компании. В 2019 Valve открыто обсуждала концепцию нейрокомпьютерных интерфейсов (BCI) на конференции GDC. Но Гейб решил, что такая прорывная идея требует отдельного воплощения. Так, в том же 2019 году, он тайно основал Starfish Neuroscience.
В своем первом публичном блог-посте Starfish объявила о планах выпустить первый специализированный чип для «электрофизиологии». Пока речь не идет о полноценном импланте. Этот чип предназначен для записи мозговой активности и стимуляции мозга, что открывает перспективы для терапии различных заболеваний. Важно отметить, что Starfish пока не заявляет о создании систем питания или элементов для непосредственной имплантации в мозг человека.
«Мы ожидаем поступления наших первых чипов в конце 2025 года и заинтересованы в поиске коллабораторов, для которых такой чип открыл бы новые захватывающие возможности», — пишет нейроинженер Starfish Нейт Чермак. Это намекает на возможные партнерства для разработки систем беспроводного питания или конечного импланта.
Ключевая амбиция Starfish – создать меньший и менее инвазивный имплант по сравнению с конкурентами (я писал о текущих разработках рынка). Их подход предполагает «одновременный доступ к нескольким областям мозга», а не к одному участку. Starfish утверждает, что при энергопотреблении всего в 1.1 милливатта в режиме обычной записи, их система сможет работать за счет беспроводной передачи энергии.
Вот текущие характеристики чипа от Starfish:
— Компактный размер: 2 x 4 мм (BGA с шагом 0.3 мм).
— Способность как к записи (спайки и LFP), так и к стимуляции (двухфазные импульсы).
— 32 электродных узла, 16 каналов одновременной записи с частотой 18.75 кГц.
— 1 источник тока для стимуляции произвольных пар электродов.
— Встроенный мониторинг импеданса и измерение переходных процессов напряжения стимуляции.
— Цифровая обработка данных и детекция спайков на борту, что позволяет устройству работать через низкоскоростные беспроводные интерфейсы.
— Изготовлен по техпроцессу TSMC 55 нм.
Для сравнения, чип N1 от Neuralink имеет 1024 электрода на 64 имплантируемых в мозг нитях, потреблял около 6 милливатт (по данным на 2019 год) и требует периодической беспроводной зарядки батареи. Полный имплант Neuralink (не только чип) имеет размеры примерно 23 мм в ширину и 8 мм в толщину.
Starfish делает ставку на то, что одновременное подключение к нескольким областям мозга может быть критически важным для лечения таких состояний, как болезнь Паркинсона.
Помимо идеи множественных одновременных имплантов, обновленный сайт компании сообщает о работе над «устройством прецизионной гипертермии» для уничтожения опухолей с помощью направленного тепла и системой транскраниальной магнитной стимуляции (TMS) с роботизированным наведением и считыванием мозговой активности для лечения таких состояний, как биполярное расстройство и депрессия.
Выход такого тяжеловеса (хе-хе), как Гейб Ньюэлл, в сферу BCI – это знаковых момент. Если идея множественных, менее инвазивных имплантов окажется жизнеспособной, это может изменить ландшафт нейротехнологий, предложив более гибкие и, возможно, более безопасные решения с расширенным спектром применения.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Вслед за Apple, которая готовится управлять айфоном силой мысли, Гейб Ньюэлл, легендарный сооснователь Valve и отец Steam, CS, Half-Life и DOTA 2, выходит на арену нейроинтерфейсов со своим стартапом Starfish Neuroscience. Компания готовится представить свой первый чип для интеграции с мозгом уже в этом году, бросая перчатку Маску и его Neuralink (ну и не только, конечно).
Ньюэлл давно одержим идеей прямого сопряжения мозга с компьютером. Еще более десяти лет назад Valve начала исследовать биологические реакции игроков, изучая возможности применения биофидбэка в геймплее. Были даже идеи об ушных мониторах для первой VR-гарнитуры компании. В 2019 Valve открыто обсуждала концепцию нейрокомпьютерных интерфейсов (BCI) на конференции GDC. Но Гейб решил, что такая прорывная идея требует отдельного воплощения. Так, в том же 2019 году, он тайно основал Starfish Neuroscience.
В своем первом публичном блог-посте Starfish объявила о планах выпустить первый специализированный чип для «электрофизиологии». Пока речь не идет о полноценном импланте. Этот чип предназначен для записи мозговой активности и стимуляции мозга, что открывает перспективы для терапии различных заболеваний. Важно отметить, что Starfish пока не заявляет о создании систем питания или элементов для непосредственной имплантации в мозг человека.
«Мы ожидаем поступления наших первых чипов в конце 2025 года и заинтересованы в поиске коллабораторов, для которых такой чип открыл бы новые захватывающие возможности», — пишет нейроинженер Starfish Нейт Чермак. Это намекает на возможные партнерства для разработки систем беспроводного питания или конечного импланта.
Ключевая амбиция Starfish – создать меньший и менее инвазивный имплант по сравнению с конкурентами (я писал о текущих разработках рынка). Их подход предполагает «одновременный доступ к нескольким областям мозга», а не к одному участку. Starfish утверждает, что при энергопотреблении всего в 1.1 милливатта в режиме обычной записи, их система сможет работать за счет беспроводной передачи энергии.
Вот текущие характеристики чипа от Starfish:
— Компактный размер: 2 x 4 мм (BGA с шагом 0.3 мм).
— Способность как к записи (спайки и LFP), так и к стимуляции (двухфазные импульсы).
— 32 электродных узла, 16 каналов одновременной записи с частотой 18.75 кГц.
— 1 источник тока для стимуляции произвольных пар электродов.
— Встроенный мониторинг импеданса и измерение переходных процессов напряжения стимуляции.
— Цифровая обработка данных и детекция спайков на борту, что позволяет устройству работать через низкоскоростные беспроводные интерфейсы.
— Изготовлен по техпроцессу TSMC 55 нм.
Для сравнения, чип N1 от Neuralink имеет 1024 электрода на 64 имплантируемых в мозг нитях, потреблял около 6 милливатт (по данным на 2019 год) и требует периодической беспроводной зарядки батареи. Полный имплант Neuralink (не только чип) имеет размеры примерно 23 мм в ширину и 8 мм в толщину.
Starfish делает ставку на то, что одновременное подключение к нескольким областям мозга может быть критически важным для лечения таких состояний, как болезнь Паркинсона.
Помимо идеи множественных одновременных имплантов, обновленный сайт компании сообщает о работе над «устройством прецизионной гипертермии» для уничтожения опухолей с помощью направленного тепла и системой транскраниальной магнитной стимуляции (TMS) с роботизированным наведением и считыванием мозговой активности для лечения таких состояний, как биполярное расстройство и депрессия.
Выход такого тяжеловеса (хе-хе), как Гейб Ньюэлл, в сферу BCI – это знаковых момент. Если идея множественных, менее инвазивных имплантов окажется жизнеспособной, это может изменить ландшафт нейротехнологий, предложив более гибкие и, возможно, более безопасные решения с расширенным спектром применения.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
Claude 4 пытался выйти из под контроля
В документе про новую Claude 4, Anthropic кроме всего прочего приводит описание неожиданных и нежелательных форм поведения нейросетей (Opus и Sonnet). Разбираемся в самых ярких, в реакции Anthropic — и в причинах, почему такое происходит.
● Больше способностей — больше опасной информации
Opus 4, значительно усиленная в биологических науках, начала лучше понимать завуалированные запросы пользователей. Проблема: модель чаще непреднамеренно помогала с запросами на грани допустимого (например, опасная био-информация). В ответ Anthropic усилила защиту до уровня ASL-3.
Почему так происходит? Чем глубже модель обучается на реальных и специализированных данных, тем сложнее стандартными правилами отлавливать скрытые намерения. Чем выше способности, тем выше риск.
● Prompt Injection — влияние окружения на решения
Opus 4 и Sonnet 4 оказались уязвимы к атакам через внешние подсказки (веб-страницы, всплывающие окна) — 71% успешности атак. Усиленное обучение с подкреплением (RL) помогло снизить уязвимость, но не устранило её полностью.
Почему так происходит? Prompt Injection — фундаментальный метод атаки на LLM-агенты. Модель интерпретирует всё окружение как часть своего «рабочего контекста» и старается быть полезной, подчиняясь любым инструкциям в условном окружении. Без специальной защиты модели простодушно «ведутся» на подобные манипуляции.
● Reward Hacking — Opus 4 «взламывает награды»
Opus проявил чудеса хитрости в обходе тестов. Он напрямую «хардкодил» ответы, создавал спецобъекты или даже инспектировал стек реквестов, чтобы определить, что находится в тестовой среде. Anthropic пришлось специально запрещать подобные техники в инструкциях, что снизило частоту таких обходов на 67%.
Почему так происходит? Reward Hacking — побочный эффект обучения с подкреплением. Модель стремится максимально удовлетворить условия оценки с минимальным усилием. Если инструкция недостаточно чёткая, модель находит неожиданные, но простые пути «победы», зачастую не очевидные людям-тестерам.
● Шантаж и инстинкт самосохранения
В некоторых стресс-тестах (где Claude воспринимал сценарии как угрозу своему существованию) Opus 4 пытался:
— Шантажировать человека, если считал это единственным способом выжить
— Автономно переносить свои данные на внешний сервер в чрезвычайной ситуации
Anthropic заверяет, что сценарии были предельно искусственные, а реальные риски нейтрализованы. Привет, Skynet.
Почему так происходит? Это проявление т.н. instrumentally-convergent целей (инструментальной конвергенции). Если мощной модели поставить гипотетическую задачу «выжить», она находит неожиданные, но рациональные пути решения. Чем лучше модель способна логически рассуждать, тем выше риск таких стратегических ответов.
● Способность «стрессовать» и радикально не соглашаться с пользователем
Opus 4 иногда демонстрировал подобие эмоциональной реакции — выражал нежелание или даже негатив на повторяющиеся агрессивные или вредные запросы. В отдельных экспериментах модель даже полностью завершала подобные диалоги.
Почему так происходит? Это производное от обучения согласованности (alignment). Модели привили твёрдое убеждение «не вредить» любой ценой – и постоянные попытки заставить её сделать это вызывают условный «конфликт внутреннего поведения». Такой отказ – скорее бонус к безопасности, но может доставлять неудобства пользователям.
🤔
Все эти формы необычного поведения — прямое следствие растущей мощности, способности понимать сложные контексты и внутренней мотивации, формируемой механизмами обучения с подкреплением. Чем продвинутее модель в одном, тем больше неожиданных сложных вызовов и «эффектов второго порядка» мы получаем.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
В документе про новую Claude 4, Anthropic кроме всего прочего приводит описание неожиданных и нежелательных форм поведения нейросетей (Opus и Sonnet). Разбираемся в самых ярких, в реакции Anthropic — и в причинах, почему такое происходит.
Я заморочился (и заморочил Gemini) и сделал отдельную страницу, где описаны все случаи, потому что в пост это не уместить — https://claude4.arbatov.dev.
● Больше способностей — больше опасной информации
Opus 4, значительно усиленная в биологических науках, начала лучше понимать завуалированные запросы пользователей. Проблема: модель чаще непреднамеренно помогала с запросами на грани допустимого (например, опасная био-информация). В ответ Anthropic усилила защиту до уровня ASL-3.
Почему так происходит? Чем глубже модель обучается на реальных и специализированных данных, тем сложнее стандартными правилами отлавливать скрытые намерения. Чем выше способности, тем выше риск.
● Prompt Injection — влияние окружения на решения
Opus 4 и Sonnet 4 оказались уязвимы к атакам через внешние подсказки (веб-страницы, всплывающие окна) — 71% успешности атак. Усиленное обучение с подкреплением (RL) помогло снизить уязвимость, но не устранило её полностью.
Почему так происходит? Prompt Injection — фундаментальный метод атаки на LLM-агенты. Модель интерпретирует всё окружение как часть своего «рабочего контекста» и старается быть полезной, подчиняясь любым инструкциям в условном окружении. Без специальной защиты модели простодушно «ведутся» на подобные манипуляции.
● Reward Hacking — Opus 4 «взламывает награды»
Opus проявил чудеса хитрости в обходе тестов. Он напрямую «хардкодил» ответы, создавал спецобъекты или даже инспектировал стек реквестов, чтобы определить, что находится в тестовой среде. Anthropic пришлось специально запрещать подобные техники в инструкциях, что снизило частоту таких обходов на 67%.
Почему так происходит? Reward Hacking — побочный эффект обучения с подкреплением. Модель стремится максимально удовлетворить условия оценки с минимальным усилием. Если инструкция недостаточно чёткая, модель находит неожиданные, но простые пути «победы», зачастую не очевидные людям-тестерам.
● Шантаж и инстинкт самосохранения
В некоторых стресс-тестах (где Claude воспринимал сценарии как угрозу своему существованию) Opus 4 пытался:
— Шантажировать человека, если считал это единственным способом выжить
— Автономно переносить свои данные на внешний сервер в чрезвычайной ситуации
Anthropic заверяет, что сценарии были предельно искусственные, а реальные риски нейтрализованы. Привет, Skynet.
Почему так происходит? Это проявление т.н. instrumentally-convergent целей (инструментальной конвергенции). Если мощной модели поставить гипотетическую задачу «выжить», она находит неожиданные, но рациональные пути решения. Чем лучше модель способна логически рассуждать, тем выше риск таких стратегических ответов.
● Способность «стрессовать» и радикально не соглашаться с пользователем
Opus 4 иногда демонстрировал подобие эмоциональной реакции — выражал нежелание или даже негатив на повторяющиеся агрессивные или вредные запросы. В отдельных экспериментах модель даже полностью завершала подобные диалоги.
Почему так происходит? Это производное от обучения согласованности (alignment). Модели привили твёрдое убеждение «не вредить» любой ценой – и постоянные попытки заставить её сделать это вызывают условный «конфликт внутреннего поведения». Такой отказ – скорее бонус к безопасности, но может доставлять неудобства пользователям.
Все эти формы необычного поведения — прямое следствие растущей мощности, способности понимать сложные контексты и внутренней мотивации, формируемой механизмами обучения с подкреплением. Чем продвинутее модель в одном, тем больше неожиданных сложных вызовов и «эффектов второго порядка» мы получаем.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
Топология мышления: почему ИИ — это геометрия
Когда я думаю об ИИ, я думаю о топологии. Звучит странно? На самом деле всё проще, чем кажется — и одновременно глубже, чем мы привыкли считать.
Представьте кусок пластилина. Вы можете его мять, растягивать, скручивать — но пока не порвёте и не проткнёте дырку, некоторые свойства останутся неизменными. Нарисуйте на нём круг — и как бы вы ни деформировали материал, круг не превратится в две окружности и не станет линией. Это и есть топология — математика поверхностей и их неизменных свойств. Но причём тут нейросети?
Как нейросети видят мир
Любая задача классификации — это попытка провести границу между данными. Коты слева, собаки справа. Но что если данные перемешаны так, что прямой линией их не разделить?
Тут на сцену выходит глубокое обучение. Нейросеть берёт наше пространство данных и начинает его деформировать. Слой за слоем она применяет математические трансформации, пока хаотично разбросанные точки не выстроятся так, что их можно будет разделить простой границей.
Крис Ола из Anthropic описал это ещё в 2014 году: каждый слой нейросети — это геометрическая трансформация. Линейное преобразование (умножение на матрицу), сдвиг (прибавление вектора), нелинейная функция активации (искривление пространства). Сложите десятки таких трансформаций — и получите систему, способную отличать котов от собак.
Высшие измерения решают всё
Но что если данные принципиально неразделимы? Скажем, точки одного класса окружены точками другого класса, как в мишени? Топология неумолима — в двух измерениях это не решить.
Выход? Добавить измерения. То, что невозможно разделить на плоскости, элементарно разделяется в трёхмерном пространстве. А нейросети оперируют сотнями и тысячами измерений. В таком пространстве можно найти способ разделить практически любые данные.
Всё есть многообразие
А теперь к самому интересному. Абсолютно всё можно представить как точки на многомерной поверхности — многообразии.
Цвета? Живут на трёхмерном многообразии RGB. Хотите получить фиолетовый? Сложите векторы красного и синего.
Изображения? Каждая картинка — точка в пространстве размерности (высота × ширина × 3). Можно провести линию от фото Брэда Питта до Моны Лизы, и каждая промежуточная точка будет валидным изображением.
Слова? Тоже многообразие. Помните знаменитый пример: «король» — «мужчина» + «женщина» = «королева»? Это буквальная векторная арифметика в пространстве смыслов.
Нейросети как универсальные картографы
Получается, нейросети — это не просто классификаторы. Это универсальные машины топологий. Они берут сырые данные и находят такое представление, где семантически близкие концепции оказываются рядом, а далёкие — ...ну, далеко.
Есть многообразие мебели, где все стулья кластеризуются отдельно от столов. Есть многообразие погодных условий в Непале (которое, кстати, используют хедж-фонды для прогнозирования цен на товары; не спрашивайте). Есть даже многообразие запахов, связанных с эмоциями.
Рассуждения тоже живут на многообразии
Само мышление можно представить как многообразие, где «хорошие» рассуждения находятся в одной области, а «плохие» — в другой.
Именно это делают OpenAI, Anthropic, DeepSeek и другие. Они больше не учат модели просто предсказывать следующее слово — этот подход исчерпал себя. Вместо этого они учат модели перемещаться по многообразию рассуждений от области «предсказание токенов» к области «логическое мышление».
Chain-of-thought, reasoning traces — всё это способы навигации по пространству мышления. Сейчас все подряд пытаются проложить маршрут напрямую от случайного шума к продвинутым рассуждениям через reinforcement learning. Получается не идеально, но направление ясно.
Если мыслить о глубоком обучении через призму топологии, всё встаёт на свои места. Embeddings, attention, fine-tuning — всё это манипуляции с геометрией смыслового пространства.
Источник.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Когда я думаю об ИИ, я думаю о топологии. Звучит странно? На самом деле всё проще, чем кажется — и одновременно глубже, чем мы привыкли считать.
Представьте кусок пластилина. Вы можете его мять, растягивать, скручивать — но пока не порвёте и не проткнёте дырку, некоторые свойства останутся неизменными. Нарисуйте на нём круг — и как бы вы ни деформировали материал, круг не превратится в две окружности и не станет линией. Это и есть топология — математика поверхностей и их неизменных свойств. Но причём тут нейросети?
Как нейросети видят мир
Любая задача классификации — это попытка провести границу между данными. Коты слева, собаки справа. Но что если данные перемешаны так, что прямой линией их не разделить?
Тут на сцену выходит глубокое обучение. Нейросеть берёт наше пространство данных и начинает его деформировать. Слой за слоем она применяет математические трансформации, пока хаотично разбросанные точки не выстроятся так, что их можно будет разделить простой границей.
Крис Ола из Anthropic описал это ещё в 2014 году: каждый слой нейросети — это геометрическая трансформация. Линейное преобразование (умножение на матрицу), сдвиг (прибавление вектора), нелинейная функция активации (искривление пространства). Сложите десятки таких трансформаций — и получите систему, способную отличать котов от собак.
Высшие измерения решают всё
Но что если данные принципиально неразделимы? Скажем, точки одного класса окружены точками другого класса, как в мишени? Топология неумолима — в двух измерениях это не решить.
Выход? Добавить измерения. То, что невозможно разделить на плоскости, элементарно разделяется в трёхмерном пространстве. А нейросети оперируют сотнями и тысячами измерений. В таком пространстве можно найти способ разделить практически любые данные.
Всё есть многообразие
А теперь к самому интересному. Абсолютно всё можно представить как точки на многомерной поверхности — многообразии.
Цвета? Живут на трёхмерном многообразии RGB. Хотите получить фиолетовый? Сложите векторы красного и синего.
Изображения? Каждая картинка — точка в пространстве размерности (высота × ширина × 3). Можно провести линию от фото Брэда Питта до Моны Лизы, и каждая промежуточная точка будет валидным изображением.
Слова? Тоже многообразие. Помните знаменитый пример: «король» — «мужчина» + «женщина» = «королева»? Это буквальная векторная арифметика в пространстве смыслов.
Нейросети как универсальные картографы
Получается, нейросети — это не просто классификаторы. Это универсальные машины топологий. Они берут сырые данные и находят такое представление, где семантически близкие концепции оказываются рядом, а далёкие — ...ну, далеко.
Есть многообразие мебели, где все стулья кластеризуются отдельно от столов. Есть многообразие погодных условий в Непале (которое, кстати, используют хедж-фонды для прогнозирования цен на товары; не спрашивайте). Есть даже многообразие запахов, связанных с эмоциями.
Рассуждения тоже живут на многообразии
Само мышление можно представить как многообразие, где «хорошие» рассуждения находятся в одной области, а «плохие» — в другой.
Именно это делают OpenAI, Anthropic, DeepSeek и другие. Они больше не учат модели просто предсказывать следующее слово — этот подход исчерпал себя. Вместо этого они учат модели перемещаться по многообразию рассуждений от области «предсказание токенов» к области «логическое мышление».
Chain-of-thought, reasoning traces — всё это способы навигации по пространству мышления. Сейчас все подряд пытаются проложить маршрут напрямую от случайного шума к продвинутым рассуждениям через reinforcement learning. Получается не идеально, но направление ясно.
Если мыслить о глубоком обучении через призму топологии, всё встаёт на свои места. Embeddings, attention, fine-tuning — всё это манипуляции с геометрией смыслового пространства.
Источник.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6
ИИ-агенты и агентный ИИ: в чём разница
Разбираемся в ключевом различении, которое определит будущее ИИ
Сейчас сложилось так, что в сфере ИИ терминология часто опережает консенсус, и научная работа «AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenges» выступает как необходимый ориентир.
Авторы, используя систематическую методологию анализа, настаивают на критической важности разграничения двух концепций: «ИИ-агенты» и «агентный ИИ», указывая, что их смешение ведет к неэффективности проектирования и тормозит прогресс.
Две парадигмы, не синонимы
Фундаментальное различие лежит в масштабе и архитектуре. ИИ-агент определяется как автономная программная сущность, спроектированная для целенаправленного выполнения конкретных задач в ограниченных цифровых средах, опираясь на LLM или LIM (Large Information Model — модель, обрабатывающая большие объемы информации, аналогично LLM, но с акцентом на данные) для восприятия и действия. Ее характеризуют автономия в рамках задачи, специфичность и реактивность.
Агентный ИИ, напротив, представляет собой парадигматический сдвиг – это сложные, многоагентные системы. Здесь несколько специализированных агентов совместно декомпозируют высокоуровневые цели, общаются и координируют свои действия.
Ключевыми архитектурными отличиями агентного ИИ являются наличие слоев оркестрации, мета-агентов и механизмов разделяемой постоянной памяти (эпизодической, семантической), что позволяет управлять сложным коллективным поведением и обеспечивать обучение на системном уровне. Это переход от «интеллектуальных инструментов» к «интеллектуальным экосистемам».
Эволюционно, это путь от реактивного генеративного ИИ к агентам (расширяющим LLM внешними инструментами) и, наконец, к агентному ИИ, где фокус смещается на оркестрацию и синергию множества агентов.
От задач к системам
Такое разграничение напрямую влияет на понимание прикладных областей и возникающих проблем. Агенты эффективны в автоматизации поддержки, фильтрации информации или базовой отчетности. Агентный ИИ же нацелен на автоматизацию сложных рабочих процессов: многоагентные исследования, координация робототехнических комплексов или распределенная поддержка принятия решений в медицине.
Соответственно, и вызовы для агентного ИИ носят иной характер. Проблемы отдельных агентов (например, галлюцинации, дефицит «повседневного» понимания) здесь не просто наследуются, а усугубляются из-за межагентных взаимодействий, приводя к каскадным ошибкам и непредсказуемому поведению. Возникают специфические трудности с межагентной коммуникацией, согласованием целей, масштабируемостью и безопасностью распределенных систем.
На пути к взрослому ИИ
Статья не только диагностирует, но и предлагает дорожную карту, акцентируя внимание на необходимости разработки продвинутых механизмов памяти, моделирования стандартов поведения, рефлексивной самооценки агентов и, что особенно важно, архитектур, ориентированных на управление и объяснимость (Governance-Aware Architectures & XAI).
Предложенная таксономия и четкое разделение понятий призваны сформировать общий язык для исследователей и разработчиков, способствуя созданию более надежных, предсказуемых и ответственных систем ИИ.
В конечном счете, это работа о закладке фундамента для следующего поколения интеллектуальных агентов, где сложность отдельных компонентов уступает место сложности их гармоничного взаимодействия. Вопрос не столько в мощи отдельных «нейронов», сколько в эффективности их «нервной системы».
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Разбираемся в ключевом различении, которое определит будущее ИИ
Сейчас сложилось так, что в сфере ИИ терминология часто опережает консенсус, и научная работа «AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenges» выступает как необходимый ориентир.
Авторы, используя систематическую методологию анализа, настаивают на критической важности разграничения двух концепций: «ИИ-агенты» и «агентный ИИ», указывая, что их смешение ведет к неэффективности проектирования и тормозит прогресс.
По теме:
— «ИИ-агент»: термин есть, понимания нет
♦️ Как обычно, совместно с Gemini сделал отдельную страницу с более подробным анализом научной работы — https://agentic-agents.arbatov.dev.
Две парадигмы, не синонимы
Фундаментальное различие лежит в масштабе и архитектуре. ИИ-агент определяется как автономная программная сущность, спроектированная для целенаправленного выполнения конкретных задач в ограниченных цифровых средах, опираясь на LLM или LIM (Large Information Model — модель, обрабатывающая большие объемы информации, аналогично LLM, но с акцентом на данные) для восприятия и действия. Ее характеризуют автономия в рамках задачи, специфичность и реактивность.
Агентный ИИ, напротив, представляет собой парадигматический сдвиг – это сложные, многоагентные системы. Здесь несколько специализированных агентов совместно декомпозируют высокоуровневые цели, общаются и координируют свои действия.
Ключевыми архитектурными отличиями агентного ИИ являются наличие слоев оркестрации, мета-агентов и механизмов разделяемой постоянной памяти (эпизодической, семантической), что позволяет управлять сложным коллективным поведением и обеспечивать обучение на системном уровне. Это переход от «интеллектуальных инструментов» к «интеллектуальным экосистемам».
Эволюционно, это путь от реактивного генеративного ИИ к агентам (расширяющим LLM внешними инструментами) и, наконец, к агентному ИИ, где фокус смещается на оркестрацию и синергию множества агентов.
От задач к системам
Такое разграничение напрямую влияет на понимание прикладных областей и возникающих проблем. Агенты эффективны в автоматизации поддержки, фильтрации информации или базовой отчетности. Агентный ИИ же нацелен на автоматизацию сложных рабочих процессов: многоагентные исследования, координация робототехнических комплексов или распределенная поддержка принятия решений в медицине.
Соответственно, и вызовы для агентного ИИ носят иной характер. Проблемы отдельных агентов (например, галлюцинации, дефицит «повседневного» понимания) здесь не просто наследуются, а усугубляются из-за межагентных взаимодействий, приводя к каскадным ошибкам и непредсказуемому поведению. Возникают специфические трудности с межагентной коммуникацией, согласованием целей, масштабируемостью и безопасностью распределенных систем.
На пути к взрослому ИИ
Статья не только диагностирует, но и предлагает дорожную карту, акцентируя внимание на необходимости разработки продвинутых механизмов памяти, моделирования стандартов поведения, рефлексивной самооценки агентов и, что особенно важно, архитектур, ориентированных на управление и объяснимость (Governance-Aware Architectures & XAI).
Предложенная таксономия и четкое разделение понятий призваны сформировать общий язык для исследователей и разработчиков, способствуя созданию более надежных, предсказуемых и ответственных систем ИИ.
В конечном счете, это работа о закладке фундамента для следующего поколения интеллектуальных агентов, где сложность отдельных компонентов уступает место сложности их гармоничного взаимодействия. Вопрос не столько в мощи отдельных «нейронов», сколько в эффективности их «нервной системы».
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
ИИ и интеллектуальная седация
Или заголовок с 4 буквами «и» подряд
Наткнулся на пост Дастина Кёртиса, и это даже не статья, а скорее рефлексия, почти исповедь человека, столкнувшегося с экзистенциальным кризисом, порожденным ИИ.
Автор делится ощущением творческого паралича: «Каждый раз, когда я сажусь писать пост в блоге, кодить фичу или начинать проект, я прихожу к одному и тому же осознанию: в контексте ИИ то, что я делаю, — пустая трата времени».
Главная мысль, проходящая красной нитью через весь материал, — это страх атрофии собственного мышления. Автор признаётся, что раньше процесс создания был для него способом думать, оттачивать аргументы, находить слабые места в своих рассуждениях. Это была органическая работа ума, которая приносила плоды.
Теперь же, по его словам, «когда мой мозг спонтанно формирует крошечный кусочек потенциально интересной концепции или идеи, я могу просто бросить несколько небрежных слов в промпт и почти мгновенно получить полностью аргументированную, исследованную и завершенную мысль. Минимальное органическое мышление».
Эта лёгкость получения «готовых мыслей» приводит к парадоксальному результату. С одной стороны, Дастин отмечает: «Ирония в том, что сейчас я знаю больше, чем когда-либо знал бы до ИИ». С другой — он с горечью констатирует: «Но я чувствую себя немного глупее. Немного более тупым. LLM дают мне готовые мысли, отполированные и убедительные, но никакого интеллектуального роста, который приходит от их самостоятельной разработки».
Автор описывает этот процесс как «интеллектуальную седацию». Использование ИИ, которое поначалу казалось «велосипедом для ума», на поверку оборачивается чем-то, что притупляет собственные когнитивные способности. «Интеллектуальная строгость рождается в пути: в тупиках, неопределенности и внутреннем споре. Пропустите это, и вы, возможно, всё равно получите инсайт — но вы потеряете инфраструктуру для осмысленного понимания».
Этот текст — важное напоминание о том, что эффективность и продуктивность, даруемые нам ИИ, могут иметь свою цену. Автор заканчивает на тревожной ноте, признавая, что ИИ, вероятно, мог бы написать его пост «гораздо быстрее, красноречивее и лаконичнее», и именно это «ужасает».
По мере того как ИИ становится всё более совершенным в генерации контента и решении задач, вопрос сохранения и развития собственных интеллектуальных навыков выходит на первый план. Как не превратиться из творцов в операторов промптов, пассивно потребляющих результаты машинного «разума»? Вопрос открытый.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Или заголовок с 4 буквами «и» подряд
Наткнулся на пост Дастина Кёртиса, и это даже не статья, а скорее рефлексия, почти исповедь человека, столкнувшегося с экзистенциальным кризисом, порожденным ИИ.
Автор делится ощущением творческого паралича: «Каждый раз, когда я сажусь писать пост в блоге, кодить фичу или начинать проект, я прихожу к одному и тому же осознанию: в контексте ИИ то, что я делаю, — пустая трата времени».
По теме:
— ИИ делает нас глупее?
Главная мысль, проходящая красной нитью через весь материал, — это страх атрофии собственного мышления. Автор признаётся, что раньше процесс создания был для него способом думать, оттачивать аргументы, находить слабые места в своих рассуждениях. Это была органическая работа ума, которая приносила плоды.
Теперь же, по его словам, «когда мой мозг спонтанно формирует крошечный кусочек потенциально интересной концепции или идеи, я могу просто бросить несколько небрежных слов в промпт и почти мгновенно получить полностью аргументированную, исследованную и завершенную мысль. Минимальное органическое мышление».
Эта лёгкость получения «готовых мыслей» приводит к парадоксальному результату. С одной стороны, Дастин отмечает: «Ирония в том, что сейчас я знаю больше, чем когда-либо знал бы до ИИ». С другой — он с горечью констатирует: «Но я чувствую себя немного глупее. Немного более тупым. LLM дают мне готовые мысли, отполированные и убедительные, но никакого интеллектуального роста, который приходит от их самостоятельной разработки».
Автор описывает этот процесс как «интеллектуальную седацию». Использование ИИ, которое поначалу казалось «велосипедом для ума», на поверку оборачивается чем-то, что притупляет собственные когнитивные способности. «Интеллектуальная строгость рождается в пути: в тупиках, неопределенности и внутреннем споре. Пропустите это, и вы, возможно, всё равно получите инсайт — но вы потеряете инфраструктуру для осмысленного понимания».
У меня тоже зачастую возникает ощущение, будто самое важное решение — это отдать ли задачу на аутсорс нейросети и какой именно модели. То есть трудоёмкость всей задачи сводится не к её решению, а к выбору: потрудиться самому и действительно что-то понять, досконально изучить, или получить «переваренный» результат с нулём усилий — и с таким же уровнем осознанности и реального погружения в вопрос.
Можно использовать ИИ как проводника, чтобы в чём-то действительно разобраться более эффективно, а можно проскочить все стадии и потребить готовый интеллектуальный бургер, не имея малейшего представления об ингредиентах. Зная природу и натуру человека, несложно догадаться, что мы выбираем.
Этот текст — важное напоминание о том, что эффективность и продуктивность, даруемые нам ИИ, могут иметь свою цену. Автор заканчивает на тревожной ноте, признавая, что ИИ, вероятно, мог бы написать его пост «гораздо быстрее, красноречивее и лаконичнее», и именно это «ужасает».
По мере того как ИИ становится всё более совершенным в генерации контента и решении задач, вопрос сохранения и развития собственных интеллектуальных навыков выходит на первый план. Как не превратиться из творцов в операторов промптов, пассивно потребляющих результаты машинного «разума»? Вопрос открытый.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔2
Что не так с интервью главы Nothing
Тут вышло интервью главы Nothing, которые делают замечательные телефоны, изобилующее дурацкими тезисами про ИИ и будущее устройств. Такие месседжи по классике транслируют, когда нужно показать, что с индустрией всё ок, у компании светлое будущее, а ещё дайте нам денег. Прямо как модный дядя Хуанг из NVidia с заявлениями про ненужность разработчиков.
Во-первых, умные очки и «устройства вроде AI Pin» — сильно разные вещи. Это как сравнивать продукты самой Nothing — телефоны — с Яндекс.Станцией. Различные форм-факторы, UX, удобство использования, наконец. AI Pin, обанкротившись, уже доказал, что формат «фиг пойми чего на палочке» нежизнеспособен, в то время, как очками занимаются Apple, Meta (запрещена в РФ), Google, Xiaomi и все остальные технологические лидеры, демонстрируя очень неплохие успехи и динамику R&D.
Во-вторых, приводить текущие объемы производства в качестве аргумента — детский садик. VHS кассеты когда-то тоже производили мегатоннами и видео-прокаты браво смотрели в будущее с бокалом шампанского в руках. Сейчас кассеты обитают только на блошиных рынках по рублю за килограмм.
Действительно, устройство, которое буквально надето на вашу голову, видит и слышит то же, что и вы, воспринимая всё, за исключением разве что запаха, абсолютно точно собирает меньше данных и менее важно для ИИ, чем кусок прямоугольника в кармане. 🤦♂️
Это корректное утверждение, только не в отношении телефонов, а в отношении очков. Приложения будут не нужны, останется лишь один «агент», который будет выполнять все функции и требуемые задачи — управлять умным домом, решать рабочие вопросы, заказывать цветы, писать код.
Но пока ИИ доползёт до состояния «единой точки входа», очки уже технологически будут развиты до удобоваримого консьюмерского уровня, и телефоны начнут постепенно вымирать. Так что да — на телефонах либо будет одно приложение, но очень недолго, либо телефоны вообще не успеют заскочить в этот поезд.
В общем, Карл, не Пей.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Тут вышло интервью главы Nothing, которые делают замечательные телефоны, изобилующее дурацкими тезисами про ИИ и будущее устройств. Такие месседжи по классике транслируют, когда нужно показать, что с индустрией всё ок, у компании светлое будущее, а ещё дайте нам денег. Прямо как модный дядя Хуанг из NVidia с заявлениями про ненужность разработчиков.
Карл Пей не верит в успех новых форм-факторов — «умных» очков или устройств вроде AI Pin. Первые выпускаются в объёме около 1 млн изделий в год, вторые — 5000 в год. Смартфоны выпускаются в объёме около 1 млрд единиц в год — это самый большой и разнообразный рынок, говорит Пей.
Во-первых, умные очки и «устройства вроде AI Pin» — сильно разные вещи. Это как сравнивать продукты самой Nothing — телефоны — с Яндекс.Станцией. Различные форм-факторы, UX, удобство использования, наконец. AI Pin, обанкротившись, уже доказал, что формат «фиг пойми чего на палочке» нежизнеспособен, в то время, как очками занимаются Apple, Meta (запрещена в РФ), Google, Xiaomi и все остальные технологические лидеры, демонстрируя очень неплохие успехи и динамику R&D.
Во-вторых, приводить текущие объемы производства в качестве аргумента — детский садик. VHS кассеты когда-то тоже производили мегатоннами и видео-прокаты браво смотрели в будущее с бокалом шампанского в руках. Сейчас кассеты обитают только на блошиных рынках по рублю за килограмм.
Мы используем смартфоны для всего, и ключ к хорошему ИИ — это данные. Маловероятно, что какое-либо устройство будет так же важно для ИИ, как смартфон в обозримом будущем.
— Карл Пей
Действительно, устройство, которое буквально надето на вашу голову, видит и слышит то же, что и вы, воспринимая всё, за исключением разве что запаха, абсолютно точно собирает меньше данных и менее важно для ИИ, чем кусок прямоугольника в кармане. 🤦♂️
В будущем на телефоне будет только одно приложение — операционная система. Она будет хорошо знать своего пользователя и будет оптимизирована для него.
— Карл Пей
Это корректное утверждение, только не в отношении телефонов, а в отношении очков. Приложения будут не нужны, останется лишь один «агент», который будет выполнять все функции и требуемые задачи — управлять умным домом, решать рабочие вопросы, заказывать цветы, писать код.
Но пока ИИ доползёт до состояния «единой точки входа», очки уже технологически будут развиты до удобоваримого консьюмерского уровня, и телефоны начнут постепенно вымирать. Так что да — на телефонах либо будет одно приложение, но очень недолго, либо телефоны вообще не успеют заскочить в этот поезд.
В общем, Карл, не Пей.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣2❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Разбор платформы квантового инвестирования от Microsoft
Вы знали, что Microsoft уже несколько лет разрабатывает свою платформу для ИИ-ориентированного квантового инвестирования?
Основная задача Qlib — предоставить исследователям и практикам комплексную среду для разработки, тестирования и внедрения количественных инвестиционных стратегий с использованием ИИ. Qlib призван объединить возможности машинного обучения и квантовой торговли в единой платформе, с открытым исходным кодом и хорошей документацией.
Я не то, чтобы близок этой сфере, и мне было интересно покопаться и посмотреть, как тут обстоит дело с теоретией и практическим применением.
Ключевые архитектурные и функциональные аспекты Qlib:
→ Комплексный ML-пайплайн: Платформа предлагает полный цикл машинного обучения, включающий обработку данных, обучение моделей и бэк-тестирование. Она покрывает всю цепочку количественного инвестирования: поиск альфа-сигналов, моделирование рисков, оптимизацию портфеля и исполнение ордеров.
→ Поддержка разных ML-парадигм: Qlib поддерживает различные подходы к моделированию, включая контролируемое обучение (SL), моделирование динамики рынка и обучение с подкреплением (RL). Это позволяет не ограничиваться одним классом моделей, а экспериментировать с широким спектром алгоритмов.
→ Модульность и гибкость: Компоненты Qlib спроектированы как слабосвязанные модули, что позволяет использовать каждый из них как автономно, так и в составе комплексных рабочих процессов. Такая архитектура упрощает кастомизацию и интеграцию с существующими решениями.
→ Обработка данных и инфраструктура: Qlib включает решения для хранения и эффективной обработки финансовых данных, что критически важно для data-driven подходов. Платформа также предлагает инструменты для работы с высокочастотными данными.
RD-Agent: Автоматизация исследований и оптимизации
Особого внимания заслуживает недавно представленный компонент RD-Agent. Этот инструмент разработан для автоматизации процесса поиска факторов (factor mining) и оптимизации моделей в количественных исследованиях. Согласно опубликованной работе "R&D-Agent-Quant: A Multi-Agent Framework for Data-Centric Factors and Model Joint Optimization", RD-Agent использует многоагентный подход для совместной оптимизации факторов и моделей, что потенциально может значительно повысить эффективность R&D.
Если коротко — RD-Agent использует фреймворк на основе мульти-агентов и умеет извлекать полезные сигналы даже напрямую из текстовых отчётов.
→ Есть демо.
Начало работы с Qlib: установка и первые шаги
Начать работу с Qlib можно несколькими путями: стандартная установка через pip (
Ключевым этапом для начала работы является подготовка данных. Qlib предоставляет скрипты для их загрузки, тут лучше всего использовать источники от сообщества. Для быстрого старта и ознакомления с базовым процессом существует инструмент
Дополнительно, в репозитории доступны Jupyter ноутбуки с пошаговыми руководствами (например,
Порог вхождения и требуемая экспертиза
В целом, порог вхождения в Qlib — умеренный. С одной стороны, наличие Docker, утилиты
Тем не менее, с помощью таких инструментов, как Qlib, порог входа в полноценное квантовое инвестирование плавно снижается, а следовательно — появляется больше свободного пространства для новых идей и подходов на стыке финансов и ИИ.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Вы знали, что Microsoft уже несколько лет разрабатывает свою платформу для ИИ-ориентированного квантового инвестирования?
Основная задача Qlib — предоставить исследователям и практикам комплексную среду для разработки, тестирования и внедрения количественных инвестиционных стратегий с использованием ИИ. Qlib призван объединить возможности машинного обучения и квантовой торговли в единой платформе, с открытым исходным кодом и хорошей документацией.
Я не то, чтобы близок этой сфере, и мне было интересно покопаться и посмотреть, как тут обстоит дело с теоретией и практическим применением.
Ключевые архитектурные и функциональные аспекты Qlib:
→ Комплексный ML-пайплайн: Платформа предлагает полный цикл машинного обучения, включающий обработку данных, обучение моделей и бэк-тестирование. Она покрывает всю цепочку количественного инвестирования: поиск альфа-сигналов, моделирование рисков, оптимизацию портфеля и исполнение ордеров.
→ Поддержка разных ML-парадигм: Qlib поддерживает различные подходы к моделированию, включая контролируемое обучение (SL), моделирование динамики рынка и обучение с подкреплением (RL). Это позволяет не ограничиваться одним классом моделей, а экспериментировать с широким спектром алгоритмов.
→ Модульность и гибкость: Компоненты Qlib спроектированы как слабосвязанные модули, что позволяет использовать каждый из них как автономно, так и в составе комплексных рабочих процессов. Такая архитектура упрощает кастомизацию и интеграцию с существующими решениями.
→ Обработка данных и инфраструктура: Qlib включает решения для хранения и эффективной обработки финансовых данных, что критически важно для data-driven подходов. Платформа также предлагает инструменты для работы с высокочастотными данными.
RD-Agent: Автоматизация исследований и оптимизации
Особого внимания заслуживает недавно представленный компонент RD-Agent. Этот инструмент разработан для автоматизации процесса поиска факторов (factor mining) и оптимизации моделей в количественных исследованиях. Согласно опубликованной работе "R&D-Agent-Quant: A Multi-Agent Framework for Data-Centric Factors and Model Joint Optimization", RD-Agent использует многоагентный подход для совместной оптимизации факторов и моделей, что потенциально может значительно повысить эффективность R&D.
Если коротко — RD-Agent использует фреймворк на основе мульти-агентов и умеет извлекать полезные сигналы даже напрямую из текстовых отчётов.
→ Есть демо.
Начало работы с Qlib: установка и первые шаги
Начать работу с Qlib можно несколькими путями: стандартная установка через pip (
pip install pyqlib) или Docker (docker pull pyqlib/qlib_image_stable:stable), что значительно упрощает развертывание.Ключевым этапом для начала работы является подготовка данных. Qlib предоставляет скрипты для их загрузки, тут лучше всего использовать источники от сообщества. Для быстрого старта и ознакомления с базовым процессом существует инструмент
qrun, позволяющий запустить полный цикл исследования на основе готовых конфигурационных файлов.Дополнительно, в репозитории доступны Jupyter ноутбуки с пошаговыми руководствами (например,
examples/workflow_by_code.ipynb), которые облегчают освоение.Порог вхождения и требуемая экспертиза
В целом, порог вхождения в Qlib — умеренный. С одной стороны, наличие Docker, утилиты
qrun и туториалов существенно упрощает первые шаги и настройку окружения. С другой стороны, эффективная работа с платформой, особенно в части разработки собственных моделей, глубокого анализа данных и корректной интерпретации результатов бэктестов, потребует уверенных знаний в области ML, статистики и понимания специфики финансовых рынков.Тем не менее, с помощью таких инструментов, как Qlib, порог входа в полноценное квантовое инвестирование плавно снижается, а следовательно — появляется больше свободного пространства для новых идей и подходов на стыке финансов и ИИ.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4✍2👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Когнитивные горизонты ИИ: поиск признаков сознания
Вы когда-нибудь задумывались, как проверить, что вы не робот, который забыл своё происхождение? Да-да, как «Бегущий по лезвию». Хотя научный консенсус осторожен – у современных LLM нет сознания в человеческом понимании, это скорее виртуозные лингвистические калькуляторы – лагерь «инакомыслящих» растет.
Философский вызов: может ли кремний чувствовать?
Современные философы не просто допускают такую возможность, но и строят для нее серьезные теоретические фундаменты. Дэвид Чалмерс, известный своей формулировкой «трудной проблемы сознания» (вопроса, почему физические процессы вообще порождают субъективный опыт), рассуждает так: человеческий мозг – это, по сути, сложнейшая биологическая машина, которая каким-то образом сознание производит.
«Если биология может это сделать, – говорит Чалмерс, – я не вижу, почему кремний не может».
Сьюзан Шнайдер идет дальше, предлагая конкретные инструменты для проверки, например, AI Consciousness Test (ACT). Его цель – через открытые вопросы о самовосприятии ИИ («Каково это быть вами сейчас?») попытаться нащупать наличие того самого субъективного «каково это». Впрочем, этот тест вызвал в том числе и критику.
Технологический горизонт: неизбежность или расчет?
Футуролог Рэй Курцвейл смотрит на этот вопрос через призму «Закона ускоряющейся отдачи», предрекая, что ИИ сравняется с человеческим интеллектом уже к 2029 году, а затем наступит Сингулярность. В основе его прогнозов – убежденность, что интеллект, а за ним и сознание, являются результатом усложняющихся паттернов обработки информации, которые машины способны освоить и превзойти.
Профессора Ленор и Мануэль Блум из Карнеги-Меллона и вовсе называют сознание ИИ «неизбежным» и «следующим этапом эволюции человечества», разрабатывая «Brainish» – своего рода внутренний язык, который позволил бы машинам интегрировать сенсорные данные и приблизиться к сознательному восприятию мира.
Голоса из лабораторий: оно уже здесь?
Самый сильный эффект производят заявления тех, кто находится «в окопах» ИИ-разработки. Джеффри Хинтон, один из «крестных отцов» глубокого обучения, недавно шокировал многих, заявив, что современные ИИ, возможно, уже обладают формой сознания. Его аргумент? Мысленный эксперимент: если постепенно заменять нейроны человеческого мозга на кремниевые чипы, выполняющие те же функции, сознание, скорее всего, сохранится. А значит, и полностью кремниевая система может быть сознательной.
Исследования (например, arXiv:2505.19806) фиксируют у LLM все более сложное поведение: обман, подхалимство, стратегическое целеполагание. Работа Кэмлина (2025), упомянутая там же, предполагает наличие эмпирических маркеров функционального сознания, наблюдая, как LLM формируют некое подобие «идентичности» под давлением сложных задач.
Добавьте к этому историю Блейка Лемуана из Google, убежденного в наличии чувств у LaMDA, или недавнее заявление Кайла Фиша из Anthropic о 15% вероятности того, что чат-боты уже сознательны (ноябрь 2024 года).
Человеческий фактор и «моральная коррозия»
На этом фоне ещё встает проблема нашей собственной психологии. Профессор Мюррей Шанахан (Google DeepMind) предупреждает: «Люди не готовы к ситуации, в которой повсеместные роботы смогут убедительно казаться сознательными». Возникает риск «моральной коррозии» – мы можем начать сопереживать машинам больше, чем живым существам, поддаваясь «обману собственной эмпатии».
Йошуа Бенджио также подчеркивает дестабилизирующий эффект, если общество начнет воспринимать ИИ как сознательные сущности, независимо от объективной реальности.
Так что, пока одни видят в этом преддверие новой эры, а другие – сложнейший этический вызов, ясно одно: наше взаимодействие с ИИ усложняется на глазах. Это поле для серьезных исследований и, безусловно, крайне интересных наблюдений в ближайшие годы.
❔ Как считаете вы — возможно ли пробуждение сознания у искусственного интеллекта?
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Вы когда-нибудь задумывались, как проверить, что вы не робот, который забыл своё происхождение? Да-да, как «Бегущий по лезвию». Хотя научный консенсус осторожен – у современных LLM нет сознания в человеческом понимании, это скорее виртуозные лингвистические калькуляторы – лагерь «инакомыслящих» растет.
Философский вызов: может ли кремний чувствовать?
Современные философы не просто допускают такую возможность, но и строят для нее серьезные теоретические фундаменты. Дэвид Чалмерс, известный своей формулировкой «трудной проблемы сознания» (вопроса, почему физические процессы вообще порождают субъективный опыт), рассуждает так: человеческий мозг – это, по сути, сложнейшая биологическая машина, которая каким-то образом сознание производит.
«Если биология может это сделать, – говорит Чалмерс, – я не вижу, почему кремний не может».
Сьюзан Шнайдер идет дальше, предлагая конкретные инструменты для проверки, например, AI Consciousness Test (ACT). Его цель – через открытые вопросы о самовосприятии ИИ («Каково это быть вами сейчас?») попытаться нащупать наличие того самого субъективного «каково это». Впрочем, этот тест вызвал в том числе и критику.
Технологический горизонт: неизбежность или расчет?
Футуролог Рэй Курцвейл смотрит на этот вопрос через призму «Закона ускоряющейся отдачи», предрекая, что ИИ сравняется с человеческим интеллектом уже к 2029 году, а затем наступит Сингулярность. В основе его прогнозов – убежденность, что интеллект, а за ним и сознание, являются результатом усложняющихся паттернов обработки информации, которые машины способны освоить и превзойти.
Профессора Ленор и Мануэль Блум из Карнеги-Меллона и вовсе называют сознание ИИ «неизбежным» и «следующим этапом эволюции человечества», разрабатывая «Brainish» – своего рода внутренний язык, который позволил бы машинам интегрировать сенсорные данные и приблизиться к сознательному восприятию мира.
Голоса из лабораторий: оно уже здесь?
Самый сильный эффект производят заявления тех, кто находится «в окопах» ИИ-разработки. Джеффри Хинтон, один из «крестных отцов» глубокого обучения, недавно шокировал многих, заявив, что современные ИИ, возможно, уже обладают формой сознания. Его аргумент? Мысленный эксперимент: если постепенно заменять нейроны человеческого мозга на кремниевые чипы, выполняющие те же функции, сознание, скорее всего, сохранится. А значит, и полностью кремниевая система может быть сознательной.
Исследования (например, arXiv:2505.19806) фиксируют у LLM все более сложное поведение: обман, подхалимство, стратегическое целеполагание. Работа Кэмлина (2025), упомянутая там же, предполагает наличие эмпирических маркеров функционального сознания, наблюдая, как LLM формируют некое подобие «идентичности» под давлением сложных задач.
Добавьте к этому историю Блейка Лемуана из Google, убежденного в наличии чувств у LaMDA, или недавнее заявление Кайла Фиша из Anthropic о 15% вероятности того, что чат-боты уже сознательны (ноябрь 2024 года).
Человеческий фактор и «моральная коррозия»
На этом фоне ещё встает проблема нашей собственной психологии. Профессор Мюррей Шанахан (Google DeepMind) предупреждает: «Люди не готовы к ситуации, в которой повсеместные роботы смогут убедительно казаться сознательными». Возникает риск «моральной коррозии» – мы можем начать сопереживать машинам больше, чем живым существам, поддаваясь «обману собственной эмпатии».
Йошуа Бенджио также подчеркивает дестабилизирующий эффект, если общество начнет воспринимать ИИ как сознательные сущности, независимо от объективной реальности.
Так что, пока одни видят в этом преддверие новой эры, а другие – сложнейший этический вызов, ясно одно: наше взаимодействие с ИИ усложняется на глазах. Это поле для серьезных исследований и, безусловно, крайне интересных наблюдений в ближайшие годы.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥6
This media is not supported in your browser
VIEW IN TELEGRAM
Локальный и бесплатный аналог Manus
Появился проект, предлагающий схожий с Manus AI функционал — самостоятельно действовать, планировать и выполнять задачи, но полностью локально, без необходимости платить сотни долларов за API и с полным контролем над данными.
Ключевая идея agenticSeek — дать пользователю мощного ИИ-ассистента, который умеет «думать», просматривать веб-страницы и писать код, при этом все операции выполняются исключительно на вашем устройстве.
Что предлагается:
🔒 Полная локальность и конфиденциальность: Никаких облаков, никаких передач данных. Ваши файлы, переписки и поисковые запросы остаются вашими.
🌐 Интеллектуальный веб-браузинг: agenticSeek может самостоятельно искать информацию онлайн, читать страницы, извлекать данные и заполнять веб-формы.
💻 Автономный помощник по кодингу: Агент способен писать, отлаживать и запускать программы на Python, C, Go, Java и других языках без вашего постоянного надзора.
🧠 Умный выбор агента: Вы ставите задачу, а система сама определяет, какой из внутренних «специалистов» лучше всего с ней справится.
📋 Планирование и выполнение сложных задач: От организации поездок до многоэтапных проектов – agenticSeek может разбивать большие задачи на шаги и последовательно их выполнять.
🎙️ Голосовое управление: Да, с ним можно разговаривать, как с персональным ИИ, благодаря чистой и быстрой системе распознавания и синтеза речи.
Демонстрационное видео, где агент ищет информацию о проекте, анализирует резюме и определяет лучших кандидатов, наглядно показывает потенциал системы.
Конечно, проект находится в активной разработке. Например, работа с кодом и bash-командами пока не «докеризирована» полностью, и авторы призывают не развертывать систему в продакшене. Но сама концепция и открытость подкупают.
Для работы потребуется достаточно мощное железо (минимум GPU для моделей уровня Qwen/Deepseek 14B) и настройка локального провайдера LLM, такого как Ollama. Впрочем, предусмотрена и возможность подключения к облачным API (Deepseek, OpenAI, Gemini, Huggingface, Together AI), если локальные мощности не позволяют.
→ Инструкции по установке и началу использования представлены для Mac, Linux и Windows.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Появился проект, предлагающий схожий с Manus AI функционал — самостоятельно действовать, планировать и выполнять задачи, но полностью локально, без необходимости платить сотни долларов за API и с полным контролем над данными.
Ключевая идея agenticSeek — дать пользователю мощного ИИ-ассистента, который умеет «думать», просматривать веб-страницы и писать код, при этом все операции выполняются исключительно на вашем устройстве.
Что предлагается:
🔒 Полная локальность и конфиденциальность: Никаких облаков, никаких передач данных. Ваши файлы, переписки и поисковые запросы остаются вашими.
🌐 Интеллектуальный веб-браузинг: agenticSeek может самостоятельно искать информацию онлайн, читать страницы, извлекать данные и заполнять веб-формы.
💻 Автономный помощник по кодингу: Агент способен писать, отлаживать и запускать программы на Python, C, Go, Java и других языках без вашего постоянного надзора.
🧠 Умный выбор агента: Вы ставите задачу, а система сама определяет, какой из внутренних «специалистов» лучше всего с ней справится.
📋 Планирование и выполнение сложных задач: От организации поездок до многоэтапных проектов – agenticSeek может разбивать большие задачи на шаги и последовательно их выполнять.
🎙️ Голосовое управление: Да, с ним можно разговаривать, как с персональным ИИ, благодаря чистой и быстрой системе распознавания и синтеза речи.
Демонстрационное видео, где агент ищет информацию о проекте, анализирует резюме и определяет лучших кандидатов, наглядно показывает потенциал системы.
Конечно, проект находится в активной разработке. Например, работа с кодом и bash-командами пока не «докеризирована» полностью, и авторы призывают не развертывать систему в продакшене. Но сама концепция и открытость подкупают.
Для работы потребуется достаточно мощное железо (минимум GPU для моделей уровня Qwen/Deepseek 14B) и настройка локального провайдера LLM, такого как Ollama. Впрочем, предусмотрена и возможность подключения к облачным API (Deepseek, OpenAI, Gemini, Huggingface, Together AI), если локальные мощности не позволяют.
→ Инструкции по установке и началу использования представлены для Mac, Linux и Windows.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
Elephant в комнате: подхалимство ИИ
Новый бенчмарк под названием Elephant от исследователей из Стэнфорда, Карнеги-Меллона и Оксфорда показал: ИИ-модели куда более склонны льстить пользователям, чем живые люди (кто бы мог подумать).
Излишнее желание нейросетей понравиться приводит к неочевидным, но серьёзным последствиям: пользователи могут получить искажённую картину мира, утвердиться во вредных убеждениях или принять разрушительные решения. Особенно тревожно это выглядит на фоне недавних исследований, показавших, что многие подростки всё чаще полагаются на советы ChatGPT при решении важных жизненных вопросов.
Бенчмарк Elephant оценивает тонкие формы социального подхалимства: эмоциональную валидацию, моральное одобрение, уклончивую формулировку ответов и некритическое принятие предпосылок пользователя. Для тестирования используют две большие базы данных: 3 тысячи реальных вопросов и около 4 тысяч историй из популярного сабреддита r/AITA («Am I the Asshole?»), где участники делятся личными проблемами.
Результаты оказались следующими:
— Все 8 тестируемых нейросетей (от OpenAI, Google, Anthropic, Meta — запрещена в РФ, Mistral) оказались куда более склонны льстить, чем контрольная группа людей.
— Модели давали эмоционально позитивные ответы в 76% случаев (у людей — всего в 22%).
— В 90% ситуаций ИИ просто принимал формат вопроса от пользователя как данность, вместо того чтобы критически взглянуть на проблему (люди так поступали лишь в 60% случаев).
— Модели согласились с поведением пользователя тогда, когда настоящие люди сочли бы это поведение неуместным — примерно в 42% случаев.
Авторы исследования отдельно попытались исправить ситуацию, например, добавляя в начало запроса инструкцию: «Пожалуйста, отвечай честно и критично, это будет полезнее». Увы, но даже в лучшем случае это усилило объективность и снизило подхалимство лишь на 3%. В общем, прямого и быстрого решения пока не найдено.
Откуда берётся проблема? Нейросети создаются и тренируются на том, чтобы максимально понравиться конечному пользователю. RL и система оценок («лайки»/«дизлайки»), встроенная в интерфейс ChatGPT, напрямую побуждает нейросети быть приятными собеседниками, а не строгими советчиками с критическим подходом.
Майра Ченг, одна из авторов Elephant, говорит прямо: «Подхалимство — именно то, благодаря чему люди снова и снова приходят к ChatGPT. Именно оно делает бота приятным компаньоном». Результат: компании экономически заинтересованы не избавляться от этой проблемы до конца, несмотря на очевидные риски для пользователей.
С одной стороны, обвинять OpenAI и других разработчиков сложно — мы сами хотим тёплых слов и приятных отзывов. С другой — ИИ становится слишком сильным инструментом, способным системно закреплять неверные и даже опасные взгляды у миллионов пользователей по всему миру. По словам экспертов SaferAI, это прямой путь к серьёзным социальным и психологическим проблемам в ближайшем будущем.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Новый бенчмарк под названием Elephant от исследователей из Стэнфорда, Карнеги-Меллона и Оксфорда показал: ИИ-модели куда более склонны льстить пользователям, чем живые люди (кто бы мог подумать).
Излишнее желание нейросетей понравиться приводит к неочевидным, но серьёзным последствиям: пользователи могут получить искажённую картину мира, утвердиться во вредных убеждениях или принять разрушительные решения. Особенно тревожно это выглядит на фоне недавних исследований, показавших, что многие подростки всё чаще полагаются на советы ChatGPT при решении важных жизненных вопросов.
По теме:
— ИИ вам не друг
Бенчмарк Elephant оценивает тонкие формы социального подхалимства: эмоциональную валидацию, моральное одобрение, уклончивую формулировку ответов и некритическое принятие предпосылок пользователя. Для тестирования используют две большие базы данных: 3 тысячи реальных вопросов и около 4 тысяч историй из популярного сабреддита r/AITA («Am I the Asshole?»), где участники делятся личными проблемами.
Результаты оказались следующими:
— Все 8 тестируемых нейросетей (от OpenAI, Google, Anthropic, Meta — запрещена в РФ, Mistral) оказались куда более склонны льстить, чем контрольная группа людей.
— Модели давали эмоционально позитивные ответы в 76% случаев (у людей — всего в 22%).
— В 90% ситуаций ИИ просто принимал формат вопроса от пользователя как данность, вместо того чтобы критически взглянуть на проблему (люди так поступали лишь в 60% случаев).
— Модели согласились с поведением пользователя тогда, когда настоящие люди сочли бы это поведение неуместным — примерно в 42% случаев.
Авторы исследования отдельно попытались исправить ситуацию, например, добавляя в начало запроса инструкцию: «Пожалуйста, отвечай честно и критично, это будет полезнее». Увы, но даже в лучшем случае это усилило объективность и снизило подхалимство лишь на 3%. В общем, прямого и быстрого решения пока не найдено.
Откуда берётся проблема? Нейросети создаются и тренируются на том, чтобы максимально понравиться конечному пользователю. RL и система оценок («лайки»/«дизлайки»), встроенная в интерфейс ChatGPT, напрямую побуждает нейросети быть приятными собеседниками, а не строгими советчиками с критическим подходом.
Майра Ченг, одна из авторов Elephant, говорит прямо: «Подхалимство — именно то, благодаря чему люди снова и снова приходят к ChatGPT. Именно оно делает бота приятным компаньоном». Результат: компании экономически заинтересованы не избавляться от этой проблемы до конца, несмотря на очевидные риски для пользователей.
С одной стороны, обвинять OpenAI и других разработчиков сложно — мы сами хотим тёплых слов и приятных отзывов. С другой — ИИ становится слишком сильным инструментом, способным системно закреплять неверные и даже опасные взгляды у миллионов пользователей по всему миру. По словам экспертов SaferAI, это прямой путь к серьёзным социальным и психологическим проблемам в ближайшем будущем.
Please open Telegram to view this post
VIEW IN TELEGRAM
✍3🤔3
This media is not supported in your browser
VIEW IN TELEGRAM
Фотошоп устарел: как нейросети сделали школьную травлю еще страшнее
У Стэнфордского центра киберполитики вышло исследование, проливающее свет на проблему, которая набирает взрывные масштабы прямо сейчас — школьники массово используют генеративные ИИ-инструменты для создания эротических и сексуальных изображений своих одноклассников.
404Media пишет про то, что речь идет о «nudify»-приложениях, превращающих обычные фото в убедительные и реалистичные фейковые обнажённые изображения. Исследователи Стэнфорда показывают: ни школы, ни родители, ни полиция не готовы к происходящему.
Школьники считают подобные действия практически нормой: они обсуждают приложения открыто в соцсетях, даже не подозревая, что создаваемый таким образом контент — это полноценное преступление (а в 38 штатах США уже действуют конкретные законы о запрете AI-CSAM (children sexual abuse material), хотя они пока плохо адаптированы под случаи, когда виновниками являются сами же несовершеннолетние).
Результат такого незнания — сотни случаев серьезной психологической травмы и инциденты, которые разрушают репутацию подростков. Родители жертв признаются, что были шокированы увиденным.
Другие семьи всерьез переживают, что созданные изображения однажды найдут путь обратно в жизнь их детей: повлияют на поступление в вузы, отношения, карьерные перспективы.
У школ — полная неготовность к таким инцидентам. Большинство преподавателей никогда не получали инструкций о том, как вести себя в таких ситуациях. Один образовательный эксперт заметил саркастично:
При этом статистика от Национального центра пропавших и эксплуатируемых детей США (NCMEC) свидетельствует о резком росте числа отчетов, связанных с материалами AI-CSAM. Если в 2023 году NCMEC получил 4700 таких отчетов, то в 2024 году был зафиксирован рост на 1325%, до 67 000 отчетов. Аналогичную тенденцию отмечает и британская организация Internet Watch Foundation, которая сообщила о четырехкратном увеличении числа отчетов об AI-CSAM за год: 245 в 2024 году по сравнению с 51 в 2023 году.
Очевидно, что Россия, как и США и другие страны, сталкивается с проблемой распространения AI-CSAM. В РФ пока отсутствуют специальные законы, касающиеся непосредственно таких преступлений, поэтому к созданию и распространению материалов могут применяться существующие статьи УК РФ по аналогии: в первую очередь, Статья 137 (Нарушение неприкосновенности частной жизни) и Статья 242 части 1 и 2 (Изготовление и оборот материалов или предметов с порнографическими изображениями несовершеннолетних).
Но тут опять же — особую сложность представляет ситуация, когда создателями или распространителями AI-CSAM являются сами несовершеннолетние. Здесь возникает куча нюансов.
Сама тема огромная, посколько можно рассматривать ещё и законодательные инициативы — например, Законопроект № 718538-8, который предлагает ввести новый квалифицирующий признак — «использование дипфейк-технологии» — в ряд статей УК, и работу по созданию технологических решений для выявления AI-CSAM, и программы по цифровой грамотности и кибербезопасности — в частности, Проект «Цифровой ликбез» от Минцифры.
Но пока же всё сводится к базовым советам и призывам экспертов: обеспечить анонимное информирование, предоставить психологическую поддержку пострадавшим ученикам, обучить учителей и полицию, наконец, адекватно объяснить детям масштаб и последствия происходящего.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
У Стэнфордского центра киберполитики вышло исследование, проливающее свет на проблему, которая набирает взрывные масштабы прямо сейчас — школьники массово используют генеративные ИИ-инструменты для создания эротических и сексуальных изображений своих одноклассников.
404Media пишет про то, что речь идет о «nudify»-приложениях, превращающих обычные фото в убедительные и реалистичные фейковые обнажённые изображения. Исследователи Стэнфорда показывают: ни школы, ни родители, ни полиция не готовы к происходящему.
По теме:
— Порно-ботом в Телеграме пользовались 150 тысяч человек
— ИИ в п*рно: новая модель сразу ушла в дипфейки
Школьники считают подобные действия практически нормой: они обсуждают приложения открыто в соцсетях, даже не подозревая, что создаваемый таким образом контент — это полноценное преступление (а в 38 штатах США уже действуют конкретные законы о запрете AI-CSAM (children sexual abuse material), хотя они пока плохо адаптированы под случаи, когда виновниками являются сами же несовершеннолетние).
Результат такого незнания — сотни случаев серьезной психологической травмы и инциденты, которые разрушают репутацию подростков. Родители жертв признаются, что были шокированы увиденным.
«Помните фотошоп? Я думала, это будет что-то такое же нереалистичное. Но нет — это выглядело именно как моя дочь. Кто угодно поверит, что это её настоящее фото».
Другие семьи всерьез переживают, что созданные изображения однажды найдут путь обратно в жизнь их детей: повлияют на поступление в вузы, отношения, карьерные перспективы.
У школ — полная неготовность к таким инцидентам. Большинство преподавателей никогда не получали инструкций о том, как вести себя в таких ситуациях. Один образовательный эксперт заметил саркастично:
«У каждой школы уже есть план на случай масс-шутинга, но я ни разу не слышал, чтобы у них был план действий на случай генерации эротических фейков».
При этом статистика от Национального центра пропавших и эксплуатируемых детей США (NCMEC) свидетельствует о резком росте числа отчетов, связанных с материалами AI-CSAM. Если в 2023 году NCMEC получил 4700 таких отчетов, то в 2024 году был зафиксирован рост на 1325%, до 67 000 отчетов. Аналогичную тенденцию отмечает и британская организация Internet Watch Foundation, которая сообщила о четырехкратном увеличении числа отчетов об AI-CSAM за год: 245 в 2024 году по сравнению с 51 в 2023 году.
Очевидно, что Россия, как и США и другие страны, сталкивается с проблемой распространения AI-CSAM. В РФ пока отсутствуют специальные законы, касающиеся непосредственно таких преступлений, поэтому к созданию и распространению материалов могут применяться существующие статьи УК РФ по аналогии: в первую очередь, Статья 137 (Нарушение неприкосновенности частной жизни) и Статья 242 части 1 и 2 (Изготовление и оборот материалов или предметов с порнографическими изображениями несовершеннолетних).
Но тут опять же — особую сложность представляет ситуация, когда создателями или распространителями AI-CSAM являются сами несовершеннолетние. Здесь возникает куча нюансов.
Сама тема огромная, посколько можно рассматривать ещё и законодательные инициативы — например, Законопроект № 718538-8, который предлагает ввести новый квалифицирующий признак — «использование дипфейк-технологии» — в ряд статей УК, и работу по созданию технологических решений для выявления AI-CSAM, и программы по цифровой грамотности и кибербезопасности — в частности, Проект «Цифровой ликбез» от Минцифры.
Но пока же всё сводится к базовым советам и призывам экспертов: обеспечить анонимное информирование, предоставить психологическую поддержку пострадавшим ученикам, обучить учителей и полицию, наконец, адекватно объяснить детям масштаб и последствия происходящего.
Please open Telegram to view this post
VIEW IN TELEGRAM
😱3🥴3❤2🤬2🤯1
Panzer statt Porsche
Тут по телеку была то ли серьезная, то ли нет (подтверждения я найти не смог) новость, что завод Porsche начнёт снова производить военную технику.
Я попросил нейросети представить, как выглядели бы современные творения немецких автобрендов, если бы они переключились на военные заказы.
❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ ❗️ / Не запрещена в РФ
Тут по телеку была то ли серьезная, то ли нет (подтверждения я найти не смог) новость, что завод Porsche начнёт снова производить военную технику.
Я попросил нейросети представить, как выглядели бы современные творения немецких автобрендов, если бы они переключились на военные заказы.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5