«Люди галлюцинируют больше, чем LLM, только в языковых моделях мы это критикуем и стараемся исправить, а когда человек что-то несуразное скажет, ты обязан уважать его взгляд на мир»
(с)
(с)
😁12❤2
Forwarded from Институт AIRI
Исследователи из группы «Модели с памятью» AIRI нашли способ эффективно извлекать графы знаний из текстов⤵️
Тексты — самый распространённый способ хранения знаний, но не самый оптимальный и структурированный. Графы знаний лучше подходят, если нужно быстро найти ответ на вопрос, отыскать информацию или получить рекомендацию. Проблема в том, что для их создания пока не получается полностью избавиться от ресурсозатратного ручного труда.
Этот процесс можно автоматизировать с помощью LLM. Исследователи AIRI показали, что для этого даже не обязательно составлять большие датасеты. Статья с исследованием была представлена на воркшопе TextGraphs-17 конференции ACL-2024.
📎 Все подробности — в новой статье младшего научного сотрудника AIRI Аллы Чепуровой на Хабре.
Тексты — самый распространённый способ хранения знаний, но не самый оптимальный и структурированный. Графы знаний лучше подходят, если нужно быстро найти ответ на вопрос, отыскать информацию или получить рекомендацию. Проблема в том, что для их создания пока не получается полностью избавиться от ресурсозатратного ручного труда.
Этот процесс можно автоматизировать с помощью LLM. Исследователи AIRI показали, что для этого даже не обязательно составлять большие датасеты. Статья с исследованием была представлена на воркшопе TextGraphs-17 конференции ACL-2024.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7🔥5🥰2
Удивительно! Еще в школе много думала, реализуемо ли это на практике. Тогда еще казалось, что нет
Forwarded from Julijana's Science Odyssey
Сегодня случайно наткнулась на работу, которая просто выбила меня из колеи! Оказалось, что японские ученые вживили хлоропласты в клетки млекопитающих и заставили их работать! И хлоропласты продолжили фотосинтезировать внутри клеток 🤯 Мне очень нравятся работы такого рода, где на грани фантастики соединяются биология и новые технологии. Так что этот эксперимент буквально внезапно вывел меня за пределы обычного мышления и даже чуточку помог мне выйти из застрявшего состояния (отчет по гранту ).
👍9
Forwarded from Институт AIRI
⚡️Открываем прием заявок на Лето с AIRI 2025!
В этом году мы запускаем Школу совместно с ТГУ. Программа пройдет в Томске с 30 июня по 10 июля. Это отличная возможность поработать с экспертами в области ИИ, прокачать навыки и погрузиться в исследовательскую атмосферу. В расписании — лекции, семинары, практическая работа, постерная сессия и внеучебные активности.
📎 Подать заявку на участие можно по ссылке до 23:59 29 апреля 2025 года.
Организаторы обеспечивают обучение, проживание и питание, вам нужно будет только добраться до Томска.
Подавайте заявки и делитесь постом с друзьями и коллегами!
В этом году мы запускаем Школу совместно с ТГУ. Программа пройдет в Томске с 30 июня по 10 июля. Это отличная возможность поработать с экспертами в области ИИ, прокачать навыки и погрузиться в исследовательскую атмосферу. В расписании — лекции, семинары, практическая работа, постерная сессия и внеучебные активности.
Организаторы обеспечивают обучение, проживание и питание, вам нужно будет только добраться до Томска.
Подавайте заявки и делитесь постом с друзьями и коллегами!
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍2🔥2
У chatgpt кончился лимит на генерацию картинок, и она проявила инициативу - предложила сгенерировать ASCII-схемы для упражнений на спину для меня
Не знаю как спину, но настроение мне точно улучшило
Не знаю как спину, но настроение мне точно улучшило
❤4🥰4💘1
Интересная и короткая обзорная статья про то, как еще можно использовать графы знаний для LLM.
Предлагается составлять граф структурных и семантических связей веб-страниц для оценки и составления бенчей для веб-агентов. В комментариях обсуждения еще интереснее - кто-то считает, что это уход от той гибкости, которую нам давали LLM в сторону четко заданных алгоритмов; а кто-то наоборот считает, что это удачное дополнение для оценки сложноинтерпретируемых систем.
Предлагается составлять граф структурных и семантических связей веб-страниц для оценки и составления бенчей для веб-агентов. В комментариях обсуждения еще интереснее - кто-то считает, что это уход от той гибкости, которую нам давали LLM в сторону четко заданных алгоритмов; а кто-то наоборот считает, что это удачное дополнение для оценки сложноинтерпретируемых систем.
Wordle для тех, кто любит смотреть на графики и искать в них инсайты 📊
Оказалось правда очень инетерсно и познавательно. Большинство задачек очень логичные и требуют небольших знаний географии, современной истории и здравого смысла.
https://chartle.cc/
Оказалось правда очень инетерсно и познавательно. Большинство задачек очень логичные и требуют небольших знаний географии, современной истории и здравого смысла.
https://chartle.cc/
Please open Telegram to view this post
VIEW IN TELEGRAM
chartle.cc
Chartle - A daily chart game
Guess the country in red by analysing today's chart
❤5
Выложили препринт Wikontic-a, пайплайна для извлечения графов знаний из текста, который позволяет графам быть более компактными и согласованными с онтологией (в данном случае с онтологией Wikidata).
Будем благодарны upvote!
https://huggingface.co/papers/2512.00590
репо - https://github.com/screemix/Wikontic
Будем благодарны upvote!
https://huggingface.co/papers/2512.00590
репо - https://github.com/screemix/Wikontic
huggingface.co
Paper page - Wikontic: Constructing Wikidata-Aligned, Ontology-Aware Knowledge Graphs with Large Language Models
Join the discussion on this paper page
❤6👍2
Между конференциями, пока все в ожидании ревью на свои работы и процессе написания ревью на работы коллег, предлагаю почитать небольшую статью Айдара о том, как прошел AAAI-2026.
❤5
Каждый уже, наверное, слышал про SAE — разреженные автоэнкодеры — способные интерпретировать нейронные сети.
Популярность SAE обязаны публикациям исследований от Anthropic. Однако не смотря на весь хайп, с последующими попытками применить и исследовать эти автоэнкодеры возникали сомнения в том, насколько они способны обнаруживать важные и полезные фичи.
Что если на самом деле SAE не обучаются значимым признакам — они лишь немного лучше случайных моделей?
Коллеги показали, что SAE в их текущем виде недостаточно надежны для декомпозиции и понимания внутренних механизмов моделей. Существующие метрики для SAE (reconstruction, interpretability scores, sparse probing, causal editing) недостаточны для оценки того, выучили ли автоэнкодеры полезные и важные фичи.
Также авторы предлагают простые методы проверки, позволяющие убедиться в том, что SAE обучаются осмысленным разложениям признаков, чтобы дополнить их оценку.
Читаем статью и ставим апвоуты на хф!
Популярность SAE обязаны публикациям исследований от Anthropic. Однако не смотря на весь хайп, с последующими попытками применить и исследовать эти автоэнкодеры возникали сомнения в том, насколько они способны обнаруживать важные и полезные фичи.
Что если на самом деле SAE не обучаются значимым признакам — они лишь немного лучше случайных моделей?
Коллеги показали, что SAE в их текущем виде недостаточно надежны для декомпозиции и понимания внутренних механизмов моделей. Существующие метрики для SAE (reconstruction, interpretability scores, sparse probing, causal editing) недостаточны для оценки того, выучили ли автоэнкодеры полезные и важные фичи.
Также авторы предлагают простые методы проверки, позволяющие убедиться в том, что SAE обучаются осмысленным разложениям признаков, чтобы дополнить их оценку.
Читаем статью и ставим апвоуты на хф!
❤6
В продолжении заметки Айдара о наших похождениях на AAAI, предлагаю почитать о статье, которую мы презентовали на демо-сессии AAAI-2026 на русском языке на хабре.
👍4