Forwarded from Refat Talks: Tech & AI
This media is not supported in your browser
VIEW IN TELEGRAM
30 минут автоматики против 90% уязвимостей в AI (да и не только) коде
AI-кодинг это круто, но он демократизирует не только разработку, но и дыры в безопасности. Claude с Cursor генерят код быстро, но про секьюрити они думают в последнюю очередь. Да и не только в них дело, люди также ошибаются.
Почему это важно вы и сами понимаете, рисков очень много: неопытный разработчик увлекся прототипом и закомитил API ключ прямо в коде, AI затащил устаревшие версии пакетов по старой памяти, а они сегодня имеют уязвимости, кто-то скопировал небезопасные конфиги из туториалов, а одна опечатка может незаметно образовать дыру в безопастности.
Хорошие новости: за полчаса можно настроить автоматику, которая закроет 90% стандартных проблем с безопасностью. Это не значит что вам не нужно обращаться к экспертам и самим глубже в этом разбираться, просто это тот случай когда хоть что-то сильно лучше чем ноль.
Основные инструменты (все бесплатные)
Детекция секретов:
- GitLeaks - ловит API-ключи, пароли и токены до коммита
- TruffleHog - продвинутое сканирование с проверкой
Сканирование уязвимостей:
- Semgrep - находит инъекции, обходы аутентификации, логические дыры
- Bandit (Python) - секьюрити-проблемы в питоне
- ESLint Security (JavaScript) - XSS, прототипное загрязнение, небезопасные паттерны
Безопасность зависимостей:
- Safety (Python) - сканирует уязвимые пакеты
- npm audit (JavaScript) - встроенный сканер уязвимостей Node.js
Менеджеры хуков (самая важная часть):
- Pre-commit - универсальный менеджер git-хуков для любых языков (рекомендую)
- Husky - популярная альтернатива для Node.js проектов
- Lefthook - быстрая альтернатива на Go
В каждой из этих категорий есть много альтернатив в том числе платных, есть SonarQube, есть snyk и т.д.
Стратегия быстрого внедрения
Фаза 1: Локальная разработка
Настраиваете pre-commit хуки, которые ловят проблемы до коммита в репозиторий
Фаза 2: CI/CD интеграция
Добавляете GitHub Actions, Gitlab CI/CD и тд для того, что могли пропустить локальные проверки - это best practice
Автоматическая настройка с AI
Disclaimer: Это не снимает с тебя ответственности за то чтобы разбираться подробнее, но даст быстрый старт.
Пример промпта чтобы написать его в Cursor / Claude Code и тд:
Ваш AI-агент проанализирует кодовую базу и создаст настроенную под ваш проект систему проверки безопасности кода за минуты.
Эта настройка ловит уязвимости, которые вызывают 90% утечек данных:
- Утечка учетных данных: API-ключи, пароли БД, JWT-секреты
- Инъекционные атаки: SQL-инъекции, command injection, XSS
- Уязвимые зависимости: устаревшие пакеты с известными CVE
- Небезопасные конфигурации: слабая аутентификация, открытые эндпойнты
- Утечки данных: хардкод чувствительной информации
Сами проверки не занимают много времени (секунды), они запускаются параллельно, умеют чекать только измененные файлы и т.д.
Эта настройка - стартовая точка, не финиш. Начните с "достаточно хорошо" сегодня, улучшайте со временем, и вы будете впереди подавляющего числа приложений, которые шипятся вообще без проверок безопасности.
Если хотя бы несколько начинающих разработчиков или молодых команд внедрят эти чеки после прочтения поста - это уже огромная победа. Поэтому 🔥➕🔁
AI-кодинг это круто, но он демократизирует не только разработку, но и дыры в безопасности. Claude с Cursor генерят код быстро, но про секьюрити они думают в последнюю очередь. Да и не только в них дело, люди также ошибаются.
Почему это важно вы и сами понимаете, рисков очень много: неопытный разработчик увлекся прототипом и закомитил API ключ прямо в коде, AI затащил устаревшие версии пакетов по старой памяти, а они сегодня имеют уязвимости, кто-то скопировал небезопасные конфиги из туториалов, а одна опечатка может незаметно образовать дыру в безопастности.
Хорошие новости: за полчаса можно настроить автоматику, которая закроет 90% стандартных проблем с безопасностью. Это не значит что вам не нужно обращаться к экспертам и самим глубже в этом разбираться, просто это тот случай когда хоть что-то сильно лучше чем ноль.
Основные инструменты (все бесплатные)
Детекция секретов:
- GitLeaks - ловит API-ключи, пароли и токены до коммита
- TruffleHog - продвинутое сканирование с проверкой
Сканирование уязвимостей:
- Semgrep - находит инъекции, обходы аутентификации, логические дыры
- Bandit (Python) - секьюрити-проблемы в питоне
- ESLint Security (JavaScript) - XSS, прототипное загрязнение, небезопасные паттерны
Безопасность зависимостей:
- Safety (Python) - сканирует уязвимые пакеты
- npm audit (JavaScript) - встроенный сканер уязвимостей Node.js
Менеджеры хуков (самая важная часть):
- Pre-commit - универсальный менеджер git-хуков для любых языков (рекомендую)
- Husky - популярная альтернатива для Node.js проектов
- Lefthook - быстрая альтернатива на Go
В каждой из этих категорий есть много альтернатив в том числе платных, есть SonarQube, есть snyk и т.д.
Стратегия быстрого внедрения
Фаза 1: Локальная разработка
Настраиваете pre-commit хуки, которые ловят проблемы до коммита в репозиторий
Фаза 2: CI/CD интеграция
Добавляете GitHub Actions, Gitlab CI/CD и тд для того, что могли пропустить локальные проверки - это best practice
Автоматическая настройка с AI
Disclaimer: Это не снимает с тебя ответственности за то чтобы разбираться подробнее, но даст быстрый старт.
Пример промпта чтобы написать его в Cursor / Claude Code и тд:
Analyze this project and set up a performance-optimized pre-commit security configuration using only open-source tools (GitLeaks, Bandit, ESLint Security, Safety, Semgrep) to implement SAST, secrets detection, and dependency vulnerability scanning. Auto-detect project languages, install pre-commit with appropriate security hooks, configure parallel execution and file filtering for speed, create IDE integration files, and test the complete setup. Focus on preventing credential exposure, injection vulnerabilities, hardcoded secrets, insecure dependencies, and OWASP Top 10 issues with high-impact, low-false-positive detection. Document the entire setup process, configuration details.
Ваш AI-агент проанализирует кодовую базу и создаст настроенную под ваш проект систему проверки безопасности кода за минуты.
Эта настройка ловит уязвимости, которые вызывают 90% утечек данных:
- Утечка учетных данных: API-ключи, пароли БД, JWT-секреты
- Инъекционные атаки: SQL-инъекции, command injection, XSS
- Уязвимые зависимости: устаревшие пакеты с известными CVE
- Небезопасные конфигурации: слабая аутентификация, открытые эндпойнты
- Утечки данных: хардкод чувствительной информации
Сами проверки не занимают много времени (секунды), они запускаются параллельно, умеют чекать только измененные файлы и т.д.
Эта настройка - стартовая точка, не финиш. Начните с "достаточно хорошо" сегодня, улучшайте со временем, и вы будете впереди подавляющего числа приложений, которые шипятся вообще без проверок безопасности.
Если хотя бы несколько начинающих разработчиков или молодых команд внедрят эти чеки после прочтения поста - это уже огромная победа. Поэтому 🔥➕🔁
Forwarded from Датавиз в BI • Алиса Ручкина
Подборка прожарок
В предыдущем посте про референсы я упомянула формат прожарок дашбордов.
Сделала подборку прожарок🔥 по разным BI-инструментам:
Tableau — Прожарка на английском языке от Романа Бунина и Александра Баракова. Варианты перевёрстки дашборда можно посмотреть на доске в Miro
Power BI — Разбор дашборда, собранного в Power BI, от Алексея Колоколова
FineBI — Фрагмент онлайн-встречи Fine Talks
AW BI — Запись эфира «Прожарка» конкурсных дашбордов Analytic Workspace
Yandex DataLens — Топ-3 частых ошибок в конкурсных работах Yandex DataLens Festival 2024
PIX BI — Дашборд на прокачку, или PIX Красивое
Looker Studio — Митап Романа Бунина про основы дизайна для аналитиков и перевёрстка дашборда
PolyAnalyst — Прожарка отчета по продажам
❓Какие прожарки вы ещё видели?
Дополняйте в комментариях!
#подборка #дашборд
Датавиз в BI • Алиса Ручкина
В предыдущем посте про референсы я упомянула формат прожарок дашбордов.
Сделала подборку прожарок🔥 по разным BI-инструментам:
Tableau — Прожарка на английском языке от Романа Бунина и Александра Баракова. Варианты перевёрстки дашборда можно посмотреть на доске в Miro
Power BI — Разбор дашборда, собранного в Power BI, от Алексея Колоколова
FineBI — Фрагмент онлайн-встречи Fine Talks
AW BI — Запись эфира «Прожарка» конкурсных дашбордов Analytic Workspace
Yandex DataLens — Топ-3 частых ошибок в конкурсных работах Yandex DataLens Festival 2024
PIX BI — Дашборд на прокачку, или PIX Красивое
Looker Studio — Митап Романа Бунина про основы дизайна для аналитиков и перевёрстка дашборда
PolyAnalyst — Прожарка отчета по продажам
❓Какие прожарки вы ещё видели?
Дополняйте в комментариях!
#подборка #дашборд
Датавиз в BI • Алиса Ручкина
Forwarded from topdatalab (Roman Zykov)
Примерно месяц назад я переехал на Cursor и очень доволен скоростью ответов.
Неделю назад я прочитал статью на английском, как он собственно устроен и как развивался.
Перевод на русский здесь:
часть 1 https://habr.com/ru/articles/919636/
часть 2 https://habr.com/ru/articles/920660/
В целом там все очень интересно описано, особенно про индексацию кодовой базы.
Но меня лично заинтересовал упомянутый там проект, который спас Cursor от падения
https://turbopuffer.com
Ребята делают full text search и поиск по embedding, что является основой любой RAG.
Они отказались от БД в пользу S3.
Цены не скажу что высокие, буду пробовать их сам. Уж больно они хороши (из истории Cursor)
А так рецепт следующий Postgres + pg_search + pg_vector
У меня это все крутится на Corpsignals.com
Неделю назад я прочитал статью на английском, как он собственно устроен и как развивался.
Перевод на русский здесь:
часть 1 https://habr.com/ru/articles/919636/
часть 2 https://habr.com/ru/articles/920660/
В целом там все очень интересно описано, особенно про индексацию кодовой базы.
Но меня лично заинтересовал упомянутый там проект, который спас Cursor от падения
https://turbopuffer.com
Ребята делают full text search и поиск по embedding, что является основой любой RAG.
Они отказались от БД в пользу S3.
Цены не скажу что высокие, буду пробовать их сам. Уж больно они хороши (из истории Cursor)
А так рецепт следующий Postgres + pg_search + pg_vector
У меня это все крутится на Corpsignals.com
Forwarded from Katherine
Лекции с A/B Week от ШАД (которая прошла 21-25.07.2025) было здорово - очень подробно и доступно.
Недавно начала проходить симулятор AB от karpov.courses. Так вот Диля Хакимова рассказала за неделю примерно половину из того, что дается в karpov.courses, и совершенно бесплатно.
Недавно начала проходить симулятор AB от karpov.courses. Так вот Диля Хакимова рассказала за неделю примерно половину из того, что дается в karpov.courses, и совершенно бесплатно.
Forwarded from Data Secrets
Learning without training: разбираем новую крайне интересную статью от Google
Смотрите, все мы знаем, что если модели в промпте показать несколько примеров решения похожих задач, то она может легко подхватить паттерн, и качество ответов станет лучше. При этом веса модели, естественно, не меняются.
Это называется in‑context learning (ICL), но вот вам fun fact: никто до сих пор до конца не знает, почему это работает, и как трансформер это делает.
И вот в этой статье авторы предлагают почти революционную гипотезу – что на самом деле веса меняются, просто иначе, чем мы привыкли.
То есть на самом деле внутри блока трансформера происходит нечто похожее на файнтюнинг, только не через градиенты, а за счёт самой механики self‑attention и MLP. Идея сводится к следующему:
1. Контекст порождает локальные изменения активаций, и когда вы добавляете примеры в промпт, self‑attention пересчитывает эмбеддинги токенов так, что после этого они зависят от всего контекста. Разницу между «чистыми» активациями и активациями с учётом примеров можно назвать контекстным сдвигом. Это все известные вещи.
2. А вот дальше зарыта собака: оказывается, MLP превращает этот контекстный сдвиг в ранг‑1 обновление весов. Иначе говоря, если посмотреть на первый линейный слой MLP (матрицу W), то влияние дополнительных примеров эквивалентно тому, что эту самую матрицу дополняют маленькой поправкой ранга 1.
Причем эта поправка описывается достаточно простой формулой. То есть если мы берем оригинальные веса и вручную добавляем к ним эту поправку, модель без контекста выдаст то же самое, что и оригинал с контекстом. Но всё это происходит во время инференса, без обратного прохода и без изменения глобальных моделей параметров.
Получается, Google буквально дают ключ к возможному обучению без градиентного спуска. Если такие ранг‑1 апдейты научиться усиливать или контролировать, это может быть началом абсолютно новых архитектур.
Почитать полностью можно тут -> arxiv.org/abs/2507.16003 (осторожно, много математики)
Смотрите, все мы знаем, что если модели в промпте показать несколько примеров решения похожих задач, то она может легко подхватить паттерн, и качество ответов станет лучше. При этом веса модели, естественно, не меняются.
Это называется in‑context learning (ICL), но вот вам fun fact: никто до сих пор до конца не знает, почему это работает, и как трансформер это делает.
И вот в этой статье авторы предлагают почти революционную гипотезу – что на самом деле веса меняются, просто иначе, чем мы привыкли.
То есть на самом деле внутри блока трансформера происходит нечто похожее на файнтюнинг, только не через градиенты, а за счёт самой механики self‑attention и MLP. Идея сводится к следующему:
1. Контекст порождает локальные изменения активаций, и когда вы добавляете примеры в промпт, self‑attention пересчитывает эмбеддинги токенов так, что после этого они зависят от всего контекста. Разницу между «чистыми» активациями и активациями с учётом примеров можно назвать контекстным сдвигом. Это все известные вещи.
2. А вот дальше зарыта собака: оказывается, MLP превращает этот контекстный сдвиг в ранг‑1 обновление весов. Иначе говоря, если посмотреть на первый линейный слой MLP (матрицу W), то влияние дополнительных примеров эквивалентно тому, что эту самую матрицу дополняют маленькой поправкой ранга 1.
Причем эта поправка описывается достаточно простой формулой. То есть если мы берем оригинальные веса и вручную добавляем к ним эту поправку, модель без контекста выдаст то же самое, что и оригинал с контекстом. Но всё это происходит во время инференса, без обратного прохода и без изменения глобальных моделей параметров.
Получается, Google буквально дают ключ к возможному обучению без градиентного спуска. Если такие ранг‑1 апдейты научиться усиливать или контролировать, это может быть началом абсолютно новых архитектур.
Почитать полностью можно тут -> arxiv.org/abs/2507.16003 (осторожно, много математики)
Forwarded from ML Baldini • Nikita Boyandin (Nikita Boyandin)
#собесы #BaseLLM
За последний год прошел много собеседований и удивился, что на русском языке нет(или почти нет) методичек LLM Q&A собеседований на русском. В каждом из тем(пока планируется 15), я постараюсь понятным языком ответить на вопросы, а затем составить общую методичку LLM собеседований.
В чем разница между предиктивным(Predictive) и генеративным(Generative) ИИ?
В предиктивном мы не создаем новые данные, а делает предсказания или классификации по существующим входным данным. То есть учится границам между классами(LogReg, RF, Catboost).
В генеративном мы генерируем новые данные на основе распределения(LLM, GAN, Stable Diffusion).
Что такое LLM и как она тренируется?
Large Language Model - продвинутая вычислительная модель, способная анализировать и генерировать тексты на любую тематику. Она работает по принципу нейронных сетей и может образовывать сложные шаблоны и взаимосвязи между изученными языковыми данными.
Примеры: GPT, Gemini, Claude
В классическом понимании у LLM есть несколько стадий обучения:
1️⃣ Pre-training, для понимания того, как работает язык
2️⃣ Fine-tuning, для обучения на определенной задаче или домене
3️⃣ Prompt-tuning, использование инструкций и подсказок для лучших ответов модели
4️⃣ Reinforcement learning with human feedback(RLHF), после получения ответов, человек их оценивает и меняет параметры LLM.
Что такое токен в языковой модели?
Токен - минимальная единица текста, с которой работает языковая модель. В LLM это обычно части слов, слова и знаки, зависящие от алгоритма токенизации.
Как рассчитать стоимость пользования готового сервиса LLM(GPT, Deepseek) и open-source решения(LLAMA, Qwen)?
В первом случае все зависит от количества входных и выходных токенов: примерно 0.03 доллара за 1К входных и 0.06 за 1К выходных. При этом стоимость может меняться от сложность модели. Общая формула будет примерно такой:
Все остальные затраты будут на стороне провайдера. В наших реалиях придется платить за прокси, но это буквально 250-300 рублей в месяц.
Для развертывания своей модели придется платить за ресурсы, devops поддержку, хранение информации и энергопотребление. Общая формула:
В целом, использование SaaS намного более удобный, чем локальная LLM, использовать второй случай нужно лишь когда нам нужен полный контроль над моделью и данными.
Что такое температура и на что она влияет?
Температура - это гиперпараметр генерации текста, который контролирует степень случайности (креативности) в выборе следующего токена.
Модель вычисляет вероятности токенов
- Если T < 1, распределение становится резче (концентрируется на top токенах).
- Если T > 1, распределение становится более равномерным (выбор менее вероятных токенов возрастает)
Нравится ли вам такой формат?) Разбирать ли более сложные вопросы или сначала базу?) Какие еще темы вы хотели бы разобрать?) Обязательно ставьте реакции и пишите комментарии💗
За последний год прошел много собеседований и удивился, что на русском языке нет(или почти нет) методичек LLM Q&A собеседований на русском. В каждом из тем(пока планируется 15), я постараюсь понятным языком ответить на вопросы, а затем составить общую методичку LLM собеседований.
В чем разница между предиктивным(Predictive) и генеративным(Generative) ИИ?
В предиктивном мы не создаем новые данные, а делает предсказания или классификации по существующим входным данным. То есть учится границам между классами(LogReg, RF, Catboost).
В генеративном мы генерируем новые данные на основе распределения(LLM, GAN, Stable Diffusion).
Что такое LLM и как она тренируется?
Large Language Model - продвинутая вычислительная модель, способная анализировать и генерировать тексты на любую тематику. Она работает по принципу нейронных сетей и может образовывать сложные шаблоны и взаимосвязи между изученными языковыми данными.
Примеры: GPT, Gemini, Claude
В классическом понимании у LLM есть несколько стадий обучения:
Что такое токен в языковой модели?
Токен - минимальная единица текста, с которой работает языковая модель. В LLM это обычно части слов, слова и знаки, зависящие от алгоритма токенизации.
Как рассчитать стоимость пользования готового сервиса LLM(GPT, Deepseek) и open-source решения(LLAMA, Qwen)?
В первом случае все зависит от количества входных и выходных токенов: примерно 0.03 доллара за 1К входных и 0.06 за 1К выходных. При этом стоимость может меняться от сложность модели. Общая формула будет примерно такой:
Общая стоимость = (число prompt токенов * цена за 1K prompt токенов / 1000) + (число completion токенов * цена за 1K completion токенов / 1000)
Все остальные затраты будут на стороне провайдера. В наших реалиях придется платить за прокси, но это буквально 250-300 рублей в месяц.
Для развертывания своей модели придется платить за ресурсы, devops поддержку, хранение информации и энергопотребление. Общая формула:
Общая стоимость = Стоимость GPU (аренда или амортизация) + Стоимость CPU RAM Storage + DevOps зарплата + Сопутствующие расходы (электричество, сеть)
В целом, использование SaaS намного более удобный, чем локальная LLM, использовать второй случай нужно лишь когда нам нужен полный контроль над моделью и данными.
Что такое температура и на что она влияет?
Температура - это гиперпараметр генерации текста, который контролирует степень случайности (креативности) в выборе следующего токена.
Модель вычисляет вероятности токенов
p_i. При температуре T:
p_i_new ∝ exp(log(p_i) / T)
- Если T < 1, распределение становится резче (концентрируется на top токенах).
- Если T > 1, распределение становится более равномерным (выбор менее вероятных токенов возрастает)
Нравится ли вам такой формат?) Разбирать ли более сложные вопросы или сначала базу?) Какие еще темы вы хотели бы разобрать?) Обязательно ставьте реакции и пишите комментарии
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from дAI потестить!
Media is too big
VIEW IN TELEGRAM
Меняем фон на видео - параллельно отапливаем жилище теплом от видеокарты.
P.S. Все еще Wan2GP и Pinokkio
P.S. Все еще Wan2GP и Pinokkio
Forwarded from Душный NLP
В Вене проходит 63-я ежегодная конференция ассоциации компьютерной лингвистики — ACL 2025
А мы как всегда следим 👀 и делимся с вами самым интересным. Мы уже публиковали занимательную статистику c конференции в канале ML Underhood (кстати, подписывайтесь!), а теперь настало время поговорить о статьях.
Конференцию открыл часовой кейноут Люка Зеттлемойера, профессора Paul G. Allen School of Computer Science & Engineering в Университете Вашингтона, старшего научного руководителя Meta* и президента ACL. Он рассказал о том, как стандартный пайплайн обучения LLM: токенизация, претрейн и элаймент, несмотря на невероятный успех, почти наверняка имеет множество возможностей улучшения, которые мы упускаем. Доклад был построен вокруг трех векторов исследования:
— повышения эффективности обработки данных после обучения;
— новых методов извлечения большего количества сигналов из данных претрейна, включая новые иерархические архитектуры для языковых моделей байтового уровня (BLT), которые не требуют использования токенизаторов и масштабируются лучше, чем традиционные методы на основе BPE;
— одного из подходов к MoE — FlexOLMo.
Все три темы были интересными! А вот ещё н несколько докладов, которые отметили яндексоиды:
Human-LLM Coevolution: Evidence from Academic Writing
Довольно ожидаемо авторы утверждают, что с появлением Chat GPT частотность употребления некоторых слов в научных статьях резко изменилась. Затем исследователи делают ещё один шажок и говорят, что это не обязательно означает, что LLM пишут статьи. Скорее мы наблюдаем, как люди, много взаимодействующие с LLM, оказываются под их влиянием и изменяют свои паттерны словоупотребления.
From Words to Worlds: NLP for Game Creation and Interaction
Индустриальный рассказ об Epic Games об использовании LLM для NPC в играх. Пользователь, играя, может задать произвольный вопрос и персонаж будет отвечать (естественно, со своим характером и т. п.). Это выглядит здорово и меняет опыт взаимодействия с игровым миром. Решение внедрили в Fortnite пару месяцев назад, она работает поверх чужих API и позволяет поговорить с Дартом Вейдером. Также они делают свой code completion и анимацию персонажей с помощью AI.
Understanding Impact of Human Feedback via Influence Functions
Исследователи оценили влияние фидбека человека, введя понятие функции влияния, и пришли к выводам, что это влияние превосходит показатели базовой LLM. Ещё более сильным негативным влиянием обладает ошибочный фидбек. Авторы разработали подход, который позволяет это детектировать и, следовательно, убирать или исправлять.
* Компания Meta признана экстремистской организацией в России.
Наблюдениями делились❣ Алексей Березникер и Александр Николайчик
#YaACL25
Душный NLP
А мы как всегда следим 👀 и делимся с вами самым интересным. Мы уже публиковали занимательную статистику c конференции в канале ML Underhood (кстати, подписывайтесь!), а теперь настало время поговорить о статьях.
Конференцию открыл часовой кейноут Люка Зеттлемойера, профессора Paul G. Allen School of Computer Science & Engineering в Университете Вашингтона, старшего научного руководителя Meta* и президента ACL. Он рассказал о том, как стандартный пайплайн обучения LLM: токенизация, претрейн и элаймент, несмотря на невероятный успех, почти наверняка имеет множество возможностей улучшения, которые мы упускаем. Доклад был построен вокруг трех векторов исследования:
— повышения эффективности обработки данных после обучения;
— новых методов извлечения большего количества сигналов из данных претрейна, включая новые иерархические архитектуры для языковых моделей байтового уровня (BLT), которые не требуют использования токенизаторов и масштабируются лучше, чем традиционные методы на основе BPE;
— одного из подходов к MoE — FlexOLMo.
Все три темы были интересными! А вот ещё н несколько докладов, которые отметили яндексоиды:
Human-LLM Coevolution: Evidence from Academic Writing
Довольно ожидаемо авторы утверждают, что с появлением Chat GPT частотность употребления некоторых слов в научных статьях резко изменилась. Затем исследователи делают ещё один шажок и говорят, что это не обязательно означает, что LLM пишут статьи. Скорее мы наблюдаем, как люди, много взаимодействующие с LLM, оказываются под их влиянием и изменяют свои паттерны словоупотребления.
From Words to Worlds: NLP for Game Creation and Interaction
Индустриальный рассказ об Epic Games об использовании LLM для NPC в играх. Пользователь, играя, может задать произвольный вопрос и персонаж будет отвечать (естественно, со своим характером и т. п.). Это выглядит здорово и меняет опыт взаимодействия с игровым миром. Решение внедрили в Fortnite пару месяцев назад, она работает поверх чужих API и позволяет поговорить с Дартом Вейдером. Также они делают свой code completion и анимацию персонажей с помощью AI.
Understanding Impact of Human Feedback via Influence Functions
Исследователи оценили влияние фидбека человека, введя понятие функции влияния, и пришли к выводам, что это влияние превосходит показатели базовой LLM. Ещё более сильным негативным влиянием обладает ошибочный фидбек. Авторы разработали подход, который позволяет это детектировать и, следовательно, убирать или исправлять.
* Компания Meta признана экстремистской организацией в России.
Наблюдениями делились
#YaACL25
Душный NLP
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM