Какие материалы у меня есть / чем я могут быть полезен / что посмотреть:

<--ЛЁГКИЕ, НЕТЕХНИЧЕСКИЕ МАТЕРИАЛЫ-->
Текст:
— 🔥Блогпост на хабре про историю развития GPT от Т9 к ChatGPT, написанный для объяснения простым языком (он же на VC, а в клубе Вастрика краткая история рождения статья); ВИДЕОВЕРСИЯ (1M+ просмотров!)
— 🔥Блогпост на хабре про Sora, модель генерации видео (которая на самом деле должна симулировать виртуальные миры, лол)
— Блогпост на хабре про GPT-4 и новую политику "Open"AI по непубликации исследований; ВИДЕОВЕРСИЯ
— Блогпост на хабре про обновление и развитие GPT-4 и обзор OpenAI DevDay 2023;
— 🔥Блогпост на хабре про новую линейку моделей OpenAI, o1. Почему это реально прорыв и смена парадигмы работы с моделями, а не хайп;
— Блокпост Вастрика про опасности AI, и почему не нужно закрывать глаза на (некоторые) тезисы Юдковского. Я помогал в качестве редактора, не основного автора; ВИДЕОВЕРСИЯ

Видео:
— Интервью на канале Karpov.Courses (чтобы лучше понять, кто что где я);
— Подкаст-интервью с Александром Ильиным на тему ChatGPT, AGI, их влияния на нашу жизнь. Последние 20 минут трещим про мою карьеру;
— 🔥Открывающий доклад конференции Global CIO (на английском 🇬🇧), в котором я рассказываю, что такое AI и почему его можно (нужно) начинать использовать сотрудникам уже сегодня, для увеличения персональной эффективности;
— 🔥Доклад с Podlodka Product Crew про текущее состояние LLM / AI-ассистентов, где простым и понятным языком сначала развеиваю 4 мифа, а затем рассказываю про будущее AI.

_________________________________________________________________________
<--СРЕДНЯЯ СЛОЖНОСТЬ, ПОПУЛЯРНО ПРО ТЕХНОЛОГИИ-->
Текст:
— Бесплатный курс по базовому Python (очень простым и понятным языком, специально для быстрого старта);
— 🔥Блогпост на хабре про WebGPT (модель с подключением к браузеру) как способ решения проблем ChatGPT;
— 🔥Блогпост на хабре с разбором статьи DeepMind, в которой заявляется, что LLM впервые совершила научное открытие;
— Блогпост на хабре с объяснением основ интерпретируемости нейросетей (применительно к LLM) и разбором трёх методов;

Видео:
— 🔥Лекция «What's next for OpenAI?», в которой рассказываю про дальнейший рисерч OpenAI и 8 потенциальных направлений исследований;
— 🔥 Лекция (обзорная) для ИТМО про то, как работают LLM, как они подключаются к реальному миру и могут на него влиять, и описывающая наше ближайшее будущее и самые интересные направления работы;
— Видео-подкаст с Алексеем Хахуновым про устройство плагинов для ChatGPT, в котором на пальцах разберем, как работает интеграция с поиском Bing;
— Видео-подкаст на Рабкоре с Кали Новской про опасности ИИ, политику и многое другое;
— Рассказ моей команды в AliExpress о том, как у нас работает матчинг в проде: блог с первой частью рассказа, полное видео с митапа (приглашенные спикеры из Яндекса и Озона, см. таймкоды);

_________________________________________________________________________
<--ВЫСОКАЯ СЛОЖНОСТЬ, ТЕХНИЧЕСКИЕ ДЕТАЛИ И РАЗБОРЫ-->
Текст:
— гайд по промптингу LLM для генерации синтетических данных: Generating Synthetic Dataset for RAG и Tackling Generated Datasets Diversity

Видео:
— 🔥Детальнейшая видео-лекция про устройство трансформера, со всеми нюансами;
— 🔥(плейлист на YouTube) 10+ часовой мини-курс по NLP «Полная история семейства GPT»;
— 🔥Лекция «RLHF Intro: from Zero to Aligned Intelligent Systems» в рамках DataFest 2023 (была признана лучей лекцией ODS в 2023);
— Мини-серия комментариев к ML System Design Interviews, с Валерой Бабушкиным: (1) выбор рекламы к показу в ленте соцсети, (2) ценообразование на маркетплейсе, (3) матчинг товаров в онлайн-магазине;
— Лекция по деревьям решений, методам ансамблирования и (ГЛАВНОЕ) градиентным бустингам;
— Лекция про языковые модели, основанные на принципе поиска ближайших соседей: часть 1, часть 2;
— Вебинар по неградиентным методам оптимизации, с большим количеством практики;

Возможно вам попадалось видео на ютубе, где один достаточно популярный бигтех-блоггер жаловался на реджект после собеседования в стартап с 22 летним СЕО (вот оно). Это было 3 года назад, и стартап тот назывался Scale AI. По сути это Толока на стероидах, то есть в сущности платформа для разметки и генерации данных. Она соединяет AI-стартапы с одной стороны (как потребителей этой самой разметки), и людей, готовых продать своё время за компьютером, выполняя рутинные задачки, с другой.

Еще ~год назад я увидел, что OpenAI пользуются их услугами для найма контрактных сотрудников, которые будут помогать готовить данные для моделей, основанных на GPT (включая ChatGPT?). Вот он, успех :)

Но я бы об этом не писал, если бы не два факта:
1) ScaleAI недавно провели хакатон prompt-инжинеринга. То есть люди собирались и пытались придумать, какой текст можно подавать в большие языковые модели, чтобы научить их решать новые задачи без дорого обучения (условно, попросить решить задачу шаг за шагом, объясняя каждый этап, чтобы в итоге модель рассуждала и не делала простые ошибки). В судьях даже был Andrej Karpathy!
2) победное решение хакатона "GPT is all you need for backend" выложено в опенсурс (тык).

Твиттер-тред с объяснением того, что внутри - тут. Если вкратце, то LLM (GPT3) выступает в роли бэкенд-сервера, реагирующего на API-вызовы, и генерирует JSON-ответы. Модель справляется с обращением со сложными структурами данных внутри, а логику формирует по простому текстовому описанию (те самые ТЗ для разработчиков 💀)

Увидел мем про мой сегодняшний день 😂

Есть такой человек, Matei Zaharia. Он разработал более удобную и быструю альтернативу фреймворку MapReduce для обработки больших данных под названием Spark (Apache Spark после передачи в фонд). И сделал он это во время обучения в университете как часть PhD. Сейчас Matei CTO (и кофаундер) Databricks - компании с выручкой более $1B за 2022й - и профессор в Стэнфорде.

Каково было моё удивление в 2021м году, когда я обнаружил его в числе авторов статьи ColBERT: Efficient and Effective Passage Search. Бывает же такое, что у человека сфера интересов ну просто гигантская, и везде работа продуктивна. Да, разработка фреймворка обработки бльших данных. Да, разработка софта для работы с большими данными в облаке из удобного .ipynb в окне браузера. Но...обучение трансформеров на задачу поиска схожих текстов? 😩 как

Архитектура эта в своё время была SotA-подходом, и элегантно ложилась на мои рабочие задачи. Про неё, кстати, можно услышать вот в этом докладе моей бывшей команды в AliExpress - мы использовали ColBERT как кандидатную модель в задаче матчинга (о ней вы еще ни раз услышите 😳), то есть как раз таки делали "Efficient and Effective Search". У этой архитектуры есть обновленная версия (так и зовётся: v2), но это уже другой разговор. В общем, дай бог каждому таких сфер интересов и успехов.

🤔 о чем это я?
Под конец 22го года вышла ещё одна статья с его участием"Demonstrate-Search-Predict: Composing retrieval and language models for knowledge-intensive NLP", с пересекающимся набором со-авторов. Код лежит тут. Твиттер тред с объяснениями от автора: тык.

TLDR:
We introduce general primitives to annotate examples for your strategy (𝗗emonstrate), gather relevant knowledge from multiple sources (𝗦earch), and generate grounded predictions (𝗣redict). Instead of crafting a prompt for the LM, you write a short 𝗗𝗦𝗣 program that assigns small tasks to the LM and a retrieval model (RM) in deliberate powerful pipelines.

Статью ещё не читал, может сделаю разбор на канал, если будет, чем поделиться.

Была такая стипендиальная программа OpenAI Scholars, на которой после отбора участникам предлагались оплата на 3 (позже 4) месяца и менторство от ведущих исследователей компании. Сейчас программу объединили с другой, и называется всё OpenAI Residency. Сейчас на неё можно податься, и релокейт обещают!

Но не об этом речь. Я смотрел проекты прошлых лет, и глаз зацепился за выпускную работу 2021го года. О ней и расскажу ниже.

⭐️ Тема: Large Scale Reward Modeling
Сайт проекта: тык
Видео с презентацией на выпускном на канале OpenAI: туц

В сфере AI существует проблема "смещения" (misalignment) ценностей и целей человечества и нейронных сетей. Наверняка вы видели или читали в фантастике про разные примеры вроде решения "убить всех людей" в ответ на запрос решения проблем. Или про переработку всего мира в скрепки. Даже если предположить, что у нас есть суперкомпьютер с ИИ, мы не можем его просто взять и использовать - скорее всего, тот начнёт предпринимать непонятные нам действия, которые не соответствуют человеческим ожиданиям.

В OpenAI есть целая alignment-команда, которая пытается решить эту проблему. О результатах её работы вы слышали совсем недавно - это ChatGPT. Эта модель тренируется угадывать человеческие предпочтения, ожидания, и соответствовать им. Процесс дообучения простой GPT-3.5 в ChatGPT и есть процесс "выравнивания" модели.

Делается это с помощью подходов, которые в общем называются RLHF, Reinforcement Learning from Human Feedback. Я бы с удовольствием расписал более подробно, но, к сожалению, поля моей тетради слишком узки...
Поэтому вкратце: люди участвуют в разметке данных для модели. Например, получают два ответа на один и тот же вопрос и выбирают, какой им больше нравится. Получается пара, где один объект "лучше" другого. На таких парах можно натренировать нейросеть, которая будет предсказывать, левый или правый ответ победит при сравнении человеком. А затем применить разнообразные методы оптимизации генерации поверх такого "оценщика". Если очень упрощать, то можно сказать, что оптимизируя генерацию с точки зрения модели-оценщика мы также оптимизируем и то, как сравнивают живые люди.

Такая модель-оценщик называется Reward Model, или RM. По сути она моделирует награду (Reward), которую получит языковая модель, если сгенерирует определенный ответ. И эти оценки очень точны по отношению к людским.