Дата и Время
317 subscribers
32 photos
4 links
Смотря какая data,
Смотря какое время…
Download Telegram
Channel created
Channel photo updated
Что общего между машинным обучением, золотым миллиардом и Brawl Stars?

В последние недели моё свободное время поглотила новая, неожиданно возникшая волна любви к маленькой и простенькой мобильной Brawl Stars — есть что-то в том, чтобы после тяжелых рабочих будней, полных принятия бесконечных решений и интенсивных созвонов уделить время чему-то лёгкому и в меру увлекательному.

Правда от лёгкости и увлекательности я безумной скоростью перешёл к рейтинговому режиму, в котором для успешной игры против таких же безумцев нужно анализировать карты, на которых происходят сражения — узнавать, какой боец на этой карте самый сильный и какие тактики за него будут наиболее действенными

В ходе очередного анализа я наткнулся на то, что у каждой карты есть коэффициент Джини — ровно такой же, как в машинном обучении в решающих деревьях. Я очень удивился, а потом задумался и начал прикидывать...

➡️ Решающие деревья
"Как понять, что мы разбили пользователей по наиболее прибыльным категориям?"

Деревья решений делят объекты по сценариям (например, «богатый» или «бедный» клиент для выдачи кредита). Нам нужно, чтобы разбиение было «чистым» — то есть в одной ветке преобладала одна категория.

Получается, что хорошо то разбиение, при котором объекты, проходящие и по одному сценарию, и по другому, имеют доминирующую категорию (например, если разделение на богатых и бедных сразу хорошо отвечает на вопрос "Надо ли выдавать кредит?").

Мера этой однородности и есть критерий Джини:
1 - Д1² - Д2²


(где Д1, Д2 — доля разных категорию после разбияния) стремится к нулю, если одна категория доминирует. Чем меньше число, тем эффективнее сработало дерево. Понятно, что эту формулу можно обобщить и на бОльшее количество категорий


➡️ Brawl stars
"Как понять, кого мейнить на карте?"

Пу-пу-пу.... Это всё замечательно, но причём здесь мобильная игра про мультяшных микрочелов? Дело в том, что в ней критерий Джини применяется не к долям объектов одной категории после разбиения, а к доле матчей, в которых брали того или иного героя, то есть "категорий" в данном случае столько, сколько героев существует в игре

Получается, что посчитав критерий Джини мы узнаём, насколько однородно на карте берут бойцов. Да это же мера "сбалансированности" карты, ведь если на карте всегда берут одного и того же бойца, значит он на этой карте слишком силён!!!

Бум! Элегенатное и совсем не сложное переложение "меры однородности" с сухой задачи машинного обучения на ранкед в донатной дрочильне. Однако даже это не самый интересный способ применения этого коэфициента...


➡️ Эконометрика
"Обидно, что я живу в стране, где учебник стоит дороже brawl pass+"

Мир несправедлив и богатство в нём концертрируется в руках богатейшего меньшинства. Пожалуй, было бы здорово хотя бы для собственного успокоения замерить степень расслоённости общества и понять, в насколько неравном мире мы живём...

Уже догадались? Применяем коэфифицент Джини для определения неравномерности распределения ресурсов в рамках стран. А почему бы и нет?

Считаем это число для разных стран и оказывается, что Россия имеет коэфициент Джини 0.408, В картах бравл старс это где-то около dueling beetles и backyard bowl (и чуть выше США и Китая)

⏹️ Как вы думаете, к чему ещё было бы интересно приложить коэфициент Джини и как линейкой замерить неоднородность? Распределение букв в этом посте, напечатанных левой и правой рукой? Сбалансированность использования турникетов на Тургеневской? Равномерность покупки разных вкусов Ritter Sport в ближайшей пятерочке?

Пишите ваши предложения в комментариях!
Please open Telegram to view this post
VIEW IN TELEGRAM
🤩11
На днях произошло важное событие в области искусственного интеллекта -- модель от OpenAI собственноручно доказала нетривиальную теорему из области комбинаторной геометрии. Звучит скучно, но на деле оказывается, что задача понятна и проста, а прорыв действительно ощутим. Давайте попробуем разобраться, чё вообще произошло

➡️ Предыстория
Жил в 20м веке удивительный математик Пол Эрдёш. Он посвятил математике буквально всего себя -- вместо того, чтобы жить спокойную и понятную семейную жизнь, Пол десятилетиями колесил по всему миру и писал статьи со своими корешами из научного сообщества у них на квартирах ( дисклеймер для поколения альфа -- в 20м веке ещё не были изобретены видеоконференции). А ещё он любил амфетамин и был членом большого количества математических коллегий

А ещё, насколько я понимаю, он написал столько статей, сколько не написал ни один математик в истории (~1400)

И вот помимо всего этого Пол за свою жизнь придумал набор задач (даже сайт специальный под это сделали). Среди них какие-то решены, какие-то ещё нет, какие-то интересные, а какие-то не очень. Одна из них в грубой постановке звучит вот так:
Бросим N точек на плоскость как хотим. Сколько единичных отрезков между точками мы сможем получить?


Задача звучит абсолютно базово. Казалось бы, ставим точки кучно друг к другу на единичном расстоянии и -- вуаля -- Отрезков стало очень-очень много. Однако эта задача при всей своей простоте оказалась сложнейший математической проблемой, которая терзала умы лучших математиков последние 80 лет

И вот буквально на наших глазах проблема решилась. Но почему же это действительно круто и важно?

➡️ Это первая задача такой популярности и сложности, которую решил ИИ

➡️ Модель OpenAI не тренировали специально под эту задачу. Её просто попросили её решить, обычным запросом

➡️ Решение модель придумала, связав комбинаторную теорию чисел (к которой принадлежит задача) с абсолютно далёкой и обособленной алгеброй. Сам Пол неоднократно говорил о далёкости этих двух наук

➡️ Используя более абстрактный механизм алгебры, модель воспользовалась теоремой Голода-Шафаревича. Первый -- предполагаемый родственник моего коллеги, второй -- отец декана мехмата МГУ и дед моего друга (кому интересно, само доказательство)

Вот так. Сам Пол говорил, что математику люди не изобретают, а открывают, и что все формулы уже давно написаны в божественной книге. Кажется, наступил тот момент, когда искусственный интеллект открыл свою первую серьёзную страницу в этой книге.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤩8🌭3
Один из моих сайд квестов — помогать студентам центрального университета в организации мероприятий AI talks, где видные представители индустрии получают эфирное время и рассказывают о важных для них темах

Последний AI talks прошёл особенно интересно — мы говорили с Евгением Опрышко, аспирантом университета Торонто и специалистом в области безопасного ИИ. Удалось поговорить про безумные темпы развития нейросетевых технологий, графические ускорители в космосе, и про то, как следующая технологическая революция — изобретение AGI — будет способна как стереть человечество с лица земли, так и развить нас до межпланетной цивилизации с высочайшим уровнем технологий

На одном из слайдов был перечислен список вещей, которые могут пойти не так, давайте на них посмотрим:
- Злоупотребление (misuse):
- Элиты могут использовать ИИ в своих интересах; у людей станет намного меньше рычагов влияния — труда и физической силы — чтобы менять политику элит
- Пропаганда с помощью ИИ
- Люди будут применять (и/или взламывать — jailbreak) ИИ для произвольных задач (включая CBRN)
- В некоторых областях защита сложнее нападения (например, биооружие)
- Потеря контроля (loss of control):
- Если власть уже централизована, может оказаться несложно убедить нескольких ответственных лиц или захватить существующую инфраструктуру
- Несколько ИИ-систем могут координироваться лучше людей, например обучив модель-преемника с общими ценностями или доказав свои намерения через интерпретируемость
- Дрейф ценностей и постепенная утрата влияния (value drift & gradual disempowerment):
- Взаимодействие людей с ИИ-ассистентами уже влияет на наши убеждения
- Автономные решения переносят ценности ИИ на физическую реальность
- Люди могут постепенно терять влияние на экономику, культуру и государство, по мере того как ИИ обходит их в управлении каждым из этих институтов
- Коллапс инфраструктуры:
- У моделей могут быть общие уязвимости — jailbreak, prompt injection, поведение вне распределения (OOD) — либо одна и та же модель развёрнута повсюду
- Un
known unknowns
Выглядит солидно... И вот мой вам вопрос: как вы видете мир после изобретения полноценного, всеумеющего ИИ? Верите ли вы в способность человечества избежать всех этих рисков и построить наше коллективное будущее безопасно? Или нас ждут пропоганда через рекомендательные системы, цифровые двойники богатейших людей мира и третья мировая с автономными дронами и антропоморфными роботами-пухососами? Можем поразгонять в комментариях

Ну а ещё подписывайтесь на канал Жени о безопасном ИИ и карьере в этой области (и мне за это даже не заплатили)
🌭9🔥8🤩2
Провел свою первую лекцию в Бангкоке

Смотря какой curriculum, смотря какой sillabus

Путь до кампуса — 40 минут ада под палящим полуденным солнцем мимо попахивающих нечистотами ларьков местных жителей . Кажется, именно так наши предки добирались до школы в тех самых рассказах

Сам опыт необычен тем, что мне никогда раньше не приходилось так ответственно и продолжительно общаться на английском. 3 неизбежных часа, в которые тебе надо не то чтобы не уставать и не запинаться, а единолично вести пару, выстраивать драматургию и следить за пониманием студентов — это квест повышенной сложности, в котором оба полушария работают на высоких оборотах (и это восхитительно)

Ожидаемо, кампус приятный и люди здесь очень классные — всё-таки тяга к знаниям преображает любого человека вне зависимости от его пола, возраста и цвета кожи

Кстати у меня в группе есть один грузин и один русский. Сможете их найти?)
🤩16🔥9🌭4
Провёл свою последнюю лекцию в Бангкоке

Так как Харбор, как и ЦУ, внедряет необычные практики в свой учебный процесс, я смог пощупать кучу всего интересного в ходе проведения занятий

➡️ Глаза разбегаются, скольким хочется поделиться. Во-первых начнём с того, что в Харборе семестровый курс длится 3 недели, и пока у студентов идёт курс Х, ни на какие курсы Y они не отвлекаются. Получается сфокусированная модульная система, в которой всё проходится последовательно (с шагом в те самые 3 недели), а не параллельно, как мы с вами привыкли

Представьте, что вы учитесь по такой системе — в чём основное удобство? Конечно же в том, что вы не отвлекаетесь на посторонние предметы! Помните то состояние, когда вы усиленно готовитесь к экзамену по предмету, и в ночь накануне вам начинают снится сны по проходимому материалу? Кроме того, что вы начинаете чуть лучше понимать Менделеева, которому наснилось что-то полезное, вы глубже закапываетесь в материал, не тратя когнитивный ресурс на СДВГ-шное переключение между предметами

Как это влияет на проектирование курса? 💭
Можно и нужно утилизировать всё время студента — домашки можно давать каждый день, можно задерживаться на подольше. Всё равно после пар у студентов свободен буквально весь день

Однако очевидно, что мы неспроста учились по другой системе. Минусы будут, и главный из них — забывание. Какой бы материал вы ни учили, вы учите его всего 3 недели. В мозге просто не успевают пройти процессы для нормального закрепления материала

Как это влияет на проектирование курса? 💭
А никак. Но влияет на проектирование учебной программы, в которой обязаны быть точки повторения материала. То есть в архитектуре программы явно должны быть заложены вызовы механизма долгосрочной памяти. К слову, мой курс Practical ML частично и был таким курсом-повторяшкой, который брал фундамент (как выяснилось, довольно шаткий) пройденного ребятами машинного и глубокого обучения, и смотрел на него с новой, практической точки зрения

Смешной, в общем формат, не плохой и не хороший. Телеграм, гадина такая, не даёт расписать всё до конца, так что делаем *монтажную склейку*
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥10