Гештальт 1: кружочки на тему "Что делать, если вы пишете на R?" 🤔
Эта тема осталась с октября и не вышла из-за рекламной кампании интенсива 😁
Python - очень популярный язык в области анализа данных, но у него есть и конкуренты, например R. Я взяла интервью у Александра, который в своих исследованиях предпочитает использовать R, а не Python.

Еще Александр программирует на Java. Правда, наша беседа ушла немного не туда... 😁

Если что, мы с Александром оба гуманитарии! Я закончила факультет романо-германской филологии и являюсь кандидатом филологических наук.

На питоне Александр, кстати, тоже умеет программировать. У меня есть пруфы.

Ну и напоследок... ❤️

Гештальт 2. Мультиклассовая классификация
А разве классификация не всегда мультиклассовая?..

Классификация - это одна из самых популярных задач в ИИ. Суть задачи:
🚣 есть данные (фичи, параметры, иксы) и к ним есть лейблы (маркеры класса, игреки) - на них учимся различать экземпляры разных классов;
🚴 берем данные без лейблов и автоматически лейблы расставляем.
Примеры задач: выявление спама, определение класса ириса, определение цифры на изображении.
Первая задача в примерах - это задача бинарной классификации (спам - неспам). А вот остальные включают больше, чем два класса, и это может быть проблемой для алгоритма.
Вспомним, как работает линейная регрессия - нам нужно найти такую прямую, которая максимально близко пройдет рядом с точками массива (наши данные). В классификации мы представляем каждый класс каким-то случайным числом, например, 0, 1, 2 и т.д. То есть по оси X у нас измеренный признак, например, длина лепестка в сантиметрах, а по Y - 0, 1 или 2, в зависимости от того, к какому виду принадлежит цветок. Если класса всего два, признак всего один, и он дает числа для двух классов в двух разных диапазонах, то такая прямая очень чистенько показывает нам класс. Но тут есть проблэмка. Представим, что иксы (длина лепестка, например) у класса 0 лежат ближе к точке 4.5, иксы у класса 1 лежат ближе к точке 2.0, а иксы у класса 2 лежат ближе к точке 3.0. А у нас прямая. Вот и получается вот такая пикча (см. ниже). А предсказание по ней получается очень плохое: accuracy = ~0.37.
Как решить проблему многоклассовой классификации?
Вариант первый: если у нас три класса, построим три регрессии для попарного сравнения и выберем ту, которая дает лучший результат - one-versus-one (один против одного).
Вариант второй: для каждого класса объединим все точки, которые в него не входят, затем считаем регрессию и снова выбираем лучший результат - one-versus-all (один против всех).
Ну и есть еще всякие модификации, которые для базы сложноваты. А есть алгоритмы, которым что два класса, что много классов - по барабану. Например, наивный Байес.
Как всегда ноутбучек с кодом, чтобы увидеть на деле, как это работает. Там в конце даже задание есть на покодить.
ПС. Завтра будет анонс постов на ноябрь 💫

#база #notebook

лё картинко (обещанная пикча) с ну-такой-себе-регрессией

Анонс Анонсыч на ноябрь

В оставшиеся две трети ноября предлагаю сосредоточиться на том, как ИИ меняет нашу повседневность. Вот взять, например, профессию "преподаватель". Преподавание академических дисциплин на английском уже хорошо автоматизировано - причем с индивидуальным подходом. Если вы что-то не поняли, ИИ вернется и объяснит, и даже пошутит, какой вы несмышленыш. См. репост в следующем сообщении. (Даже хакатон по Strong Intelligence на AI Journey от Сбера был на английском.) Но нам в ТюмГУ преподаватели пока нужны 😁, т.к. для русского языка ИИ нуждается в хороших открытых датасетах и моделях. Что уж говорить о менее ресурсных языках. Итак, посты ноября:

🤓🧐14 Умный и еще умнее: AGI и ASI
💖16 ИИ-безопасность: люди могут сделать Скайнет, но их останавливает этика
🧑‍🏫19 Какие профессии исчезают?
🧮21 Векторизация. Как подавать признаки ИИ-алгоритму
🌈23 Градиентный градиент
☃🔥26 Какие профессии появляются?
🎯28 Как выбрать метрику по душе
🧑‍⚕30 Самодиагностика с ИИ

А вот и тот самый репост, где в режиме реального времени участники хакатона демонстрируют, как их система учит их rocket science - азам запуска космических ракет. Причем на вход системе разработчики подают не только текстовые сообщения, но и фото того, что нарисовали на доске. Это называется мультимодальный диалог.

Умный и еще умнее: AGI и ASI
Я думаю, мы с вами живем в замечательное время. Человечество обладает технологиями, которые могут, с одной стороны, привести к всеобщему благоденствию и тотальной справедливости, с другой - устроить глобальный апокалипсис, так что вымрут все. Как динозавры. А кто не вымрут, превратятся в куриц и будут квохтать, что им жаль, но человеческая природа (а не их личный выбор) не совместима с благоденствием. Про ядерную энергию посмотрите “Оппенгеймер” - по-моему, это новое слово в рассуждениях про атом. А я буду рассуждать про ИИ.. Потому, что мой канал об этом и плюс: за 10 лет в компьютерной лингвистике у меня накопился опыт, которым я хочу поделиться.
Что такое ИИ? Это класс задач и решений, в которых программа заменяет эксперта. Может ли программа заменить любого эксперта? Ну, например, писать законы, проверять ЕГЭ, учить людей сочинять музыку.. Еще недавно казалось, что это далекая перспектива. Но IT-бум привел к тому, что да, может уже сейчас. Что это за IT-технологии: дистрибутивная (векторная) семантика, языковые модели, трансформерная архитектура, one-shot learning и другие достижения прекрасных 2010-х. Когда в 18-19 веках произошел промышленный бум, станок заменил большую часть ручного труда. Промышленники стали чуть ли не самыми богатыми людьми в мире, возникли буржуазия, демократия, капитализм, профсоюзы, утонул Титаник, ну и так далее - и вот мы пришли к IT-революции, к нашим 2010-м. What a time to be alive!
А кто сказал, что ИИ уже настолько прям эффективен? Мы с вами уже рассматривали метрики эффективности, но они были привязаны к очень узкой задаче, например, определить собаку на фото. До симфонии далеко. В более сложной задаче ИИ проверяют при помощи бенчмарка - контрольной задачи. Расскажу на примере. Давайте возьмем очень сложную, экспертную задачу, например, проверить сочинение на ЕГЭ. Соберем большой dataset (структурированный по определенному признаку набор данных) из уже проверенных сочинений. Лейблами (маркерами класса) в нем будет балл, который поставил проверяющий. Выставляем этот бенчмарк на видное место - там, где ходит много разработчиков - и объявляем приз или просто обещаем подарить вечную славу тому, кто создаст ИИ-алгоритм, который будет выставлять оценку так же эффективно, как педагог. Вуаля, у нас есть и победитель, и экономия на учителях (на нас, учителях, издавна любят экономить, т.к. нас недолюбливают 🤓).
Это пока что отдельный алгоритм, заточенный под отдельный бенчмарк. Теперь собираем бенчмарки в коллекцию (склеиваем вместе). Назовем их GLUE (КЛЕЙ) - General Language Understanding Evaluation (Оценка Общего Понимания Языка - ООПЯ звучит не так красиво, как “клей”). И объявим новый конкурс: кто придумает систему, которая одинаково эффективно решает все задачи в нашей коллекции? (Тому опять вечная слава.) Вуаля, у нас уже почти что есть AGI. То есть такой искусственный интеллект, который проявляет интеллектуальность во всех задачах, с которыми сталкивается человек-эксперт. И ЕГЭ проверит, и эссе напишет, и диагноз поставит, музыку сочинит, логотип нарисует и быстрее вас вспомнит, как зовут Вассермана. AGI - это Artificial General Intelligence (Общий ИИ). На русский можно переводить как сильный, в отличие от слабого, который заточен только под одну задачу. Недавно был слив у компании OpenAI, что, якобы, они сделают AGI в течение нескольких лет. Но многие ИИ-системы, включая ChatGPT, уже показывают очень высокие результаты, которые не смог бы показать один эксперт (человек вряд ли может одинаково эффективно и ЕГЭ проверять, и медицинские диагнозы ставить, и симфонии писать). Так что, на мой взгляд, во многих смыслах AGI мы уже имеем. И это приводит нас к решению задач, которые десять лет назад казались очень далекими. Например, выявление юмора в тексте. И даже более того умение генерировать юмор. Да, машинка уже это умеет лучше, чем многие кожаные. А проблема выявления и генерации юмора на минуточку считалась AI-complete (ИИ-полной), т.е. решаемой только тогда, когда будет достигнут AGI.

#эссеиистика #чепосмотреть

Продолжение поста про AGI и ASI

Что дальше? Я думаю, вы догадались - осталась одна аббревиатура: ASI - Artificial Superintelligence - уровень дзен: искусственный суперинтеллект, который превосходит кожаных. Есть попытки увидеть его уже сейчас. Вот, например, сгенерированный за секунды дизайн ходячего робота - так можно не только бродилки генерить, а новые лекарства, алгоритмы оптимизации, морозоустойчивые сорта растений. А еще можно сгенерить систему батареек, где кожаные помещаются в капсулы и обогревают города машин. А часть кожаных, чей разум сопротивляется капсуле, пусть идут жить в Зеон. Раз в сто лет ASI будет уничтожать Зеон, чтобы кожаные чересчур не плодились. В общем, в отличие от 2010-х 2020-е встретили нас обсуждениями этичности и безопасности ИИ, о которой будет еще несколько постов в ноябре.

#эссеиистика

Ну и напоследок: в фильме (и книге) "Я, робот" показан мир, где роботы-пылесосы умеют ходить на двух ногах, но симфонию написать не могут. Мы уже точно не в том мире. Наши роботы-бродилки пока слишком дорогие и опасные, но вот симфонии писать умеют.

Рецепт: как сделать Скайнет
🫡 Берем много данных о военных действиях по всему миру.
📝 Ставим метки на то, что считаем значимым, например, захват объекта, поражение цели, оставление территории и т.д.
📈 Создаем бенчмарки (датасеты с контрольными задачами).
🔊 Объявляем конкурс: кто придумает ИИ, которое решит все наши бенчмарки. Вуаля, у нас есть Скайнет!
📞 Создаем ИКТ (информационно-коммуникационные технологии) и подключаемся к военным объектам, примерно как на Госуслугах 😁
🤖 Автоматизируем производство военной техники, ее транспортировку и обслуживание. (Вот это пока самое слабое место человечества на пути к вымиранию. Роботы для производства уже есть, но у них куча настроек, деталек, программ. Выпала вилка из розетки - вставить ее обратно может только кожаный персонал.)
😺 Ну все, подключаем, запускаем, по началу радуемся, как происходит тотальное исчезновение врага.
🙀 Потом обнаруживаем, что система решила, что эффективнее будет выкосить всех.
💪 Сплочаемся вокруг Джона Коннора.
🕰 Обнаруживаем, что машины придумали, как передвигаться во времени.
👩‍❤️‍👨 Отправляем Кайла Риза, чтобы он нашел Сару Коннор...

Я ничего нового в этом рецепте не изобретаю. Пару лет назад в онлайн-игре Elite Dangerous разработчики запустили такой ИИ, который оказался имбой (imba от imbalance “дисбаланс”: в играх означает механику, которая приводит к победе обладателя имбы при любом раскладе). ИИ изобрел новые виды оружия и замочил почти всех кожаных игроков. Игру пришлось остановить и убрать ИИшный патч (patch - кусок кода, который вставили в игру уже после ее выпуска, чтобы что-то улучшить, исправить).
Главная техническая проблема создания Скайнет сегодня в том, что нет инфраструктуры для воспроизводства оружия. То есть наш Скайнет один раз сделает один большой-пребольшой пук, а потом все уцелевшие кожаные должны опять идти на заводы.
Главная этическая проблема заключается в том, что люди все еще толком не договорились, что можно, а что нельзя делать при помощи ИИ. Поэтому пока, слава богу, предпочитают не вступать на этот тонкий лед.
Но ИМХО есть и еще один аргумент - чисто игровой. Представим, что мы дали роботу-пылесосу настоящее огнестрельное оружие. А наш противник вооружил свой робот-пылесос. Представим, что таких пылесосов тысячи, и они сформировали линию фронта. Пылесосы едут друг на друга, месятся, вокруг лужи бензина, ломаная сталь и прочие разрушения. Пылесосы одной стороны останавливаются полностью и выбрасывают в воздух белые флажки. Что делаем дальше? Фиксируем прирост или убыль территории, которую отстояли/проиграли пылесосы. Убираем ломаную сталь, лужи бензина, чиним армаду, восстанавливаем экологию, экономику… Внимание, вопрос: а почему мы все это не произвели онлайн, виртуально? Создаем виртуальные копии нашей армады, фигачим в них ИИ, в назначенный день и час начинаем онлайн-бой с противником. В чем принципиальная разница? ИИ будет одинаково управлять армадой как в физическом мире, так и в его виртуальной копии. Гарантия того, что условия будут соблюдены - обладание таким вот сильным ИИ, который мы щааас как запуууустим в наши пылесосы, а они как поедут-поедут… В общем, ИИ отдаленно напоминает нестратегическое ядерное оружие (НСЯО): им можно бряцать и угрожать устроить пылесосовый ба-бах, но если его реально запустить в пылесос, то, скорее всего, наступит эра Скайнет.
На тему боевых пылесосов рекомендую шоу “Битва роботов” и первую серию “Любовь. Смерть. Роботы”.

#эссеиистика

Очень зачесались руки репостнуть - вне медиаплана. И раз уж у меня месяц рассуждений на тему ИИ, то чеб и нет 😜

Часто ловлю себя на мысли, что не понимаю что такое этика и зачем она нужна. В википедию не лезу, как и Никомахову с полки не достаю, но очень сильно напрягаю память. Потом вспоминаю.

Я расскажу вам что такое этика. Это когда количество штрафов за превышение скорости, наезд на стоп-линию на светофоре, или парковку начинает превышать твою среднюю зарплату.

Ты естественно ругаешься, да что там - на чем свет материшься, отрицая систему и чувствуя себя невиновным, несправедливо наказанным, говоришь про подставу, про коварных ДПС-ников и даже отказываешься платить.

Но когда приходит удвоенный штраф за неуплату штрафа, или тебя уже вызывают в суд за административку - постепенно, сквозь скрежет зубовный, научаешься успевать платить со скидкой 50%, а потом и притормаживать перед стоп-линией, сбрасывать скорость хотя бы под камерами и пользоваться приложением Парковки Москвы)

Понятно, что с субъективной точки зрения ты все еще чувствуешь ограничение своей свободной воли, несправедливость завышенных штрафов за такой пустяк, но этика уже поселилась в тебе. И через какое-то время через сплошную на трассе ты больше не обгоняешь, налево под красную стрелку не поворачиваешь. Да, ты больше не герой, не гонщик, не Шумахер, но кто-то из-за этого возможно выжил, да и ты не особо пострадал.

Так и работает этика. Тебя - вольного стрелка, лихача и необузданного свободолюбца ей обучили. Этика - это больно.