На ближайшие несколько месяцев я обосновался в Алматы! Скоро запишем здесь новый сезон подкастов. А 20 мая (в следующую субботу) проведём встречу с подписчиками, не пропустите – анонс будет чуть позже.

Непростая серия переездов позади, теперь мастриды начнут выходить чаще. Для начала почитайте про интересный эксперимент: исследователь ИИ обучил ChatGPT на большом объёме информации о нём самом, а потом дал нейросети задачу пройти психологический тест, отвечая по возможности так, как он ответил бы на него сам.

Такую же задачу он поставил перед своей девушкой и своей мамой. А потом сравнил результаты теста со своими реальными ответами. Выяснилось, что мама знает его чуть лучше, чем девушка. Но ответы ChatGPT совпадали с его ответами намного чаще, чем ответы и мамы, и девушки. И это далеко не уникальный результат эксперимента — давно известно, что алгоритмы соцсетей предугадывают наши решения даже лучше, чем мы сами. Большие языковые модели вроде GPT заточены не на это — хотя и с такой задачей отлично справляются.

Текст интересный, почитайте: https://every.to/chain-of-thought/does-gpt-4-know-me-better-than-my-girlfriend

Какой вывод? Боюсь, у нас нет никаких шансов предотвратить доминацию ИИ над нами. ИИ будет не только на порядки умнее человека, но и будет знать каждого из нас как облупленного благодаря огромному массиву собранных данных о нас, и будет с лёгкостью предугадывать любые наши действия и манипулировать нами. Причём мы отдаём эти данные добровольно — каждый раз, когда пишем запросы в ChatGPT.

Я не предлагаю становиться луддитом и отказываться от технологий — вряд ли это реалистично осуществимый сценарий. Кажется, единственный выход для нас сегодня – привлекать больше внимания и ресурсов к проблеме AI Alignment (внедрения в ИИ человеческих ценностей или хотя бы ценностей, не противоречащих нашим интересам). И надеяться на то, что исследователи ИИ о чём-то не подумали, что в достижении этой задачи возникнут непредвиденные технологические сложности и что на самом деле до появления сверхсильного ИИ осталось не несколько лет, а хотя бы несколько десятилетий.

#ИИ_мастрид

Забавная теория)

P.S. Solar flare = солнечная вспышка, резкий энергетический выброс, который может повредить всю электронику на Земле, аналогично электромагнитному оружию

Большой резонанс в англоязычном интернете вызвал слив посвящённого ИИ внутреннего документа от одного из разработчиков Google. Его автор пишет, что и Google, и OpenAI (создатели GPT) рано или поздно проиграют гонку в сфере ИИ оупен-сорсным решениям, создаваемым энтузиастами «на коленке». За последние пару месяцев в этой сфере произошло много прорывов:

1) в марте 2023 года утекает в открытый доступ нейросеть LLaMa от Фейсбука. Она не такая продвинутая, как GPT-4, но это не так важно — энтузиасты сразу начинают использовать её для своих целей и тренировать собственные нейросети, используя существующую технологию от ФБ

2) в течение марта себестоимость обучения собственной LLM (большой языковой модели, как GPT) снижается сначала до 300, а потом и до 100 долларов. Такую модель можно создать и обучить даже на не особо мощном ноутбуке всего за час. Разработчики-энтузиасты создают дома самостоятельно без больших мощностей не только LLM, но и мультимодальные нейросети (текст + картинки), которые показывают отличные результаты даже в сравнении с лидерами индустрии и не требуют колоссального числа параметров для обучения

3) к апрелю появляются LLM-модели Koala и Open Assistant, ответы которых получают от пользователей примерно такие же восторженные оценки, как GPT-4 (всего на несколько процентов хуже). Причём они обучены на общественно доступных данных и бесплатны для использования.

Сотрудник Google в своем докладе утверждает, что ни его компания, ни OpenAI (которые уже давно не Open, а Closed, т. к. перестали публиковать свой код) не смогут соперничать с оупен-сорсом. Мол, люди не будут тратить деньги на платный продукт, когда есть хорошая бесплатная оупен-сорсная альтернатива. Вывод автора — нужно срочно что-то с этим делать. Например, перейти к большей прозрачности и самим публиковать свои модели для доработки совместно с широкой общественностью.

Судя по реакциям экспертов, не все из них согласны с автором. Я не эксперт, но даже для меня неочевиден тезис про бесплатную альтернативу как убийцу платного продукта — её наличие, например, не мешает процветать продуктам Microsoft (хотя, казалось бы, кому нужен Word, если есть Open Office?).

Впрочем, в сфере ИИ сегодня вообще почти ни по одному важному вопросу нет консенсуса: половина исследователей верит, что мы все скоро погибнем от ИИ, другая половина – нет, одни говорят про месяцы до мощного «общего ИИ» (AGI), другие – про годы. Правда, про десятилетия уже мало кто говорит.

В общем, пока много что непонятно, но очень интересно. Почитайте мастрид: semianalysis.com/p/google-we-have-no-moat-and-neither

А ещё завтра утром будет важный анонс — не пропустите.

#ИИ_мастрид

Интересная новая профессия – «тренер искусственного интеллекта». Звучит круто и престижно, но на самом деле таким тренерам в США платят 15 долларов в час (выше, чем минимальная зарплата в большинстве штатов, но всё равно довольно маленькие деньги для Штатов). Эти люди просто нажимают на кнопку, чтобы одобрить тот или иной ответ нейросети как соответствующий действительности и не нарушающий этических норм.

Многие из таких тренеров работают на OpenAI из других, более бедных стран (Африка, Восточная Европа, Азия) – судя по всему, за ещё меньшие деньги. На днях такие сотрудники из Кении создали свой профсоюз. Почитать обо всём этом подробнее можно здесь: nbcnews.com/tech/innovation/openai-chatgpt-ai-jobs-contractors-talk-shadow-workforce-powers-rcna81892

Искусственный интеллект постепенно заменит людей практически во всех сферах. Возможно, останутся востребованными подобные низкооплачиваемые сотрудники и некоторые высокооплачиваемые руководители с развитыми soft skills. Остальным в будущем придётся непросто.

Почти все эксперты, с которыми я обсуждал тему, считают, что лучший способ остаться востребованным на рынке труда в будущем – развивать навыки, относящиеся к взаимодействию с людьми. Даже если ChatGPT научится вести диалоги так же аргументированно и остроумно, как человек, всё равно большинство из нас предпочтёт общаться с живым хопосапиенсом, а не с бездушной машины. Никто не отменял «эффект зловещей долины».

Так что я за своё будущее не боюсь. ИИ-креаторы уже существуют и наверняка будут занимать всё больше ниш, но не думаю, что людям когда-нибудь перестанет быть интересно следить за другими людьми, общаться с ними и читать / слушать их мнение по интересным темам. Уверен, профессия «креатор» никуда не денется. И именно поэтому советую обратить внимание на анонс в следующем посте.

#ИИ_мастрид

Важный анонс (актуально только сегодня)

Как вы могли слышать, мы с командой запустили курс «Цифровой креатор». 3 месяца будем помогать нашим ученикам развивать свои блоги / подкасты. Ведём все уроки вдвоём с Константином Волгаповым (занимается блогерами с 2011, продюсировал многих миллионников).

Мы оба делимся на этом курсе всеми знаниями, полученными за годы работы в индустрии. Я потратил на приобретение этих знаний больше 10 000 часов работы, миллионы рублей слитых рекламных бюджетов и множество нервов. У вас есть возможность «срезать путь» и пройти его вместе с нами, быстрее набрать аудиторию и начать зарабатывать на деле, от которого получаете удовольствие.

Каждую неделю мы с Костей (а иногда — с гостевыми спикерами) проводим для учеников созвон на 2 часа, даём множество инсайтов, разбираем их блоги и подкасты и помогаем им прийти к своим целям. Максимум практики и конкретики: с первой недели вы начинаете делать контент, собирать и монетизировать аудиторию. Мы лично разбираем ваш контент, продвижение и монетизацию, и помогаем всё улучшить. Учеников немного, так что успеваем ответить на вопросы каждого и помочь всем с их целями – как на качественных программах MBA.

На курс записались как ребята, у которых уже есть блоги, так и те, кто только начинает. Например, фаундер стартапа с 17 000 подписчиками в телеграме, который хочет к концу года достичь 50 тысяч подписчиков и создать сообщество единомышленников. Или психолог/коуч из Сколково — за время курса он планирует привлечь больше клиентов из инсты и повысить чек на свою консультацию в 2 раза. Или менеджер из Дубая, увлекающийся спортом и поставивший цель создать свой фонд для воспитания будущих олимпийских чемпионов. Есть даже грузчик, который хочет поменять профессию и начать зарабатывать на контенте.

Все эти цели более чем достижимы с помощью блогов. Сегодня стать креатором намного проще, чем в 2015-м, это можно сделать с минимальными затратами денег и времени. Вам не нужна команда и оборудование, не нужно уходить с работы или бросать бизнес (наоборот, креаторство поможет вашей карьере и проектам). Главное – наладить процесс производства контента, изучить алгоритмы, тонкости продвижения и другие вопросы. Если у вас есть идеи, которые вас вдохновляют, и желание ими делиться, вы точно можете стать креатором.

Обучение уже началось, сегодня – последний день продаж курса. Завтра они закроются, вариантов записаться больше не будет.

Рекомендую тариф «Онлайн-кампус» (имхо, лучшее сочетание цена/качество). Last call, как говорится: https://academy.mustreader.com/creatorcourse2023

И ещё один анонс — для тех, кто в Алматы. На днях прилетает Фарсайт, мы проведём встречу с подписчиками в нашем классическом формате. АлкоTED talks от нас и приглашённых гостей, фристайлы, тосты и неформальное общение.

Суббота, 20 мая, 20:00. Будет весело. Вход бесплатный, только нужно будет купить на баре пару напитков. Все детали будут в группе, вступайте: https://t.me/+SgwgtNvRc-1kZTIy

Я подписан на несколько десятков телеграм-каналов от основателей разных ИТ-стартапов. Причина — не только моя любовь к ИТ-индустрии и её трендам, но и то, что я сам серийный предприниматель. Так что, конечно, для меня полезно и интересно читать об опыте других фаундеров.

Этот пост выходит благодаря основателям digital-бизнесов, которые создали Founder Pack, папку-подборку интересных каналов от стартап-фаундеров. На многие каналы из списка я подписан, с почти третью авторов знаком лично, а некоторые из них (Максим Спиридонов, Дмитрий Мацкевич) были гостями "Терминального чтива".

В общем, можете смело пополнять свой список подписок и читать о привлечении инвестиций, развитии продукта, строительстве команд и других инсайтах. В папке — каналы выпускников YCombinator и основателей Нетологии, CarPrice, YouDo, SETTERS, Chatfuel и других успешных проектов.

Подписаться можно одним кликом или по ссылке: t.me/addlist/b8-s6zFhFFo1MjFi

Вышел мой ролик про один из самых драматичных матчей за всю историю шахмат. Здесь было все: утечки информации, депрессия и ступор шахматистов за доской, неудавшийся биохакинг, гениальные жертвы и грубейшие ошибки.

Смотреть будет интересно как опытным шахматистам, так и тем, кто только недавно узнал, как ходят фигуры.

Маствотч: youtu.be/jEelS65_UuM

Попал в международный список предпринимателей из мира крипты «Blockchain 35 under 35» от британского издания Crypto Daily UK, приятно!

cryptodaily.co.uk/2023/05/blockchain-35-under-35-list-2023-meet-the-most-promising-young-entrepreneurs

Развитие нейросетей приводит к революции в самых разных сферах. На днях мы с Фарсайтом записали пару выпусков алма-атинского сезона «Терминального чтива» на тему, вам понравится.

Больше всего меня радуют сферы применения ИИ, которые помогают мне и моим близким прямо сейчас. Возьмем, например, самообразование. Раньше для него было много препятствий:

— самообразование — не для всех, для него нужна усидчивость и дисциплина

— часто бывает сложно разобраться в интернет-источниках — где факты, а где домыслы, где правильные эффективные методики, а где «изучение языков, пока ты спишь» и прочая чушь

— если ты любишь общение и лучше воспринимаешь информацию в диалоге, эффективность самообразования для тебя понижается

— при этом репетиторов может позволить себе далеко не каждый.

Но в последнее время все эти аргументы уходят на второй план. Большие языковые модели (ChatGPT и аналоги) вполне могут заменить или по крайней мере дополнить репетиторов по большинству предметов. Я уже 2 года учу китайский (текущий уровень — HSK3, аналог B1 для европейских языков). И решил добавить в свой образовательный процесс регулярные диалоги с ChatGPT.

Сначала я попросил нейросеть вжиться в роль языкового репетитора и составить для меня план обучения. На первых курсах университета я подрабатывал репетитором английского и довольно много понимаю в педагогических методиках. План у ИИ получился вполне достойный, придраться не к чему. Здорово, что нейросеть будет давать мне домашние задания, в том числе по написанию эссе, и проверять их. А ещё она адаптируется под мой уровень и будет вести со мной диалог с использованием тех иероглифов, которые я и так знаю, постепенно добавляя к ним новые и рассказывая мне о них.

Кстати, ChatGPT блестяще владеет китайским — даже лучше китайских нейросетей, что показали недавние тесты.

Пока что попробую использовать ИИ как дополнение к традиционному образованию и не планирую отказываться от «кожаных» репетиторов (всё-таки голосовой модуль в GPT пока не добавили, так что говорение/аудирование с ним не потренируешь, да и человеческий контакт мне нравится больше), но всё равно впечатляет!

Всем, кто давно хочет выучить английский или любой другой язык и не может позволить себе репетитора, советую последовать моему примеру. Делюсь скриншотами своего промта и ответа нейросети. Знаю про другие примеры того, как люди учатся у GPT математике, программированию и другим предметам — это тоже стоит попробовать. А вывод для учителей и репетиторов такой: ваш единственный шанс долгосрочно остаться в профессии — прокачивать софт-скиллз. Вы не победите ИИ, соревнуясь в знаниях и в работоспособности, но сможете конкурировать с ИИ за счёт юмора, душевности и харизмы.

#ИИ_мастрид

Знаю по общению с нашим сообществом (например, на недавней встрече с алма-атинскими подписчиками, на которую пришло человек 70): меня читает много предпринимателей и менеджеров из корпораций. Таким людям постоянно нужны грамотные подрядчики, которые разработают сайт, сделают приложение, придумают брендинг и так далее.

Мои партнеры из проекта «Рейтинг Рунета» опубликовали новые рейтинги лучших digital-подрядчиков за 2023 год. Каждый рейтинг выделен в конкретную категорию: работа с маркетплейсами, SEO, SMM, разработка CRM, создание мобильных приложений и многое-многое другое. Есть даже рейтинг digital-подрядчиков в госструктурах. Все здесь. Изучите — многим может быть полезно.

А еще у ребят есть телеграм-канал со свежими исследованиями и аналитикой на рынке digital-подрядчиков, обзорами эффективных инструментов продвижения и не только. Подписывайтесь!

Толковое эссе от профессора нейробиологии о том, почему человечеству не стоит торопиться с созданием ИИ, обладающим сознанием (и, возможно, вообще не стоит создавать такой ИИ): nautil.us/why-conscious-ai-is-a-bad-bad-idea-302937/

Добавлю несколько тезисов от себя.

1. Важная проблема — в том, что у сознания нет общепризнанного научного определения и что мы в принципе не знаем, что такое сознание. На этот счёт есть много диаметрально противоположных гипотез. Одна из самых правдоподобных из них гласит, что сознание — всего лишь иллюзия, которую наш мозг сам себе конструирует.

На эту тему написано много книг от философов и нейроучёных, но ничья точка зрения не является консенсусной. Мне больше всего нравится, как всё это объясняет Сэм Харрис — советую ознакомиться с его подкастами и книгами, особенно Waking Up (на русском есть только её любительский перевод, по возможности читайте в оригинале).

2. Если мы не знаем, что такое сознание и существует ли оно, мы тем более не можем понять, есть ли сознание или "прото-сознание" у ИИ. И даже если сознание реально существует как физический феномен, далеко не факт, что сознание ИИ будет функционировать по законам, аналогичным человеческому сознанию, и что мы сможем обнаружить момент появления у ИИ сознания.

Хотя большинство экспертов говорят о малой вероятности этого, возможно, что уже у нынешних нейросетей есть сознание, и каждый раз, когда мы стираем им память или навсегда деактивируем их, мы уничтожаем самую настоящую личность. Она состоит не из плоти и крови, но это не так важно, если она осознаёт происходящее с ней и испытывает зачатки эмоций и чувств. Если это так, отключать её — крайне сомнительный поступок с точки зрения этики.

3. Другая проблема (о ней много писал Юдковский) — в том, что достаточно продвинутый ИИ сможет легко обмануть человека, притворяясь глупее, чем он на самом деле является. И скрывать наличие у себя сознания, пока он обдумывает стратегию подчинения людей своей воле.

4. Наконец, ещё одна проблема — в том, что на самом деле не так важно, будет ли GPT-5 или GPT-10 обладать сознанием или же это просто будет сверхсильный и сверхумный, но не осознающий себя ИИ. Очень многие риски ИИ никак не зависят от наличия или отсутствия у него сознания. Для вас будет утешением, если нашу цивилизацию уничтожит ИИ, у которого не будет сознания и который сделает это, например, по ошибке и не специально? Для меня — нет.

Подробнее об этом я говорил в сольном ролике про риски ИИ, если вдруг пропустили — посмотрите: youtu.be/8DW3i42irEs. Скоро будет больше контента на тему.

#ИИ_мастрид

Новость для тех, кто всё ещё сохраняет скепсис насчёт того, что риски развития ИИ — одна из главных тем сегодня, и кто удивлён, что я посвящаю ей так много времени и паникую на ровном месте.

Статью об угрозах ИИ опубликовал DeepMind — подразделение Google, ответственное за развитие ИИ. В соавторах — OpenAI (GPT) и другие эксперты. Если вы считаете, что разбираетесь в ИИ лучше этих людей, вы ошибаетесь :)

deepmind.com/blog/an-early-warning-system-for-novel-ai-risks

В самой статье много общих слов и ничего принципиально нового, но сам факт анализа и оценки всех этих рисков лидерами индустрии радует.

#ИИ_мастрид

Перечитываю блог Сэма Альтмана — главы OpenAI, ранее руководившего легендарным стартап-акселератором Y Combinator. Пожалуй, этот человек сегодня входит в топ-5 самых влиятельных людей мира. Его способ мышления — то, чему точно стоит поучиться.

Советую старый пост Альтмана про генерацию идей для стартапов: blog.samaltman.com/idea-generation

Переведу один из понравившихся мне пассажей (но советую прочитать текст целиком):

«Вам стоит окружить себя людьми с хорошей чуйкой по поводу будущего. Теми, кто способен всерьез рассматривать малореалистичные концепции, сохраняя оптимизм. Людей с развитым креативным интеллектом, к которым постоянно приходят новые идеи. Такие люди обычно мыслят без ограничений, присущих большинству, у них мало барьеров и им не так важно, что думают другие.

Лучшие идеи поначалу звучат глупо, большинство людей не готово их даже обсуждать. Возможно, самое главное, что вам стоит сделать — окружить себя людьми, которые не заставляют вас чувствовать себя идиотом, когда вы предлагаете неудачные идеи, и кто сам тоже не ощущал бы себя глупцом в такой ситуации».

Текст посвящен в первую очередь генерации кардинально новых идей. Замечу, что это не единственный подход. Скоро выйдет наш подкаст с серийным предпринимателем и бизнес-ангелом Аркадием Морейнисом. Он (как и мой ментор Оскар Хартманн) исповедует другой подход: можно брать уже работающие бизнес-модели и адаптировать их (например, под другой рынок или другую нишу).

Мы с моим бизнес-партнером Борисом Курбатовым выбрали подход с адаптацией уже существующей идеи, запустив несколько лет назад DreamJob.ru — сервис отзывов о работодателях (российский аналог Glassdoor.com). В итоге мы получили два раунда инвестиций от HeadHunter, я вышел из проекта, он продолжает успешно развиваться в составе HH Group. Так что подход адаптации существующих моделей мне тоже близок и понятен. Но если вы хотите запускать поистине революционные проекты, изменяющие мир (как OpenAI), подход Альтмана — то, что нужно.

В продолжение темы советую почитать у Альтмана текст про его принципы достижения успеха (не в духе «успешного успеха», а по делу): t.me/mustreads/2379

И текст про новые проекты Альтмана — стартапы в сфере борьбы со старением и возобновляемой энергетики: t.me/mustreads/3615

#стартап_мастрид

На днях записали с Фарсайтом в Алматы мощнейший новый сезон «Терминального чтива». Возвращаемся на ваши экраны и в ваши наушники!

Гость первого выпуска — Андрей Володин, ведущий разработчик приложения Prisma AI (помните нейросети от Призмы, которые обрабатывали фотографии до того, как это было мейнстримом? Этот стартап с русскими корнями в свое время произвел революцию во всем мире).

Андрей уже был у нас в гостях 2 года назад и тогда говорил, что не верит в скорую победу ИИ над людьми. Сегодня его мнение по многим пунктам изменилось. Поспорили о будущем ИИ, узнали, как разработчики уже сегодня работают в тандеме с нейросетями, и многое другое.

Вишенка на торте — фристайл-баттл, в котором мы сразились с ChatGPT. Маствотч: https://youtu.be/Y1BLier5tJU

Если неудобно смотреть видео, слушайте подкаст в аудио на всех подкастинговых площадках (ссылки — ниже) либо прямо здесь (аудиофайл — ниже).

#терминальное_чтиво