К моей мысли о том, что развитие AI усилит гэп между людьми.

Нечеловеческие знания, превращающие нас в сверхлюдей.
Мечта Демиса Хассабиса о золотой жиле в применении ИИ стала ближе.
Новое исследование Google DeepMind “Преодоление разрыва в знаниях между человеком и ИИ” [1] – важный шаг к реализации сокровенной мечты руководителя и идеолога DeepMind Демиса Хассабиса.
Эта мечта – превратить людей в сверхлюдей, предоставив им возможности:
• доступа к сверхчеловеческим знаниям машинного сверхинтеллекта;
• выявления среди этого океана знаний тех, что люди в состоянии понять и усвоить;
• обучения людей для передачи им знаний от сверхинтеллекта.

Речь идет вот о чем.
Во-первых, искусственный сверхинтеллект уже существует, и не один.
О некоторых из них мы это знаем точно (ведь никому в голову уже не придет сомневаться в сверхчеловеческом умении ИИ AlphaZero играть в шахматы и Го или в сверхчеловеческом умении ИИ AlphaFold предсказывать трехмерную структуру белков. О других ИИ – например, чатботах типа ChatGPT, – мы точно не знаем, обладают ли они какими-то сверхчеловеческими знаниями. Но есть подозрения, что такие знания у них уже есть.
Для справки. Сверхчеловеческие способности ИИ-систем могут проявляться тремя способами:
1) чистой вычислительной мощью машин,
2) новым способом рассуждения о существующих знаниях
3) знаниями, которыми люди еще не обладают.
Варианты 2 и 3 авторы называют сверхчеловеческим знанием.

Во-вторых, число типов искусственного сверхинтеллекта будет все быстрее расти по мере расширения уже идущего процесса дообучения больших языковых моделей на специализированных наборах обучающих данных.
Т.о. триединая мечта Хассабиса будет становится все более актуальной.
Более того. С точки зрения бизнеса, именно это, а не создание на основе ИИ-чатботов всевозможных ассистентов, может стать золотой жилой применения ИИ.
• Прагматики, типа Сэма Альтмана, не желают этого понять. Они предпочитают ковать железо, не отходя от кассы, здесь и сейчас, на самом востребованном в ИИ – на диалоговых ассистентах (на которых сейчас приходится 62% финансирования разработок ИИ [2]).
• Романтик Демис Хассабис смотрит дальше прагматиков и видит там сверхлюдей, обучаемых специализированными машинными сверхинтеллектами всевозможным сверхчеловеческим знаниям.

Итак, что уже сделано.
На основе ИИ AlphaZero создан фреймворк, позволяющий:
1) Выявлять концепции, которые знают (см. рисунок):
a) как ИИ, так и люди (M ∩ H)
b) только люди (H − M)
c) только машины (M − H) – это сверхчеловеческие знания
2) Среди концепций (M − H), выявлять концепции (M − H)*. Эти концепции изначально трудны для понимания людьми, но люди все же в состоянии их понять и усвоить (напр., знаменитый 37-й ход AlphaGo в матче с Ли Седолом [3])
3) Обучать (путем наблюдения за действиями сверхинтеллекта) концепциям (M − H)* продвинутых в этой области людей, тем самым, как бы превращая их в сверхлюдей.

Фреймворк был проверен экспериментально на ведущих гроссмейстерах мира (с рейтингом 2700-2800). Результаты исследования показывают очевидное улучшение способности гроссмейстеров находить концептуальные ходы из области (M − H)*, по сравнению с их результатами до обучения путем наблюдения за ходами AlphaZero.

Резюме
1) Это лишь начало. Впереди еще пахать и пахать.
2) Переделка фреймворка из области шахмат в области языковых моделей не тривиальна, но возможна.
3) Если мечта Хассабиса взлетит – обретение людьми сверхчеловеческих знаний может стать золотой жилой для развития науки и технологий, ну и конечно для бизнеса.
Однако, пропасти неравенства станут колоссальными: и не только в доходах и здоровье, но и в интеллекте.

Поясняющий рисунок https://disk.yandex.ru/i/V3-KGjMEvGiABA
1 https://arxiv.org/abs/2310.16410
2 https://research-assets.cbinsights.com/2023/08/03113341/GenAI-treemap-072023-1-1024x576.png
3 https://www.youtube.com/watch?v=HT-UZkiOLv8
#ИИ #Вызовы21века

Классный список принципов от Байрама

10 (+1) цитат, которые помогают мне в жизни

7 лет назад я написал 10 цитат, которые помогают мне в жизни и в работе. За прошлый год добавилась еще одна, поэтому привожу пополненный список здесь; вдруг, кому-то придется вовремя

1) Информация возникает там, где есть разница" - моя австрийская системномыслящая знакомая

Действительно что-то понять/изучить получается только тогда, когда ты сравниваешь: конверсию в покупку свою с конкурентом, точку зрения одного ученого с другой и тп. Невозможно оперировать в абстракции, нельзя научиться без сравнения.

2) "Dont try to be too good as a CEO" - Стив Джобс

Эти слова Джобс сказал Пейджу, когда тот стал СЕО Google.Обилие "мягкой" литературы по управлению сформировало образ чуткого и понимающего менеджера, который делает все, чтобы угодить всем и вся. Релаьность же часто заставляет тебя принимать жесткие, неудобные решения.

3) "Невозможно управлять тем, что нельзя измерить" - кажется, Друкер

Я поражаюсь, как часто люди забывают эту простую истину и я еще чаще вижу, как люди пытаются ее опровергнуть всей своей деятельностью.

4) "Все 'новое' - это 'новая' комбинация 'старого' в ’новых’ условиях” - Вадим Маршев.

Изучение основ, классики, предпосылок возникновения - окно в лучшее понимание, почему что-то происходит... или не происходит. В бытность chatgpt эти слова звучат особенно актуально

5) "Сначала они тебя не замечают, потом смеются над тобой, затем борются с тобой. А потом ты побеждаешь" - Махатма Ганди

На моем iPad я заказал выгравировать эту цитату. Всегда тяжело быть не таким, как все; идти наперекор, делать по-своему. Тяжелее всего именно на стадии "смеются". Мы боимся выставить себя на смех... но главное не останавливаться и верить!

6) "Тысячи свечей можно зажечь от единственной свечи, и жизнь ее не станет короче. Счастья не становится меньше, когда им делишься" - Будда

Поразительно, как легче и теплее становится, когда даришь радость или делишься знаниями с другими.

7) "Это ничто по сравнению со 2й мировой войной" - Мама

Часто, когда очень плохо или тяжело, я вспоминаюэти слова и, хоть и бесконечно сложно их принять, стараюсь встряхнуться и взглянуть на ситуацию со стороны.

"В какой-то момент, оглянувшись вокруг, вы поймете, что все это создано людьми, ничуть не умнее вас" - Джобс

Безусловно, гениальные люди создают гениальные вещи. Но если приглядеться, то почему бы нам не попробовать тоже? Почему мы безоговорочно капитулируем об ограниченности своего ума и возможностей? Кто нам мешает стать лучше?!

9) "Лучше плохой менеджер в растущей отрасли, чем хороший - в падающей" - Уоррен Баффет

Ищем растущие отрасли и работаем над собой как менеджером ;-)

10) "Учи матчасть" - Папа

Во всех непредвиденных случаях изучай матчасть, читай документацию, не гнушайся инструкциями. Чаще всего ответ на твой вопрос там есть, нужно просто немного поискать!

и 11я, ставшая ключевой для меня за прошлый год:

“When you lose your money, you lose nothing.
When you lose your health, you lose something.
When you lose your character, you lose everything!”

Не теряйте себя! Не позволяйте другим “заставлять” вас терять себя! Позвольте себе быть собой!

Удачи, Друзья!

P.S. В четверг будет стрим по итогам года - welcome

Sam Altman, уже будучи CEO Open AI, на YCombinator Investor School 5 лет назад глубоко копнул про как инвестировать в стартапы и про признаки крутых фаундеров, видео на 46 мин:

ИНВЕСТИЦИИ

2 главных ошибки инвесторов
А) Не независимое мышление. 80% инвесторов outsource 80% своего принятия решений: “а кто еще участвует в раунде?”. И так большинство, тупик, “everybody delegates”
Б) Power law (закон распределения) супер важен. Много инвесторов обсуждают как мало инвестиций они списали (failure rate), но это вообще пофиг. Можно потерять 95% инвестиций, но одна попавшая в юникорн сделает вас totally happy. YC вложен (на март 2018) в 1600 стартапов, 5 компаний отвечают за 2/3 стоимости, что мы создали, и причем top1 компания дает 1/3 суммарной капитализации всего портфеля YC. Эта экстремальность power law - оч. контринтуитивная вещь

Принятие решений
Мои лучшие инвестиции были:
а) Когда нелепая (ridiculous) deal и никто не хотел вкладываться или
б) Сумасшедшая оценка. Но я, как и Питер Тиль, ОК, если вижу шанс на $10 млрд компанию - критерий столь строг, что его достаточно. Поэтому стадия инвестирования мне не важна: кандидатов на топ1 место в power law столь мало, что нужно быть очень open minded

Exponential growth: Всегда моделировать в Excel, тк наш мозг не способен посчитать, что рост на 25% в месяц за 3 года это, с ума сойти, рост в 3000 раз. Основная доля вэлью вашего стартапа - это выручка через 10 лет

Размер рынка важен только будущий. Гигантский, но малорастущий рынок же уже поделен -> нам нужен мелкий сейчас, но большой через 10 лет. Идентифицировать их нетривиально, тут и нужно ваше независимое мышление - самому разобраться, у других такое не подглядеть. E.g. Догадаться, что Uber заменит лимузины, потом лицензируемые такси, а потом общественный транспорт, а потом и от своих машин начнут отказываться

Воронка стартапов
- Общайтесь с незнакомцами, это секрет YC - мы оч открыты к random emails & random introductions. 9 из 10 раз вы тратите время зря, но 1 раз из 10 вы охренеете. Сейчас $ стало оч много, многолетняя асимметрия в пользу VC исчезла
- Просто помогайте фаундерам for free. Лично я стараюсь быть hyper available for tactical advice

ФАУНДЕРЫ

Особенности крутых фаундеров
1. Должны каждую неделю генерить crazy new ideas, тк вызовы их стартапа все время меняются. Мы как-то делали эксперимент и вложились в 20 оч крутых фаундеров БЕЗ своих идей. Все failed. Интеллект (видеть проблемы в новых ракурсах), получается, важен
2. Коммуникация, тк фаундер во всех ролях - это евангелист: найм, фандрейзинг, продать продукт, путь для команды
3. Execution speed: мы отрефлексировали это на множестве бетчей YC про чекпойнты от недели к неделе “за неделю я попробовал то и то, не пошло, зато вот это - сработало”
4. Скорость личностного развития фаундера: если обнаружили фаундера, кто за пару месяцев сильно поменялся - уделите ему самое пристальное внимание. Его нельзя сравнивать с сегодняшним Brian Chesky (основатель Airbnb), это бессмыслица, но - он может быть в начале траектории будущего Chesky?
5. Мотивация. Стартап на самом деле это долгий сложный коммитмент на 10 лет, а не просто новая быстренькая карьерная траектория для ambitious people для строчки в резюме или быстро разбогатеть, не спутайте
6. Открытость к фидбеку и желание его имплементировать - важно. С другой стороны, важна и вера, что у вас все получится несмотря на все ваши недостатки

Solo non-technical founders? Если сам собрал MVP, тогда ОК. Но в будущем все равно будут проблемы в найме и управлении разрабами

Реальный тренд vs. fake тренд: Реальный продукт люди рекомендуют друг другу, как iPhone в первый год после появления. Пример fake тренд - это VR: в медиа много хайпа, что это next trend, но на практике ваши друзья не используют свои VR шлемы даже раз в неделю, они пылятся на полках

Продукт: У всех великих компаний великолепные продукты. В Долине же слишком увлеклись sales & marketing, и хотя да, даже с посредственным продуктом можно забраться довольно далеко, но так никогда не создать компанию размером с Facebook

С прошлого года постоянно участвую в фаундерской форум группе, а также пару раз принимал участие в мастермайндах.
Почему я считаю мастермайнд/форум группы ценным форматом для предпринимателя:

1. Самое главное - это крутой источник энергии. Когда ты предприниматель, то в основном ты энергию расходуешь (на команду, партнеров, сам бизнес и его развитие, продажи), а источников пополнения энергии не так много.

2. Мастермайнд дает возможность посмотреть на свой челлендж с других ракурсов (часто, с таких сторон, о которых ты даже не думал). Это полезно.

3. Мастермайнд сильно расширяет кругозор и насмотренность про другие индустрии и бизнесы. Что тоже повышает качество решений и их глубину в своем проекте.

Посмотрел свежий подкаст Билла Гейтса с Сэмом Альтманом (глава Open AI). Спасибо Вите Осыка за саммари в Фейсбуке - захотелось послушать полную версию.

Интересные мысли [часть I]

1. Сейчас мы не особо понимаем (с научной точки зрения), как работают AI, но в течение нескольких лет поймём. Так уже бывало с новыми технологиями.

2. В каких направлениях будет развиваться AI в ближайшие пару лет:
- multimodality (взаимодействие и получение результат от AI через голос, картинки, видео). Кстати аудио интерфейс супер - я часто пользуюсь мобильным приложением ChatGPT, где есть аудио. Так часто удобнее быстрее общаться и получать от него результат.
- increasing reliability. Сейчас если задать chatgpt несколько/много раз один и тот же вопрос, то результат часто будет отличаться.
- customizability/personalization. Тут самое понятное. История с агентами - первый шаг в этом направлении. Дальше AI сможет использовать больше наших данных и подстраиваться под нас и учитывать наш контекст (интересно, откуда будут брать инфу и каким образом - соц сетки? Поисковики? Сами будут собирать дату?)

3. Интересные рассуждения про безопасность и регулирование. Проводится параллель с ядерным оружием, по которому есть разные соглашения между странами. Сэм рассуждает о том, что большие вычислительные кластеры могут в будущем попасть под регулирование, инспекции безопасности и проч. Прикольно развить эту идею: будет ли владение технологиями и вычислительными мощностями давать преимущество странам в геополитике? Как сейчас ядерное оружие. И что будет «сильнее»?

4. Впервые слышу, чтобы tech фаундер рассказывал о том, что слушает классику. Сэм поделился, что слушает Вивальди во время работы. Я открыл для себя классику только пару лет назад, но сложилось много обстоятельств. Классическая музыка сложная, и на мой взгляд, это тоже интересный интерфейс создания новых нейронных связей.

Интересные мысли [часть II]

5. Расходы на технологию удается сильно оптимизировать.
ChatGPT 3 - сократили косты в 40(!) раз за 3 года.
ChatGPT 3.5 - в 10 раз.
ChatGPT 4 - пока новая модель.

И при этом каждый из нас имеет доступ к очень крутой технологии всего за 25 баксов в мес. Amazing.

Интересно, правда, не будет ли потолок в итоге в кол-ве инженеров.

Полная версия [33 min]
https://youtu.be/PkXELH6Y2lM?si=ivefuppaxHfHJhu_

Про стратегические сессии

Бизнес любит устраивать страт сессии с ожиданием, что вот именно там родится волшебный план, как компания добежит до своих целей по выручке/доле рынке/марже.

В последнем бизнесе мы тоже несколько раз устраивали страт сессии + я иногда участвую в таких форматах как приглашенный участник. У меня сложилась такая картинка, что нужно, для того, чтобы это действительный был полезной формат, а не просто встреча "на поговорить".

1. 90% успешной страт сессии - предварительная подготовка
В таком формате участвуют CEO/фаундеры и C-level. Их совопокупное время в деньгах для компании - астрономическое. Каждый неэффективно проведенный час - убыток для компании.
Очень важно потратить много времени на подготовку:
- продумать, что будем обсуждать и в каком формате;
- какие данные подготовить заранее (самая большая ошибка - на встречах закопаться в данных или, что еще хуже, принимать решения на основе непроверенных данных);
- всем заранее изучить данные и все материалы, чтобы убедиться, что их хватает и они все достоверные.

2. Взять сильного внешнего фасилитатора
Это обязательно должен быть человек извне компании. У него должно быть понимание того, как устроены бизнесы, чтобы уметь говорить с командой на одном языке. Идеально, если он будет понимать (хотя бы в общих чертах) индустрию. И, самое важное, у этого человека должен быть авторитет, так как во время страт сессии ему нужно будет жестко модерировать обсуждения, держать фокус, отсекать лишние разговоры.

3. Обсуждать стратегию, а не тактику
Часто вижу, как команды скатываются на уровень обсуждения табличек, конверсий и других абстрактных цифер в модели, забывая о том, что сначала нужно ответить на вопросы более высокого порядка, например: кто наша целевая аудитория и за счет каких сегментов мы планируем растить бизнес, где мы относительно рынка и покупательной способности по ценовой стратегии, какая емкость/конкуренция в нашей сфере. Ответы на эти вопросы будут уже напрямую влиять на "моделирование в иксельке". Например, если мы будем выкатывать продукт на рынок, где высокая конкуренция => мы должны быть готовы к высоким расходам на маркетинг => мы должны либо круче уметь в маркетинг или понять, как мы можем продавать продукт с бОльшим чеком.

4. Только офлайн
Я амбассадор удаленной работы и распределенных команд, но опыт показал, что страт сессия в онлайне - говно. Очень низкий уровень вовлечения, все постоянно отвлекаются на Slack, работу и мессенджеры. Гибридный формат, когда кто-то онлайн, кто-то офлайн - тоже очень плохо. Только офлайн, только хардкор.

5. Общение команды ДО и после страт сессии
Важные обсуждения и идеи рождаются также в неформальных разговорах до и после стратегической сессии, поэтому на мой взгляд важно спроектировать неформальные активности, в рамках которых будет время в спокойном формате пообсуждать бизнес и вызовы, которые перед ним сейчас стоят. Также это хорошо работает на сплочение команды и эффективность взаимодействия внутри.

И еще одна мысль.
Страт сессия - лакмусовая бумажка для фаундера/CEO про команду.
Сразу видно:
- как команда общается и взаимодействует друг с другом
- уровень мотивации и вовлеченности каждого
- уровень и широта мышления

Картинка: Naval Officers Discussing the Battle Strategy for the Invasion of China by Mizuno Toshikata, 1894

В этот раз Дубай понравился больше (прошлый был сразу после началы войны и проездом, что наложило свой отпечаток), но все равно не понимаю, как там можно жить.

Кайфовый бизнес-ритм и пульс города (зарядился, я думаю, на несколько месяцев вперед), чувствуется запах БОЛЬШОГО БАБЛА.

Развитая инфраструктура (таксишки, рестики, отели). Понравился райончик Dubai Hills.

При этом дичайшую депрессию вызывает муравейник в центре с небоскребами и многополосными шоссе, пробки и специфический стиль вождения, грязный воздух. В окрестностях Марины вообще ощущение, что где-то в Хургаде оказался (с соответствующим контингентом).

Хорошее место, чтобы делать бизнес, но точно не место для жизни (для меня).

Заметки про #Го: #1

Я обожаю Го и при случае всегда рассказываю про эту глубокую китайскую игру и философию.

Если коротко, то Го - это традиционная стратегическая настольная игра, возникшая в древнем Китае более 5000 лет назад. По легенде ее придумали, когда император попросил мудрецов придумать интерфейс, чтобы обучить своего сына стратегии.

По сути это доска 19x19 и белые и черные камни. Противники ставят по очереди камни на доску. Задача - захватить максимум территории доски (так определяется победитель по итогам партии).

На деле все гораздо глубже, чем просто настольная игра.
Го - это крутейший инструмент изучения и прокачки себя. Во многом именно благодаря Го я прошел кардинальную трансформацию себя за последние два года.

Как это работает?

В Го 19x19=361 точек, в которые ты можешь поставить камни. Правил для фигур, как в шахматах нет. Следовательно, огромное количество вариаций для ходов => на первый план выходит не заучивание каких-то последовательностей (хотя в Го есть аналоги дебютов из шахмат, фреймворки розыгрыша углов и проч.), а стратегия.

Решить задачу по захвату максимальной территории можно множеством способов. Математик Джон Тромп упоролся и даже посчитал число возможных не противоречащих правилам комбинаций камней в Го. Это число больше, чем количество атомов в наблюдаемой Вселенной, состоит из 171 цифры и выглядит следующим образом:

2081681993819799846 9947863334486277028 6522453884530548425 6394568209274196127 3801537852564845169 8519643907259916015 6281285460898883144 2712971531931755773 6620397247064840935

Вариантов применения Го множество, обозначу те, в которых точно уверен:

1. Распознавать и анализировать собственные паттерны принятия решений.
2. Находить баги в том, как ты думаешь и принимаешь решения.
3. Экспериментировать и пробовать "нового себя" в безопасном интерфейсе доски.
4. Разбирать взаимодействие внутри партнеров по бизнесу.
5. Анализировать собственные команды руководителей.
6. Использовать при оценке кандидатов на ключевые позиции.

Буду периодически писать про Го подробнее и рассказывать, как можно использовать эту штуку в жизни и в бизнесе.

Для тех, кому интересно погрузиться в тему сразу:
➡️ online-go.com | Удобный сайт, где можно играть с другими. Также есть уроки и задачки.
➡️ аппка SmartGo (iOS only) | Очень удобный сборник задачей. Также можно играть с компом
➡️ аппка CrazyStone (iOS, Android) | Удобно играть онлайн
🎥 [YouTube] Краткая история игры Го (8 мин)
🎥 [YouTube] 7 лекций о Го (в среднем, каждая по 10 мин)

Founder's Energy

Разбирая свои баги через психотерапию и занятия Го, все больше убеждаюсь в том, что

Одна из важных задач предпринимателя (если не самая важная) - поддерживать высокий уровень энергии внутри себя

Когда ты управляешь бизнесом, практически все твою энергию съедает. Только навскидку это:

1. Команда (мотивировать и вдохновлять, транслировать миссию, объяснять стратегию "на пальцах", корректировать курс, давать обратную связь, увольнять).
2. Найм (продавать себя/компанию/цели, челленджить, делать вдумчивую оценку, собирать референсы).
3. Неудачи и мысли "а вдруг я делаю фигню"/"а вдруг ничего не получится".
4. Биздев/партнеры (бесконечные переговоры, питчинг и продажа своего продукта).
6. Инвесторы (те же питчинги, отказы, отжим).

При этом заметил, что если не уследить за балансом и уйти в минус, то из него потом очень сложно выбраться, и требуются экстра усилия. Да и в состоянии "минуса" ты точно не можешь думать про стратегию, придумывать прорывные идеи, генерить решения сложных проблем. Энергия на минималке, и ее хватает только на поддержание себя в минимально работоспособном состоянии.

Когда же ты в плюсе, отдохнувший и не выжженный, то:

- мозг генерит крутые идеи;
- придумываются решения зависших нерешенных проблем;
- есть энергия и готовность разгребать неприятные задачи (напр. дать негативный фидбек, уволить, провести жесткие переговоры);
- есть желание и ресурс ВДОХНОВЛЯТЬ и ЗАРЯЖАТЬ команду.

Огромный плюс такого состояния собственника бизнеса - у него гигантский мультипликатор. Команда, безусловно, хорошо чувствует и, что самое главное, перенимает твою энергию. Если ты в минусе, то и команда расклеится, а если ты в плюсе, то все будут круто перформить.

Лучшие идеи, которые рождались в моей голове - возникали именно в таком состоянии. Часто на выходных во время длительных заездов на велике с аудиокнигой в ушах.

Для себя выделил следующие основные вещи, влияющие на мой уровень энергии:

1. Прислушиваться к собственному состоянию, и если организм просит отдыха и перегорел, не насиловать себя работой.
2. Качественный сон (спать 7-8ч, ложиться не позже 01:00, не залипать в дофаминовые циклы инстаграма или ютуба).
3. Питание (пробую интервальное голодание, последний прием пищи максимум за 3ч до сна, нет сладкому и вредным снэкам).
4. Физическая активность / спорт (где получается, хожу пешком, регулярный велик).
5. Регулярное общение с интересными людьми (я ненавижу поверхностный нетворк, но меня очень заряжает глубоко общение с предпринимателями и просто умными людьми, от которых я узнаю что-то новое).
6. Семья и отношения (большое искушение забить на это в пользу бизнеса, но на самом деле это фундамент и огромный источник энергии).

А что дает энергию вам?