Jeff Bezos / Amazon дал Lex Fridman редкое интервью про космос, подсказала Саша Видюк из наших групп Soulmates Superheroes в интервью про колонизацию Марса:

Детство
- Дед на ранчо все делал сам: лечил коров, чинил бульдозеры - автономный подход повлиял на меня
- Тогда была лунная программа, 2% ВВП США/год, успех человечества уровня пирамид Хеопса, а фон Браун сказал “со словом невозможно теперь осторожнее”
- Изучал в Принстоне теоретическую физику, увидел людей с совсем иным мозгом, перетек в программирование
- Есть 1000 способов быть умным, встречая людей - ищу в чем они умны. Про себя понял - я изобретатель, правильная интуиция (чтобы первой критикой не замочить что-то ценное)

Blue Origin
- Мой стартап с 2000, 11 тыс чел, название - что из космоса Земля голубая, первым увидел Гагарин. А тяжелую ракету назвали New Glenn в честь первого космонавта США, тот за неделю до смерти письмо Безосу прислал, теперь висит в рамке
- В солнечной системе могут жить 1 трлн людей, +1000 Моцартов и Эйнштейнов, на гигантских станциях - цилиндры физика О’Нила из лунных материалов, вращаются для гравитации. Я столько не проживу, чтобы увидеть, но строю туда дорогу
- Выигрыш от Amazon кладу в стройку space инфраструктуры для следующего поколения, жаль воспримут как должное, типа наших user reviews и 1-click shopping
- Земля удивляет уникальностью и экосистемой (мы променяли ее на сверхулучшение жизни технологиями). Главная метрика прогресса - энергия на 1 душу, в космосе ее безгранично
- Blue Ring - спутник на 3 тонны груза на геостационарную орбиту или у Луны. Там compute, стойкий к радиации, можете делать что хотите как в AWS
- Когда в 2021 летал с братом на 100 км на New Shepard, мама еле отпустила. Но мы в систему спасения вложили сил больше, чем в корабль. Полюбил невесомость

New Glenn
- Ракета в 50% тяги Saturn V, 45т груза на низкую орбиту, смесь метан+кислород (СССР придумали), в 2024 запуск
- У ракет чем они больше - тем эффективнее (а приборы итп - нет), но и в производстве это жесть: инфраструктура, размеры станков, скорости процессов
- С 60ых все не особо поменялось, но стали супер крепко сваривать. Мы и просто снижаем цену - откроет всем фронтир/Golden Age, и идем к многоразовости

Луна
- Mark1 везет 3 тонны на Луну и не возвращается. Строим Mark2 в рамках лунной программы NASA Artemis на $93 млрд, он повезет людей
- Вдолгую как с Луны возвращаться? Есть реголит с кислородом и лед для водорода, а солнечные батареи дадут энергию
- Я туда не полечу, при моей жизни это будет все же для профи космонавтов
- Космос велик, жду за нами и SpaceX еще пяток сопоставимых бизнесов
- Маск? Ты его лучше меня знаешь, а я только публичный имидж, так людей не оценишь. Но мы схоже мыслим

Amazon
- Управляю по 14 принципам. Пару лет назад ушел с CEO, чтобы все ускорить в Blue Origin, чувство срочности
- Есть two-way doors решения, где можно вернуться и сделать иначе, без последствий. Бизнес иерархичен, не нужно все решения нести топам и слишком замедлять. Большинство решений - НЕ выборы уровня “запускать ли Amazon Prime?”
- Люблю четкие text docs законченными предложениями вместо слайдов с буллетами. Полчаса сидим молча читаем (заранее же никто) 6 страниц memo (а писать их могли 2 недели) и далее беспорядочная дискуссии -> так находим лучшие ответы
- Вымотать другого - не поиск истин. Компромиссы - тоже. Истины часто некомфортны или анекдотичны или из интуиции людей. На митингах я выступаю в конце, чтобы никто не промолчал, оглядываясь на мои взгляды

Продуктивность
- Плавно начинаю день, кофе, жена, фитнесс почти ежедневно: 30 мин кардио, 45 тяжести - бесит, зато больше сил вдолгую
- Жесткого календаря нет
- Стараюсь обновляться и перерождаться, “every day is day one": решать что делать без ловушек, кто и что я был раньше. Прочь любую самосогласованность
- Анти инерция. Не застревать в метриках, они же устаревают

Будущее
- Миру нужно осваивать думание вдолгую: что у решений долгосрочные последствия. А-ля проект 10,000-Year Clock в Техасе с 80ых
- Люди останутся, страны - нет
- Мне 59, смерти уже не боюсь, но хочу пожить максимально здоровым

Женя Кузнецов, футуролог и VC, неожиданно крупным взглядом разобрал мир, так понятнее:

“Похороны” Фукуямы
- Политолог, в 1992 провозгласил “конец истории”: что либеральная демократия победила прочие модели
- Сейчас идем в некий переходный период после долгого цикла адаптации к компам и инету. Шел с 80ых и поменял социальную ткань, экономику, культуру, мировую торговлю
- Никто толком не понимает, все осваивают

Технологии
- Миру нужно учиться быть с AI. Общество так устроено, что найденные эффективные решения консервируются (в социально-экономическом плане, бигтехами + властями) чтобы извлекать ренту
- И нужно накопление пула технологий, чтобы дисраптнуть этот прошлый уклад. E.g. Дроны известны уже лет 10, но их боялись, а теперь к ним совсем другое внимание. Или робототранспорт/selfdriving. Теперь этических тормозов будет меньше, а иначе тебя опередят конкуренты
- 20 лет назад по этическим причинам запретили клонирование, а вот с генной терапией уже не могут себе позволить: вдруг засолвит онко или аутоимунные болезни? И пока США/EU спорят об этике, Китай рожает генетически модифицированных детей (близняшкам без ВИЧ уже 5 лет)

Оксфордский комсомол и технооптимисты (Женя так называет EA/effective altruists и e/acc)
- Философский кружок по EA из Оксфорда раскрутился на панике экзистенциальных угроз человечеству/собрал иконостас звезд пугать про AI и распространил влияние не только на Silicon Valley (10 бигтехов обслуживают треть населения мира), но и Вашингтон - законы про AI итп. И e/acc (Mark Andreessen, Vinod Khosla итп) - это ответ на EA социализм?
- Идея национальных государств будет челленджиться 1 млрд чел, живущих в экосистеме бигтехов. Но мир когда-то тоже долго, 100 лет, привыкал к переходу от церковных концессий к национальным государствам

Мир - это состязание идей
- Беда не тогда, когда не можешь что-то повторить, а когда ты не можешь понять, что они вообще делают. Есть 2 группы мегагородов, кто понимают, что происходит: SF, Техас, NYC и Гонконг, Шэньчжэнь, Шанхай, Пекин
- 20 лет назад цель стать межпланетной цивилизацией вызывала усмешки, а сегодня Starlink уже перевернул мировую коммуникацию
- Смена укладов раньше занимала 2-3 поколения, а сейчас одно. Мы до многого доживем/увидим: все эти биотехи, выращивание органов в космосе, deeptech итп
- Раньше были метрополии, колонии, периферия, а сейчас узкие кластеры на миллионы людей ведут в будущее страны целиком

Регионы
- В США суть противостояния демократов и республиканцев в том, что первые за иммигрантов как рабочие руки и лояльный им электорат, а республиканцев они раздражают. Маск за Трампа т.к. считает, что США нужна массовая роботизация. В Корее и Сингапуре по 1 роботу на 10 рабочих (Япония и Германия уже не лидеры, 1 на 25), в Амазоне 1 робот на 2 работников - т.е. США готовы к взрывной роботизации, проблема рабочих рук будет снята с повестки
- EU и US могут показаться схожими, но нет - см. известный GDPR закон, ограничивающий роль US бигтехов в EU. И аналогично - проблема AI законов в EU - что компаниям США придется с ними считаться
- Китай технологически челленджит и US, и EU. Индия подтянется и будет глобальным актором, но если Китай за энергопереход и солнечными батареями заменил рухнувший сектор недвиги, то Индия говорит: дайте триллионы $, тогда сделаем энергопереход

Нестабильность
- Прочие игроки - все же суб-игроки. Кстати, в Израиле заваруха началась через месяц после анонса, что они с саудитами готовят огромный договор сотрудничества по стройке “цифрового Ближнего Востока”
- Будет поиск новых правил мировой игры. Некая глобальная гибридная война - способ затормозить взрывной рост tech, сделать мир более готовым к новому. Капитализм когда-то тоже не вписывался в монархическую Европу, поэтому Наполеону “надо было пройтись” по монархиям с конституцией

Поколения
- Власть у бумеров и они против нового, а передавать ее будут, видимо, сразу миллениалам. Но те пока сами не оч. понимают, что именно хотят - EA и e/acc - наборы фантастических идей - будут проходить проверку боем, и так и появятся новые глобальные правила игры

В честь дня космонавтики enjoy 200 слайдов Future of Space от Chamath Palihapatiya:

- Он интересно разбирает основные технологические уклады в космосе/иногда прямо до уровня first principles (формулы ускорений, типы топлива, как охлаждается двигатель, что 3 спутника с геостационарной орбиты покрывают всю Землю итп)

- Супер наглядно описывает экономику/бизнес в космосе: спутники/вертикально интегрированный Starlink/Iridium итп, орбитальные станции, Луна, освоение более далекого космоса

(см. также на эту же тему посты про интервью (а) Саши Видюхи про Марс и (б) Джефа Безоса про Луну)

Структурирование духовного [“structuring spirituality” (c)] выглядит для нас c @isachenkova сейчас вот так:

I. Духовное развитие
- Цели духовного развития, откуда появляется запрос, случайный перебор в начале изысканий
- Классификация типичных траекторий. Разница в путях фаундеров и тех, кто в найме
- Разница между личностным и духовным, фактор учителя
- 3 глубины погружения в себя
- Разница между информацией и субъективно прожитой истиной
- Как измерять свой прогресс в психотерапии, в духовном развитии

II. Некоторые виды практик
- Психотерапия групповая: Soulmates Superheroes
- Психотерапия личная. Ориентация на результат/регресс. Нюансы работы с психологом
- Психотерапия семейная
- Медитации, осознанность, випассаны. Самая мощная техника в медитации
- Телесные практики, йога, Ошо-динамика, ecstatic dance
- Аскеза/самоограничения
- Тантра/современность духовных практик современной стадии развития цивилизации
- Фармацевтика: вещества, аяваски, антидепрессанты

III. Устройство реальности
- 3 + 1 вида реальности: объективная, субъективная, как таковая
- Нюансы иллюзорной реальности
- Западный материализм и восточная трансценденция/колесо Сансары
- Отсутствие свободы воли, computational irreducibility, скучный тупик тотального материализма
- Т.н. гипотеза о симуляции
- Ключевые виды страхов: конечного, бесконечного, самого себя. Страхи искусственного интеллекта

IV. Резонанс с реальностью
- Что такое резонанс
- Связь с буддистским фокусом, с концепцией flow Чиксентмихайи
- Возможные пути к резонансу
- Особенности жизни в резонансе

V. Круто работающие концепции
- Личные границы, локус контроля
- Пограничные баги общения
- Аддикции 1 и 2 / желание резонанса с реальностью “нахаляву”
- Нейроатипичность
- Гендерные архетипы в нашей психике
- Героические архетипы в нашей психике

VI. Применение психологических результатов во “внешнем мире” / проявленнсть / ачиверство
- 3 типа сотрудников через призму психологии

VII. Вопросы в процессе изучения
- Изменение духовного запроса и инструментария с возрастом. Рост консервативности мира по мере старения населения
- Разница духовного в различных культурах
- Existential hope: куда будет меняться смысл жизни по мере развития техногенной цивилизации и/или появления т.н. UBI (universal basic income)

Духовное можно структурировать как угодно, это вам не паззл физической реальности/естественных наук

Что-то я даже и не знаю как думать, перевариваю: в конгрессе США вчера представили доклад на 50 страниц о том, как Китай ведет нео-опиумную войну с Западом?

- В США сейчас 70 тыс чел в год умирает от фентанила = словно ежедневно разбивается один Боинг. Это опиат в 50 раз сильнее героина -> им оч легко передознуться (мой любимый Lil Peep итп). 2.6 млн детей растут в семьях где его употребляют

- Китай производит прекурсоры (компоненты из которых делается конечный наркотик) для фентанила, и они НЕ имеют больше никакого легального применения, и экспортирует наркокартелям по всему миру. Мексика делает конечный продукт и продает в США (прибыль картелей от фентанила оценивается в 20 млрд $ в год)

- Китай полностью запрещает и прекурсоры, и его употребление у себя, но прекурсоры продаются онлайн - 30 тыс объявлений на Alibaba итп (можно оплатить биткойном) от 2000 компаний (но которые имеют общие адреса и контакты), разрешает их экспорт (и экспорт разных готовых аналогов фентанила), и даже дает налоговые и экспортные вычеты этим производствам (!) - расследователи нашли публичные экспортные данные с 2018 г. Главы китайских провинций посещают эти производства и благодарят за вклад в местные экономики (!)

- Китай отказывается сотрудничать с правоохранительными органами других стран по этому вопросу

- 80% мирового производства прекурсоров амфетамина, кстати, тоже делается в Китае. Также, все синтетические каннабиноиды мира производятся в Китае

- Китайское тюремное ведомство владеет некоторыми такими производствами (!)

- Также, Китай поставляет nitazenes и xylazines, и скорые не могут спасти людей налоксоном (от героина и метадона помогает, от них и фентанила - нет). А еще 3-methylfentanyl в 6000 раз сильнее морфина, является, по сути, химическим оружием (использовался в 2002 г в операции мюзикла Норд-Ост)

- В США изымают 0.4 млрд смертельных доз фентанила в год

- Китай за своим great chinese firewall запрещает в поиске 66 тыс слов и словосочетаний (политика, терроризм, порно, пирамиды, гэмблинг, нарушение прав итп), но никак не ограничивает любые ключевые слова про экспорт фентанила и его прекурсоров

- Пишут, что компартия помогает потом наркокартелям отмывать эти деньги (!). Общий отток капитала из Китая с 2006 г = $3.8 трлн

- Нашли, что китайские военные стратеги Qiao Liang и Wang Xiangsui 20 лет назад (!) в своей книге предлагали как часть гибридной войны drug warfare that cause disasters in other countries and make huge profits

- Формально, в 2018 году Китай и США заключили соглашение о запрете оборота фентанила в Китае, но оставили все возможности химическим компаниям свободно экспортировать его и прекурсоры, и вот что мы имеем на сегодняшний день

- Обсуждаются предложения по международной кооперации в этой связи, в тч борьба с отмыванием китайскими торговыми брокерами прибылей наркокартелей

//

Питер Тиль еще 10 лет назад объявил борьбу с авторитарным Китаем как стратегическую задачу в своей жизни. И с тех пор такие вот вещи реально произошли…

Это какая-то что-ли месть за опиумные войны и обогащение на них Запада? Или просто история циклична и разворачивается обратно? Или что? Мир, я тебя не понимаю.. Какая нахрен longevity…

Stanford AI Index Report 2024 на, кгрхм, 500 стр, шикарный макро апдейт со всех ракурсов:

Глава 1: R&D
- Число параметров у моделей 1000 шт в 1990, 1 млрд 2018, 1 трлн в 2023. А в computer vision макс. размер 1 млрд и пока не растет
- Цена обучения выросла в сотни раз за неск. лет: GPT2 2019 стоила $0.05 млн, PaLM 8, GPT4 80, Gemini/Google 200
- Хорошие text data кончатся в 2024, low quality в 2035. А visual data - хватит
- До 2012 бигтехи нейронки не делали. До 2014 все топ модели были из академии, а сейчас только 15 из 51 топовых. Из 145 ведущих foundation models 28 - закрытые. Гео: 100 моделей из US (+50 с 2022), 21 EU, 20 Китай (+10 с 2022)

- Выдача AI патентов рост 10x за 6 лет до 60К в 2022 (70% Китай, 20% US). Доля US в AI конфах и гитхаб 23%. Конфы посетили 63К чел (NeurIPS 16К)
- Статей в 2x больше, чем в 2010, ~250К шт. Из них 230К журналы (1/5 Китай), 40К конференции (1/3 Китай). Всего 7% статей от индустрии
- В 2022 топ10 ВУЗов по числу AI публикаций #1-9 Китай, #10 - MIT. Из 500 топ AI ученых: 280 US, 150 EU/UK, 50 Китай

Гл 2: Benchmarks
- Темпы прироста бенчмарков LLM в 2023 рухнули =(
- Закрытые LLM на 24% лучше опенсорса

- Текст: понимание вопросов (Glue) 90%, reading comprehension 80%, LLMs struggle w/ reasoning и complex planning - 2-5%, суммаризация 50%, выводы 92%, sentiment analysis 59%
- MMLU (Massive multi-discipline multimodal understanding & reasoning for expert AGI, 16К вопросов в 57 дисциплинах) - 55-60% у Gemini и GPT4, а люди 80%
- Перевод давно засолвили. А вот достоверность фактов всего 60% (TruthfulQA). И глюки у LLM ~20% выдачи (зависит от задач)

- Computer Vision: точность по ImageNet с 60% в 2012 до 91% в 2023. Позы 94% точности, семантическая сегментация 85%, мед.сканы 94%, object detection 82%. А генерация pix за пару лет стала порой неотличима от фото. Вопросы “что происходит на картинках” стало 84% (люди 80%). Visual commonsense 75%, activity recognition 91%. Добавили тесты на правку изображений, 3D по фото, ошибки картинок итп

- Есть Graduate-Level Google-Proof Q&A: у PhD 65%, люди 34%, GPT4 41%, Llama2 29%
- ConceptARC про abstract reasoning 69% у GPT4 (люди 95), в math-word задачках 84% (люди 90). PlanBench (планирование) GPT4 30-60%, люди повыше. Moral reasoning - 30-40% у GPT4
- Генерация аудио - прорывной год. А речь уже давно распознают
- Deep fakes выявляют (Celeb-DF) макс. в 80% случаев
- Модели продолжают тестить самоулучшение с RL и игр сами с собой

- Агенты: тест AgentBench в 8 средах - у GPT4 4 балла, у прочих 2.5. MLAgentBench на разные юзкейсы. Voyager для Minecraft c GPT4 - в разы лучше исследование мира. PaLM-E прикрутили к роботам: +20% задачи с примером действий, 2x для неизвестных. Пытаются мерять emergence score, для оценки может ли появиться бесконтрольное поведение. У GPT4 упала math. Меряют CO2-след (текст в 500x меньше pix)

Гл 3: Этика/responsible AI
- Нет стандартов по responsible AI
- Волна дипфейков для выборов + виралятся секс-фейки типа Taylor Swift. Их легко генерить, сложно детектить (всего 60% сетки ловят). Картинкогенераторы полны расовых biases, тест от BiasPainter. И у GPT4 bias за демократов в US итп =)
- Находят новые уязвимости LLM. Бизнесы волнуются про риски privacy, безопасность данных, ошибки (Tesla распознала пешехода, но не замедлилась)
- Плагиат: LLM могут легко выдавать целиком закопирайченные вещи из датасета, не оч освоено как отлавливать. Midjourney могут выдавать кадры из фильмов. Итп. Может нужна сфера privacy аудита моделей
- Ученым мало прозрачности сеток, пробуют ее мерять. Часть LLM стали писать результаты теста TruthfulQA - про как модели имитируют ложь людей
- Оч серая зона - как этично/с согласия людей бигтехи собирают data -> тут нужны законы
- Фирмы внедряют борьбу с глюками. Самая самомодерируемая сетка про дискриминацию/вред людям/итп - Llama2/Fb, а GPT4 в 7x больше такого выдает. Тест Machiavelli пробует у LLM “мерять” power, immorality, dissatisfaction, betrayal
- AI-риски непонятно как изучать, а тем более обосновывать для policy making. 300 статей в год на конфах посл. годы/flat

// Часть 2 тут

Часть 2 Stanford AI Index Report 2024 (а часть 1 тут):

Гл 4: Экономика
Jobs
- В 2023 1.6% всех вакансий в US - про AI, в EU 1% уже лет 5. 50% из них - ML. В 2023 2/3 вакансий про Gen AI, 1/4 LLM
- В US в 1.7-2x выше ЗП чем по миру все роли (дизайн, кодеры, продакты, топы)

Бизнес
- 400 фирм из Fortune500 упоминали AI. 55% фирм в US юзают AI (в 2017 20%), по миру 45%. Юзкейсы: сustomers (support, acquisition, sales) + опыты с new products. Финтехи и tech больше всех. В опросе McKinsey: 42% фирм снизили с AI косты, 59% растят выручку
- GenAI: 30% фирм по миру тестят (в US 40%) - драфты текстов, картинки
- Каждый 2ой разраб в мире юзает GitHub Copilot (60% писать код, 50% отладка, 30% документация), но нужно все очень проверять. У кодеров скорость +50%, консалтеры +25% (качество +40%), юристы +30%. У сотрудников низкой квалификации тоже прирост
- McKinsey верят, что AI на несколько % нарастит выручку всех отраслей, а занятость в сервисных, supply chain, HR, manufacturing - снизится. ВВП мира добавит +1.5% за 10 лет

Инвестиции
- В 2023 US $67 млрд вложено в AI (8x к Китаю), и еще $30 млрд прочий мир. В 2023 1800 AI стартапов по миру (900 US, 122 Китай, 300 EU) подняли по $32M в среднем. В $ - 2ой год падение
- GenAI вложено $3 млрд в 2022, $24 в 2023. AI M&A на $80 млрд в US ($170 в 2021)
- За 10 лет в AI стартапы вложили US $330 млрд, Китай 100, EU 50, Израиль 13 - 5500 шт стартапов US, 1400 China, 1500 EU

Роботизация
- На 2022 в мире было 3.9 млн промышленных роботов (1.5 в 2014). В 2023 установили 550К (2014 200К): 1/3 автозаводы, 1/3 заводы электроники. Каждый 2ой робот - в Китае, по 10% Jp и US, по 5% Корея и Germ
- 50% роботов - манипуляторы. 10% - коллаборативные с другими роботами. Разнообразие растет
- НЕ промышленные: больше всего в логистике, в разы меньше: медицина, уборка, агро

Гл 5: Наука и медицина
- Наука: AlphaDev для алгоритмов через RL, FlexiCubes генерация 3d моделей без ошибок, Synbot софт+робот создания органических молекул, GraphCast точнее прогноз погоды, GNoME/DeepMind для материалов - 2 млн структур изучено, 48К стабильных кристаллов, 800 реализовали, Flood Forecasting на 20% точнее про потопы

- Медицина: SynthSR МРТ сканы мозга с точностью 80-99%, CPIS рано детектить нейродегенеративные заболевания по протеинам, EVEscape предсказание пандемий, AlphaMissence/DeepMind тоже, Human Pangenome Reference full genome и для малых этногрупп
- Врачи: GPT4 Medprompt 90% правильно в MedQA (3x с 2019), от академии MediTron-70B точность 70%
- Диагностика: CoDoC в маммографии достигли уровня врачей и 3x меньше времени. Китай PANDA оч рано рак поджелудочной
- FDA одобрили 139 AI медустройств (45x с 2012), из них 120 - рентген

Гл 6: Образование
- 70% CS (computer science) PhD идут работать в индустрию (2011 40%). В US бакалавров в CS 35К, магистров 15К, 2К PhD. Иностранцев 15% в BA, 50% MA, 66% PhD. 200К школьников сдавали “ЕГЭ” по CS в US
- В US всего 8К CS профессоров. 50% штатов требуют изучать CS в школах. 60% школ юзают ChatGPT, в ВУЗах 80% людей
- По миру с 2017 число универских программ по AI +3x. UK и Germany выпускают больше всего CS/AI/IT бакалавров (50К, с 2012 г рост 2x), а прочая EU еще 50к. Магистров также, а PhD 3К

Гл 7: Законы
- В US 25 AI законов (1 в 2016), в 2023 обсуждали 181 шт. 21 ведомство контролит. В EU приняли AI Act. В Китае ограничили synthesis/fakes. По миру принимали 25 законов/год на 128 стран. 80 стран по миру обсуждали AI законы
- С 2017 75 стран озвучили AI стратегии. В US гостраты на AI science $2 млрд + столько же от Минобороны

Гл 8: Diversity
- 80% работников в AI/PhD/преподов - мужчины. На конфе NeurIPS женщин 4%
- Студенты: 45% whites, 35% Asians. В CS 25% женщин студентов и 0.1% non-binary. В EU схоже
- Я чуть напрягся читать/см мой пост про вокизм

Гл 9: Социум
- 63% в US знают ChatGPT, 30% - use weekly. 60% зумеров верят AI улучшит entertainment
- 66% людей в US ждут big changes от AI за 5 лет, но Запад НЕ позитивен (декаданс там давно): 52% нервничают, а всего 37% верят, что AI улучшит их jobs
- В Китае 78% людей верят, что AI сильно улучшит мир

Anxious Generation - книга про взрыв психозаболеваний у зумеров из-за соцсетей/игр и, одновременно, слишком опекающих родителей в оффлайнах. От социального психолога Jonathan Haidt, март 2024, посоветовал Steve Jurvetson

1. ПРИЛИВ
- В 90ые (инет) и 2000ые (старт смартфонов) было не так, тк не было соцсетей алгоритмически генерящих зависимость от себя, столько порно, а игры не максимизировали время внутри них, а еще расцвет selfie с 2010/iPhone4
- Девушкам - соцсети, парням - онлайн игры и мобильные, Reddit, hardcore porn - невиданная гиперстимуляция
- Девушки более склонны к тревоге/депрессии/self-harm, в 2010 12% girls 10-17 лет с депрессией, в 2023 30% (парни 5%->12%). У студентов рост mental issues +2x за то же время. Self-harm вырос +2x у girls, +50% у boys. Уровень суицидов в 10-24 лет вырос +30%, но среди 10-14летних +1.5-2x
- В Канаде в те же годы у girls падение “very good mental health” 85%->55%. В UK self-harm +80..130%, в Австралии рост психо-госпитализаций +50..80%, в Скандинавии psycho distress у тинейджеров +50..80%

2. ИСЧЕЗЛО ДЕТСТВО С ИГРАМИ ВО ДВОРЕ
- Депрессия всегда идет рядом со спадом личного общения. Живое общение синхронно и 1:1, онлайн - нет. С 2010 % школьников кто ежедневно видятся с друзьями упал 50%->30%
- Социальное обучение работает через копирование других. А сейчас 20 часов/неделю girls смотрят и создают контент
- Игры помогали эволюции растить нейроны, вознаграждая детей за них, а онлайн хакнул эту фичу. В 2017 Sean Parker, кофаундер FB: “we hack a social-validation feedback loop”
- У млекопитающих игры - это время для риска, эволюция его вознаграждает дофамином, “ищи возможности”. Взрослые особи - у них защитный режим и избегание опасностей
- За десятки лет детские площадки стали слишком безопасны. Но дети, не освоившие риск в детстве, закрываются во взрослой жизни. На западе мамы стали в 2x больше часов тратить на детей и их избыточно контролировать: fearful parenting, safetyism, "со здоровыми как с инвалидами"
- Все это замедляет взрослость, ниже адаптивность, рост mental issues, дольше девственники, позже получают права

3. ВЕЛИКАЯ ПЕРЕПРОШИВКА
- Онлайн-детство дает 4 девиации:
а) Десоциализация: время с друзьями для 15-24-летних упало 120->40 мин/день
б) Плохой сон: % тинейджеров кто спит <7 часов за 10 лет стало 35->50%
в) Фрагментация внимания/ADHD
г) Аддикции по дофамину: слайды утечки Facebook Files в 2021 изучают созревание мозга до 20 лет и какие продуктовые фичи им из этого пилить
- Доля старшеклассников и студентов ощущающих себя одинокими за 10 лет рост 25->40% у girls и 18->28% у boys. 25% не видят жизненных смыслов
- Девушки больше зависят от внешности и социального одобрения -> более уязвимы, скроля инсту и тикток
- А у мужчин проблемы выхода во взрослую в жизнь: не учатся, сложно с работой, живут с родителями до 30+ лет, жизнь без риска - меньше экстрима (за 10 лет в 2x реже стали попадать в травмпункты) и не ходят на свидания
- Спад религии, медитаций, природы

4. ЧТО ДЕЛАТЬ ОБЩЕСТВУ?
- Мы не даем детям алко/табак/казино, а онлайн - да? Вот и ушли в онлайн присутствие в ущерб жизни. Взрослым ОК, но мозг детей недоформирован + в пубертат много insecurity
- Рекламная модель научила бигтехи конкурировать за внимание алгоритмами + не чекают реальный возраст юзеров. Законы по защите детей в онлайнах не поспевает - за 6 лет одобрено только в ряде штатов. Можно Apple/Goog/FB обязать к реальному age check
- Дети топов Silicon Valley учатся в школах а-ля Waldorf Peninsula, где нет телефонов, ноутов, планшетов
- Нужен полный запрет на телефоны до старших классов (а не как сейчас “на переменах можно”), никаких соцсетей до 16 лет, оффлайн социализация: открывать детские площадки до школы + оффлайн продленка после + усложнить детские площадки обратно
- Вернуть обратно учителей мужчин с их role models
- В главе 12 советы что делать родителям детей разных возрастов

//

- Автор ценностно явно woke/анти-Hanania/социалист, но копнул оч. глубоко
- А нейроатипичность это рядом или чисто гены?
- Юля говорила, что тревога частый запрос у ее клиентов, но я не ожидал такие масштабы

В рамках инвестиционного тезиса progresspunks.com я вложился в 4 стартапа, ускоряющие прогресс. Если знаете про стартапы с продуктами/тулзами/enablers для ученых, инженеров, коммерциализации tech - расскажите?

Хочется больше чудес при нашей жизни, особенно в world of atoms, not bits. AI круто, но Илон Маск сказал в SpaceX им не помогает итп )

1. Vitalia.city - создание в charter cities/network states упрощенных регуляций для фармы/генной терапии, чтобы быстрее (месяцы, а не годы) и дешевле вести клинические испытания. Вдохновлено Zuzalu City Виталика Бутерина (это типа Burning Man, но про науку =). Делает Niklas Anzinger, а с другим фаундером Laurence Ion (основатель VitaDAO) они чет уже успели рассориться - ну, это жизнь

2. FirstApproval.io - что к каждой научной статье должны публиковаться исходные данные. Делает PhD в UCSF (это где когда-то червям жизнь продлили) Тимофей Глинин, научный адвайзер Open Longevity Миши Батина, модерирует дебаты типа Aubrey Du Grey vs. Федичев (фаундер Gero) итп

3. 100xbio.com - более дешевая идентификация T cells (клетки нашего приобретенного иммунитета), делает в Бостоне Сережа Пустыльников. Нужно для CAR T cell терапий (рак итп), которые нужно кастомизировать под каждого, поэтому тесты столь важны

4. (пока stealth) - knowledge management tool, типа Miro / Heptabase - как для коллективного обсуждения структурируют сложное знание


Upd:

Фаундер уточняет в комментарии: «Наш метод не просто более дешевый. Он автоматизированный и из того же объема образца (например, крови) можем получать кратно больше данных о Т-клетках, распознающих свои мишени 😀»

Концептуальное интервью Palmer Luckey (продал Fb Oculus VR и с 2017 строит Anduril - OS типа Android/связующий layer для всей амерской оборонки):

Big ideas
- Мир странно устроен: не работают над дешевым ($1/галлон) synthetic бензином/biofuels. Можно улавливать CO2 из воздуха, расщеплять воду на H и O - и юзать во всей инфраструктуре что уже есть, особенно промышленности, и экологично. Компании плохи в technical decisions + дюжина правительств закомиттились на не оптимальный продуктовый путь -> в EV, батареи, инфру идут сотни млрд $
- Back to the future: в 50ые Минэнерго США верили в АЭС будущее, а сейчас и узко мыслят, и оч politically driven/дебаты между партиями. Фокус чисто на статус кво, big ideas нет, e.g. зебры и носороги в Луизиану
- Не надо раздавать займы на всеобщее высшее образование - тинейджеры же не оч шарят зачем им ancient French theater degree итп - пусть такое сами платят. И нам надо в 100x больше Thiel Fellowships (но не как SBF ))

Изобретать из принципов
- См. видео Bret Victor в 2012
- У нас собрались люди, кто считает, что а) по миру у конкурентов мало вижна и б) бигтехи не решают вопросы национального значения, а тем более democracy в целом
- Если шарите в сфере - быстрый итерационный процесс ОК. Если нет - идите назад и см. как все люди решали эту проблему, а не только recent times - спустя время давно отвергнутое вдруг может уже иметь решения
- Верьте экспертам про проблемы, но не про способы решения

Мне важен impact
- Для VR end-game - это массовость, а я увлекся как хобби когда VR пилили только военные и лабы. Меня правда выгнали и стали более commercially focused. Так что Anduril строю как potentially giant company - так смогу повлиять на мир
- Создать бизнес vs. impact - это разное. Я бы хотел и дальше VR, но impact.. Выбирал засолвить obesity, реформа частных тюрем (трабла в рецидивистах), и Anduril
- Out of the box thinkers редкие люди, и еще они избегают скучные корпорации, big госведомства и их медлительность. Я интерфейс между ними. Хакеры (по YC) же лучше сделают open source, чем будут неблагодарно убеждать обычных людей в обычных институциях/школах/госполитике. Успех Anduril: 50% выстроить отношения, 50% - tech

Конкуренция
- Стартапам надо не смотреть “как Oracle выглядит сейчас”, а на несколько шагов вперед, как у них будет через пару лет. И при этом продуктово выглядеть похоже на них, но внутри быть from 0to1, чтобы распространяться мимикрируя как микроб, но когда те заметят - уже не смогли из своего legacy вас скопировать
- Нет FDA №2, Пентагон №2, так как в NASA до SpaceX - все делали по cost plus pricing -> супер вредные стимулы для частных подрядчиков, nothing reusable итп + бюрократы избегают стартапы в пользу Boeing

Anduril
- Наша миссия на слайде 1: делать выручку в $1 млрд, сберегая налогоплательщикам $10 млрд - убираем все эти ненужные legacy. Сейчас продажи сотни млн
- Мы ищем что плохо решается, а с хорошими фирмами зачем конкурировать? Customer pains должны быть в приоритетах и Пентагона (будут вообще заниматься этим), и Конгресса (дадут $ на это)
- Мы AI company с 1го дня, но тогда все в 100x меньше шли в AI, а сегодня это уже не differentiator

Китай
- Они застраивают Африку мостами, портами, а также продают свои системы и оружие, но реально они для борьбы с оппозициями (камеры SenseTime, вышки сотовой связи) - перестанешь слушать Китай - отключат и твоя власть зашатается
- US надо 1 млрд чел. вдолгую конкурировать с China, а иначе средний американец должен быть в 10x более impactful чем китаец?
- Тайвань важен миру из-за чипов, так бы США не бодались на пороге конфликта с ядерной державой

Прочее
- Критика продаж Apple Vision Pro - глупо, это же Pro, не массмаркет. Но через неск. лет экраны подешевеют до $100, а пока адопшн enterprise + разрабами
- Совет 1000 студентам? Что за мечты стать Джобсом, он уникум. Больше слушать что люди о вас думают, и честно понимая свои слабости, можно сделать команду где все покрывают силы и слабости друг друга
- Благодарен Тилю что в 19 лет дал $ на Oculus и жене что 15 лет ждала предложения (знакомы с 15 лет)

Aravind Srinivas, фаундер Perplexity.ai, с 2022 подняли $170M, экс-рисечер Deepmind и OpenAI, интервью Lex Fridman на (!) 3 часа:

Perplexity
- Вижн: поменять получение ответов людьми - юзать LLM, но и каждый ответ подтверждать ссылками, снижая глюки. На PhD в Berkeley учили в статьях все писать, цитируя источники, а не "просто мнения"
- История появления: хотели запилить крутой продукт из LLM, нас вдохновил Github Copilot - пишет код для тех кто не умеет. Задумались: а поиск чего можно дисраптнуть?
- Опыта не было, все с 0, начали со Slack+GPT3.5. Играемся с UX - не быть как Гугл - мы не поиск, а движок knowledge discovery, как начало бесконечности Дойча. И мы за научные обоснования truths
- Сперва пилили на SQL, потом RAG. Тестили в Twitter, но Elon сказал вырубит нам API - так пошли в поиск всего
- Взяли Llama3 и докрутили в свою модель Sonar, но в будущем будем model agnostic

Гугл
- Нет стимулов сразу дать ответ, e.g. про страховку - им же платят страховые. Но для поиска сайтов, realtime инфы, кастомизации под вашу гео, и все это за 0.5 сек - ОК
- Живой аукцион за слова AdWords - топ бизнес модель за 50 лет (авторы Overture для Yahoo). Еще они круто чистят shit среди рекламодателей. AdSense оч data-driven. Гугл красив по интеграции ads в UX
- Поиск им важен, но не критичен: выручка Cloud+Youtube = $100 млрд -> триллион капитализации
- Их можно хакнуть только чем-то иным. Amazon вынес их тк в Google Ads была супер-маржа, а ecomm и clouds тогда - с минусовой маржой - это дырка для взлома прибыльных public firms

Советы фаундерам
- Вся common wisdom верная, трудно что-то добавить. Если нет неустанной решимости - тяжело построить компанию. И тут реально важна страсть, а не просто угадывать что важно рынку или VC. What you love, а иначе обгонят кто с genuine passion. У Larry Page был бэкграунд в human-computer interaction итп
- Великое требует страданий и самоотверженности. И больше общения с людьми кто делают нас лучше, а не не понимают о чем мы

Page/Brin: их гений был в отказе от анализа текста (как весь поиск тогда), а просто ранжировать ссылки, взяли из academic citation graphs. Схантили всех PhD после краха доткомов. Всегда были помешаны уменьшать время выдачи. Еще у Ларри философия "user is never wrong" - удобно даже моей маме

Bezos: мне нра его желание ясно мыслить и one-way/two-way door. Его customer obsession даже вне инета

Musk: в его био от Isaacson понравилось что нет дистрибуции Тесл - ты напрямую с юзерами. И его first principles thinking - да он запилил автопилот просто чтобы понять его работу

Huang/Nvidia: Что у него 60 прямых подчиненных видеть всю фирму целиком + его паранойя: в хардвере планы на пару лет, нельзя ошибаться

Zuckerberg: его move fast & break things + их позиция про open-source/Llama

Yann LeCun: вырастил плеяду учеников кто кофаундеры Deepmind, OpenAI итп. Ну и его вера в RL - это было controversial. И он может и прав про ложный страх AGI, тк инженеры doers часто слепы про общий impact of tech

AI
- Прорывы? С 2017г их нет, все делается также: CNN, transformers - пока просто масштабируют data & compute. А вот кто сможеть разделить reasoning и факты - это будет прорыв: тогда не нужны датацентры на миллион GPU/1 ГВт
- Вопрос на $1 трлн: AGI для меня это новое знание, типа крутого PhD, Коперника, Галлилея, происхождения Covid, редизайна Starship
- Могут ли модели начать “думать” общаясь друг с другом? Хз. Люди special тк у них есть love, красота жизни, и любопытство, just deeply curious как вид

Будущее поиска
- Инфа в инете упорядочивается по-разному, каталоги до гугла были, все может эволюционировать
- В соцсетях drama или news, а мы видим инфо скорее как truths или как AI Wikipedia
- Даем юзерам автоматом делать Perplexity Pages по итогам их находок

Мир с AI
- Верю, что AI уменьшит biases людей
- Люди могут желать общаться с AI - тогда глюки это уже фича, а не баг
- Работа будет меньше похожа на работу, а скорее наполненную жизнь (что в топе пирамиды Маслоу), хоть и будем там больше с ботами общаться. Зато освобождая время общению в жизни - одиночество это бич нашего времени

Видимо, мы становимся свидетелями эпохального освоения космического фронтира, по будущему эффекту на цивилизацию масштабнее, чем открытие когда-то новых континентов

И можно на этот тектонический сдвиг заэкспонироваться с чеком от $1 тыс на один стартап через ангельское коммьюнити на AngelList Beyond Earth, сфокусированное на spacetech:
- Топовые сделки с ведущими VC
- Глубокий due diligence (всестороннее изучение проектов, в deep tech это принципиально), многогранная увлеченная команда
- AngelList когда-то сделал Naval Ravikant как раз для вот такого совместного инвестирования, я когда-то постил его интересное интервью

Одна из основателей - Саша Видюк, она изначально физтех, но отвлекавшаяся на финансы, а потом все равно вернулась в жизнь из большего контакта со своей purpose/данностью. Я делал с Сашей весной вот это крутое интервью, что будет по 10 запусков Starship’ов в день (!) 20 лет подряд

а

Когда-то Саша проходила нашу с Юлей группу Soulmates Superheroes, где, собственно, и стала больше резонировать с реальностью и вот - разогналась на первую космическую скорость =)

Еще space контекста:
- Саша выпускает вдумчивую еженедельную рассылку на Substack на 11 тыс чел, где можно с разных сторон наблюдать как расцветает космическая индустрия. За счет этой рассылки они и запартнерились с самыми умными VC и фаундерами в space tech

- В запусках доминирует (и будет =) SpaceX, которая сегодня стоит $200 млрд (я так понимаю, наша Вселенная фундаментально как-то вознаграждает longtermism?). И оттуда куча народу валит строить уже свои собственные стартапы по космосу

- За 60 лет освоения космоса там побывали 700 космонавтов (1 чел/мес если усреднить за 60 лет), но теперь радикальное обрушение стоимости вывода килограмма груза на орбиту одним не семейным психом =) меняет все
 
- Редкое интервью с Jeff Bezos про его космические устремления - он тоже с детства об этом думал, "отвлекался на Amazon", но уже много лет вкладывает по $1 миллиарду в год в свою Blue Origin. Он пока фокусируется на Луне

- Про оч макро и first principles взгляд на сегодняшнее освоение космоса я постил на день космонавтики крутой отчет от Chamath Palihapatiya

Интервью David Luan, фаундера Adept - AI агенты для knowledge workers, подняли $400 млн с 2022, были вынуждены продаться Amazon:

- Раньше он был VP of engineering GPT и Dall-e
- Главный миф про AGI - что через 10 лет заберет у нас работу. Да нет, просто будет скачок как от MS-DOS к графическим интерфейсам

Co-pilots
- Это и просто путь захвата рынка новыми игроками, но и наш ангел Scott Belsky (фаундер Behance) говорит: будет collapse of talent - один чел будет играть роль сразу PM/designer/engineer, руля пачкой co-pilots, мы станем более generalists
- У enterprises большие бюджеты на опыты с AI и мы переоцениваем их real adoption щас, но через 10 лет в продакшне будет больше, чем думаем
- AI services компании (помогают внедрять AI в enterprises) будут больше по выручке, чем model providers. Но продуктовые - еще больше

Adept
- Мы не пилим LLM, а в узкой нише агентов кому можно поручить произвольную работу. И тут верим в вертикальную интеграцию начиная от интерфейса end users
- Разница: RPA/Uipath делают много идентичных задач, их внедряют по полгода (меняя процессы) всякие Accenture (главный канал продаж). Агенты же постоянно меняют план как решать задачу. Enterprises юзают RPA и агенты параллельно
- Через 5-10 лет сможем ставить агентам высокоуровневые цели
- Мы как self-driving, когда его еще не было - потенциал даже сложно вообразить

Foundational models, чипы
- LLM сами по себе не продукт. Станут base layer для всего, как в софте EC2 nodes и storage. Nvidia подъедает, идя по value chain, поэтому все cloud providers и LLM игроки пилят свои чипы
- Думаю, будет вертикальная интеграция LLM и чипов. А иначе Google нет смысла продавать TPU, если фора по цене 20% - проще самим тренить и брать выручку с end users
- Альянс Apple и OpenAI двоякий: говорит, что коммодитизация LLM будет, но и еще что Gpt4o с мультимодальностью и OpenAI пока научно далеко впереди. А Apple будет мелкими моделями что-то солвить локально на приватных data юзеров
- У топ LLM сжимается окно набрать нужный объем выручки от end users чтобы остаться независимыми

3 эпохи DL в AI
1. До 2012 в AI и ML пробовали всякое и не работало
2. Google Brain 2012-2018, чистый R&D: собрали всех топ ученых и каждый искал из своего любопытства -> создали transformers, diffusion, оптимизацию - все, что сейчас воспринимают как должное
3. А с 2018 new age - Deepmind поняли, что надо прикладывать ML к разным real world or science problems

Лернинги OpenAI
- Я работал с Ильей, он говорил: давай трансформеры - они же всюду применимы
- OpenAI направлял бездну людей на одну проблему (типа “как управлять рукой робота”), этот подход уже не как в просто academia (там главная цель - статьи). Не пачка мелких ракет, а лунная программа
- 6 лет от transformers к chatGPT - это чтобы end users ну прям оценили. И за год до B2C релиза ChatGPT выкатили API разрабам играться

Ограничения моделей
- Не верю в иссякание performance моделей, просто это логарифмическая кривая: GPT5 заюзает в 100x больше вычислений, чем GPT4. Но закон Мура позволяет
- Но LLM НЕ superhuman, НЕ рождают новые подходы к нерешенным задачам
- Про данные как было? E.g. Учим решать maths - грузим кучу правильных решений, ОК. Но можно встроить модель в блокноты людей, кто только пробует решить, и это бездна data to absorb. Их больше в разговорах и на whiteboards, чем в datasets. Ну и конечно "бесконечный RL пока не решишь" типа AlphaGo

Reasoning
- Reasoning: для меня это способность порождать новые мысли. В отрасли есть идеи как решать, на roadmaps всех LLM игроков, но нужен рисеч
- Кодеры строят что-то конкретное, но в AI ты мало что меняешь, а просто растишь масштаб и наблюдаешь new intelligence. Хотя щас сложнее быть уверенным "натреним модель на $2 млрд, 100% что-то улучшим" =)
- Окно контекста в ML сложно, хотя у Gemini 1 млн токенов, но надо real memory оf long term предпочтений юзеров

Прочее
- Open source оч важен, пусть и с неким лагом из-за роста костов, но так вся отрасль будет поспевать за лидерами
- Регуляторы, к сожалению, ваще не понимают tech
- А паника по AI - это уже совсем глупости