Мой разговор с Ильей Полосухиным, одним из изобретателей трансформеров в LLM и основателем протокола NEAR. Мы говорим об истории изобретения LLM, user-owned ИИ, приватных моделях и пост-AGI экономике.
Смотреть: https://youtu.be/UlFs6RjLBLU
Слушать: https://open.spotify.com/episode/3gduTj8kdnYmJKCg6Tgcwg
Смотреть: https://youtu.be/UlFs6RjLBLU
Слушать: https://open.spotify.com/episode/3gduTj8kdnYmJKCg6Tgcwg
Об объективной реальности
Чтобы принимать более качественные решения важно иметь правильную ментальную модель. И эти модели очень часто страдают. Мир поглощен эпидемией bias’ов, максимализма и популизма. Особенно в интернете. Черное и белое, добро и зло, правые и левые. Людям сложно, лениво и непривычно допускать мысль, что мир может быть сложнее, чем только лишь два его спектра.
Уметь видеть градиент и понимать неодномерность любого явления дает некоторую свободу.
Но для меня лично самая эффективная ментальная модель — это manifold (по-русский это вроде как многообразие). Объясню почему.
В реальности любой опыт познания (у человека или машины) — это градиентный спуск по многомерному манифолду. Каждая итерация, каждый новый бит информации дает вам какое-то знание о мире, которое делает вашу картинку мира чуть-чуть ближе к ближайшему локальному минимуму (синие ямки на картинке). При этом, почти наверняка та модель мира, которую вы выстраиваете не является глобальным минимумом и максимально точной.
По любому вопросу, от науки до политики и бизнес-моделей, нет правильного или неправильного решения. Есть постоянное движение по топологии реальности (экономической, социальной или объективной физической). Эффективность вашего движения определяет умение вами измерять loss (насколько ваша модель хорошо предсказывает реальный мир). Это тривиально в машинном обучении, но про это почти не задумываются люди, даже те, кто стремятся быть «эгспердами по всем вопросам из комментариев».
Почему? Потому что человек эмоционален, ему важно собственное эго и, главное, картина мира, в которой есть только черное, белое и ничего посередине позволяет максимально экономить калории. Зачем расходовать их на нейроактивность, когда можно растить пузо?!
Чтобы принимать более качественные решения важно иметь правильную ментальную модель. И эти модели очень часто страдают. Мир поглощен эпидемией bias’ов, максимализма и популизма. Особенно в интернете. Черное и белое, добро и зло, правые и левые. Людям сложно, лениво и непривычно допускать мысль, что мир может быть сложнее, чем только лишь два его спектра.
Уметь видеть градиент и понимать неодномерность любого явления дает некоторую свободу.
Но для меня лично самая эффективная ментальная модель — это manifold (по-русский это вроде как многообразие). Объясню почему.
В реальности любой опыт познания (у человека или машины) — это градиентный спуск по многомерному манифолду. Каждая итерация, каждый новый бит информации дает вам какое-то знание о мире, которое делает вашу картинку мира чуть-чуть ближе к ближайшему локальному минимуму (синие ямки на картинке). При этом, почти наверняка та модель мира, которую вы выстраиваете не является глобальным минимумом и максимально точной.
По любому вопросу, от науки до политики и бизнес-моделей, нет правильного или неправильного решения. Есть постоянное движение по топологии реальности (экономической, социальной или объективной физической). Эффективность вашего движения определяет умение вами измерять loss (насколько ваша модель хорошо предсказывает реальный мир). Это тривиально в машинном обучении, но про это почти не задумываются люди, даже те, кто стремятся быть «эгспердами по всем вопросам из комментариев».
Почему? Потому что человек эмоционален, ему важно собственное эго и, главное, картина мира, в которой есть только черное, белое и ничего посередине позволяет максимально экономить калории. Зачем расходовать их на нейроактивность, когда можно растить пузо?!
Записи питчей 8 лучших компаний-финалистов нашего акселератора dAGI House.
Все компании строят ИИ продукт: кто-то только начинает, кто-то уже активно растет в выручке. Многие рейзят и нанимают.
Смотреть тут.
Все компании строят ИИ продукт: кто-то только начинает, кто-то уже активно растет в выручке. Многие рейзят и нанимают.
Смотреть тут.
О силе экспоненты
Комедия в двух кадрах.
Первая картинка — предсказания по стоимости киловатт-часа от международного энергетического агентства.
Вторая — предсказания МВФ за каждый год по общей установленной мощности.
Третья — реальность.
Каждое из предсказаний за прошедшие 15 лет говорило о том, что вот-вот выйдем на плато. В реальности, стоимость солнечной энергии упала в 1000 раз и все еще продолжает падать, а скорость установки новых мощностей растет.
Комедия в двух кадрах.
Первая картинка — предсказания по стоимости киловатт-часа от международного энергетического агентства.
Вторая — предсказания МВФ за каждый год по общей установленной мощности.
Третья — реальность.
Каждое из предсказаний за прошедшие 15 лет говорило о том, что вот-вот выйдем на плато. В реальности, стоимость солнечной энергии упала в 1000 раз и все еще продолжает падать, а скорость установки новых мощностей растет.
Forwarded from Ночной Писаревский
Я месяц вайбкодил в режиме Founder Mode и вот, что из этого получилось (ч.2)
Вайбкодить — очень кайфово.
Во-первых, потому что это Deep Work. Это полная противоположность режиму Shallow Work, в котором большую часть времени пребывают менеджеры, прыгая межу созвонами, чатами и емейлами.
Deep Work приносит удовлетворение. В конце дня есть ощущение, что ты реально что-то сделал. Ну и вообще, очень кайфовое чувство, когда создаешь что-то сам (а это ощущается именно как «сам»).
Кроме того, кайфово, что нет лага между «придумал» и «сделал». Раньше надо было долго описывать требования, а потом ждать, пока сделают. Теперь можно придумывать и итерировать по сути на ходу: сделал что-то, понял, что не нравится, попросил сделать по-другому. Всё происходит очень быстро, максимально быстрая обратная связь. Рай для СДВГшника.
Но есть и трудности!
На deep work реально уходит много времени. Приходится реально работать 😅 очень непривычно.
К тому же, очень сложно переключаться между двумя режимами.
Мою работу по Epic Web3 никто не отменял, она составляет не меньше 30% моего времени, иногда 50% и выше.
Но в Epic Web3 я ничего не делаю руками, я как раз в том самом режиме Shallow Work.
Переключаться между режимами — сложно. Один созвон — и всё, контекст потерян, надо заново вспоминать, что ты там напридумывал.
А если разогнался и заработался — сложно остановиться, пока не доделал до какого-то более или менеее законченного этапа. В итоге иногда приходится сидеть ночами 😅
——
В общем, пока не знаю, насколько меня хватит, но пока опыт прикольный, продолжаем
Вайбкодить — очень кайфово.
Во-первых, потому что это Deep Work. Это полная противоположность режиму Shallow Work, в котором большую часть времени пребывают менеджеры, прыгая межу созвонами, чатами и емейлами.
Deep Work приносит удовлетворение. В конце дня есть ощущение, что ты реально что-то сделал. Ну и вообще, очень кайфовое чувство, когда создаешь что-то сам (а это ощущается именно как «сам»).
Кроме того, кайфово, что нет лага между «придумал» и «сделал». Раньше надо было долго описывать требования, а потом ждать, пока сделают. Теперь можно придумывать и итерировать по сути на ходу: сделал что-то, понял, что не нравится, попросил сделать по-другому. Всё происходит очень быстро, максимально быстрая обратная связь. Рай для СДВГшника.
Но есть и трудности!
На deep work реально уходит много времени. Приходится реально работать 😅 очень непривычно.
К тому же, очень сложно переключаться между двумя режимами.
Мою работу по Epic Web3 никто не отменял, она составляет не меньше 30% моего времени, иногда 50% и выше.
Но в Epic Web3 я ничего не делаю руками, я как раз в том самом режиме Shallow Work.
Переключаться между режимами — сложно. Один созвон — и всё, контекст потерян, надо заново вспоминать, что ты там напридумывал.
А если разогнался и заработался — сложно остановиться, пока не доделал до какого-то более или менеее законченного этапа. В итоге иногда приходится сидеть ночами 😅
——
В общем, пока не знаю, насколько меня хватит, но пока опыт прикольный, продолжаем
Знания, навыки, умение, любая информация теперь доступны каждому, бесплатно и из любой точки планеты, на любом языке.
То, что остаётся в дефиците — это, как всегда, дисциплина, целеустремленность, неприемлемость посредственности и последовательное въёбывание до достижения любого результата меньше превосходного.
Это самый редкий в мире актив, а ИИ делает его в 1000 раз ценнее.
То, что остаётся в дефиците — это, как всегда, дисциплина, целеустремленность, неприемлемость посредственности и последовательное въёбывание до достижения любого результата меньше превосходного.
Это самый редкий в мире актив, а ИИ делает его в 1000 раз ценнее.
Media is too big
VIEW IN TELEGRAM
Пришла пора и вам выбирать свою сторону в войне людей и машин
Такого твита мы ждали лет 10.
Киберпанки и понзиномисты проиграли.
SEC разродился встречей и тредом где они максимально шилят дифай. Не мемкоины, не биткоин, а финансовые продукты. Шансов, что они в сколько-нибудь внятном обьеме будут на Солане, Кардане или Тоне — скажем прямо, никаких.
Первые — потому что без ИИ и инструментов принуждения, а лишь на одной криптографии, нельзя создать более эффективную систему саморегуляции. Вторые — продавцы ICO, NFT, альтернативных L1 и мемкоинов — потому что они мошенники, прилипалы и спекулянты.
А дефай-таки победил. Circle стоит $25В, за первый квартал только на эфире произведено $0.9Т переводов стейблами, TVL вырос на 30% за год.
Киберпанки и понзиномисты проиграли.
SEC разродился встречей и тредом где они максимально шилят дифай. Не мемкоины, не биткоин, а финансовые продукты. Шансов, что они в сколько-нибудь внятном обьеме будут на Солане, Кардане или Тоне — скажем прямо, никаких.
Первые — потому что без ИИ и инструментов принуждения, а лишь на одной криптографии, нельзя создать более эффективную систему саморегуляции. Вторые — продавцы ICO, NFT, альтернативных L1 и мемкоинов — потому что они мошенники, прилипалы и спекулянты.
А дефай-таки победил. Circle стоит $25В, за первый квартал только на эфире произведено $0.9Т переводов стейблами, TVL вырос на 30% за год.
Вместо того, чтобы холиварить в комментах, лучше записывайтесь к Мику Вайсману в Wau University - где участники создают собственный портфель AI-продуктов.
На курсе уже созданы:
- AI-финансовые торговые боты
- Умные психологи-ассистенты
- Приложения для аренды квартир
- AI-бота по Аштанга йоге
- SAAS-сервисы для бизнеса.
Мик кроме курса Wau Uni еще замечен как победитель хакатонов EthGlobal (первое место за проект Ai Employees в Сан Франциско), создатель платформы AI-сотрудников WaiWai, студии разработки Trinity Monsters (1 место по версии Ruward в 2023 г) и автор канала @wisemantalks
Чему он вас научит за 6 недель:
- Создать портфель из работающих AI-решений
- Повсеместно использовать Cursor и вайбкодинг
- Запускать MVP с первыми клиентами и разбираться в стартап-методологии
- Применять AI не только для творчества, но и монетизировать его.
Навыки программирования не обязательны.
Формат: лекции по воскресеньям + Q&A по средам + персональные созвоны
Старт: 22 июня в 14:00
Стоимость: 500$
Детали и запись: https://www.wauuni.com/
P.S. Первым десяти, кто найдет 🥚Easter Egg🥚 на сайте — скидка 30%
#реклама
На курсе уже созданы:
- AI-финансовые торговые боты
- Умные психологи-ассистенты
- Приложения для аренды квартир
- AI-бота по Аштанга йоге
- SAAS-сервисы для бизнеса.
Мик кроме курса Wau Uni еще замечен как победитель хакатонов EthGlobal (первое место за проект Ai Employees в Сан Франциско), создатель платформы AI-сотрудников WaiWai, студии разработки Trinity Monsters (1 место по версии Ruward в 2023 г) и автор канала @wisemantalks
Чему он вас научит за 6 недель:
- Создать портфель из работающих AI-решений
- Повсеместно использовать Cursor и вайбкодинг
- Запускать MVP с первыми клиентами и разбираться в стартап-методологии
- Применять AI не только для творчества, но и монетизировать его.
Навыки программирования не обязательны.
Формат: лекции по воскресеньям + Q&A по средам + персональные созвоны
Старт: 22 июня в 14:00
Стоимость: 500$
Детали и запись: https://www.wauuni.com/
P.S. Первым десяти, кто найдет 🥚Easter Egg🥚 на сайте — скидка 30%
#реклама
Больше половины экономической активности в мире уходит не на создание товаров и услуг, а на их обмен. Трансакционные издержки, включают в себя все "непроизводственные" расходы, связанные с координацией, заключением и исполнением сделок: от поиска информации и ведения переговоров до юридического сопровождения, рекламы и контроля за выполнением контрактов. По сути, это все то трение, которое возникает в экономической системе.
По мере развития и усложнения экономики, доля этих координационных издержек неуклонно растет. Работа нобелевского лауреата Дугласа Норта и Джона Уоллиса для экономики США показала рост трансакционного сектора с 25% ВНП в 1870 году до более 45% к 1970 году. А к 2000-м в условиях более сложных и глобализированных рынков она выросла до 65%.
Эти $50-60 триллионов в год — самая большая неэффективность современной экономики, которую можно устранить. Инструменты, такие как программируемые рынки, продуманный дизайн механизмов и искусственный интеллект, позволяют автоматизировать доверие и координацию. Вместо медленных и дорогих человеческих посредников и бюрократии, мы можем создавать саморегулирующиеся системы, где "невидимую руку" рынка заменяет прозрачная и сверхэффективная кибернетическая "алгоритмическая рука".
По мере развития и усложнения экономики, доля этих координационных издержек неуклонно растет. Работа нобелевского лауреата Дугласа Норта и Джона Уоллиса для экономики США показала рост трансакционного сектора с 25% ВНП в 1870 году до более 45% к 1970 году. А к 2000-м в условиях более сложных и глобализированных рынков она выросла до 65%.
Эти $50-60 триллионов в год — самая большая неэффективность современной экономики, которую можно устранить. Инструменты, такие как программируемые рынки, продуманный дизайн механизмов и искусственный интеллект, позволяют автоматизировать доверие и координацию. Вместо медленных и дорогих человеческих посредников и бюрократии, мы можем создавать саморегулирующиеся системы, где "невидимую руку" рынка заменяет прозрачная и сверхэффективная кибернетическая "алгоритмическая рука".
Сэм Альтман опубликовал эссе про сингулярность. Говорит, она началась, получайте удовольствие. Езжайте по экспоненте, но не наебнитесь.
Из интересного, эссе крайне похоже на то, что написал Дарио с супер оптимистичными сроками (с одной стороны, они конкурируют за внимание, с другой — им обоим виднее):
2025 — агенты выполняют когнитивные задачи, код пишется иначе
2026 — появятся системы, генерирующие новые инсайты (в науке, например)
2027 — роботы перейдут к реальным физическим задачам
Еще пишет, что один запрос к GPT стоит примерно 0.34 ватта, то есть пару минут работы обычной лампочки. О какой модели речь - не ясно.
Из интересного, эссе крайне похоже на то, что написал Дарио с супер оптимистичными сроками (с одной стороны, они конкурируют за внимание, с другой — им обоим виднее):
2025 — агенты выполняют когнитивные задачи, код пишется иначе
2026 — появятся системы, генерирующие новые инсайты (в науке, например)
2027 — роботы перейдут к реальным физическим задачам
Еще пишет, что один запрос к GPT стоит примерно 0.34 ватта, то есть пару минут работы обычной лампочки. О какой модели речь - не ясно.
e/acc
Сэм Альтман опубликовал эссе про сингулярность. Говорит, она началась, получайте удовольствие. Езжайте по экспоненте, но не наебнитесь. Из интересного, эссе крайне похоже на то, что написал Дарио с супер оптимистичными сроками (с одной стороны, они конкурируют…
This media is not supported in your browser
VIEW IN TELEGRAM
Эрик Шмит (и Генри Киссинджер) продолжают мысль: ИИ изменит почти все области цивилизации, биологию, физику, экономику, социум.
Естественная но и максимально деструктивная (но только для ее владельца) реакция — игнорировать и думать что ничего не произошло. Мол, тупо хайп.
Есть две опции: принять и попытаться направить, возглавить, использовать изменения или бороться с ними. Первое — сложно, никто не знает верного ответа и нет правил, потому что игра создаётся на наших глазах. Но вторая — неизбежный проигрыш. Это значит самоустраниться, уйти в виртуальную нерелевантность.
Люди не готовы отдавать свои права машинам. Поэтому поджоги Веймо не остановятся. Но в этой борьбе у более отсталой цивилизации нет шансов, как у индейцев против европейцев. Даже если они считают себя морально правыми.
Изменения случатся, с вами или без вас. Но участвуя в них вы можете на них повлиять.
Естественная но и максимально деструктивная (но только для ее владельца) реакция — игнорировать и думать что ничего не произошло. Мол, тупо хайп.
Есть две опции: принять и попытаться направить, возглавить, использовать изменения или бороться с ними. Первое — сложно, никто не знает верного ответа и нет правил, потому что игра создаётся на наших глазах. Но вторая — неизбежный проигрыш. Это значит самоустраниться, уйти в виртуальную нерелевантность.
Люди не готовы отдавать свои права машинам. Поэтому поджоги Веймо не остановятся. Но в этой борьбе у более отсталой цивилизации нет шансов, как у индейцев против европейцев. Даже если они считают себя морально правыми.
Изменения случатся, с вами или без вас. Но участвуя в них вы можете на них повлиять.
Это далеко не первый слух за последние недели о том, что Мета платит от $10M до нескольких десятков миллионов долларов год чистой зарплате (сверху — equity) нанимая в свою ИИ команду. Пишут, Зак персонально договаривается об условиях с лучшими кандидатами.
Зак взялся за вопрос серьезно, а он не из тех, кто сдается.
В этом плане, стартап становится еще более рискованной историей — зачем рисковать 5-10 годами ради непонятного выигрыша (и будет ли он вообще), если можно стабильно получать от 1-2 до нескольких десятков в кеше и бесплатные обеды сверху.
Хотя, практика показывает, что те кто создает стартапы исключительно из денежной мотивации имеют наименьший шанс успеха.
Зак взялся за вопрос серьезно, а он не из тех, кто сдается.
В этом плане, стартап становится еще более рискованной историей — зачем рисковать 5-10 годами ради непонятного выигрыша (и будет ли он вообще), если можно стабильно получать от 1-2 до нескольких десятков в кеше и бесплатные обеды сверху.
Хотя, практика показывает, что те кто создает стартапы исключительно из денежной мотивации имеют наименьший шанс успеха.
Мои друзья из сообщества Шмит16 в партнерстве с Сергеем Солониным строят на Бали в Нуану community-based резорт. В этом месте соберутся предприниматели и талантливые люди, будут проходить мероприятия от разных сообществ, например открытие объекта ожидается с грандиозного mix-community колливинга. Если вы думали про инвестиции на Бали, то это лучшая возможность, это не просто очень хороший объект недвижимости, это вклад в свое окружение в долгосрочной перспективе. По всем вопросам можно писать владельцу проекта @temarind.
#реклама
#реклама
Следующие 3 недели буду в СФ и Долине. Если вы инвестируете, делаете рисерч или стартапы в ИИ — давайте встретимся!
А еще, приходите на нашу бесплатную конфу про влияние ИИ на общество в воскресенье в Напе: https://lu.ma/9kp3ruba?tk=sIDF9i
А еще, приходите на нашу бесплатную конфу про влияние ИИ на общество в воскресенье в Напе: https://lu.ma/9kp3ruba?tk=sIDF9i