Главное чтиво дня - переписка основателей OpenAI в период 2015 - 2019 годов. Обнародована в связи с делом, которое сейчас идет в суде.
https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-email-archives-from-musk-v-altman
Там представлены не все имейлы, но многие. Тред по ссылке может дополняться.
https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-email-archives-from-musk-v-altman
Там представлены не все имейлы, но многие. Тред по ссылке может дополняться.
Lesswrong
OpenAI Email Archives (from Musk v. Altman and OpenAI blog) — LessWrong
As part of the court case between Elon Musk and Sam Altman, a substantial number of emails between Elon, Sam Altman, Ilya Sutskever, and Greg Brockma…
Forwarded from Blockchain & DeFi Hardcore
Пятый окружной апелляционный суд США признал санкции Министерства финансов США против Tornado Cash незаконными. Это историческая победа для криптоиндустрии и свободы во всем мире.
Что это означает?
1/ Исключение из санкционного списка
Протокол Tornado Cash и его смарт-контракты будут исключены из санкционного списка, что позволит американским пользователям снова пользоваться протоколом для сохранения конфиденциальности транзакций.
2/ Восстановление доступа
Пользователи, ранее заблокированные из-за санкций, возможно, смогут вернуть доступ к платформам. Например, OpenSea, возможно, разблокирует аккаунты спустя два года.
3/ Юридическая защита протоколов
Суд уточнил, что контракты Tornado Cash, будучи открытым исходным кодом и неизменяемыми, не могут быть "собственностью" каких-либо субъектов (например, иностранных национальных организаций). Следовательно, они не подлежат санкциям.
Итог: OFAC превысил свои полномочия, установленные Конгрессом.
Сам документ и скрины можно глянуть в Х у Баладжи https://x.com/balajis/status/1861662212886274190
Можно ли теперь пользоваться Tornado Cash — ХЗ (и это не икс3) !?
Please open Telegram to view this post
VIEW IN TELEGRAM
За гуглом конечно надо перепроверять, но это мощно.
https://blog.google/technology/research/google-willow-quantum-chip/
https://blog.google/technology/research/google-willow-quantum-chip/
Как измерить уровень развития цивилизации?
В 1964 году советский астрофизик Николай Кардашёв предложил элегантную шкалу – по количеству энергии, которую цивилизация способна использовать.
Тип I: цивилизация способна использовать всю энергию, достигающую своей планеты от звезды – для Земли это порядка 10^16 - 10^17 ватт.
Тип II: цивилизация освоила всю энергию своей звезды – для Солнца это порядка 10^26 ватт (на десять порядков больше, чем получает Земля). На этом уровне возможно строительство сферы Дайсона – гигантской конструкции вокруг звезды для сбора всей её энергии.
Тип III: цивилизация контролирует энергию целой галактики – порядка 10^36 ватт для Млечного Пути.
Где мы сейчас? По данным BP Statistical Review за 2022 год, человечество потребляет около 19.1 тераватт (1.91×10^13 ватт).
Карл Саган предложил формулу для измерения прогресса цивилизации:
K = (log₁₀ P - 6) / 10, где P – потребляемая энергия в ваттах.
По этой формуле цивилизация Типа I имеет значение 1.0, Типа II – 2.0, а Типа III – 3.0. Человечество сейчас находится на уровне 0.73 – то есть мы прошли почти три четверти пути до Типа I по логарифмической шкале. Однако в абсолютных числах картина другая – нам нужно увеличить энергопотребление почти в 10 тыс. раз, чтобы достичь уровня Типа I.
В 1964 году советский астрофизик Николай Кардашёв предложил элегантную шкалу – по количеству энергии, которую цивилизация способна использовать.
Тип I: цивилизация способна использовать всю энергию, достигающую своей планеты от звезды – для Земли это порядка 10^16 - 10^17 ватт.
Тип II: цивилизация освоила всю энергию своей звезды – для Солнца это порядка 10^26 ватт (на десять порядков больше, чем получает Земля). На этом уровне возможно строительство сферы Дайсона – гигантской конструкции вокруг звезды для сбора всей её энергии.
Тип III: цивилизация контролирует энергию целой галактики – порядка 10^36 ватт для Млечного Пути.
Где мы сейчас? По данным BP Statistical Review за 2022 год, человечество потребляет около 19.1 тераватт (1.91×10^13 ватт).
Карл Саган предложил формулу для измерения прогресса цивилизации:
K = (log₁₀ P - 6) / 10, где P – потребляемая энергия в ваттах.
По этой формуле цивилизация Типа I имеет значение 1.0, Типа II – 2.0, а Типа III – 3.0. Человечество сейчас находится на уровне 0.73 – то есть мы прошли почти три четверти пути до Типа I по логарифмической шкале. Однако в абсолютных числах картина другая – нам нужно увеличить энергопотребление почти в 10 тыс. раз, чтобы достичь уровня Типа I.
Forwarded from эйай ньюз
Из всего что релизнул гугл с Gemini 2.0, самое впечатляющее - демка их streaming API. Gemini теперь в риалтайме понимает одновременно и аудио и видео - как с камеры, так и стрим экрана. К тому же может отвечать голосом (пусть и с помощью TTS).
Такого вау-эффекта от новых возможностей нейронок у меня не было, пожалуй, с релиза advanced voice mode, всем советую попробовать. Можно ненадолго почувствовать себя как в фантастике, пока это не стало обыденностью. Доступно бесплатно, но нужен VPN.
https://aistudio.google.com/live
@ai_newz
Такого вау-эффекта от новых возможностей нейронок у меня не было, пожалуй, с релиза advanced voice mode, всем советую попробовать. Можно ненадолго почувствовать себя как в фантастике, пока это не стало обыденностью. Доступно бесплатно, но нужен VPN.
https://aistudio.google.com/live
@ai_newz
Технодинамизм
Главное чтиво дня - переписка основателей OpenAI в период 2015 - 2019 годов. Обнародована в связи с делом, которое сейчас идет в суде. https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-email-archives-from-musk-v-altman Там представлены не все имейлы…
В продолжение этой горячей темы OpenAI сегодня выпускает материал, опровергающий многие из утверждений Маска, по крайней мере на это нацеленный.
https://openai.com/index/elon-musk-wanted-an-openai-for-profit/
https://openai.com/index/elon-musk-wanted-an-openai-for-profit/
OpenAI
Elon Musk wanted an OpenAI for-profit
Elon Musk’s latest legal filing against OpenAI marks his fourth attempt in less than a year to reframe his claims. However, his own words and actions speak for themselves—in 2017, Elon not only wanted, but actually created, a for-profit as OpenAI’s proposed…
Forwarded from эйай ньюз
o3 и o3-mini - разрыв бенчмарков
Это ещё не AGI, но точно SOTA на всём что только можно. Стоимость тоже гигантская - на решение одного единственного таска могут уйти тысячи долларов.
🎓 SOTA результаты по Frontier Math выросли с 2% до 25%.
💻 На SWE-Bench модель набрала 71,7%. Чтобы вы понимали, в этом году стартап смог поднять 200 миллионов долларов с результатами 13,86%.
👨💻 ELO на Codeforces - 2727, в мире всего у 150 человек больше ELO.
🔥На ARC-AGI модель набрала 87,5%, бенчмарк пять лет не могли покорить. Авторы уже партнёрятся с OpenAI чтобы создать вторую версию бенча.
👨🎓 На GPQA и AIME тоже очень хороший прогресс.
Сегодня дают доступ ресёрчерам безопасности к o3-mini, простым смертным доступ к o3-mini дадут в конце января, к o3 чуть позже.
@ai_newz
Это ещё не AGI, но точно SOTA на всём что только можно. Стоимость тоже гигантская - на решение одного единственного таска могут уйти тысячи долларов.
🎓 SOTA результаты по Frontier Math выросли с 2% до 25%.
💻 На SWE-Bench модель набрала 71,7%. Чтобы вы понимали, в этом году стартап смог поднять 200 миллионов долларов с результатами 13,86%.
👨💻 ELO на Codeforces - 2727, в мире всего у 150 человек больше ELO.
🔥На ARC-AGI модель набрала 87,5%, бенчмарк пять лет не могли покорить. Авторы уже партнёрятся с OpenAI чтобы создать вторую версию бенча.
👨🎓 На GPQA и AIME тоже очень хороший прогресс.
Сегодня дают доступ ресёрчерам безопасности к o3-mini, простым смертным доступ к o3-mini дадут в конце января, к o3 чуть позже.
@ai_newz
Только добрался до недавней презентации Ильи Суцкевера на последнем NIPS.
Идейно ничего нового, но как ретро на прошедние 10 лет в истории диплернинга, он человека, который во многом формировал это поле исследований, это определенно заслуживает внимания.
Сама презентация занимание всего 16 минут.
https://www.youtube.com/watch?v=1yvBqasHLZs&t=460s
Идейно ничего нового, но как ретро на прошедние 10 лет в истории диплернинга, он человека, который во многом формировал это поле исследований, это определенно заслуживает внимания.
Сама презентация занимание всего 16 минут.
https://www.youtube.com/watch?v=1yvBqasHLZs&t=460s
YouTube
Ilya Sutskever: "Sequence to sequence learning with neural networks: what a decade"
Ilya Sutskever full talk "Sequence to sequence learning with neural networks: what a decade" at NeurIPS 2024 in Vancouver, Canada.
"Pre-training as we know it will end" and what comes next is superintelligence: agentic, reasons, understands and is self aware.…
"Pre-training as we know it will end" and what comes next is superintelligence: agentic, reasons, understands and is self aware.…
Отличный ютуб-канал с визуализацией многих технологических процессов, например, таких как работает GPU.
https://www.youtube.com/watch?v=h9Z4oGN89MU
https://www.youtube.com/watch?v=h9Z4oGN89MU
YouTube
How do Graphics Cards Work? Exploring GPU Architecture
Interested in working with Micron to make cutting-edge memory chips? Work at Micron: https://bit.ly/micron-careers
Learn more about Micron's Graphic Memory! Explore Here: https://bit.ly/micron-graphic-memory
Curious about AI memory and HBM3E? Take a…
Learn more about Micron's Graphic Memory! Explore Here: https://bit.ly/micron-graphic-memory
Curious about AI memory and HBM3E? Take a…
Будет ли AGI последним большим творением человечества? И является ли биологическая жизнь всего лишь этапом эволюции на пути к созданию цифровой жизни?
О рыночной капитализации Tesla (часть 1)
Рыночная оценка Tesla составляет около 1,2 трлн долларов. Мне стало любопытно — исходя из некоторых верхнеуровневых фундаментальных оценок — насколько эта цифра реалистична, учитывая амбиции компании. Основной текущий бизнес Tesla — автомобили, но у компании также есть три других потенциально крупных направления, которые аналитики часто учитывают: энергетический бизнес, сервис райдшеринга (в перспективе на базе автономных автомобилей) и роботы.
Автомобили
В мире около 1,6 млрд автомобилей.
Каждый год продаётся примерно 80–90 млн новых машин.
Ежегодные продажи некоторых производителей:
Toyota: ~10 млн автомобилей (1-е место)
Volkswagen: ~9 млн (2-е место)
Hyundai–Kia: ~8 млн (3-е место)
BYD: ~4 млн
Tesla: ~2 млн
В настоящее время Tesla занимает примерно 11–14-е место среди крупнейших автопроизводителей по объёму выпуска. Ближайший конкурент в сфере электромобилей — компания BYD, которая продаёт более 4 млн автомобилей в год (включая примерно столько же электромобилей, сколько и Tesla), но при этом её оценка — около 100 млрд долларов. (Да, у BYD меньше маржа с каждой машины, но пока оставим это в стороне.) Для сравнения, рыночная капитализация Toyota — около 300 млрд долларов.
Я не верю, что в долгосрочной перспективе какой-либо автопроизводитель сможет сохранять кардинально другую маржу по сравнению с конкурентами, ведь рынок очень конкурентный. Поэтому выглядит разумным предположить, что Tesla со временем придёт к марже на уровне других массовых производителей. Если бы Tesla стала крупнейшим производителем — как Toyota, продавая примерно 10 млн автомобилей в год (около 10–12% доли рынка), — то в текущих ценах капитализация её автомобильного бизнеса могла бы составить порядка 300 млрд долларов, по аналогии с Toyota.
Энергетический бизнес
Это самая сложная часть бизнеса Tesla для оценки, поскольку выход на рынок энергетики фактически означает конкуренцию с огромным пластом индустрий. Я воспользуюсь очень простой аналогией: ExxonMobil. У Exxon есть сегмент Upstream (разведка и добыча нефти и газа) и сегмент Downstream (переработка, дистрибуция и розничная продажа топлива, включая заправки). Для нас более релевантен Downstream, ведь Tesla пока не производит значимого объёма энергии в глобальном масштабе (солнечная энергия всё ещё мала), но распространяет энергетические продукты (зарядка, батареи и т. д.).
Признаю, что это грубое сопоставление — лишь для верхнеуровневой проверки. Согласно открытым данным, сегмент Downstream приносит Exxon около 30% от общего дохода компании. Общая рыночная капитализация Exxon — около 470 млрд долларов, следовательно, доля Downstream может оцениваться примерно в 150 млрд долларов. Предположим, что энергетический бизнес Tesla со временем сможет достичь такого же масштаба и заменить нефть электричеством. Тогда, в сегодняшних ценах, энергетическое направление Tesla могло бы стоить около 150 млрд долларов.
Рыночная оценка Tesla составляет около 1,2 трлн долларов. Мне стало любопытно — исходя из некоторых верхнеуровневых фундаментальных оценок — насколько эта цифра реалистична, учитывая амбиции компании. Основной текущий бизнес Tesla — автомобили, но у компании также есть три других потенциально крупных направления, которые аналитики часто учитывают: энергетический бизнес, сервис райдшеринга (в перспективе на базе автономных автомобилей) и роботы.
Автомобили
В мире около 1,6 млрд автомобилей.
Каждый год продаётся примерно 80–90 млн новых машин.
Ежегодные продажи некоторых производителей:
Toyota: ~10 млн автомобилей (1-е место)
Volkswagen: ~9 млн (2-е место)
Hyundai–Kia: ~8 млн (3-е место)
BYD: ~4 млн
Tesla: ~2 млн
В настоящее время Tesla занимает примерно 11–14-е место среди крупнейших автопроизводителей по объёму выпуска. Ближайший конкурент в сфере электромобилей — компания BYD, которая продаёт более 4 млн автомобилей в год (включая примерно столько же электромобилей, сколько и Tesla), но при этом её оценка — около 100 млрд долларов. (Да, у BYD меньше маржа с каждой машины, но пока оставим это в стороне.) Для сравнения, рыночная капитализация Toyota — около 300 млрд долларов.
Я не верю, что в долгосрочной перспективе какой-либо автопроизводитель сможет сохранять кардинально другую маржу по сравнению с конкурентами, ведь рынок очень конкурентный. Поэтому выглядит разумным предположить, что Tesla со временем придёт к марже на уровне других массовых производителей. Если бы Tesla стала крупнейшим производителем — как Toyota, продавая примерно 10 млн автомобилей в год (около 10–12% доли рынка), — то в текущих ценах капитализация её автомобильного бизнеса могла бы составить порядка 300 млрд долларов, по аналогии с Toyota.
Энергетический бизнес
Это самая сложная часть бизнеса Tesla для оценки, поскольку выход на рынок энергетики фактически означает конкуренцию с огромным пластом индустрий. Я воспользуюсь очень простой аналогией: ExxonMobil. У Exxon есть сегмент Upstream (разведка и добыча нефти и газа) и сегмент Downstream (переработка, дистрибуция и розничная продажа топлива, включая заправки). Для нас более релевантен Downstream, ведь Tesla пока не производит значимого объёма энергии в глобальном масштабе (солнечная энергия всё ещё мала), но распространяет энергетические продукты (зарядка, батареи и т. д.).
Признаю, что это грубое сопоставление — лишь для верхнеуровневой проверки. Согласно открытым данным, сегмент Downstream приносит Exxon около 30% от общего дохода компании. Общая рыночная капитализация Exxon — около 470 млрд долларов, следовательно, доля Downstream может оцениваться примерно в 150 млрд долларов. Предположим, что энергетический бизнес Tesla со временем сможет достичь такого же масштаба и заменить нефть электричеством. Тогда, в сегодняшних ценах, энергетическое направление Tesla могло бы стоить около 150 млрд долларов.
О рыночной капитализации Tesla (часть 2)
Райдшеринг
Здесь всё проще. Рыночная капитализация Uber — около 150 млрд долларов. Допустим, Tesla с её автономными автомобилями смогла бы «уничтожить Uber» и полностью занять этот рынок. Это могло бы прибавить ещё 150 млрд долларов к капитализации Tesla.
Роботы
Это самая интересная часть. Теоретически, долгосрочная цена человекоподобного робота может быть сопоставима со стоимостью небольшого автомобиля (учитывая затраты на материалы) — скажем, около 20 000 долларов. Если так, то нет фундаментальных причин, почему роботов будут покупать больше, чем машин (при условии, что функциональность роботов будет достаточной). Это наводит на мысль, что можно взять за ориентир нынешний автопарк (1,6 млрд машин).
Посмотрите, как персональные компьютеры за ~30 лет достигли уровня в 80% проникновения. У роботов процесс может идти медленнее, ведь они дороже компьютеров. Но если предположить, что на массовое внедрение уйдёт 30 лет, а ежегодная доля замены при этом — 10%, то в период активного внедрения это около 100 млн новых роботов в год. Если Tesla может занять большую долю рынка в 30% — то есть около 30 млн штук в год, — это превысит текущие годовые продажи Toyota. Рыночная капитализация Toyota составляет около 300 млрд долларов за 10 млн продаваемых машин, значит, по аналогии, робототехнический бизнес Tesla мог бы обеспечить оценку в 900 млрд долларов.
Итог
Автомобили: 300 млрд долларов
Энергетика: 150 млрд долларов
Райдшеринг: 150 млрд долларов
Роботы: 900 млрд долларов
В сумме получается около 1,5 трлн долларов. С учётом уже довольно оптимистичных допущений и при условии 100%-й успешности в достижении столь амбициозных целей, такая сумма оправдывает текущую оценку Tesla в 1,2 трлн долларов. Однако это крайне оптимистичный сценарий. Реалистичнее кажется, что итоговая цифра должна быть как минимум в два-три раза меньше.
Какие фундаментальные факторы я могу упускать из виду?
Райдшеринг
Здесь всё проще. Рыночная капитализация Uber — около 150 млрд долларов. Допустим, Tesla с её автономными автомобилями смогла бы «уничтожить Uber» и полностью занять этот рынок. Это могло бы прибавить ещё 150 млрд долларов к капитализации Tesla.
Роботы
Это самая интересная часть. Теоретически, долгосрочная цена человекоподобного робота может быть сопоставима со стоимостью небольшого автомобиля (учитывая затраты на материалы) — скажем, около 20 000 долларов. Если так, то нет фундаментальных причин, почему роботов будут покупать больше, чем машин (при условии, что функциональность роботов будет достаточной). Это наводит на мысль, что можно взять за ориентир нынешний автопарк (1,6 млрд машин).
Посмотрите, как персональные компьютеры за ~30 лет достигли уровня в 80% проникновения. У роботов процесс может идти медленнее, ведь они дороже компьютеров. Но если предположить, что на массовое внедрение уйдёт 30 лет, а ежегодная доля замены при этом — 10%, то в период активного внедрения это около 100 млн новых роботов в год. Если Tesla может занять большую долю рынка в 30% — то есть около 30 млн штук в год, — это превысит текущие годовые продажи Toyota. Рыночная капитализация Toyota составляет около 300 млрд долларов за 10 млн продаваемых машин, значит, по аналогии, робототехнический бизнес Tesla мог бы обеспечить оценку в 900 млрд долларов.
Итог
Автомобили: 300 млрд долларов
Энергетика: 150 млрд долларов
Райдшеринг: 150 млрд долларов
Роботы: 900 млрд долларов
В сумме получается около 1,5 трлн долларов. С учётом уже довольно оптимистичных допущений и при условии 100%-й успешности в достижении столь амбициозных целей, такая сумма оправдывает текущую оценку Tesla в 1,2 трлн долларов. Однако это крайне оптимистичный сценарий. Реалистичнее кажется, что итоговая цифра должна быть как минимум в два-три раза меньше.
Какие фундаментальные факторы я могу упускать из виду?