Буквально лор современной уфологии, пересказанный в книжке - учёный открывает антигравитацию, но к нему приходят пиджаки и закрывают бедолагу на тюрьме, лишь бы он не проболтался.

https://t.me/zavtracast/26270

К другим новостям - Дональд Трамп тут скатался в подкаст к ютуберу Логану Полу, где обсуждал, в основном, политоту, но Логан его между делом спросил про UAP, в общем, далее цитата:

"Я виделся с пилотами, которые были похожи на тебя, это были красивые люди, не конспирологи, не сумасшедшие, и они рассказывали мне истории, в которые ты никогда бы не поверил.

В общем, говорил я тогда с одним пилотом, он красив был как Том Круз, но повыше ростом и он такой "Сэр, там что-то есть, что круглой формы, а летает в 4 раза быстрее, чем мой истребитель". Я смотрю на всех этих ребят - а они совершенно серьёзно.

Так что скажу так: верю ли я сам? Нет. Не могу сказать, что верю.

Но я виделся с людьми, который весьма серьёзно мне говорят о том, там летают очень непонятные вещи. И если ты поедешь в Неваду, туда, куда все ездят "посмотреть на пришельцев", знаете, я думаю это одно из самых известных мест для туристов, Розуэлл, кажется, так называется, так вот там все в это верят.

Имею ли я доступ к этой информации? Да, но не могу говорить о ней. Со мной даже проводили митинг, на котором, не вдаваясь в подробности, сказали, что "что-то такое есть", это удивляет, особенно когда тебе говорят что эти штуки летают в 4 раза быстрее, чем наши самые быстрые самолёты.

В общем, там есть люди, которые очень-очень умные и очень серьёзные и они строго мне говорят, что "что-то такое есть".

Меня они никогда не убеждали в этом на сто процентов, по странной причине, вера во всё это - не моё, но множество людей верит в это, множество надёжных людей верит в эти заявления.

Есть ли вероятность, что какая-то организация скрывает от меня информацию про пришельцев? Полагаю, это возможно. Есть глубинное государство (deep state), но я не думаю... понимаете, меня спрашивали об этом столько раз, так что я интересовался темой, мне рассказывали о наблюдениях, довольно интересных наблюдениях я бы сказал, но я бы предположил, что вероятность того, что "что-то есть" весьма велика.

И почему бы им не быть, этим "пришельцам", если посмотреть на вселенную, то ты видишь разные планеты, а мы живём лишь на одной относительно маленькой, почему бы на планете в 400 раз более большой, чем наша, не могло бы быть "что-то такое".

Так что для меня это вполне правдоподобно".

Напомню от себя, что ранее про пришельцев говорил Обама, делал он это со смехом, но там тоже была риторика в стиле "ах если бы мы знали что это такое".

Я тут слегка заболел (лечу зубы), так что на канал немного забил, но кидаю всё это в отложку, чтобы писать тогда, когда у меня не болит челюсть.

Так что тут новости одной строкой (расписывать их нет смысла) с моими пометками:

- у Мика Уэста (разоблачителя НЛО, который считал всё это хуйней собачьей и доказывал что все ролики это или блики на камере или фейки или воздушные шарики и тому подобное) обнаружили финансирование от неназванной (возможно, правительственной) организации. Собственно, Уэст сам в этом признался на своём форуме Metabunk, мол да, я беру деньги за то, чтобы опровергать НЛО, а что такое? У уфологов подгорает прилично.

- в Блумберге вышла статья профессора экономики университета Джоржда Мэйсона, Тайлера Кауэна, где тот сводит всю движуху с UAP, к тому что "настоящая конспирология в том, что государство понятия не имеет, что это такое, ах если бы они знали, что это такое".

- Пре-принт статьи в Nature, где объясняется, что ДНК это природный "квантовый компьютер", я толком не вчитывался, может вам интересно будет

- CNN пишет о том, что учёные нашли способ находить Сферы Дайсона (огромные мегаструктуры на орбите звёзд, которые поглощают всю их энергию) и даже есть парочка потенциальных кандидатов на таковые. Идея в том, чтобы искать инфракрасное свечение - из сэмплов в 5 миллионов звёзд отобрали семь штук, где свечение ничем нельзя объяснить, кроме как работой машинерии. Пре-принт статьи опубликован в мае, пока не одобрен.

- Futurism сообщает о том, что вышла научная статья, где объясняется, что на Земле вполне могла быть цивилизацию криптотеррестриалов (скрывающихся от нашей цивилизации), которая развилась до нас.

Минус в том, что:
а) это ресёрчгейт (сайт где любой мудак может опубликовать что угодно)
б) эти ученые из гарварда профессора ФИЛОСОФИИ
в) это просто их теоретические рассуждения, без доказательств
г) спустя неделю эту статью вообще удалили.

- астроном Беллатрис Виллароэль (она участница Sol Foundation Гэри Нолана и присутствовала на конфе в Европарламенте в Брюсселе) напомнила о том, что ещё в 2021 году будучи учёной из SETI, она с коллегами обнаружила, что звёзды пропадают на старых звёздных снимках (снимки были из 1950-х). Они тупо там выключаются, не превращаются в черные дыры, не переходят в сверхновую, а просто сегодня они были, а спустя пару лет - их на снимках нет. Ну и вывод такой, мол, что тогда засняли нихера не звёзды, а что-то другое.

- последняя ссылка на сегодня - статья в The Hill, где пишут, что мол многие ключевые сенаторы США верят в UAP и пришельцев, но на камеру говорят совершенно иное. Плюс, все ругают AARO, за то что они "скрывают".

Снова новости пачкой:

- Ученые из института Макса Планка, физики из Потсдама, и пара математиков написали пре-принт научной статьи о том, что с помощью детектера гравитационных волн можно искать "схлопывание" варп-пузыря от варп-двигателей потенциальных инопланетян. Если мы такое "схлопывание" найдём, то оно-де точно искусственное, а значит инопланетяне в нашей галактике есть, давайте срочно искать. Ну, давайте.

- Профессиональное издание Journal of Air Transport Management, которое выпускается специально для пилотов самолётов, диспетчеров и тому подобных людей, написало в своём 119-м выпуске о том, что UAP добавили в симулятор самолёта Airbus, чтобы тренировать пилотов реагировать на них. Плюс, добавили обманки. В результате 408 пилотов, которые проходили этот тренинг, успешно обманулись. Издание делает неутешительный вывод, что когда пилот настроен на то, чтобы видеть в обычных вещах ненормальщину - он её обязательно увидит. Подробностей немного, сама статья под пейволлом.

- пилот Райян Грейвс (который "Американцы за безопасную авиацию" и который вместе с Дэвидом Грашем выступал в конгрессе, рассказывая про "куб внутри сферы") зачем-то пришёл на телеканал History в шоу Skinwalker Ranch. Если кто не знает, это чистой воды развлекательное шоу, где люди на ранчо ищут инопланетян, да всё никак не найдут. И там вся движуха часто объясняется призраками, полтергейстом и тому подобным бредом. Зачем Грейвс туда пошёл не очень ясно, видимо его позвали местные звёзды, но вообще это немного накладывает на все его официальные заявление отпечаток пиздежа. Обнаружил этот факт опять журналист New York Post Стивен Гринстрит, которого уфологи просто ненавидят лютой ненавистью (он считает абсолютно весь феномен UAP хуйней собачьей ну и в таком духе действует последние два года).

- таблоид Sunday World (желтушный как гепатит) вспомнил о своём интервью с ирландцем Патриком Джексоном (Patrick Jackson), который живёт в Кэмбридже. В общем, в прошлом году, этот самый Патрик утверждал, что UAP это "древняя система защиты планеты", такая оборонная сеть из шариков поменьше, шариков побольше и совсем больших шариков жесть, которые летают в форме треугольника, чтобы "не допустить" и "не пущать" других инопланетных гадов на нашу планету. Сбитые или подобранные людьми шарики это как раз результат этой деятельности. В общем, история Джексона прошла почти незамеченной, если бы в этом году Sunday World не получил комментарий от профессора патологий медицинской школы Стэнфорда, Гарри Нолана (того самого), который подтвердил таблоиду, что "в идеях Джексона много правды и вообще это стоит расследовать".
Сам Джексон придерживается идеи криптотеррестриалов, то есть инопланетян, которые скрываются на Земле от людей (возможно, даже прикидываясь ими), а "оборонная сеть планеты" это чистой воды ИИ-дроны. Также Джексон уверяет, что сферы общаются на частоте 1.6Ghz, что вторит заявлениям людей из того самого шоу Skinwalker Ranch. Молодцы какие все.

Вот и всё на сегодня.

[1/3] Вы наверняка знаете, кто такой Палмер Лаки, но давайте я всё же распишу.

Палмер Лаки это мужик, который основал Oculus VR и сделал первый нормальный консьюмерский VR-шлем Oculus Rift (а также засветился на обложке журнала Time, над которой абсолютно все смеялись в 2015 году). Компанию Oculus VR Лаки продал фейсбуку за пару лярдов долларов (из этого и видения Цукера "все сейчас будут в VR-шлемах сидеть" родилась Meta, запрещённая в РФ, но это вы и так знаете). Палмера Лаки нельзя недооценить, он сделал для VR больше, чем все остальные инженеры его компании - он вывел VR в мейнстрим.

В общем, после своего интернет-позора, Лаки ушёл сначала в политику (задонатив Трампу 10 тысяч баксов, что резко не понравилось лево-либеральной когорте разработчиков, что с ним в тот момент работали), потом в судебные тяжбы с ZeniMax (те считали что он своровал их технологию), а потом и вляпавшись в скандал с Цукербергом (который, судя по материалам The Wall Street Journal, топил за то, чтобы Палмер Лаки публично призвал голосовать за либертарианского кандидата Гэри Джонсона, а Лаки упёрся и топил за Трампа). В общем, Цукер Лаки уволил, а Палмер с ним судился за то чтобы вернутся - но всё дело замяли и разошлись (а Цукер и тогдашний CTO меты Эндрю Босворт вообще писали в твиттере, что мол "мы его уволили не из-за его политических пристрастий", чем тоже разожгли мини-скандальчик на тему "а так ли это на самом деле").

Короче в 2017 Палмер Лаки встал перед выбором - что делать дальше? Он всю жизнь любил видеоигры и компьютеры (однажды даже ремонтировал айфоны чтобы собрать денег на покупку шести мониторов для своего ПК), а VR это для него было делом всей жизни (свой первый VR-шлем он собрал в 16 лет). И тогда он решился и пошёл в дроностроительство и квадрокоптероёбство.

Он основал Anduril Industries, компанию, которая совместно с бывшими военными и участниками компании Palantir (те занимались слежкой и работали совместно с полицией), делала квадрокоптеры и системы распознавания лиц. Причём, госконтракты компания получила моментально.

Спустя всего год, в 2018-м году дроны компании Anduril уже летали над мексиканской границей США и помогали искать наркоторговцев. В 2020-м Anduril заключила контракт с Минобороны США на производство Advanced Battle Management Systems (ABMS), это такая Продвинутая Система Управления Боем, по сути "интернет вещей", но для военных. Данные сенсоров с разных систем поступали в единый центр обработки данных и это создавало общую картину боя для военных. Это произвело большое впечатление на веонных и Anduril заключила миллиардный контракт с SOCOM, а позднее и Австралийским ВМФ на внедрение своих систем датчиков, квадрокоптеров и ПО. А ещё они проектируют ИИ. И, в отличие от новомодных OpenAI, гугла и фейсбука, они проектируют свой ИИ для военных нужд, а не гражданских. Месяц назад Anduril представила свой РЭБ Pulsar, которая управляется нейросетью, а про дрон Roadrunner, который летит на сверхзвуке вы, наверное, и так слышали.

В общем, к чему это я.

Несмотря на то, что Палмер Лаки выглядит и говорит как ебанько (как-то раз он ляпнул, что хотел бы сделать VR-шлем, как в аниме Sword Art Online, в котором если умираешь в игре, то умираешь и в реальной жизни), он достаточно талантливый и продвинутый инженер, просто со странностями.

И его наработки и наработки его компании (что даже более важно) отлично ценятся правительством США и военными. А компания Anduril гораздо более технологически продвинутая, чем Oculus или же фейсбук, потому что стоит буквально на переднем крае науки сенсоров - она их разрабатывает и внедряет.

Вернёмся к нашей теме.

[2/3] Палмер Лаки сходил тут на подкаст ютубера Логана Пола (напомню, что недавно к Полу приходил Трамп). Рекламировал он там свою портативную консоль Chromatic, а обсуждали они, в основном, политику. Но помимо этого, Лаки 10 минут рассуждал на тему того, что же такое UAP и как его Anduril Industries может с этим помочь.

Краткая выдержка такая:

- если UAP наблюдает один человек или один пилот, то "это фигня". UAP надо наблюдать "мультимодальным массивом сенсоров".

- под мультимодальностью Палмер понимает разные виды сенсоров, которые захватывают разные данные. Так, ИК-сенсор захватывает одну часть спектра, тепловизор - другую, ночное видение - третью, звуковой сенсор - это вообще другая модальность и так далее. Показания свидетелей - это только одна из модальностей, но её одну в расчёт брать ни в коем случае не надо.

- по его мнению, потенциальные противники США легко могут "глушить" одну из модальностей, а вот несколько обмануть будет сложно.

- нужно сосредоточится на создание систем, которые захватывают UAP с разных точек зрения и камерами и микрофонами и радарами и всем подряд. Только тогда можно понять, что же такое UAP.

- по его словам, даже Anduril не может сделать такой квадрокоптер, который наблюдали пилоты и нет, UAP это не квадрокоптеры в его понимании.

- сам Палмер считает, что "ответ гораздо сложнее, чем мы думаем" и вообще в этом деле "есть свой плот-твист", проще говоря, он не верит в инопланетян, но охотно допускает, что UAP могут быть:
а) паранормальными явлениями
б) людьми из будущего
в) сущностями из параллельного измерения
г) криптотеррестриалами
д) эхом "echoes" от работающего варп-двигателя (это что-то новенькое)
е) чем-то иным.

- также Палмер считает, что сама концепция "пришельцев" очень тупая, потому что лететь далеко и в целом не очень нужно. Тут я с ним солидарен.

- он приводит пример с книгой "Сфера" Майкла Крайтона (не путать с фильмом, тот по мотивам). В книге нашли невероятно древнюю непонятную сферу в глубине океана, думали это инопланетный корабль, подняли, стёрли с неё грязь, а там флаг США. Как так вышло? Да просто в будущем в США изобрели путешествия во времени, а сферу забросили в далёкое прошлое Земли, вот она и пролежала пару тысяч лет на дне океана.

- "Что мешает UAP быть тем же самым"?, - вопрошает Лаки, - "Типа это правительственные разработки, но из будущего. Ну или криптотеррестриалы".

- при этом, по мнению Лаки, криптотеррестриалами могут быть не только обязательно пришельцы, это могут быть и люди, просто другая ветка развития человечества (не гомо сапиенс сапиенс, а гомо наледис или неандертальцы), поэтому им и скрываться от нас проще. Или это могут быть люди, которые тоже путешественники во времени, которых судьба закинула в прошлое и они всё это время жили среди нас, пытаясь не засветить свои технологии, чтобы не нарушить линию времени. Или это могут быть не люди, а эволюционировавшие другие формы жизни (животные, рыбы, насекомые), короче, объяснений есть вагон и маленькая тележка и сводить всё к банальным "пришельцам" Лаки считает неправильным.

- Палмер Лаки считает, что между побережьем Калифорнии и островом Каталина есть горячая точка UAP Hotspot, только ныряют они там под воду - он читал об этом в одной книжке и верит в то, что такой хотспот и правда есть. Сам он UAP никогда не видел.

[3/3] - что касается правительственного заговора, Палмер Лаки считает, что люди, которые утверждают что UAP существуют (вроде Граша) это люди, которые говорят правду. Идея "а зачем им это нужно, нет ли тут двойной игры" не выдерживает никакой критики - ладно ещё те люди, которые мелькают на камеры или продают книги - они на этом хотя бы зарабатывают. Но зачем про UAP рассказывает какой-нибудь фермер из Мексики, который увидел непонятное? Ему этот разговор не принесёт никакого профита, даже наоборот, местным будут считать ебаньком. Так что фермер, скорее всего, говорит правду. И бывшие военные, вроде Элизондо или Граша, которые говорят про UAP, рискуют своей карьерой и жирной пенсией - зачем им это нужно? В этом нет никакого смысла, так что Палмер Лаки охотно им верит.

- "Большим плюсом для меня, как для человека, который верит в существование UAP, является то, что я работаю в компании, которая делает сенсоры и датчики, которые помогают эти UAP искать", - говорит Лаки.

- "представьте себе гипотетическую ситуацию, если мы сделаем сенсоры, которые позволят видеть UAP постоянно. И ты НИЧЕГО не сможешь с ними сделать. Представьте себе, если они летают вокруг нас постоянно, они везде и всегда рядом с нами, что мы тогда будем делать? Сейчас их видят, в основном, только военные, а если их будут видеть все, по всему миру? И вот ты такой идёшь по улице, над головой пролетела дюжина UAP и ты такой - ну вооот, опять эти штуки. И ты НИЧЕГО не можешь с этим поделать. Думаю плот-твист этой истории будет примерно таким".

- "в UAP мне нравится ощущение загадочности. Если мы узнаем, что это "ну просто пришельцы с Альдебарана" это разрушит для меня магию явления. Так что иногда лучше и не знать всей правды".

В общем, Палмер Лаки меня слегка удивил. А самое смешное в этой истории знаете что? Шурин Палмера Лаки это Мэтт Гейц (Matt Gaetz), политик от штата Флорида. Тот самый, что топил за Дэвида Граша в Конгрессе, спрашивал его обо всём про UAP и вообще живо интересовался темой. Спрашивается, откуда? А вот, оказывается откуда. Не удивлюсь, если они друг с другом это всерьёз обсуждали.

Дайджест пачкой:

- Статья в Scientific American о том, что во всём мире, в совершенно разных средах: земле, воде, воздухе, находят странное грибное ДНК, которое не принадлежит ни к одному виду, а сам вид опознать не удаётся. The Last of Us, впрочем, не происходит, поскольку само биоразнообразие грибов настолько большое, что у учёных до сих пор нет понимания сколько их видов вообще есть, так что вся эта "тёмная грибница", как её в шутку называют, это просто неоткрытые виды. Ну, наверное.

- До учёных дошло, откуда столько "тёмной материи" в космосе (Вселенная состоит из неё и тёмной энергии на 95%). Ну, почти дошло. Авторы исследования в MIT утверждают, что её наличие можно объяснить тем, что в самые первые моменты существования Вселенной из тонн кварков и глюонов образовались миллионы бесконечно малых черных дыр. Их теория заключается в том, что после миллиардов лет после создания Вселенной, излучение Хокинга всё ещё потихоньку эти дыры испаряет и многие даже исчезли, но их всё равно остается очень и очень много. Просто они небольшие - размером с носорога или там астероид. Отсюда и избыточная масса, которую мы называем "тёмной материей".

- Ещё один пейпер, опубликованный в Physic Review, говорит о том, что времени, как фундаментального свойства пространства-времени, в принципе не существует. Время по этой теории - это иллюзия, вызванная квантовыми флуктуациями и квантовой запутанностью. Для внешнего наблюдателя такая вселенная статична. Ну, наверное. Пейпер сейчас проходит ревью, так что я бы особо это этом не задумывался.

- Старенькая статья из 2007 о том, что человечество эволюционировало от обезьян к человеку в тот самый момент, когда начало наблюдать за костром. Наблюдение за огнём (firegazing) привело к медитационным практикам, ритуалам, спиритуализации, поиску дополнительных смыслов и указаний (от "богов", а потом и от "разума"), что привело к расцвету сознания вида. Интересно, но сомнительно.

[1/10] Леопольд Ашенбреннер (Leopold Aschenbrenner), бывший сотрудник OpenAI (той самой организации, которая придумала ChatGPT), уволенный из неё в этом году вместе с Ильей Суцкевером (учёный, который топил за "безопасный ИИ") написал гигантское эссе на тему "Опасности ИИ" и грядущего 2027-го года.

Какая-то добрая душа в твиттере это эссе разобрала по полочкам и мне (и вам тоже) не придётся эту 160-страничную PDF-ку читать.

Ашенбреннеру, если что, 22 года, он молодой и, мягко говоря, совсем не его начальник Илья Суцкевер, как по опыту, так и по образу мыслей, но тоже довольно умный, так что читать это всё интересно.

Стоит только упомянуть, что уволили их со скандалом, опасаясь, что Суцкевер и компания будут вставлять палки в колёса прогресса компании OpenAI, агитируя за "разумный подход к производству ИИ", а ещё там было обвинение в "утечке данных" с их стороны, но подробностей особо нет.

Напомню, что OpenAI сейчас по сути исповедует подход "сначала деньги, а потом исследования", а на исследования AI-alignment (контроль и, грубо говоря, "моральную настройку" ИИ) им, по большому счёту, стало почти наплевать, так что увольнение этих учёных вполне себе нормальное явление для бизнеса.

[2/10] Но, возвращаясь к эссе Ашенбреннера.

- Прогресс в области ИИ:

- По его мнению, прогресс идёт очень быстро. GPT-2, которая отвечала людям на уровне ребёнка, дошла до GPT-4 всего за два года, и отвечает уже на уровне студента или даже профессора по некоторым темам.

- Следующий такой скачок прогресса ожидается в 2027-м году. Этот скачок может принести нам AGI (Artificial general intelligence, Искусственный интеллект общего назначения, его ещё называют "Слабым ИИ").

- Прогресс в области создания ИИ, по мнению Ашенбреннера, сводится к тому, что будет: больше вычислений, улучшения алгоритмов, "разбюрокрачивание" (уменьшением ограниченности моделей).

- Вычисления растут в скоростью ~0.5 порядка величин (orders of magnitude, OOM) в году. Это в три раза быстрее Закона Мура.

- Эффективность алгоритмов тоже растёт со скоростью ~0.5 OOM/год. На это часто не обращают внимания, но это также важно, как и вычисления.

- "Разбюрокрачивание" тяжело оценить, но оно тоже важно. Обучение с подкреплением на основе отзывов людей (RLHF) и подход "цепочка мыслей" (chain-of-thought reasoning) ускоряют модели.

- Ученые наблюдают 5+ порядков величин, которые вычисления получили за последние 4 года. Это ещё один скачок от gpt-2 к gpt-4.

- К 2027 году, мы можем получить модели, которые смогут работать ИИ исследователями и инженерами, а это уже AGI.

- К сожалению у нас заканчиваются данные, на которых можно обучать модели. Это может замедлить прогресс, если мы не найдём способы более эффективно использовать сэмплы данных.

- Даже если прогресс в этой области будет замедлен, создание AGI не займёт десятилетия. Вопрос должен звучать так: "2027 или 2029?" а не "2027 или 2050?".

[3/10] - Изобретение AGI:

- После того, как мы изобретём AGI, прогресс не остановится. Мы быстро получим суперинтеллект ("сильный ИИ", его идея в том, что он гораздо умнее человека).

- Мы сможем запускать миллионы копий систем AGI. Они будут вести автоматические исследования в области AGI.

- Вместо сотни исследователей в лабораториях, мы получим 100+ млн, работающих 24/7. Это позволит упаковать десятилетия прогресса в один год.

- За год мы сможем увидеть 5+ порядков величин эффективности алгоритмов. Это ещё один скачок от gpt-2 к gpt-4, вместе с AGI

- Есть и узкие горлышки, вроде ограниченной мощности вычислений для экспериментов. Но ни одно из них не замедлит прогресс настолько сильно.

- "Сильный ИИ" будет невообразимо мощным. Он будет намного намного умнее людей, а не только быстрее соображать.

- Он сможет решить нерешённые задачи науки, изобрести новые технологии, усилить экономику и военное дело.

- Экономика вырастет на 30% за год. Увеличение всех показателей вдвое за год вполне себе возможно.

- Бум суперинтеллекта и вызванные им последствия, вероятно, станут одним из самых нестабильных периодов в истории человечества.

[4/10] - Стоимость:

- Мы идём прямой дорогой к увеличению стоимости вычислений для ИИ. Кластеры для индивидуального обучения ИИ будут стоит $100+ млрд к 2028 году

- К 2030-му мы увидим кластеры стоимостью в $1+ трлн, требующие 20% всего электричества США

- Инвестиции в ИИ могут достигнуть $1трлн/год к 2027 и $8 трлн/год к 2030

- Выручка от датацентров компании NVIDIA уже превышает $90 млрд/год. Но это только начало

- Капитализация бихтеха также растёт. Microsoft и Google вложат в ИИ по $50млрд+ в 2024 году

- Выручка от ИИ также растёт. OpenAI увеличила показатели с $1млрд до $2млрд всего за 6 месяцев

- Мы увидим, как бигтех компания получит выручку от ИИ в размере $100млрд/год к 2026 году

- Электроэнергия станет главным сдерживающим фактором. Производство электроэнергии в США почти не росло в течение десяти лет.

- США могут решить эту проблему с помощью природного газа. У нас его в избытке, и мы можем быстро нарастить мощности

- Производство микросхем тоже нужно будет масштабировать. TSMC, возможно, придется построить десятки новых заводов по производству чипов стоимостью $20 млрд каждый.

[5/10] - Трудности безопасности:

- Безопасность в ИИ лабораториях оставляет желать лучшего. Мы передаём секреты создания AGI китайцам на блюдечке с голубой каёмочкой.

- Секреты алгоритмов стоят в 10 раз больше, чем вычисления. Они постоянно утекают.

- Важно защищать и "веса" (weight) моделей (это параметры, которые нейронные сети используют для обучения и предсказания. Модели могут быть выложены публично, но без "весов" они почти бесполезны, надо потратить много времени на обучение и настройку "весов"). Их воровство может помочь всем остальным быстро догнать лидера.

- Нам нужен правительственный уровень безопасности для AGI. Частные компании не смогут бороться с государственными угрозами.

- Нужны датацентры, защищённые от внешнего доступа, с экстремальной проверкой, работающие из SCIF (помещениях с уровнем проверки секретности) и так далее.

- Да, это замедлит в каком-то смысле исследования, но это необходимо. Государственные интересы важнее, чем интересы лаборатории по изучении ИИ быть "на переднем крае науки".

- Если мы не исправим это в течении ближайших двух лет, мы скорее всего сольём все наработки в области AGI Китаю.

- Это, возможно, самая важная вещь, которую мы должны сделать сегодня, чтобы внедрение AGI прошло успешно.

[6/10] - Трудности: Проблема контроля искусственного интеллекта (superalignment)

- Контролировать ИИ-системы, которые намного умнее нас, пока нельзя, это нерешённая задача. Сегодняшние техники контроля не смогут с ним совладать.

- Обучение с подкреплением на основе отзывов людей (RLHF) работает прекрасно, но будет опознано суперинтеллектуальными ИИ-системами.

- Нам нужно решить проблему "передачи доверия". Как сделать так, чтобы сверхчеловеческие ИИ делали то, что мы от них хотим?

- Есть несколько перспективных направлений исследований в этой области, таких как "масштабируемый надзор" (scalable oversight) и исследование обобщений (generalization studies).

- Чтобы не отставать от возможностей ИИ в вопросах своего обучения, нам, скорее всего, придется автоматизировать сами исследования по его контролю.

- Скачок в области прогресса сверхинтеллекта сделает эту ситуацию чрезвычайно напряженной. Мы можем перейти от уровня человека к уровню сверхчеловека за несколько месяцев.

- Нам нужны многочисленные уровни защиты, помимо простого контроля и моральных норм, такие как безопасность, мониторинг и целевое ограничение возможностей ИИ.

- Для того чтобы сделать все правильно, потребуется исключительная компетентность и готовность идти на сложные компромиссы.

- Мы не готовы к этому настолько, насколько должны быть готовы. Мы слишком полагаемся на удачу.

[7/10] - Трудности: Свободный Мир должен победить

- Создание "сильного ИИ" даст колоссальное военное преимущество. Это будет как скачок от обычного к ядерному оружию.

- Китай не стоит списывать со счетов. У них есть четкое видение как быть конкурентоспособными.

- Китай скорее всего сможет соперничать с нами в области вычислений. Они уже показали производство 7нм чипов.

- Китай может превзойти нас по добыче энергии. Они увеличили своё производство электроэнергии вдвое за последние десять лет, в то время как США не делали ничего.

- Если мы не улучшим безопасность, Китай сворует секреты наших алгоритмов.

- Авторитарное правительство, получившее в своё распоряжение суперинтеллект будет катастрофой для свободы и демократии.

- Сохранение здорового отрыва в ИИ-гонке имеет решающее значение для безопасности. Если они будут к нам слишком близко, мы столкнёмся с рисками "срезания углов" и тому подобных аварий.

- Нам нужно опережение их на 1-2 года, а не на 1-2 месяца, чтобы иметь запас для обеспечения собственной безопасности.

- США должны рассматривать это как приоритет национальной безопасности. Пока мы не относимся к этому достаточно серьезно.

[8/10] - Проект (The Project):

- Правительство США скорее всего свяжется с разработкой AGI к 2027/2028 годам

- Мы увидим, скорее всего, какой-то "Манхэттенский Проект в области AGI"

- Частные компании не смогут справится с последствиями внедрения суперинтеллекта для национальной безопасности

- Нам нужно участие государства в безопасности, охраны, стабилизации международных отношений и тому подобного

- Это не означает национализацию. Это может быть похоже на отношения между Минообороны и его подрядчиками по созданию и по внедрению AGI.

- Конгрессу, скорее всего, придется выделить триллионы на чипы и на развитие энергетики.

- Вероятно, будет создана коалиция демократических стран для совместного развития суперинтеллекта.

- Прикладное применение этой технологии будет процветать, подобно тому, как ядерная энергия последовала за ядерным оружием.

- Основная команда исследователей AGI, вероятно, переедет в скрытое безопасное место к 2027 году. Кластер для обучения AGI стоимостью триллион долларов будет строиться с рекордной скоростью.