Очень многие уважаемые люди присоединились к призывам остановить разработки новейших нейросетей, пока не будут выработаны жесткие стандарты безопасности в этой сфере. Илон Маск, Стив Возняк, Тристан Харрис (главный в мире эксперт по digital well-being), разные инженеры из компаний Долины (включая ФБ и Гугл). Только вот сотрудников Open AI в этом списке нет.

Огромные деньги (а здесь на кону триллионы) приводят к изменению мышления — всё как проповедуют коучи осознанности и прочие «наставники экспертов». Только вот в нашем случае, увы, мышление изменяется в сторону меньшего беспокойства о рисках и больше — о прибылях.

https://techcrunch.com/2023/03/28/1100-notable-signatories-just-signed-an-open-letter-asking-all-ai-labs-to-immediately-pause-for-at-least-6-months/

#ИИ_мастрид

Новый выпуск шоу «Книжный чел»!
Вместе с филологом, лауреатом премии "Просветитель" Александром Пиперски целый час пытаемся не использовать заимствованные слова. Спойлер: это практически невозможно.

Как правильно — крИнжа или кринжА? Что делать с новым законом о защите русского языка? А как с этим на Западе? Кто круче — филологи и нейросети? Как работает ChatGPT с точки зрения компьютерной лингвистики?

Маствотч: https://youtu.be/bu1-omo296s

#книжный_чел

Элиезер Юдковский, один из самых уважаемых в мире экспертов по безопасности ИИ, разразился программным мастридом: https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/. Если коротко — он считает, что предложенный во вчерашнем открытом письме 6-месячный мораторий на ИИ-разработки нам не поможет, нужны более радикальные меры, иначе всё будет очень грустно.

Перевёл для вас несколько ключевых цитат.

«Я воздержался от подписания письма, потому что оно преуменьшает серьёзность ситуации и предлагает слишком мало мер для её решения...

Многие исследователи, глубоко погруженные в эту тему (включая меня), ожидают, что самый вероятный результат появления сверхумного ИИ при текущих условиях — смерть буквально всех на планете Земля. Не «возможно, есть небольшой шанс», а «это очевидное последствие, которое нас ожидает».

Дело не в том, что невозможно, в принципе, пережить появление создания намного умнее нас (это не так). Дело в том, что потребуется филигранная точность, подготовка и новые научные инсайты…

Наиболее вероятный сценарий таков: ИИ делает не то, что мы хотим, и его вообще не заботим ни мы, ни даже существование каких-либо разумных форм жизни. В принципе, такую заботу можно было бы заложить в ИИ, но мы пока не знаем, как это сделать, мы не готовы.

Без такой заботы, мы получим сценарий «ИИ не любит тебя и не ненавидит тебя, просто ты сделан из атомов, которые ИИ может использовать для других целей»…

Чтобы представить враждебный сверх-ИИ, не нужно визуализировать безжизненного книжного мудреца, который обитает в интернете и рассылает злонамеренные имэйлы. Представьте целую инопланетную цивилизацию, которая мыслит в миллионы раз быстрее человека, изначально обитающую в компьютерах, в мире, другие жители которого непростительно глупы и медленны. Достаточно умный ИИ не будет долго влачить существование внутри компьютеров. Уже сегодня можно отправить имэйл с описанием разных цепочек ДНК в лаборатории, которые по твоему запросу произведут для тебя белки, что позволит ИИ, изначально ограниченному интернет-пространством, произвести собственные искусственные формы жизни или сразу перескочить этот этап и перейти к постбиологическому молекулярному производству.

Если кто-то создаст сверхмощный ИИ, в текущих условиях я ожидаю того, что каждый человек и все биологические формы жизни на Земле вскоре умрут.

Не существует никакого предлагаемого плана действий и плана нашего выживания на этот случай. OpenAI открыто предлагает заставить какой-нибудь ИИ будущего составить этот план вместо нас. Как только вы слышите, что это и есть план, этого уже достаточная причина начать паниковать для любого разумного человека. У другой ведущей лаборатории ИИ, DeepMind, вообще нет никакого плана».

Дальше Юдковский описывает свои предложения по глобальному ограничению разработок в сфере ИИ, но они, конечно, слишком радикальны, и никто его опять не послушает. Поводов для оптимизма немного.

Если хотите, чтобы я сделал ролик в продолжение темы, поставьте любой эмодзи под этим постом!

#ИИ_мастрид

Около года назад (ещё до релиза ChatGPT — тогда топовой нейросетью была GPT-3) я делился программным текстом Юдковского под названием AGI Ruin, пришло время напомнить о нём. Это огромный мастрид, в котором автор суммировал свои годами наработанные тезисы про риски появления недружественного человечеству ИИ: lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities

Почему не получится просто натренировать нейросеть не причинять вред человеку или запрограммировать соблюдение законов Азимова о том, что робот должен подчиняться человеческим приказам? Почему у человечества на самом деле осталось не так много времени, чтобы решить проблему безопасности ИИ, и почему «второй попытки» не будет, если мы не успеем решить эту проблему до появления сверхмощного ИИ? Почему нельзя рассчитывать на то, что мы просто продолжим создавать специализированные ИИ, которые обыгрывают людей в шахматы или рисуют картинки, но которые не будут способны уничтожить мир? И многие другие вопросы.

Текст написан непростым языком, много технических деталей. Но, думаю, его будет полезно прочесть всем. Особенно тем, кто пишет критические комментарии под моими роликами на тему о том, что это всё выдумки и что серьёзных аргументов нет.

Кстати, днях Юдковский пришел на подкаст к Лексу Фридману (мой любимый англоязычный подкастер, рекомендую). Лекс тоже эксперт по ИИ, поэтому любопытно было посмотреть на их трёхчасовой диалог по теме, рекомендую: https://youtu.be/AaTRHFaaPG8. Надеюсь, у меня тоже получится сделать выпуск с Элиезером.

#ИИ_мастрид

Съездил на днях в Аланию, чтобы посмотреть разные виллы и квартиры и сделать ролик о рынке недвижимости в Турции, Дубае, Тае и на Бали. Пообщался для этого с экспертом из индустрии Вячеславом Фоменко.

Посмотрите новый ролик, чтобы узнать, куплю ли я виллу в Турции за крипту!

Оставить заявку на консультацию по рынку зарубежной недвижимости

Телеграм-канал об актуальных объектах и предложениях на рынке недвижимости

Ютюб-канал о недвижимости и жизни в Турции и других странах

Михаил Шац в «Терминальном чтиве»!

Цензура шуток на ТНТ, изучение иврита, биохакинг (Михаил ещё и врач), планирование в эмиграции, разборки с Майком Тайсоном и много других интересных тем.

Не пропустите: https://youtu.be/reaO8itrv5A

Если неудобно смотреть видео, слушайте подкаст в аудио на всех подкастинговых площадках (ссылки — ниже) либо прямо здесь, в телеграме (аудиофайл — ниже).

#терминальное_чтиво

Вышел русский перевод статьи Юдковского для журнала Time, о которой я писал на прошлой неделе (про ограничение разработок ИИ для спасения человечества). Всем, кому сложно читать на английском, рекомендую на русском.

Ссылка

#ИИ_мастриды

Архитектор из викторианской Британии Дэниел Бёрнем — автор замечательной цитаты:

“Make no little plans. They have no magic to stir men’s blood.” 

«Не стройте маленьких планов. В них нет магии, будоражащей кровь людей».

Глава OpenAI и основатель Y Combinator Сэм Альтман любит эту цитату и руководствуется ей, вкладывая свое время и деньги только в действительно грандиозные проекты. Про OpenAI и ChatGPT вы уже знаете, но недавно выяснилось, что Сэм инвестировал почти все заработанные деньги в новый стартап, борющийся со старением, а ещё в компании из сферы возобновляемой энергетики. Здесь можно прочесть подробнее про них (исследования в сфере переливаний крови молодых животных старым мы, кстати, не раз упоминали на подкастах): https://www.technologyreview.com/2023/03/08/1069523/sam-altman-investment-180-million-retro-biosciences-longevity-death/

Советую запомнить этот пример всем, кто ещё не определился с карьерой или нишей для своего бизнеса. Практически все сверхуспешные предприниматели, с которыми я знаком, наперебой говорили мне: чтобы построить скромный малый бизнес и чтобы построить успешный революционный мегапроект, предпринимателю нужно потратить примерно сравнимое количество нервов и времени, а выхлоп кратно различается. Выходит, что лучше строить big plans и метить выше.

Если вы думаете о выборе сферы, в которой хотите работать или строить бизнес, выбирайте не вариант «ну, вроде норм», а вариант, который вас безумно вдохновляет и заставляет сердце биться чаще. Возможно, в эту сферу будет сложнее попасть, зато долгосрочный КПД ваших усилий и уровень вашего счастья точно будут выше.

Вспоминается ещё один мастрид в тему — старый текст Марка Мэнсона Fuck Yes or No. Главная идея: вы не должны принимать никакие важные жизненные решения, если не испытываете по отношению к ним ощущение ”Fuck Yes” (восторженный энтузиазм). Практически универсальный принцип: https://t.me/mustreads/1524

#стартап_мастрид #трансгуманист_мастрид

Сходил в гости на подкаст «Олег, где макет?» и рассказал много о внутренней кухне своих проектов. Сколько людей в моей команде, как я планирую продвигаться в китайском тиктоке, как и на каких платформах эффективнее всего набирать аудиторию без вложений, как строится мой рабочий процесс и многое другое.

Послушать можно на любой основной подкаст-платформе, продолжительность — около часа: https://taplink.cc/maketpodcast. Особенно советую всем, кто думает о развитии своего блога и личного бренда или уже этим занимается.

Мы сняли документальный фильм.

Съемки проходили по всему миру. Нью-Йорк, Сингапур, Москва, Ереван, Каш, Олюдениз.
Гости — мощнейшие. Увидите их в трейлере.

Фильм выходит завтра, это маствотч! А пока, пожалуйста, посмотрите трейлер и поддержите лайком и комментарием: https://youtu.be/A0vCoaKbM9I

У нас с друзьями и соратниками по творческому объединению ФАБУМА ГЭНГ Фарсайтом @prostopushka и Федей @fedyabooker есть традиция: каждый нечетный год мы организовываем друг другу ДР. Два друга занимаются всей организацией, берут на себя все хлопоты и расходы и устраивают третьему праздник мечты в атмосфере строжайшей секретности (именинник знает только о дате и о списке гостей, остальные детали вроде формата и даже страны проведения ему неизвестны).
⠀
2023 год — нечетный. Поэтому мы с Федей на днях организовали ДР Фарсайта, через три месяца мы с Фарсайтом будем делать то же самое для Феди, а в августе ребята сделают праздник для меня.
⠀
В этот раз уровень сложности повысился из-за войны и разбросанности всех нас по миру. Поэтому мы решили провести праздник в 2 частях: сначала, вечером, тусовка в Москве примерно на 50 человек, а утром Фарсайт отправляется на несколько дней в Каш, куда слетаются ещё 15 человек со всего мира (в т.ч. те, кто не смог быть в Москве).
⠀
В Москве было много тостов и песен, исполняемых в честь Александра (он мог заказывать свои любимые песни в караоке и выбирать друга, который исполняет конкретную песню, и отказаться было нельзя). Все беспробудно кутили, а к утру повезли Фарсайта в аэропорт.
⠀
Мы сняли две стоящих бок о бок виллы на полуострове у Каша, наняли русского повара готовить любимую еду Фарсайта, гуляли по древнегреческим достопримечательностям и наслаждались долгожданной встречей. В какой-то момент вечеринки отправили Фарсайта в Грецию на час на катере, чтобы он от нас отдохнул, а потом продолжили обфристайливать и тостовать каждый угол Каша.
⠀
Не знаю, как пройдут следующие дни рождения (сначала — Федин, потом — мой), но уверен, что с аналогичным уровнем эпичности. Желаю всем таких же друзей, кто готов пролететь полмира и отменить все планы, чтобы поздравить вас с ДР, как сделали многие друзья Александра! И таких же надёжных и готовых к авантюрам друзей, как Фарсайт и Федя.

Посмотреть, как прошёл праздник, можно сегодня у меня в сториз: instagram.com/mustreader

Иногда я берусь рецензировать книги. Поскольку я ещё не прочел всего Фолкнера и Стейнбека и даже всего Достоевского и Набокова (хотя планирую это исправить как можно скорее), мой подход к чтению художки прост. В основном я читаю либо романы великих классиков из тех, до которых еще не добирался раньше, либо перечитываю что-то из классики. 

Поэтому, если мне пишут с просьбой отрецензировать новую книгу, я соглашаюсь втиснуть её в свой ридлист только за деньги. И при условии, что я напишу всё как думаю, без правок со стороны заказчика. Либо верну деньги, если книга не понравилась.

Недавно ко мне обратились за рецензией на роман «Желтый» писателя под псевдонимом Князь Процент. Псевдоним мне показался странным — сначала я подумал, что речь о какой-то низкопробной литературе. Но начал читать и приятно удивился. Написано свежо, остроумно и стильно. 

Большая часть сюжета — это «роман в романе» писателя-психопата под псевдонимом Канцлер Промилле (очевидное альтер-эго автора), беседы этого писателя с довольно специфичным психологом и детективная история, разворачивающаяся вокруг героев в современном сеттинге (пандемия, скайп-коллы и даже новые подробности истории с малазийским Боингом).

Роман экспериментальный, с постоянными сломами четвертой стены, ненадежными рассказчиками и другими постмодернистскими выкрутасами. Не все приёмы автора мне показались оптимальными, но роман многослойный и остроумный. Местами напомнило «Дом Листьев» Данилевского, местами — что-то из Пелевина.

Как я понял, в основу сюжета легла история самого автора, обвиненного в сексизме после выхода его предыдущего романа, потому что там были герои-сексисты. Мне понравился ответ Князя Процента:

«Упомянутые упреки в сексизме можно истолковать как свидетельство низкой читательской культуры упрекающих. Такие люди читают книгу, начинают считать героя сексистом и записывают автора в эту же категорию.

По такой логике взгляды любого главного героя копируют взгляды его создателя. О дурном воспитании разделявших похожие воззрения людей писал М. Ю. Лермонтов в предисловии к «Герою нашего времени». Прошло почти двести лет, а значительная часть публики по-прежнему не в состоянии понять содержание того, что она читает».

«Роман «Жёлтый» доступен и в формате аудиокниги, которую записали звезды дубляжа: Владимир Ерёмин (русский голос Аля Пачино), Александр Гаврилин (озвучивал Роберта Паттинсона в «Сумерках», «Маяке» и других фильмах), Денис Беспалый (его голосом говорит Рассел Кроу в русскоязычном дубляже «Отверженных» и «Ноя»), Алия Насырова (Ана Де Армас в «Достать ножи» и нашумевшей «Блондинке»)».  

В общем, если ищете что-то нестандартное из современной литературы, «Желтый» — хорошая кандидатура.

Купить книгу: https://ridero.ru/books/zhyoltyi
Телеграм-канал Князя Процента: https://t.me/knyazprocent

Свежий мастрид!

Техноблогер Вастрик (был у нас в «Терминальном чтиве») вместе с Павлом Комаровским опубликовали большую статью про риски ИИ с ответами на многие популярные вопросы, написанную простым языком и со смешными иллюстрациями.

Если вы давно читаете меня, принципиально нового там не найдете, но для всех, кто только начинает погружаться в тему, текст отличный. Можно распространять по друзьям вместе с моим недавним роликом про риски ИИ.

#ИИ_мастрид

Каких специалистов не заменит нейросеть?

В первую очередь, бизнес-аналитиков. Искусственный интеллект использует базу знаний, актуальную до конца 2021 года — такие устаревшие данные невозможно использовать для рекомендаций по улучшению бизнеса. Кроме того, нейросеть не сможет включить эмпатию, не проявит гибкость в принятии решений и никогда не скажет прямо, когда в компании что-то идет плохо. Сейчас на рынке открыто около 6000 вакансий бизнес-аналитиков — и их число будет только расти.

Освойте незаменимые навыки на онлайн-программе дополнительного профессионального образования «Профессия бизнес-аналитика» партнеров сегодняшних Мастридов — школы аналитики Changellenge >> Education!

Учиться можно из любой точки мира, совмещая с основной работой или учебой. Программа сократит время на получение оффера в 2–3 раза или поможет получить повышение на текущем месте работы, поскольку на ней вы:

— решите 4 командных бизнес-проекта от компаний из разных индустрий (от IT до ритейла и FMCG) и 10 индивидуальных задач;
— отработаете навыки и получите опыт для карьерного роста и резюме;
— подготовитесь ко всем этапам отбора вместе с опытными HR и действующими аналитиками — от скрининга до финального интервью;
— посетите 10 онлайн-воркшопов с практиками из SBS Consulting, BCG, Ozon, Сбер и других;
— попадете в закрытое бизнес-сообщество из 1300+ выпускников и преподавателей. Даже после окончания курса вы сможете получать личные рекомендации от участников сообщества.

Если вы не планируете работать в аналитике или консалтинге, новые навыки помогут усилить резюме или получить повышение на текущем месте на позиции product- и project менеджеров, маркетологов, предпринимателей и других.

Обучение стартует 13 апреля. Подписчикам канала доступна скидка на 5000 рублей по промокоду MUSTREADS — назовите его при регистрации менеджеру образовательных программ.

Зарегистрироваться: https://clck.ru/342xJF

Наш документальный фильм «Креатор» выйдет завтра (возникли ошибки в программе монтажа, поэтому перенесли релиз). Уверен, что вам он понравится, так что не пропустите! Ссылку сюда скину после публикации.

Вышел документальный фильм «Креатор», который мы снимали по всему миру: от Нью-Йорка до Сингапура. Это уже третий и, пожалуй, лучший из спродюсированных мною фильмов.

Фильм посвящен историям, инсайтам и байкам от разных креаторов. Там есть:

— истории из моей жизни, которыми я раньше никогда не делился в блоге

— Катерина Рысь, эротический креатор, мой креативный продюсер и по совместительству моя девушка

— Леня Пашковский (тревел-канал «Хочу домой», 1+ млн подписчиков)

— Андрей Себрант (Яндекс, крутейший эксперт по нейросетям)

— Макс Чернов (сотни тысяч подписчиков в русскоязычных соцсетях и десятки тысяч — в англоязычных + успешный бизнес)

— Максим Спиридонов (основатель Нетологии и других успешных проектов с миллиардными цифрами выручки, активно ведущий свои блоги)

— Миша Либерти (художник, рекордсмен Книги рекордов Гиннесса, автор легендарных объектов с Burning Man)

— Костя Волгапов (мой бизнес-партнер, сооснователь и экс-СЕО топ-2 influence marketing агентства в России и Восточной Европе, консультировал Дудя, когда тот был ещё начинающим блогером).

Часть графики для фильма мы сделали нейросетями (в том числе привлекли Cybertee — цифрового двойника Миши Либерти). В общем, вам понравится.

Обязательно посмотрите фильм до конца. Мы там разыгрываем арт-объекты и 10 подписок на ChatGPT! И поддержите лайком и комментом работу нашей команды.

https://youtu.be/2Kvdxc_HNOs

Я давно хотел позвать этого человека в "Книжный чел". Константин Волгапов - мой партнёр по агентству TGS и нашим образовательным проектам, человек, стоявший у истоков инфлюенс-маркетинга в России, к тому же успешно запустивший бизнес в Китае и на других международных рынках (вы могли видеть его в фильме "Креатор"). И при этом успевающий много читать!

Костя - настоящий книжный чел, прочитавший сотни книг о бизнесе, корпоративном управлении и мировых трендах, и постоянно поглощающий художественную литературу.

Обсуждаем много мастридов о том, куда идёт наш мир, как делать бизнес и строить свою жизнь. Душевно и полезно - посмотрите.

https://youtu.be/SRPXKOt_w6Y

#книжный_чел

Кстати, уже во вторник 11 апреля в 20.00 по Москве пройдет наш с Костей образовательный практический эфир «Креатор 2023». Будет много разборов полезных кейсов, трендов креаторства и практических заданий. В конце эфира разыграем арт-объект от Миши Libertee и 10 подписок на ChatGPT.

Занесите дату в свои календари! Подробнее про эфир можно прочитать на сайте: academy.mustreader.com/creator2023

Ссылку на эфир вам пришлют в нашем боте «Цифровой креатор», добавляйтесь в него, если ещё этого не сделали: @Digital_Creator_Bot. Несколько раз в неделю мы делимся в этом боте полезными материалами о креаторстве — например, как применять для создания контента разные ИИ-инструменты, как органически расти благодаря алгоритмам, как монетизировать даже небольшие блоги и использовать свой личный бренд в карьере и бизнесе.