#встречи #онлайн

Доклады и лекции от сообщества Кочерги на этих выходных:

Сегодня, 23 мая, в 18-00 состоится лекция Дарьи Андреевой на тему "Ask&Guess Culture". Лекция посвящена проблемам коммуникации. Одни люди считают, что как можно больше нужно проговаривать словами и если что-то нужно, всегда можно попросить. Другие считают, что есть штуки, которые совершенно очевидны, и нехорошо просить людей в ситуации, когда тем будет неловко отказать. Предположу, что многим читателям здесь кажется, что первый подход гораздо лучше, однако, возможно, не всё так однозначно.

Подробности и регистрация: https://kocherga-club.ru/events/sbei64e7ybdn7ejpyvpg6qc4ui

Завтра, 24 мая, в 14-00 состоится очередная академическая встреча сообщества LessWrong. В программе:

1. Юрий Баранов, "Устройства вывода Вольперта, границы познания, свобода воли, самосознания и все остальное. Продолжение первого доклада, сделанного в доковидную эпоху". (Первый доклад можно посмотреть по ссылке: https://www.youtube.com/watch?v=1cG7JcFi8m4 )

2. Нароттам Паршиков, "Поппер, психотерапия и Просветление".

Подробности и регистрация: https://kocherga-club.ru/events/ic4wbgkhw5hgdfnsjyqkff5goe

Также завтра, 24 мая, в 18-00 состоится лекция Богдана Кравцова "16 см²: как математик думает об искусстве".

На встрече Богдан расскажет о своём понимании искусства, и, в частности, современного искусства, о своём художественном проекте, о творческих задачах и ограничениях, о составляющих смысла картин, о заимствованиях в своём творчестве, о связи творчества с логическим и рациональным мышлением.

Подробности и регистрация: https://kocherga-club.ru/events/56huk4nwivhyngndn32whjmowy

Участие во всех встречах бесплатно, все встречи проходят в Zoom'e. Ссылку можно получить при регистрации. Время везде указано московское (UTC+3).

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать цепочки из книги Элиезера Юдковского «Рациональность от ИИ до зомби».

Сегодня мы заканчиваем обсуждать цепочку "Замечая замешательство". Поговорим об эссе "Закон сохранения ожидаемых свидетельств" и "Знание задним числом обесценивает науку".

После этого мы немного обсудим всю цепочку целиком и перейдём к эссе из следующей цепочки ("Загадочные ответы"): "Лжеобъяснения".

При чтении цепочек полезно выписывать, что осталось непонятно, какие у вас есть идеи, как применить прочитанное в реальной жизни, и другие вопросы. Всё это можно писать в наш конспект:
https://docs.google.com/document/d/1Yil17JLO5jWvAj2E7W7BKA6TCQzIQZnOWdl9zyb7bv4/

Встреча пройдёт в Zoom'е, участие бесплатное, но требуется регистрация: https://kocherga-club.ru/events/tah4po2ztfakhdksa5gsonlsci

Начало в 19:30 по московскому времени (UTC+3).

#нужна_помощь

Кочерга ищет волонтеров, готовых помогать монтировать видео. Нужно монтировать и выкладывать видео с лекций и мероприятий, то есть объединять несколько видеофайлов в одну дорожку, отрезать кусочки записи до и после лекции, добавлять название, описание и выкладывать на Ютуб.

Вам понадобятся:
- безлимитный интернет (исходники хранятся на Гугл-диске),
- достаточно свободного места на компьютере (одно видео может состоять из нескольких файлов, каждый весом по 2 Гб),
- любой видеоредактор (например, Adobe Premiere).

Многие видео, о которых идёт речь, имеют прямое (или хотя бы косвенное) к тематике этого сообщества. В частности, Кочерга проводит встречи LessWrong, которые тоже записываются.

Если вам это интересно, пишите @Serpjah

Встреча трансгуманистического кружка: Безопасность ИИ

В воскресенье, 31 мая, состоится встреча трансгуманистического кружка с Мишей Ягудин (@yagudin), Миша будет summer research fellow в Future of Humanity Institute of Oxford University этим летом; кроме AI Alignment Миша увлечен эффективным альтруизмом. На встрече Миша ответит на вопросы аудитории про безопасность ИИ, например, насколько сложно сейчас сделать вклад в AI Alignment, какие есть затрато-эффективные действия для людей с разными компетенциями, какие есть соображения по перспективам достижения AGI и безопасного AGI и другое. Также Миша поделится своими мыслями о трансгуманизме и, возможно, мы подискутируем.

Когда и Где:
Ждем вас в воскресенье, 31-ого мая, в 15:00 на нашем сервере в дискорде:
https://discord.gg/cswyBHf
Если у вас нет дискорда, скачать его можно тут
Для мобильного в google play или App store.

О Нас:
В кружке мы проводим доклады и обсуждения по различным темам трансгуманизма: от стволовых клеток или крионики до научно-технического прогресса в целом или перспектив финансирования компаний биотеха. Каждый может подготовить доклад и выступить на встрече в любом желаемом формате или объединиться в команду для ресеча. Нашей целью является аккумулирование информации о научных проблемах в этой области, эффективности различных воздействий и конкретных способов повлиять на будущее и сделать мир и человека лучше. Больше информации тут:
https://transhumanist-club.fandom.com/ru/wiki/

Наш чат для общения и анонсов:
https://t.me/transhumanist_club

Полезные ссылки к встрече:
1. Главный форум по обсуждению безопасности ИИ: https://www.alignmentforum.org
2. Ликбез: https://lesswrong.ru/w/Будущее_искусственного_интеллекта_вопросы_и_ответы
3. Подкаст Сэма Харриса и Элиезера Юдковского "Искусственный интеллект: мчимся к пропасти?": https://t.me/effectivealtruism/24
4. Оценка важности сферы безопасности ИИ: https://80000hours.org/problem-profiles/positively-shaping-artificial-intelligence/
5. Список глобальных проблем человечества: https://80000hours.org/articles/cause-selection/
6. Что такое эффективный альтруизм: https://www.effectivealtruism.org/articles/introduction-to-effective-altruism/

Пион и Данила Медведевы написали текст о том, что такое интеллект, как его можно усилить и зачем это надо. Это пока только черновик, однако он уже может быть полезен следующим образом:

1. В тексте перечислены множество навыков, которые можно считать составляющими интеллекта и (относительно грубые) примеры, позволяющие задуматься над тем, есть у вас этот навык или нет. Фактически, это чек-лист, благодаря которому можно попробовать понять некоторые свои слабые места.

2. Текст призывает людей, которые заинтересованы развивать собственный интеллект (в понимании авторов), а также помогать другим в этом, объединяться и заниматься этой работой совместно. Подробности внутри.

https://teletype.in/@pionmedvedeva/au_int_manifesto

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Наслаждение открытием" из цепочки "Наслаждение обыденностью".

Некоторые люди считают, что те, кто стремится к рациональности, — скучные и занудные. Что попытка найти объяснение всему, лишает мир тайны, а с ней и чего-то важного и ценного.

С другой стороны, кажется, разгадывать загадки самому — довольно интересно.

С третьей стороны, кажется, что практически все загадки вокруг нас давно разгаданы, а то, что не разгадано — непосильно сложно для обычного человека.

Что же делать?

https://lesswrong.ru/w/Наслаждение_открытием

На ближайшей встрече с докладами обсудим социальное предпринимательство, пользу от запуска новых эффективных организаций и философские вопросы улучшения благополучия людей

Продолжительность каждого доклада около 20 минут, после этого будет время на вопросы и обсуждение.

• В этом году сотрудники инкубатора Charity Entrepreneurship потратили сотни часов, чтобы выявить перспективные направления для эффективных НКО в четырех областях: психическое здоровье, защита животных, планирование семьи и глобальное здравоохранение. Саша Бережной поделится результатами их исследований, расскажет об учебной программе Charity Entrepreneurship для будущих социальных предпринимателей и её роли в экосистеме эффективного альтруизма. Выпускники программы каждый год запускают новые перспективные организации, и две из них уже были отмечены GiveWell.

• С докладом «Благополучие: философский взгляд» выступит Миша Зыбин. Движение эффективного альтруизма ставит своей целью при имеющихся ограниченных ресурсах максимально увеличивать благополучие людей. Как можно смотреть на то, что такое благополучие? Мы рассмотрим основные касающиеся этого вопроса философские теории, их вариации и контраргументы к ним.

***
Встреча пройдёт в воскресенье 31 мая в 13:00, в онлайн-формате. Участие бесплатное, потребуется только установить Zoom (скачать можно тут: https://zoom.us).

Регистрация: https://kocherga-club.ru/events/wmvwez25jzbwphi32rq2bxwjoi

#встречи #онлайн #цепочки

Продолжаем читать цепочку «Загадочные ответы» из книги Элиезера Юдковского «Рациональность: от ИИ до зомби».

Сегодня, 1 июня, в 19-30 (по московскому времени: UTC+3) будем обсуждать следующие эссе:

- Угадай слово, задуманное учителем;
- Наука как одеяние;
- Лжепричинность;
- Семантические стоп-сигналы.

При чтении цепочек полезно выписывать, что осталось непонятно, какие у вас есть идеи, как применить прочитанное в реальной жизни, и другие вопросы. Всё это можно писать в наш конспект:
https://docs.google.com/document/d/1Yil17JLO5jWvAj2E7W7BKA6TCQzIQZnOWdl9zyb7bv4/

Встреча пройдёт в Zoom'е, участие бесплатное, но требуется регистрация: https://kocherga-club.ru/events/vl6vzlhaavdqvph53euik3pcbq

#переводы #цепочки #юдковский

Новый перевод на сайте -- эссе Элиезера Юдковского "Привяжись к реальности" из цепочки "Наслаждение обыденностью".

"Возможно, вы читаете вот это всё и задаётесь вопросом: «Хорошо, но при чём тут редукционизм?»

Отчасти я хочу оставить путь к отступлению. Сложно разбирать на части нечто важное, когда ты убеждён, что в процессе из мира исчезнет сказка и обесценится радуга. В этой книге я действительно планирую кое-что разобрать на части, и я предпочёл бы не плодить бессмысленное экзистенциальное страдание.

Отчасти это крестовый поход против рациональности по-голливудски, где принято считать, будто понимание радуги уничтожает её красоту. Нет, радуга остаётся прекрасной, а вы вдобавок получаете красоту физики.

Однако ещё, что гораздо более важно, я здесь рассуждаю об одной из идей, которые вроде бы незаметны, но на самом деле очень важны для понимания рациональности."

https://lesswrong.ru/618

Против рационализации. Часть 2.

Замечали, как люди обходят стороной слабые места своих рассуждений?

Как, получив удобный вывод, отказываются от новой информации, опасаясь, что она его разрушит?

Или, наоборот, отказываются от неудобного вывода, считая, что информации якобы недостаточно?

Как оправдывают свой выбор тем, что никак не является его истинной причиной?

Насколько все взаимосвязано или почему качественно лгать – трудно?

Как пройти на Темную Сторону?

Ответы будем искать завтра, в четверг, 4 июня, с 19 до 21 на нашем канале в Дискорд.

Участие свободное, можно просто прийти послушать.

Для подготовки читаем цепочку, статьи с 8 по 14. Не забудьте голову!

#книги

В издательстве "Бомбора" вышла книга Александра Силаева "Философия без дураков". Издатель книги попросил разместить анонс и отрывок из книги в группе LessWrong'а в ВК. Книга действительно имеет отношение к LW -- автор активно ссылается на идеи из "Цепочек" Юдковского и некоторые из них пропагандирует.

Анонс от издателя

Кому без рационального мышления жить хорошо? Тому, кто о нем даже не задумывается. А всех остальных частный инвестор и алготрейдер Александр Силаев призывает мыслить точно. Не путать чувства и мышление. Бороться с помощью конкретных методов с плохими теориями и логическими ошибками. Искать, допытываться, опровергать и сравнивать.

В этой книге про рациональное мышление и его врагов вас ждет не только теория, подкрепленная множеством примеров, но и практика, а также критика противников рационального мышления по основным направлениям.

В своей новой книге автор:
- рассказывает о теориях и логических ошибках, которые рано или очень рано превращаются в мировоззрения;
- иллюстрирует теорию на конкретных примерах;
- предлагает методы и техники борьбы с противниками;
- учит мыслить точно, не путать чувства (даже аргументированные) с мышлением!

Примечание от редактора канала

Я бегло пролистал книгу и она у меня оставила двойственное впечатление. С одной стороны, кажется, автор достаточно неплохо изложил многие важные понятия (впрочем, точно судить сложно, в конце концов, книга рассчитана на человека с этими понятиями не знакомого). В частности, он посвятил достаточно места проблематике вопроса "является ли что-то чем-то", что, насколько я могу судить, довольно редкое явление. С другой стороны, у меня сложилось впечатление, что книга больше направлена на борьбу с чем-то, чем на "я хочу стать сильнее". Третья часть книги вообще посвящена почти исключительно политическим вопросам и в ней автор, по-моему, далеко не всегда способен пройти идеологический тест Тьюринга за оппонентов, с которыми он борется, и далеко не во всех случаях его аргументация будет способствовать совместному поиску истины.

#встречи #онлайн

На прошлой неделе здесь уже была новость про манифест усиления интеллекта от Пион и Данилы Медведевых.

Завтра (7 июня, воскресенье) на академической встрече Пион будет рассказывать об этом манифесте и связанных с ним идеях.

Встреча начнётся в 14-00 (по московскому времени, UTC+3). Платформа: Zoom. Чтобы получить ссылку, нужно зарегистрироваться: https://kocherga-club.ru/events/gf5n6ugrurbnxobbmzoyqdzobm

#переводы #цепочки #юдковский

Новый перевод на сайте - эссе Элиезера Юдковского "Если вам нужна магия, магия не поможет". Из цепочки "Наслаждение обыденностью".

В этом эссе Юдковский продолжает развивать тему привязки к реальности.

Многие люди (наверняка и среди читателей группы таких не мало) в тот или иной период своей жизни мечтали о том, чтобы попасть в другой мир, где они по-настоящему смогут проявить себя. Где многое будет лучше, чем здесь.

Но почему? Нам иногда кажется, что в будущем/прошлом/другом мире нам будет лучше. Но есть ли у нас действительно основания так считать? Действительно ли надо попасть в другой мир, чтобы проявить себя или найти что-то прекрасное?

https://lesswrong.ru/w/Если_вам_нужна_магия_магия_не_поможет

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня (8 июня) мы продолжим обсуждать цепочку "Загадочные ответы". Поговорим об эссе:

- "Таинственные ответы на таинственные вопросы";
- "Тщетность эмерджентности";
- "Скажи нет «сложности»";
- "Подтверждающее искажение: взгляд во тьму".

Встреча пройдёт в онлайне, на платформе Zoom. Ссылку можно получить после регистрации: https://kocherga-club.ru/events/qqmiqoj645avdhu7js2sffas3q?#register

Начало в 19:30 по московскому времени (UTC+3).

Мы ведём конспект. В конспект имеет смысл записывать:
- что оказалось новым и ценным;
- что оказалось непонятным;
- что вы теперь планируете делать по другому;
- ну и вообще всё, что кажется вам интересным.

#переводы #цепочки #юдковский

Новый перевод на сайте - эссе Элиезера Юдковского "Первое апреля: День удивительного открытия". Из цепочки "Наслаждение обыденностью".

В этом эссе Юдковский продолжает мысль, начатую в "Красоте устоявшейся науки". Когда СМИ пишут о науке, они предпочитают писать почти исключительно о сенсациях. Но, чтобы понять, что происходит в науке прямо сейчас, нужно уже обладать незаурядными знаниями. Поэтому у людей, такими знаниями не обладающими, часто складывается о науке неверное мнение.

Что можно с этим делать?

https://lesswrong.ru/w/Первое_апреля_День_удивительного_открытия

В 2007 году аналитик Холден Карнофски ушел из хедж-фонда, чтобы основать GiveWell и оценивать эффективность благотворительных организаций, опираясь на принципы эффективного альтруизма. Спустя пять лет он написал текст о том, почему эффективный альтруизм для него — это захватывающий интеллектуальный вызов, а не принесение жертвы или отказ от личных интересов в угоду рациональности. О том, что такой подход не ставит интеллект выше эмоций, и служит для некоторых людей источником радости и вдохновения. Позднее этот текст был включен в EA Handbook — подборку ключевых текстов об идеях и принципах эффективного альтруизма.

https://effectivealtruism.ru/excited_altrusim/

#в_мире

На lesswrong.com появилась интересная новость про проект Connected Papers.

Людям, которые занимаются исследовательской работой, часто нужно знать, какие ещё есть интересные работы в этой области: чтобы, например, знать, какие ещё существуют подходы или вообще представлять текущее состояние дел.

Проект Connected Papers предназначен для того, чтобы как раз находить такие интересные работы. Насколько я понял, авторы проекта считают работы схожими, если они ссылаются примерно на одни и те же источники и/или если на них ссылаются примерно одни и те же источники. Исходя из этого они как-то строят дерево связей.

Отзывы в комментариях на LessWrong достаточно восторженные.

Источник: https://www.lesswrong.com/posts/kjQXzkTGuixoJtQnq/we-ve-built-connected-papers-a-visual-tool-for-researchers

В эту субботу, 13-ого июня, состоится вторая встреча по Искусственному Интеллекту в рамках трансгуманистического кружка. На этот раз в роли докладчика выступит Богдан Кириллов, биоинформатик и специалист по машинному обучению.

В докладе планируется:
- коснуться истории области (экспертные системы, символьные вычисления и прочий старый ИИ)
- поговорить про нейросети
- осветить проблемы и опасности, связанные с технологиями ИИ

Когда и Где:
Ждем вас в субботу, 13-ого июня, в 15:00 на нашем сервере в дискорде:
https://discord.gg/cswyBHf
Если у вас нет дискорда, скачать его можно тут
Для мобильного в google play или App store.

#статьи_участников

Нижеследующая статья Пион мне показалась в первую очередь интересной не практическими советами (хотя я ожидал бы, что при дальнейшем исследовании окажутся скорее верными, чем нет), а расширением "словаря". С моей точки зрения, это довольно неплохая иллюстрация эссе Юдковского "Ошибки сжатия" - чтобы начать вообще задумываться о том, что нам надо: отдых-восстановление или отдых-развлечение, нужно сначала подумать о том, что в понятии отдых у нас часто сжато несколько разных понятий.

#отдых #жызнь #баланс

Отдых: восстановление, развлечения и расслабление.

Кратко: отдых как восстановление — не то же самое, что развлечения и что расслабление. Разделяйте эти штуки и будет вам более качественный отдых.

Более длинно:

Есть восстановление, «занятия, после которых у меня больше сил/энергии, чем до».

Есть развлечения, «занятия, в процессе которых (и иногда после) мне веселее, чем до».

И есть расслабление, снятие стресса, как «занятия, после которых я меньше напряжена, чем до».

Я утверждаю, что если мы будем различать эти категории занятий и свои ощущения, которые требуют занятий из каждой категории, то мы сможем более эффективно отдыхать, а значит, более эффективно работать 🙂

Иногда восстановление не работает без предварительного расслабления — например, чтобы успокоиться и заснуть людям часто бывает нужно принять теплый душ или вроде того.

Иногда восстановление не работает без развлечения — например, некторым людям нужно переключиться с рабочих дел, и это получается только «клин клином».

Часто занятия служат одновременно расслаблению и развлечению — например, многие спортивные занятия такие.

Еще бывает, что занятие одновременно расслабляет и восстанавливает — например, медитации часто так работают.

Но бывает, что мы хотели бы восстановления, а занимаемся снятием стреса — например, так часто устроен просмотр котиков на ютюбе.

Мне кажется, что если научиться получше различать в каждый конкретный момент, чего из этих трех штук хочется и в какой пропорции, то отдыхательные занятия станут (1) более разнообразны, (2) более удовлетворяющи и (3) будут лучше работать и занимать ровно столько времени и внимания, сколько хочется на них тратить.

Если нужно еще более длинно, то приходите в чатик, пишите вопросы, с удовольствием раскрою тему!

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня (15 июня) мы продолжим обсуждать цепочку "Загадочные ответы". Поговорим об эссе:

- "Закономерная неопределённость";
- "Моя дикая и безбашенная юность";
- "Неспособность учиться у истории";
- "Делая историю доступной".

Встреча пройдёт в онлайне, на платформе Zoom. Ссылку можно получить после регистрации: https://kocherga-club.ru/events/v5qrjcledrfzne7xkriy7yz4su?#register

Начало в 19:30 по московскому времени (UTC+3).

Мы ведём конспект: https://docs.google.com/document/d/1Yil17JLO5jWvAj2E7W7BKA6TCQzIQZnOWdl9zyb7bv4/edit#heading=h.etw49zej3tdn

В конспект имеет смысл записывать:
- что оказалось новым и ценным;
- что оказалось непонятным;
- что вы теперь планируете делать по другому;
- ну и вообще всё, что кажется вам интересным.