Новости сообщества LessWrong
1.27K subscribers
20 photos
1 file
821 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Почему невозможно создать вечный двигатель? Вероятность получить счастливый лотерейный билет - бесконечно мала, однако нельзя знать наверняка, что ты не выиграешь, правда же? Как связаны термодинамика и байесианство?

Сегодня, 29 марта, мы заканчиваем обсуждать цепочку "Правда закономерна". Поговорим про следующие эссе:

- Вне лаборатории;
- Второй закон термодинамики и двигатели познания;
- Убеждения о вечном двигателе;
- Поиск байесовской структуры.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/vz64sp4vtndkhbktx54wkiag3e

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Существует ли свобода воли? Локк, Виттгенштейн и Юм дали бы различные ответы на этот вопрос, и вряд ли бы смогли между собой договориться. По-настоящему исчерпывающим решением будет распутать когнитивный алгоритм, который породил этот вопрос. Часто загадка существует в голове, вовсе не в реальности.

Сегодня, 5 апреля, мы начинаем обсуждать цепочку "Основы редукционизма". Поговорим про следующие эссе:

- Распутывание вопроса;
- Неверные вопросы;
- Исправление неверного вопроса;
- Ошибка проецирования ума.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/xksf2n3j75fefgtwtmhbo7rwsa

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#переводы #цепочки #юдковский

Новый перевод на сайте -- эссе Элиезера Юдковского "Ошибка выломанного рычага" из цепочки "Фальшивые предпочтения".

Некоторые люди при обсуждении вопроса, как сделать так, чтобы цели ИИ согласовывались с целями человека, считают, что просто нужно правильно воспитать ИИ. Ведь мы же умеем правильно воспитывать детей. Этот сюжет встречался и в некоторой фантастике.

Что здесь может пойти не так?

https://lesswrong.ru/646
#математика #теорема_Ауманна

Breaking news! Почти всё, что вы знали про теорему Ауманна, скорее всего, было неправдой! Даже если вы Элиезер Юдковский, Анна Саламон, Скотт Ааронсон или сам Роберт Ауманн.

Нет, правда, я написал статью именно об этом - хотя в первую очередь всё-таки о том, о чём теорема Ауманна на самом деле.

В этот раз строгую формулировку и доказательство я не привожу - это будет темой второй части статьи. Пока лишь - объяснение сути простым человеческим языком.

https://telegra.ph/Teorema-Aumanna-o-soglasii-soglasie-ni-pri-chem-ch1-04-09
Павел Комаровский — автор канала RationalAnswer, посвящённого инвестициям — записал интервью с Вячеславом Матюхиным, сооснователем центра рациональности Кочерга.

Интервью посвящено вопросам, что такое рациональность и как она связана с инвестициями, теоретическим и практическим техникам, разнообразным "социальным вопросам" — из каких людей состоит "тусовка рационалистов", и многим другим.

https://www.youtube.com/watch?v=aI9pSn3wE5s
#в_мире

Сообщество LessWrong появилось не в последнюю очередь из-за того, что Элиезера Юдковского очень сильно волновали вопросы безопасности искусственного интеллекта.

Если вы понимаете, почему это важно и вам интересно это направление деятельности, возможно, вам будет интересно то, что сейчас открыт — и уже 13 апреля закончится — приём заявок на Неконференцию по безопасности искусственного интеллекта (Artificial Intelligence Safety Unconference) 2021 года. (Неконференция -- это дискуссионное мероприятие, в котором сами участники определяют ход его работы.)

В этом году Неконференция по безопасности ИИ пройдёт онлайн с 23 по 28 апреля.

Подробности и регистрация: https://www.aisu.io/
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сочтут ли инопланетные захватчики стройную девушку в порванном платье сексуально привлекательной? Как отделять свойства объектов от интерпретации наблюдателя? Является ли вероятность неотъемлемым свойством явлений? Как не путать убеждения, истину и реальность?

Сегодня, 12 апреля, мы продолжаем обсуждать цепочку "Основы редукционизма". Поговорим про следующие эссе:

- Ошибка проецирования ума;
- Вероятность находится в голове;
- Цитата — не референт;
- Качественное замешательство.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/2w45tnzpuba2fif6yarhphocg4

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
На прошлой неделе здесь уже была ссылка на видео разговора Павла Комаровского — автора блога RationalAnswer — и Вячеслава Матюхина — сооснователя центра рациональности Кочерга. Разговор был посвящён вопросам, что такое рациональность, кто такие рационалисты и многим смежным.

Вчера Павел выложил текстовую расшифровку этого разговора (без ответов на вопросы от зрителей):

https://www.rationalanswer.ru/2021/04/12/matyukhin/
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

На фундаментальном уровне не существует ни радуги, ни подземных царств гномов. Однако между этими явлениями есть отличие -- наука объяснила радугу и «разобъяснила» гномов.

Это реальность странная или мы странные? Хаос находится на территории или на карте? Что на самом деле утверждает редукционизм?

Сегодня, 19 апреля, мы продолжаем обсуждать цепочку "Основы редукционизма" (https://lesswrong.ru/192 ). Поговорим про следующие эссе:

- Думай как реальность;
- Инверсия хаоса;
- Редукционизм;
- Объяснение и разобъяснение;
- Лжередукционизм.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/al4tewequnbutml4kgge4lkifi

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#книги #в_мире

На прошлой неделе вышла книга Джулии Галеф "Настрой разведчика" (Julia Galef, "The Scout Mindset").

Джулия Галеф -- одна из основательниц и первая президент Центра прикладной рациональности (CFAR). Сейчас она ведёт подкаст Rationally Speaking, где обсуждает рациональность со многими интересными людьми.

В своей книге Галеф задаётся вопросом, почему у одних людей получается мыслить чётко и ясно, а у других нет. Многие считают, что первые просто умнее, однако, кажется, дело не просто в каких-то знаниях, которые можно просто взять и рассказать.

С точки зрения Галеф одной из важных составляющих в умении рассуждать здраво является "настрой разведчика" -- желание разобраться, как всё устроено на самом деле, а не просто отстоять свою точку зрения любой ценой. И книга как раз посвящена тому, как воспитать этот настрой в себе.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Холодная наука убивает
Любое чудо. Радуга на небе
Пленяла красотою взоры наши.
Теперь же знаем мы её устройство,
И всё: занесена она в каталог
Унылых и обыденных вещей.
— Джон Китс, «Ламия»

Чем не является редукционизм? Как наслаждаться жизнью в реальной вселенной? Как получать удовольствие от открытий, которые другие люди сделали до вас?

Сегодня, 25 апреля, мы завершаем обсуждение цепочки "Основы редукционизма" и переходим к цепочке "Наслаждение обыденностью". Поговорим про следующие эссе:

- Лжередукционизм;
- Поэты саванны;
- Наслаждение обыденностью;
- Наслаждение открытием.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/pvonvtb3dvaixnhicvemfy2zni

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#видео

Центр рациональности Кочерга запустил свои подкасты: разговоры рационалистов на публику про разные "около-рацио темы".

В первом выпуске участвовали Андрей Ведерников, участник сообщества LessWrong из Екатеринбурга и организатор проекта "Ситхские техники", и Вячеслав Матюхин, сооснователь "Кочерги".

Среди тем, которые обсуждались:
- полезно ли изучать математику для прокачки рациональности?
- что произошло с постом Андрея про теорему Ауманна?
- насколько рационалистам стоит изобретать штуки самостоятельно, а насколько — брать готовые фреймворки (например, в борьбе с прокрастинацией)?

https://www.youtube.com/watch?v=PlvzUxymlZA
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Как вызвать интерес к устоявшейся науке? Должны ли нас настораживать ритуалы и гимны? Почему вещи в дефиците сильнее привлекают наше внимание чем повсеместно доступные? Чем религиозный опыт отличается от научного опыта?

Сегодня, 10 мая, мы продолжаем обсуждать цепочку "Наслаждение обыденностью". Поговорим про следующие эссе:

- Первое апреля: День удивительного открытия;
- Гуманизм — замена религии?;
- Дефицит;
- Священная обыденность.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/a7hfeke6ffb2xeqzqystzskoae

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
Forwarded from LW · Встречи (Roman Galimov)
⚠️ Breaking news!

Ребята из петербургского и екатеринбургского LessWrong сделали Навигатор по рациональному сообществу.

В нем собраны всевозможные чатики, каналы со встречами и так далее. А ещё эту страничку можно присылать друзьям, когда они спрашивают, кто такие рационалисты.

P.S. Есть идея в скором времени провести Большой Рациональный Фестиваль. Если интересно, добавляйтесь в Чат Навигации.

Навигатор: https://bit.ly/3twWnmO
Чат: https://t.me/lwgate
#переводы

Новый перевод на сайте -- эссе Майкла "Валентайна" Смита "Понимание на уровне шестерёнок".

Чтобы ориентироваться в мире, мы строим его модели -- формируем у себя в голове представление, как различные штуки связаны друг с другом, что может произойти в дальнейшем, а что не может. Судя по всему, чтобы достигать своих целей, неплохо иметь хорошую модель той части мира, которая тебе интересна. Но как отличить хорошую модель от плохой?

Возможно, на этом месте многие скажут: "Конечно же, с помощью экспериментов". Однако в некоторых областях жизни ставить эксперимент довольно дорого. И хотя понятно, что какие-то эксперименты ставить всё равно придётся, кажется, неплохо бы к ним заранее подготовиться и как-то сузить круг необходимых экспериментов.

Эссе вводит понятие "шестерёночная модель", которое, с моей точки зрения, очень активно используется на LessWrong'е в последние годы (эссе написано в 2017 году).

https://lesswrong.ru/648
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Как сделать науку популярной? Что такое Байесовский заговор? Почему не стоит сильно полагаться на умозаключения об устройстве реальности вне логики и физики? Как редуцировать цельные объекты до уровня атомов или кварков?

Сегодня, 17 мая, мы завершаем обсуждение цепочки "Наслаждение обыденностью" и переходим к цепочке "Физикализм для продвинутых". Поговорим про следующие эссе:

- Чтобы распространять науку, держите её в тайне;
- Церемония посвящения;
- Рука или пальцы;
- Злые атомы.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/rwfjc6gotbhoxa2r7fau6v7aem

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#видео

На прошлой неделе вышел подкаст Кочерги #2. Гостём выпуска была Слава Меритон, участница сообщества с большим стажем. У Славы два оконченных и два неоконченных высших образования; разнообразный опыт работы от туризма до космонавтики; теория игр, бюджетные путешествия и написание хужодественных текстов среди интересов; в общем, её сложно описать в одном коротком предложении (keep your identity small!).

Ведущий: Вячеслав Матюхин, сооснователь Кочерги.

Много обсуждался вопрос, кому, зачем и в каких случаях полезно изучать рациональность. Как и в прошлый раз обсуждался вопрос, зачем рационалистам математика. А также вопросы ИИ, насколько рационалисты должны быть похожи на секту, и многое другое.

https://www.youtube.com/watch?v=QtJD5OEwzvI
#встречи #онлайн #в_мире

Новость для интересующихся онлайн-встречами за пределами русскоязычного сообщества.

23 мая израильское сообщество поклонников творчества Скотта Александера проводит онлайн-встречу с профессором Скоттом Ааронсоном -- специалистом по квантовым вычислениям и теории сложности вычислений, а также автором блога Shtetl-Optimized.

Начало встречи 20:30 по московскому времени (17:30 UTC).

Ссылку на регистрацию можно найти здесь: https://www.lesswrong.com/events/AJX8EKjyEFiYbAmgk/scott-aaronson-at-the-astralcodexten-online-meetup
Репост из группы ВКонтакте. Автор: Анастасия Швейцер

Всем привет!

Я занимаюсь разработкой русскоязычного опросника для измерения рациональности. Если вы желаете внести вклад в науку и оценить свою (не)рациональность, пожалуйста, примите участие в моем исследовании. Это займет около 30 минут.

Наличие стандартизированной методики сможет приблизить нас к предсказанию склонности людей к магическому мышлению, когнитивным искажениям, псевдонауке и другим аспектам иррационального мышления.

Исследование доступно по ссылке: https://forms.gle/bcy613VrXZ3X8TKZ9

P.S. Все желающие получат обратную связь и интерпретацию своих результатов (во второй половине июня)!
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Как научиться редуцировать цельные объекты до уровня атомов или кварков? Чем отличается умозрительное от логически возможного? Как понимание работы человеческого мозга избавило нас от антропоморфизма?

Сегодня, 24 мая, мы продолжаем обсуждать цепочку "Физикализм для продвинутых". Поговорим про следующие эссе:

- Злые атомы;
- Тепло или движение;
- Прорыв в исследованиях мозга! Он состоит из нейронов!
- Когда антропоморфизм стал глупым.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/ibollataubb2themzqliv7ftpy

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.