Завершающая встреча клуба чтения цепочек
333 эссе, 26 цепочек, шесть томов. Спустя почти два года встреч клуба чтения цепочек мы дочитали книгу Элиезера Юдковского «Рациональность: от ИИ до зомби». Какова основная идея книги? В чем заключается рациональность и зачем к ней стремиться? Какие тезисы Юдковского сильные и мотивирующие, и в каких местах с ним можно аргументированно поспорить?
Сегодня, 28-го февраля, состоится обзорная лекция по всей книге «Рациональность: от ИИ до зомби». Первая половина встречи будет отведена на лекцию, а вторая - на обсуждение. Также будет объявление о будущем клуба чтения цепочек. Присоединяйтесь поучаствовать в обсуждении или послушать.
Регистрация: https://kocherga-club.ru/events/qre3u4apk5gv5fnkfh45bpsitu
Начало в 20:00 по московскому времени (UTC+3).
333 эссе, 26 цепочек, шесть томов. Спустя почти два года встреч клуба чтения цепочек мы дочитали книгу Элиезера Юдковского «Рациональность: от ИИ до зомби». Какова основная идея книги? В чем заключается рациональность и зачем к ней стремиться? Какие тезисы Юдковского сильные и мотивирующие, и в каких местах с ним можно аргументированно поспорить?
Сегодня, 28-го февраля, состоится обзорная лекция по всей книге «Рациональность: от ИИ до зомби». Первая половина встречи будет отведена на лекцию, а вторая - на обсуждение. Также будет объявление о будущем клуба чтения цепочек. Присоединяйтесь поучаствовать в обсуждении или послушать.
Регистрация: https://kocherga-club.ru/events/qre3u4apk5gv5fnkfh45bpsitu
Начало в 20:00 по московскому времени (UTC+3).
kocherga-club.ru
Завершающая встреча клуба чтения цепочек - 28 февраля
333 эссе, 26 цепочек, шесть томов. Спустя почти два года встреч клуба чтения цепочек мы дочитали книгу Элиезера Юдковского «Рациональность: от ИИ до зомби». Какова основная идея книги? В чем заключается рациональность и зачем к ней стремиться? Какие тезисы…
#встречи #онлайн
Доктор назначил мне лекарство Х, однако я почитал интернет, и там пишут, что у этого лекарства нет доказательной эффективности. Могу ли я быть уверен, что мне не стоит принимать это лекарство? Ведь у доктора есть медицинское образование, а у меня нет.
У меня есть прекрасная идея для стартапа. Однако мой друг говорит мне, что 90% стартапов прогорают в первый год, и все основатели стартапов считали, что у них есть прекрасная идея. Стоит ли мне всё же основывать стартап?
Организация Y заявляет, что проблеме Z уделяется слишком мало внимания, хотя её можно решить достаточно дешёвыми способами. Можно ли этому доверять? Ведь если бы это действительно была важная проблема и её можно решить в принципе, наверняка её давно уже решило бы правительство или какие-то другие крупные организации придумали бы, как на этом заработать.
Именно вокруг таких рассуждений построена книга Элиезера Юдковского "Неадекватные равновесия". И в понедельник, 7 марта, наш Клуб чтения Цепочек начнёт обсуждать её первую главу: "Неадекватность и скромность" ("Inadequacy and Modesty").
Главу можно прочитать по ссылке: https://equilibriabook.com/inadequacy-and-modesty/
Есть не слишком вычитанный перевод: https://vk.com/@makikoty-neadekvatnost-i-skromnost
Встреча пройдёт в онлайне, на платформе Zoom. Регистрация: https://kocherga-club.ru/events/f3l47cssujadhbw4ulwre4woam
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Доктор назначил мне лекарство Х, однако я почитал интернет, и там пишут, что у этого лекарства нет доказательной эффективности. Могу ли я быть уверен, что мне не стоит принимать это лекарство? Ведь у доктора есть медицинское образование, а у меня нет.
У меня есть прекрасная идея для стартапа. Однако мой друг говорит мне, что 90% стартапов прогорают в первый год, и все основатели стартапов считали, что у них есть прекрасная идея. Стоит ли мне всё же основывать стартап?
Организация Y заявляет, что проблеме Z уделяется слишком мало внимания, хотя её можно решить достаточно дешёвыми способами. Можно ли этому доверять? Ведь если бы это действительно была важная проблема и её можно решить в принципе, наверняка её давно уже решило бы правительство или какие-то другие крупные организации придумали бы, как на этом заработать.
Именно вокруг таких рассуждений построена книга Элиезера Юдковского "Неадекватные равновесия". И в понедельник, 7 марта, наш Клуб чтения Цепочек начнёт обсуждать её первую главу: "Неадекватность и скромность" ("Inadequacy and Modesty").
Главу можно прочитать по ссылке: https://equilibriabook.com/inadequacy-and-modesty/
Есть не слишком вычитанный перевод: https://vk.com/@makikoty-neadekvatnost-i-skromnost
Встреча пройдёт в онлайне, на платформе Zoom. Регистрация: https://kocherga-club.ru/events/f3l47cssujadhbw4ulwre4woam
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Inadequate Equilibria
Chapter 1: Inadequacy and Modesty | Inadequate Equilibria
There are two approaches to thinking about outperformance that yield extraordinarily different results: modesty, and inadequacy analysis.
#переводы #нго
Новый перевод на сайте - доклад Ричарда Нго "Безопасность сильного искусственного интеллекта с чистого листа".
"В этом докладе я попытался собрать воедино как можно более полные и убедительные аргументы, почему разработка СИИ может представлять экзистенциальную угрозу. Причина доклада – моя неудовлетворённость существующими аргументами о потенциальных рисках СИИ. Более ранние работы становятся менее актуальными в контексте современного машинного обучения; более недавние работы разрозненны и кратки. Изначально я хотел лишь пересказывать аргументы других людей, но, в процессе написания доклада, он становился всё больше представляющим мои собственные взгляды, и менее представляющим чьи-то ещё. Так что хоть он и покрывает стандартные идеи, я думаю, что он и предоставляет новый подход рассуждений о СИИ – не принимающий какие-то предшествующие заявления как данность, но пытающийся выработать их с чистого листа".
https://lesswrong.ru/node/1168
За перевод опять благодарим группу Мак и коты и AI Safety.
Новый перевод на сайте - доклад Ричарда Нго "Безопасность сильного искусственного интеллекта с чистого листа".
"В этом докладе я попытался собрать воедино как можно более полные и убедительные аргументы, почему разработка СИИ может представлять экзистенциальную угрозу. Причина доклада – моя неудовлетворённость существующими аргументами о потенциальных рисках СИИ. Более ранние работы становятся менее актуальными в контексте современного машинного обучения; более недавние работы разрозненны и кратки. Изначально я хотел лишь пересказывать аргументы других людей, но, в процессе написания доклада, он становился всё больше представляющим мои собственные взгляды, и менее представляющим чьи-то ещё. Так что хоть он и покрывает стандартные идеи, я думаю, что он и предоставляет новый подход рассуждений о СИИ – не принимающий какие-то предшествующие заявления как данность, но пытающийся выработать их с чистого листа".
https://lesswrong.ru/node/1168
За перевод опять благодарим группу Мак и коты и AI Safety.
LessWrong на русском
Безопасность СИИ с чистого листа
В этом докладе я попытался собрать воедино как можно более полные и убедительные аргументы, почему разработка СИИ может представлять экзистенциальную угрозу. Причина доклада – моя неудовлетворённость существующими аргументами о потенциальных рисках СИИ. Более…
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Какой рынок экономисты называют эффективным? Почему некоторые рынки эффективными не являются? Когда знание ситуации помогает заработать деньги, а когда - нет? Есть ли что-то странное в том, что в мире встречаются "низко-висящие плоды" - возможность сделать что-то ценное в важной для других области?
Сегодня, 14 марта, мы поговорим о второй главе книги "Равновесие из-за отсутствия свободной энергии" ("An Equilibrium of No Free Energy"). В этой главе Юдковский описывает термины "эффективность", "используемость/эксплуатируемость" и "адекватность" и постепенно переходит к рассуждениям о том, почему всё же некоторые равновесия являются неадекватными.
Главу можно прочитать по ссылке: https://equilibriabook.com/an-equilibrium-of-no-free-energy/
Встреча пройдёт в онлайне, на платформе Zoom.
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Со ссылкой регистрации на встречу вышла некоторая заминка. Я до встречи постараюсь добавить её в эту запись. Также она будет в чате клуба чтения Цепочек.
Upd Ссылка регистрации на встречу: https://kocherga-club.ru/events/43wrmibfg5ep5bxlk2shfha5zm
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Какой рынок экономисты называют эффективным? Почему некоторые рынки эффективными не являются? Когда знание ситуации помогает заработать деньги, а когда - нет? Есть ли что-то странное в том, что в мире встречаются "низко-висящие плоды" - возможность сделать что-то ценное в важной для других области?
Сегодня, 14 марта, мы поговорим о второй главе книги "Равновесие из-за отсутствия свободной энергии" ("An Equilibrium of No Free Energy"). В этой главе Юдковский описывает термины "эффективность", "используемость/эксплуатируемость" и "адекватность" и постепенно переходит к рассуждениям о том, почему всё же некоторые равновесия являются неадекватными.
Главу можно прочитать по ссылке: https://equilibriabook.com/an-equilibrium-of-no-free-energy/
Встреча пройдёт в онлайне, на платформе Zoom.
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Со ссылкой регистрации на встречу вышла некоторая заминка. Я до встречи постараюсь добавить её в эту запись. Также она будет в чате клуба чтения Цепочек.
Upd Ссылка регистрации на встречу: https://kocherga-club.ru/events/43wrmibfg5ep5bxlk2shfha5zm
Inadequate Equilibria
Chapter 2: An Equilibrium of No Free Energy | Inadequate Equilibria
How, in principle, can society end up neglecting obvious low-hanging fruit?
Появилась ссылка регистрации на встречу (см. выше): https://kocherga-club.ru/events/43wrmibfg5ep5bxlk2shfha5zm
kocherga-club.ru
Клуб чтения цепочек - 14 марта
Какой рынок экономисты называют эффективным? Почему некоторые рынки эффективными не являются? Когда знание ситуации помогает заработать деньги, а когда — нет? Есть ли что-то странное в том, что в мире встречаются «низко висящие плоды» — возможность сделать…
#переводы #нго
Новый перевод на сайте -- подборка задач по согласованию ИИ (AI alignment) от Ричарда Нго.
Благодаря работам Элиезера Юдковского (и не только) уже многие слышали, что есть важная задача по согласованию ИИ. Однако даже если человек согласен, что это важная задача, и хочет принять участие в её решении, зачастую непонятно, а с чего вообще начинать.
В прошлом месяце Ричард Нго выложил свою подборку задач, которые ему представляются полезными. Некоторые из этих задач давно известны и для них существует решение, а некоторые не решены до сих пор. Группа Мак и коты и AI Safety перевела этот текст на русский язык. (Впрочем, для работы над большей частью задач всё равно придётся читать материалы на английском.)
https://lesswrong.ru/1235
Новый перевод на сайте -- подборка задач по согласованию ИИ (AI alignment) от Ричарда Нго.
Благодаря работам Элиезера Юдковского (и не только) уже многие слышали, что есть важная задача по согласованию ИИ. Однако даже если человек согласен, что это важная задача, и хочет принять участие в её решении, зачастую непонятно, а с чего вообще начинать.
В прошлом месяце Ричард Нго выложил свою подборку задач, которые ему представляются полезными. Некоторые из этих задач давно известны и для них существует решение, а некоторые не решены до сих пор. Группа Мак и коты и AI Safety перевела этот текст на русский язык. (Впрочем, для работы над большей частью задач всё равно придётся читать материалы на английском.)
https://lesswrong.ru/1235
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Итак, как же мы можем понять, что имеем дело именно с неадекватным равновесием, а не с какой-то иной проблемой?
Сегодня, 21 марта, мы поговорим о третьей главе книги "Инструментарий Молоха" ("Moloch’s Toolbox"). В этой главе Юдковский описывает, когда и как возникают неадекватные равновесия и в диалоговой форме приводит разнообразные их примеры.
Главу можно прочитать по ссылке: https://equilibriabook.com/molochs-toolbox/ Поскольку эта глава очень большая, в рамках этой встречи мы ограничимся первой её половиной (до раздела VI включительно).
Встреча пройдёт в онлайне, на платформе Zoom. Регистрация на встречу: https://kocherga-club.ru/events/zxdrs62li5esfk2ovy5li2odu4
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Итак, как же мы можем понять, что имеем дело именно с неадекватным равновесием, а не с какой-то иной проблемой?
Сегодня, 21 марта, мы поговорим о третьей главе книги "Инструментарий Молоха" ("Moloch’s Toolbox"). В этой главе Юдковский описывает, когда и как возникают неадекватные равновесия и в диалоговой форме приводит разнообразные их примеры.
Главу можно прочитать по ссылке: https://equilibriabook.com/molochs-toolbox/ Поскольку эта глава очень большая, в рамках этой встречи мы ограничимся первой её половиной (до раздела VI включительно).
Встреча пройдёт в онлайне, на платформе Zoom. Регистрация на встречу: https://kocherga-club.ru/events/zxdrs62li5esfk2ovy5li2odu4
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Inadequate Equilibria
Chapter 3: Moloch’s Toolbox | Inadequate Equilibria
Why does our civilization actually end up neglecting low-hanging fruit?
Попытка простыми словами описать, почему вопросы безопасности сильного искусственного интеллекта - это важно. С большим количеством упрощений (автор это сама признаёт), однако написать коротко и без упрощений невозможно.
https://vk.com/wall-99823470_1045
https://vk.com/wall-99823470_1045
VK
#worldoptimization
У человечества есть одна ПРОБЛЕМКА, о которой почти никто не знает. Во многом потому, что все тексты на эту тему написаны совершенно недоступным для большинства языком с кучей непонятных терминов.
Я постараюсь написать доступное объяснение.
Итак.
🆘Существует…
Я постараюсь написать доступное объяснение.
Итак.
🆘Существует…
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Сегодня, 28 марта, мы будем обсуждать вторую часть главы "Инструментарий Молоха" ("Moloch’s Toolbox"), в которой автор продолжает приводить примеры неадекватных равновесий и рассуждать о том, как именно они образовались.
Главу можно прочитать по ссылке: https://equilibriabook.com/molochs-toolbox/ В рамках этой встречи мы будем обсуждать её, начиная с раздела VII.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/67ztjb3qafhjvlediiueikpuri
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Сегодня, 28 марта, мы будем обсуждать вторую часть главы "Инструментарий Молоха" ("Moloch’s Toolbox"), в которой автор продолжает приводить примеры неадекватных равновесий и рассуждать о том, как именно они образовались.
Главу можно прочитать по ссылке: https://equilibriabook.com/molochs-toolbox/ В рамках этой встречи мы будем обсуждать её, начиная с раздела VII.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/67ztjb3qafhjvlediiueikpuri
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Inadequate Equilibria
Chapter 3: Moloch’s Toolbox | Inadequate Equilibria
Why does our civilization actually end up neglecting low-hanging fruit?
Forwarded from Эффективный альтруизм
У Charity Entrepreneurship до 3-го апреля открыт прием заявок в новую инкубационную программу
В Charity Entrepreneurship уже 4 года помогают запускать проекты, решающие масштабные и недооцененные проблемы, а также проводят исследования. В этом году программа будет направлена на создание благотворительных организаций в следующих сферах:
- Качество помощи
- Безопасность дорожного движения
- Налогообложение табака
- Послеродовое планирование семьи
- Изучение определенных проблем
"Мы предоставляем хорошо проработанные идеи благотворительности, 2-месячную очную программу обучения с оплатой стоимости обучения (онлайн), денежные стипендии для покрытия расходов на проживание, значительное финансирование (до $175 000) для воплощения проектов в жизнь и широкий спектр постоянной поддержки", — пишут организаторы.
Новая программа продлится с 27 июня по 19 августа 2022 года, крайний срок подачи заявок на второй тур — 3 апреля 2022 года (+1 неделя для опоздавших).
Больше подробностей:
➡️ www.charityentrepreneurship.com/incubation-program
В Charity Entrepreneurship уже 4 года помогают запускать проекты, решающие масштабные и недооцененные проблемы, а также проводят исследования. В этом году программа будет направлена на создание благотворительных организаций в следующих сферах:
- Качество помощи
- Безопасность дорожного движения
- Налогообложение табака
- Послеродовое планирование семьи
- Изучение определенных проблем
"Мы предоставляем хорошо проработанные идеи благотворительности, 2-месячную очную программу обучения с оплатой стоимости обучения (онлайн), денежные стипендии для покрытия расходов на проживание, значительное финансирование (до $175 000) для воплощения проектов в жизнь и широкий спектр постоянной поддержки", — пишут организаторы.
Новая программа продлится с 27 июня по 19 августа 2022 года, крайний срок подачи заявок на второй тур — 3 апреля 2022 года (+1 неделя для опоздавших).
Больше подробностей:
➡️ www.charityentrepreneurship.com/incubation-program
CE
INCUBATION PROGRAM | CE
Start an effective charity with our two-month online program. It’s a cost-covered, intensive training designed by founders for founders.
#переводы
Новый перевод на сайте - совместная статья Эвана Хубингера, Криса ван Мервика, Владимира Микулика, Йоара Скалсе и Скотта Гаррабранта "Риски выученной оптимизации".
"Цель этой статьи – проанализировать выученную оптимизацию, происходящую, когда обученная модель (например, нейронная сеть) сама является оптимизатором – ситуация, которую мы называем меса-оптимизацией – неологизмом, представленным в этой цепочке. Мы убеждены, что возможность меса-оптимизации поднимает два важных вопроса касательно безопасности и прозрачности продвинутых систем машинного обучения. Первый: в каких обстоятельствах обученная модель будет оптимизатором, включая те, когда не должна была им быть? Второй: когда обученная модель – оптимизатор, каковы будут её цели: как они будут расходиться с функцией оценки, которой она была обучена, и как можно её согласовать?"
https://lesswrong.ru/node/1258
За перевод в очередной раз благодарим сообщество Мак и коты и AI Safety.
Новый перевод на сайте - совместная статья Эвана Хубингера, Криса ван Мервика, Владимира Микулика, Йоара Скалсе и Скотта Гаррабранта "Риски выученной оптимизации".
"Цель этой статьи – проанализировать выученную оптимизацию, происходящую, когда обученная модель (например, нейронная сеть) сама является оптимизатором – ситуация, которую мы называем меса-оптимизацией – неологизмом, представленным в этой цепочке. Мы убеждены, что возможность меса-оптимизации поднимает два важных вопроса касательно безопасности и прозрачности продвинутых систем машинного обучения. Первый: в каких обстоятельствах обученная модель будет оптимизатором, включая те, когда не должна была им быть? Второй: когда обученная модель – оптимизатор, каковы будут её цели: как они будут расходиться с функцией оценки, которой она была обучена, и как можно её согласовать?"
https://lesswrong.ru/node/1258
За перевод в очередной раз благодарим сообщество Мак и коты и AI Safety.
LessWrong на русском
Риски выученной оптимизации
В этой цепочке приводится статья Эвана Хубингера, Криса ван Мервика, Владимира Микулика, Йоара Скалсе и Скотта Гаррабранта "[Риски выученной оптимизации в продвинутых системах машинного обучения](https://arxiv.org/abs/1906.01820)". Посты цепочки соответствуют…
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Зачем нам вообще уметь опознавать неадекватные равновесия? Есть множество людей, которые без всякого анализа скажут: "Совершенно очевидно, что вся система сломана. Зачем нужен какой-то анализ неадекватности?" Другие люди скажут: "Если тебе кажется, что в системе что-то работает не так, значит, ты просто недостаточно разобрался в ней". Почему этих точек зрения может быть недостаточно?
Сегодня, 4 апреля, мы закончим обсуждать третью главу "Инструментарий Молоха" ("Moloch’s Toolbox"), в которой нам остался раздел Х, и перейдём к главе "Жизнь в неадекватном мире" ("Living in an Inadequate World"). За эту встречу мы планируем обсудить первую половину этой главы (разделы I и II).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/uvh5okbgujew3baosj2buyaaby
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Зачем нам вообще уметь опознавать неадекватные равновесия? Есть множество людей, которые без всякого анализа скажут: "Совершенно очевидно, что вся система сломана. Зачем нужен какой-то анализ неадекватности?" Другие люди скажут: "Если тебе кажется, что в системе что-то работает не так, значит, ты просто недостаточно разобрался в ней". Почему этих точек зрения может быть недостаточно?
Сегодня, 4 апреля, мы закончим обсуждать третью главу "Инструментарий Молоха" ("Moloch’s Toolbox"), в которой нам остался раздел Х, и перейдём к главе "Жизнь в неадекватном мире" ("Living in an Inadequate World"). За эту встречу мы планируем обсудить первую половину этой главы (разделы I и II).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/uvh5okbgujew3baosj2buyaaby
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Inadequate Equilibria
Chapter 3: Moloch’s Toolbox | Inadequate Equilibria
Why does our civilization actually end up neglecting low-hanging fruit?
#скотт_александер #переводы
Андрей Заболотский перевёл художественный рассказ Скотта Александера "Слова статуй" о трёх всеведущих статуях, одна из которых всегда говорит правду, другая всегда лжёт, а третья отвечает случайным образом.
https://colt-browning.livejournal.com/8795.html
Андрей Заболотский перевёл художественный рассказ Скотта Александера "Слова статуй" о трёх всеведущих статуях, одна из которых всегда говорит правду, другая всегда лжёт, а третья отвечает случайным образом.
https://colt-browning.livejournal.com/8795.html
Livejournal
Слова статуй
Слова статуй Скотт Александер https://astralcodexten.substack.com/p/idol-words пер. с англ. colt_browning стихи в пер. М. Зенкевича и К. Бальмонта опубликовано с разрешения автора Я чувствую себя соучастником государственной пропаганды, когда на фоне продолжающихся…
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Предположим, что мы действительно живём в достаточно неадекватном мире. Но что мы можем в таком случае сделать? Если даже признанные эксперты ошибаются, как мы можем об этом узнать, не становясь экспертами сами?
Сегодня, 11 апреля, мы обсудим вторую половину четвёртой главы "Жизнь в неадекватном мире" ("Living in an Inadequate World"). После этого мы перейдём к пятой главе "Слепой эмпиризм" ("Blind Empiricism"), в которой пойдёт речь о том, что хотя излишняя привязанность к своей теории крайне вредна, отсутствие теории тоже приводит к проблемам.
Встреча пройдёт в онлайне, на платформе Zoom. Чтобы получить ссылку, нужно зарегистрироваться: https://kocherga-club.ru/events/lwrqsgmw3be7rkfzlfhuydvomm
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Предположим, что мы действительно живём в достаточно неадекватном мире. Но что мы можем в таком случае сделать? Если даже признанные эксперты ошибаются, как мы можем об этом узнать, не становясь экспертами сами?
Сегодня, 11 апреля, мы обсудим вторую половину четвёртой главы "Жизнь в неадекватном мире" ("Living in an Inadequate World"). После этого мы перейдём к пятой главе "Слепой эмпиризм" ("Blind Empiricism"), в которой пойдёт речь о том, что хотя излишняя привязанность к своей теории крайне вредна, отсутствие теории тоже приводит к проблемам.
Встреча пройдёт в онлайне, на платформе Zoom. Чтобы получить ссылку, нужно зарегистрироваться: https://kocherga-club.ru/events/lwrqsgmw3be7rkfzlfhuydvomm
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Inadequate Equilibria
Chapter 4: Living in an Inadequate World | Inadequate Equilibria
How can we take into account civilization’s brokenness in our decision-making, without overcorrecting?
#книги #галеф
Написал статью с пересказом основных идей книги Джулии Галеф "Мышление разведчика". С моей точки зрения, короче всего эту книгу можно описать так: это книга о том, как успешно менять своё мнение. Наверное, её можно считать более современной и, вероятно, более практичной версией соответствующего тома "Рациональности: от ИИ до Зомби".
Джулия Галеф когда-то была одним из авторов блога LessWrong. Также она была первым президентом CFAR. Сейчас ведёт подкаст "Rationally speaking".
https://telegra.ph/Dzhuliya-Galef-Myshlenie-razvedchika-04-12
Написал статью с пересказом основных идей книги Джулии Галеф "Мышление разведчика". С моей точки зрения, короче всего эту книгу можно описать так: это книга о том, как успешно менять своё мнение. Наверное, её можно считать более современной и, вероятно, более практичной версией соответствующего тома "Рациональности: от ИИ до Зомби".
Джулия Галеф когда-то была одним из авторов блога LessWrong. Также она была первым президентом CFAR. Сейчас ведёт подкаст "Rationally speaking".
https://telegra.ph/Dzhuliya-Galef-Myshlenie-razvedchika-04-12
Telegraph
Джулия Галеф, "Мышление разведчика"
«Мышление солдата» и «мышление разведчика» Последние лет десять большую популярность получила тема когнитивных искажений. Думаю, многие читали какие-нибудь книги или статьи о том, как люди успешно обманывают себя, принимают систематически неверные решения…
#встречи #онлайн
Все мы знаем про ошибку планирования. Люди очень часто ошибаются в вопросах, сколько времени у них займёт та или иная задача или сколько им ресурсов потребуется. Известно, что лучший способ справиться с ошибкой планирования - воспользоваться "взглядом извне", то есть, посмотреть, сколько времени или ресурсов тратили на такую же задачу мы сами или хотя бы другие люди.
Однако что если человек планирует достаточно амбициозный проект, например, планирует сделать что-то новое, в чём его предшественники не добились успеха? Что здесь скажет "взгляд извне"?
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Сегодня, 18 апреля, мы обсудим вторую половину пятой главы "Слепой эмпиризм" ("Blind Empiricism"). После этого мы перейдём к шестой главе "Против эпистемологии скромности"("Against Modest Epistemology").
Встреча пройдёт в онлайне, на платформе Zoom. Регистрация на встречу: https://kocherga-club.ru/events/bjhqthhydnehjh3lzvsvq3mlg4
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Все мы знаем про ошибку планирования. Люди очень часто ошибаются в вопросах, сколько времени у них займёт та или иная задача или сколько им ресурсов потребуется. Известно, что лучший способ справиться с ошибкой планирования - воспользоваться "взглядом извне", то есть, посмотреть, сколько времени или ресурсов тратили на такую же задачу мы сами или хотя бы другие люди.
Однако что если человек планирует достаточно амбициозный проект, например, планирует сделать что-то новое, в чём его предшественники не добились успеха? Что здесь скажет "взгляд извне"?
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".
Сегодня, 18 апреля, мы обсудим вторую половину пятой главы "Слепой эмпиризм" ("Blind Empiricism"). После этого мы перейдём к шестой главе "Против эпистемологии скромности"("Against Modest Epistemology").
Встреча пройдёт в онлайне, на платформе Zoom. Регистрация на встречу: https://kocherga-club.ru/events/bjhqthhydnehjh3lzvsvq3mlg4
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Inadequate Equilibria
Chapter 5: Blind Empiricism | Inadequate Equilibria
Three anecdotes on the practical side of modesty.
#встречи #онлайн
Литература, посвящённая когнитивным искажениям, часто пишет о том, как нам мешает жить сверхуверенность. Мудро ли в таком случае пытаться удержать людей от недоуверенности?
Почему многие люди зачастую склонны браться лишь за задачи, которые они точно могут решить, и не пытаются проверить свои силы в чём-то более серьёзном?
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия". Сегодня, 25 апреля, мы обсудим седьмую главу книги - "Контроль за статусами и тревожная недоуверенность" ("Status Regulation and Anxious Underconfidence").
Встреча пройдёт в онлайне, на платформе Zoom. Для получения ссылки нужно зарегистрироваться: https://kocherga-club.ru/events/v4bhqaodg5f5beb2iawavz5tb4
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Литература, посвящённая когнитивным искажениям, часто пишет о том, как нам мешает жить сверхуверенность. Мудро ли в таком случае пытаться удержать людей от недоуверенности?
Почему многие люди зачастую склонны браться лишь за задачи, которые они точно могут решить, и не пытаются проверить свои силы в чём-то более серьёзном?
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия". Сегодня, 25 апреля, мы обсудим седьмую главу книги - "Контроль за статусами и тревожная недоуверенность" ("Status Regulation and Anxious Underconfidence").
Встреча пройдёт в онлайне, на платформе Zoom. Для получения ссылки нужно зарегистрироваться: https://kocherga-club.ru/events/v4bhqaodg5f5beb2iawavz5tb4
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн
С точки зрения эпистемологии сверхуверенность и недостаточная уверенность - явления одного порядка. Однако, кажется, человек, который постоянно пытается прыгнуть выше головы, осуждается окружающими чаще, чем человек, который не пытается это сделать никогда. Как это влияет на наше поведение?
Сегодня, 2 мая мы заканчиваем обсуждать книгу "Неадекватные равновесия". Обсудим вторую часть седьмой главы "Контроль за статусами и тревожная недоуверенность" ("Status Regulation and Anxious Underconfidence") и заключение , а также поговорим о книге в целом.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/paiqclm6nvamfftdxdsyg4xrde
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
С точки зрения эпистемологии сверхуверенность и недостаточная уверенность - явления одного порядка. Однако, кажется, человек, который постоянно пытается прыгнуть выше головы, осуждается окружающими чаще, чем человек, который не пытается это сделать никогда. Как это влияет на наше поведение?
Сегодня, 2 мая мы заканчиваем обсуждать книгу "Неадекватные равновесия". Обсудим вторую часть седьмой главы "Контроль за статусами и тревожная недоуверенность" ("Status Regulation and Anxious Underconfidence") и заключение , а также поговорим о книге в целом.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/paiqclm6nvamfftdxdsyg4xrde
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Inadequate Equilibria
Chapter 7: Status Regulation and Anxious Underconfidence | Inadequate Equilibria
Whence modesty?
#встречи #онлайн
Как можно использовать в реальной жизни центральные идеи из книги «Неадекватные равновесия»? Как понятия адекватности, используемости и эффективности помогают узнать будет ли успешной новая задумка?
В понедельник, 9 мая обсудим эссе «Лицензия героя» — текст, по смыслу дополняющий книгу «Неадекватные равновесия», в котором Юдковский рассказывает об истории создания ГПиМРМ и своей работе в области искусственного интеллекта.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/exwjf4bxfjfapjy2znvd5jvbtu
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Как можно использовать в реальной жизни центральные идеи из книги «Неадекватные равновесия»? Как понятия адекватности, используемости и эффективности помогают узнать будет ли успешной новая задумка?
В понедельник, 9 мая обсудим эссе «Лицензия героя» — текст, по смыслу дополняющий книгу «Неадекватные равновесия», в котором Юдковский рассказывает об истории создания ГПиМРМ и своей работе в области искусственного интеллекта.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/exwjf4bxfjfapjy2znvd5jvbtu
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#переводы #скотталександер
Недавно здесь публиковался перевод статьи Эвана Хубингера и других "Риски выученной оптимизации", в которой вводилось понятие меса-оптимизатора. В апреле Скотт Александер написал эссе "Deceptively Aligned Mesa-Optimizers: It's Not Funny If I Have To Explain It" с объяснениями того, что это такое и с какими проблемами это понятие связано. А группа Мак и коты и AI Safety это эссе перевела.
Обманчиво согласованные меса-оптимизаторы. Это не смешно, если приходится объяснять
Недавно здесь публиковался перевод статьи Эвана Хубингера и других "Риски выученной оптимизации", в которой вводилось понятие меса-оптимизатора. В апреле Скотт Александер написал эссе "Deceptively Aligned Mesa-Optimizers: It's Not Funny If I Have To Explain It" с объяснениями того, что это такое и с какими проблемами это понятие связано. А группа Мак и коты и AI Safety это эссе перевела.
Обманчиво согласованные меса-оптимизаторы. Это не смешно, если приходится объяснять
#встречи #онлайн
Чем могут помочь знания о неадекватных равновесиях и эпистемологии скромности? Что при наличии этих знаний мы можем начать делать по-другому?
Сегодня, 16 мая, мы подведём итоги обсуждений книги Элиезера Юдковского "Неадекватные равновесия" и поговорим о том, что мы будем обсуждать дальше.
Встреча пройдёт в онлайне, на платформе Zoom. Для участия во встрече необходимо зарегистрироваться: https://kocherga-club.ru/events/pmu2xkg3wveypp3utrfxcwzfym
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Чем могут помочь знания о неадекватных равновесиях и эпистемологии скромности? Что при наличии этих знаний мы можем начать делать по-другому?
Сегодня, 16 мая, мы подведём итоги обсуждений книги Элиезера Юдковского "Неадекватные равновесия" и поговорим о том, что мы будем обсуждать дальше.
Встреча пройдёт в онлайне, на платформе Zoom. Для участия во встрече необходимо зарегистрироваться: https://kocherga-club.ru/events/pmu2xkg3wveypp3utrfxcwzfym
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Inadequate Equilibria
Table of Contents | Inadequate Equilibria
Eliezer Yudkowsky’s Inadequate Equilibria is a sharp and lively guidebook for anyone questioning when and how they can know better, and do better, than the status quo. Freely mixing debates on the foundations of rational decision-making with tips for everyday…