Cal Newport (автор книг "Deep Work", "Digital Minimalism" и других) дискутирует по поводу статьи "There Is No Turning Back on AI. The only question is: will we learn how to live in moving history?" от Tyler Cowen, экономиста и профессора в George Mason University.

• AI ввергает нас в эру, когда историческая хуйня происходит, буквально, каждый день. AI кардинально поменяет и продолжит менять нашу цивилизацию: будет много очень "плохого", но "хорошего" будет существенно больше.

• Уже избитая аналогия, что ChatGPT это как изобретение печатной машины Гутенберга: да, это облегчает письмо для писателей, журналистов, учёных – но также облегчило Ленину, Гитлеру и Мао напечатать свои труды, которые привели к "нехорошему".

• Сейчас никто не скажет внятно, что будет происходить в мире, ни Эльезер Юдковский, ни Сэм Альман, ни Игорь Котенков. Долгосрочным и среднесрочным горизонтам планирования можете сказать "пака!". Никто не мог сказать как зааффектит наше общество изобретение печатного станка и тем более огня.

• Разрушать проще, чем строить. Поэтому Эльезер и его LessWrong-банда любят сгущать краски своими пессимистичными прогнозами как мы все умрём. Это лишь даёт иллюзии предсказуемости будущего. Такие однозначные "предсказания" изготавливать и распространять проще.

• Вообще говоря, риск AGI-катастрофы должен быть отнесён в ту же папочку, что и риск падения астероида как тот, что убил динозавров, или гамма-всплеск WR104, которая на расстоянии вытянутой руки (8000 световых лет) от нас.

• Короче говоря, сейчас кто слишком конкретен в своих предсказаниях об импакте AGI на наше общество, – мутные, реактивные чуваки, не доверяйте им. Смотрите на данные: какие индустрии поменялись, где увольняют 50% сотрудников, – это самый надёжный ориентир того, что фактически происходит.

• Нулевая гипотеза, что AI нихуя не поменяет в следующие 5 лет, и мы не собрали пока достаточно наблюдений, чтобы статистически значимо её отвергнуть.

#ml #ai #agi #chatgpt #calnewpork #followup #takeaway #thesis #youtube