Сэм Альтман, CEO в OpenAI

https://youtu.be/T5cPoNwO7II

• Прислушиваться к пользователям и думать о долгосрочных конкурентных преимуществах своего продукта – только усиливает свою актуальность в эпоху ChatGPT;

• Кастомизация базовой модели становится всё менее востребованной. Увеличение контекста и prompt engineering уже закрывают потребность подгонки модели под свои данные;

• Бизнес стратегия, которой придерживается Сэм: долгосрочная перспектива, капиталоёмкая и сложная технология. В этой нише много трудностей и мало кто сюда суётся, а значит, здесь низкая конкуренция;

• Погоня за большими моделями в прошлом. Главное: какие возможности открывает модель;

• Сейчас оптимальная стратегия – это "метод проб-и-ошибок", а также, внимательное наблюдение, как применяют технологию пользователи;

• Открытое письмо о приостановке обучения больших моделей на 6 месяцев не является самым эффективным инструментом контроля безопасности ИИ. Так, внешний аудит GPT-4 (Red Team) проводился дольше 6 месяцев с окончания обучения;

• Сэм не верит, что появление алгоритма, способного совершенствовать свой код, приведет к сингулярности. Участие человека в цепочке останется неизбежным. А что случится, так это то, что люди получат всё больше и больше возможностей менять мир к лучшему.

#chatgpt #ai #gpt #gpt4 #openAI

Cal Newport (автор книг "Deep Work", "Digital Minimalism" и других) дискутирует по поводу статьи "There Is No Turning Back on AI. The only question is: will we learn how to live in moving history?" от Tyler Cowen, экономиста и профессора в George Mason University.

• AI ввергает нас в эру, когда историческая хуйня происходит, буквально, каждый день. AI кардинально поменяет и продолжит менять нашу цивилизацию: будет много очень "плохого", но "хорошего" будет существенно больше.

• Уже избитая аналогия, что ChatGPT это как изобретение печатной машины Гутенберга: да, это облегчает письмо для писателей, журналистов, учёных – но также облегчило Ленину, Гитлеру и Мао напечатать свои труды, которые привели к "нехорошему".

• Сейчас никто не скажет внятно, что будет происходить в мире, ни Эльезер Юдковский, ни Сэм Альман, ни Игорь Котенков. Долгосрочным и среднесрочным горизонтам планирования можете сказать "пака!". Никто не мог сказать как зааффектит наше общество изобретение печатного станка и тем более огня.

• Разрушать проще, чем строить. Поэтому Эльезер и его LessWrong-банда любят сгущать краски своими пессимистичными прогнозами как мы все умрём. Это лишь даёт иллюзии предсказуемости будущего. Такие однозначные "предсказания" изготавливать и распространять проще.

• Вообще говоря, риск AGI-катастрофы должен быть отнесён в ту же папочку, что и риск падения астероида как тот, что убил динозавров, или гамма-всплеск WR104, которая на расстоянии вытянутой руки (8000 световых лет) от нас.

• Короче говоря, сейчас кто слишком конкретен в своих предсказаниях об импакте AGI на наше общество, – мутные, реактивные чуваки, не доверяйте им. Смотрите на данные: какие индустрии поменялись, где увольняют 50% сотрудников, – это самый надёжный ориентир того, что фактически происходит.

• Нулевая гипотеза, что AI нихуя не поменяет в следующие 5 лет, и мы не собрали пока достаточно наблюдений, чтобы статистически значимо её отвергнуть.

#ml #ai #agi #chatgpt #calnewpork #followup #takeaway #thesis #youtube