Ilya Sutskever – сооснователь OpenAI, ведущий исследователь в области AI, создатель ChatGPT и просто человек, формирующий наше будущее.

https://youtu.be/SjhIlw3Iffs

Из интересного:

• Next thing prediction is all you need. Ещё недавно все носились с идеей, что обучение без учителя – Грааль машинного обучения, а сегодня задача решена полностью, и об этом никто даже не говорит.
• Наши представления о границах больших языковых моделей меняются из года в год, и мы забываем, насколько сильно.
• Большие языковые модели уже понимают весь мир и все процессы в нём, и отдельная задача: как достать из эти знания из них.
• Подавать картинки на вход модели (делать её мультимодальной, как GPT-4) – помогает быстрее понять отдельные концепты, но не необходимо.
• Предстоящие вызовы: как учить модели понимать всё больше, используя всё меньше данных?
• Будущая роль ИИ в принятии политических и экономических решений. Люди будут голосовать не за партии, а за алгоритмы.

Extremely valuable to watch.

#interview #youtube #ai #ml #chatgpt #gpt3 #gpt4 #openai

Сэм Альтман, CEO в OpenAI

https://youtu.be/T5cPoNwO7II

• Прислушиваться к пользователям и думать о долгосрочных конкурентных преимуществах своего продукта – только усиливает свою актуальность в эпоху ChatGPT;

• Кастомизация базовой модели становится всё менее востребованной. Увеличение контекста и prompt engineering уже закрывают потребность подгонки модели под свои данные;

• Бизнес стратегия, которой придерживается Сэм: долгосрочная перспектива, капиталоёмкая и сложная технология. В этой нише много трудностей и мало кто сюда суётся, а значит, здесь низкая конкуренция;

• Погоня за большими моделями в прошлом. Главное: какие новые возможности даёт модель;

• Сейчас оптимальная стратегия – это "метод проб-и-ошибок", а также, внимательное наблюдение, как применяют технологию пользователи;

• Открытое письмо о приостановке обучения больших моделей на 6 месяцев не является самым эффективным инструментом контроля безопасности ИИ. Так, внешний аудит GPT-4 (Red Team) проводился дольше 6 месяцев с окончания обучения;

• Сэм не верит, что появление алгоритма, способного совершенствовать свой код, приведет к сингулярности. Участие человека в цепочке останется неизбежным. А что случится, так это то, что люди получат всё больше и больше возможностей менять мир к лучшему.

#chatgpt #ai #gpt #gpt4 #openAI

Вчера вечером перед сном читал блог Грега Брокмана –сооснователя и президента OpenAI (ранее CTO в Stripe). Некоторые его называют главным кодером в OpenAI.

Рекомендую прогуляться и вам:
• Его проекты до/в OpenAI (+ полезные ссылки)
• Его блог (часть постов в соавторстве с Ильёй)

#OpenAI