Forwarded from Сиолошная
Так вот, к чему была эта прелюдия. В Reuters пишут, что якобы катализатором увольнения Альтмана стало письмо сотрудников OpenAI совету директоров. В нём говорится о прорыве в исследовании ИИ, которое, «может угрожать человечеству».
Правда, Reuters не смогло ознакомиться с копией письма. А автор(ы) не ответили на запросы о комментариях. Так что особо почвы у теории под ногами нет.
Масла в огонь подливает тот факт, что за сутки до увольнения Sam Altman на оффлайн-саммите сказал следующее:
— Четыре раза за всю историю OpenAI, и последний раз был вот несколько недель назад, я присутствовал в комнате, когда мы как бы отодвигаем завесу невежества и подталкиваем границу открытий вперед. Сделать это — профессиональная честь на всю жизнь.
Что он там такого увидел?
Согласно новости, модель (система?) Q* смогла решить некоторые математические задачи, сообщил источник на условиях анонимности. Это само по себе выглядит странно — ведь даже в примере выше пример куда сложнее, это конец средней школы. И как будто никакого прорыва и нет. Возможно, журналисты всё перепутали — ну или история выдумка.
Теперь о том, как на это смотреть и чего ждать:
1) OpenAI точно занимается разработкой модели, которая будет осуществлять научные исследования. Они про это пишут открыто.
2) Для того, чтобы это произошло, нужно, чтобы модель-учёный умела решать сложные задачи и планировать исследования. Часть этой работы уже сделана — см. статью из поста выше.
3) Вся концепция заключается в том, что модель будет генерировать тысячи неправильных кусочков решений, иногда выдавая верные — главное, чтобы их можно было отранжировать в списке гипотез выше, чем мусорные (вспоминайте модель-оценщика из поста выше).
4) Для этого нужно огромное количество мощностей. Поэтому деньги тут решают. OpenAI пока привлекли больше всех инвестиций, и моё видение такое, что через 2 года это станет большим препятствием для входа. Останется 5-10 игроков, кто готов столько денег сжигать.
5) Вопрос в том, насколько большим будет следующий скачок. Сможет ли модель писать решения на уровне магистра? PhD? Постдока? Доктора наук? Будет ли она ограничена 2-3 доменами, или же обобщится на любую научную область, где есть вычисления?
6) Однажды вы проснётесь, и слух из новости станет правдой: появится модель, которая будет хотя бы частично (>50%) заменять одного учёного в лаборатории. С этих пор прогресс начнёт двигаться гораздо быстрее — потому что нанять 100 учёных за день нельзя, а запустить 100500 моделей на кластере за день — можно.
Более подробно с моим видением дальнейшей стратегии OpenAI и направлениями, в которых они будут копать, вы можете ознакомитсья в моей недавней лекции «What's next for OpenAI?». Там я, конечно, не предсказал шумиху с увольнением CEO, но много говорю про агентов-исследователей и подход OpenAI.
А почитать больше спекуляций по поводу Gemini и Q* можно на LessWrong.
Правда, Reuters не смогло ознакомиться с копией письма. А автор(ы) не ответили на запросы о комментариях. Так что особо почвы у теории под ногами нет.
Масла в огонь подливает тот факт, что за сутки до увольнения Sam Altman на оффлайн-саммите сказал следующее:
— Четыре раза за всю историю OpenAI, и последний раз был вот несколько недель назад, я присутствовал в комнате, когда мы как бы отодвигаем завесу невежества и подталкиваем границу открытий вперед. Сделать это — профессиональная честь на всю жизнь.
Что он там такого увидел?
Согласно новости, модель (система?) Q* смогла решить некоторые математические задачи, сообщил источник на условиях анонимности. Это само по себе выглядит странно — ведь даже в примере выше пример куда сложнее, это конец средней школы. И как будто никакого прорыва и нет. Возможно, журналисты всё перепутали — ну или история выдумка.
Теперь о том, как на это смотреть и чего ждать:
1) OpenAI точно занимается разработкой модели, которая будет осуществлять научные исследования. Они про это пишут открыто.
2) Для того, чтобы это произошло, нужно, чтобы модель-учёный умела решать сложные задачи и планировать исследования. Часть этой работы уже сделана — см. статью из поста выше.
3) Вся концепция заключается в том, что модель будет генерировать тысячи неправильных кусочков решений, иногда выдавая верные — главное, чтобы их можно было отранжировать в списке гипотез выше, чем мусорные (вспоминайте модель-оценщика из поста выше).
4) Для этого нужно огромное количество мощностей. Поэтому деньги тут решают. OpenAI пока привлекли больше всех инвестиций, и моё видение такое, что через 2 года это станет большим препятствием для входа. Останется 5-10 игроков, кто готов столько денег сжигать.
5) Вопрос в том, насколько большим будет следующий скачок. Сможет ли модель писать решения на уровне магистра? PhD? Постдока? Доктора наук? Будет ли она ограничена 2-3 доменами, или же обобщится на любую научную область, где есть вычисления?
6) Однажды вы проснётесь, и слух из новости станет правдой: появится модель, которая будет хотя бы частично (>50%) заменять одного учёного в лаборатории. С этих пор прогресс начнёт двигаться гораздо быстрее — потому что нанять 100 учёных за день нельзя, а запустить 100500 моделей на кластере за день — можно.
Более подробно с моим видением дальнейшей стратегии OpenAI и направлениями, в которых они будут копать, вы можете ознакомитсья в моей недавней лекции «What's next for OpenAI?». Там я, конечно, не предсказал шумиху с увольнением CEO, но много говорю про агентов-исследователей и подход OpenAI.
А почитать больше спекуляций по поводу Gemini и Q* можно на LessWrong.
YouTube
What's next for OpenAI? | SuperAlignment | Igor Kotenkov, Lecture in Russian
Ссылка на презентацию: https://1drv.ms/p/s!AlnN0aqNwShslxRizBwXClLYDHHe
Мой телеграм канал: https://t.me/seeallochnaya
Список всех моих образовательных материалов, статей, лекций итд: https://t.me/seeallochnaya/3
В этом докладе мы разберемся, что такое…
Мой телеграм канал: https://t.me/seeallochnaya
Список всех моих образовательных материалов, статей, лекций итд: https://t.me/seeallochnaya/3
В этом докладе мы разберемся, что такое…
Forwarded from STASH©
Ни для кого не секрет что саундтреки из игр могут быть настоящими шедеврами, однако они часто остаются в тени в массовой культуре. И всегда приятно видеть когда они получают признание за пределами видеоигровой среды. Особенно меня всегда цепляли японские композиторы видеоигр.
И открытие олимпийскийх игр 2020 в Токио был отличный случай для Японии, чтобы отпраздновать свою историю и закрепить историю японских видеоигр в своём культурном коде. На открытие олимпиады была целая россыпь отличных композиций из прекрасных игр: От «Final Fantasy» до «Sonic the Hedgehog», от «Soul Calibur» до «Kingdom Hearts». С полным списком игр и названий треков можно ознакомиться тут.
Для себя не могу не выделить Первый Акт из Gradius исполненный Лондонским Филармоническим Оркестром.
А также появление Индийских атлетов под «Frog's Theme» из «Chrono Trigger» :)
И открытие олимпийскийх игр 2020 в Токио был отличный случай для Японии, чтобы отпраздновать свою историю и закрепить историю японских видеоигр в своём культурном коде. На открытие олимпиады была целая россыпь отличных композиций из прекрасных игр: От «Final Fantasy» до «Sonic the Hedgehog», от «Soul Calibur» до «Kingdom Hearts». С полным списком игр и названий треков можно ознакомиться тут.
Для себя не могу не выделить Первый Акт из Gradius исполненный Лондонским Филармоническим Оркестром.
А также появление Индийских атлетов под «Frog's Theme» из «Chrono Trigger» :)
YouTube
GRADIUS IN CLASSIC I [グラディウス・イン・クラシック I] (1993)
01 ACT I-1
02 ACT I-2
03 ACT I-3
04 ACT II-1
05 ACT II-2
06 ACT III-1
07 ACT III-2
08 ACT III-3
Sound Producer: Neko Saito
Producer: Shigeru Hukutake (Konami)
Directors: Michael Maesawa (Konami)
Jun Otsuki (King Records)…
02 ACT I-2
03 ACT I-3
04 ACT II-1
05 ACT II-2
06 ACT III-1
07 ACT III-2
08 ACT III-3
Sound Producer: Neko Saito
Producer: Shigeru Hukutake (Konami)
Directors: Michael Maesawa (Konami)
Jun Otsuki (King Records)…