Привет) Это Даша 🦄🪐

Я решила создать канал, где вы сможете наблюдать эволюцию продукта компании OpenAI под названием ChatGPT, который, кстати, начинался как GPT-2.

Считайте, это такой узконаправленный агрегатор апдейтов.

Предупрежу сразу, что вся будет взята не далее, чем из каналов в телеге, на которые я подписана 🦥, однако поверьте, даже этого будет более чем достаточно, кроме того что безумно интересно.

p.s. именно беглое ознакомление со многим из того, чем тут буду делиться, меня вдохновило на кучу идей по работе с этой штукой 🎨

Не знаю, какое информационное поле у вас, однако у меня этот ChatGPT уже недели полторы из каждого утюга.
И каково же было моё удивление, когда я вбила это в поисковик у себя в телеге и обнаружила первое его (вернее, его предшественника) упоминание — летом 2020 года.

Там была подпись: Вероятно, главное нейрособытие лета.

Посмотрите сами 👇

Лаборатория OpenAI представила алгоритм GPT-3: он умеет по нескольким примерам выполнять множество заданий, прямо или косвенно связанных с текстом: писать стихи и новости, переводить, решать примеры, давать описания, разгадывать анаграммы, структурировать информацию и даже программировать.

Вероятно, главное нейрособытие лета.

https://vc.ru/ml/143516

Так, неплохо бы текста эти разбавить чем-нибудь.
Попросила чат-бота написать о себе мемчик, а он заодно ещё и картинку для него описал (да-да, потому что наш чат-бот — исключительно текстовый товарищ). Картинку по его описанию дала сгенерировать DeepAI
👇

When I'm asked to write a PhD thesis but all I know is how to generate text

"Чат-бот" как-то безумно скучно звучит для этой поистине революционной штуки, согласны?

Надо бы ему кликуху придумать.

Хотя почему бы у него самого не спросить)

Хотя знаете, с главным нейрособытием лета я поспешила. Вот, что мы обнаружим, если отмотать время на год назад, в 2019-й

Вот всё в телеге удобно, кроме подключения комментариев к каналу🤪
Надеюсь, сейчас откроется возможность комментирования

Смотрите, какой-то чувак снимает короткие видео, сценарии к которым пишет нейросеть GPT-2.
Получается забавно: хоть в словах и есть согласованность, в сюжете всё равно получается бессмыслица.

https://m.youtube.com/watch?feature=youtu.be&v=QfI0Pu0jz3E

Обратите внимание на ссылку во втором абзаце - перейдя по ней, можно узнать, кто стоял у истоков Open AI, породившего GPT

Недавно была сыграна удивительная шахматная партия. Играла компьютерная программа против человека: slatestarcodex.com/2020/01/06/a-very-unlikely-chess-game

Но удивителен не результат партии (шахматные программы сегодня легко обыгрывают даже чемпионов мира, хотя в этот раз победил человек), а то, что это была за программа. Это GPT-2, нейросеть, которая продолжает за тебя написанный текст. Я уже писал про эту программу и про опасения, связанные с её разработкой: t.me/mustreads/2234

GPT-2 успешно сопротивлялась в партии против человека … даже не зная о том, что играет в шахматы. Нейроcети дали тексты шахматной нотации (записи ходов латиницей, т.е. e2-e4 и т.д.) – базу из нескольких миллионов сыгранных шахматных партий. При этом программу не учили правилам шахмат, для неё все эти записи партий были просто текстом.

Если нейросети дать на изучение тексты песен Егора Летова, она через какое-то время сможет сама писать тексты, похожие на песни «Гражданской обороны» (это уже делал Яндекс: music.yandex.ru/artist/4445922). А если нейросети дать тексты шахматных партий, она начинает генерировать достаточно убедительные тексты шахматных партий. В итоге программа проиграла ферзя, но до середины партии достаточно неплохо сопротивлялась. Видимо, если её подольше пообучать, она станет ещё сильнее.

По-моему, это отличная иллюстрация того, как ИИ может превзойти человека в какой-то сфере, особо не напрягаясь, и расширить свои способности в неожиданном для нас направлении. Лишний повод напомнить вам о серьёзности рисков, связанных с развитием не дружественного человеку супер-ИИ. Скоро сделаю про это ролик.

Вот инструкция для тех, кто хочет тоже сыграть партию с GPT: colab.research.google.com/drive/12hlppt1f2N0L9Orp8YCLgon6EF5V3vuR

P.S. Попробуйте написать короткую фразу на английском для GPT-2 и предложите нейросети продолжить текст за вас по ссылке: talktotransformer.com (сегодня этот сайт с российского IP у меня почему-то недоступен – возможно, они так борются с генерацией фейк-ньюз русскими ботами – но включите VPN с IP любой другой страны и всё заработает)

P.P.S. Аналогичная программа доступна на русском: text.skynet.center

P.P.P.S. На тему противостояния ИИ и людей за шахматной доской рекомендую всем любителям шахмат материал про матч между топ-5 гроссмейстером мира Хикару Накамурой и одной из сильнейших программ Комодо, в котором компьютер давал фору гроссмейстеру в каждой партии: en.chessbase.com/post/wsj-on-odds-chess-match-nakamura-vs-komodo (здесь можно почитать про матч и посмотреть все партии).

В первой партии это была фора в пешку, во второй – в пешку и ход, в третьей – в качество (ладья за слона), в четвёртой – фора в 4 хода. В итоге человек не выиграл ни одной партии и проиграл матч. Я в детстве занимался шахматами и был КМСом – так вот, местами было больно и обидно за гроссмейстера, которого переигрывали, как будто Леонель Месси играет в футбол против школьника со двора.

#техно_мастрид