Складывается впечатление, что эта штука не знает слова нет. А ещё на примере этого диалога можно увидеть, насколько он интеллигентен. 🎓
Вот только мне его варианты всё же не понравились. Хочется так чтобы коротко и ярко ⚡️
Если у вас есть идеи, пишите в комментариях)
Вот только мне его варианты всё же не понравились. Хочется так чтобы коротко и ярко ⚡️
Если у вас есть идеи, пишите в комментариях)
Хотя знаете, с главным нейрособытием лета я поспешила. Вот, что мы обнаружим, если отмотать время на год назад, в 2019-й
Forwarded from Denis Sexy IT 🤖
Как все и догадывались, успехи алгоритма генерации реалистичного текста GPT-2 (пока только на английском), который OpenAI не хотели публиковать из-за угрозы «Генерации фейковых новостей» частично повторили и выложили в открытый доступ:
https://medium.com/@vanya_cohen/opengpt-2-we-replicated-gpt-2-because-you-can-too-45e34e6d36dc
Это стало возможным из-за того, что OpenAI все же сдался на днях и опубликовал свою «среднюю» модель, но не опубликовал «финальные» веса: https://openai.com/blog/gpt-2-6-month-follow-up/
На основе этих данных и смогли воспроизвести «финальные» веса.
Называется это все OpenGPT-2 – можно скачать как и веса, так и запустить алгоритм в Google Colab. Отдельно ребята отмечают, что если по их коду тренировать нейронку с нуля, то придется вложить 50k$ на облачные вычисления.
Пример работы – на вход OpenGPT-2 дали:
«Recycling is good for the world. NO! YOU COULD NOT BE MORE WRONG!!»
И нейронка сгенерировала длинную статью которая начинается :
«That´s because recycling is all about selling to customers who cannot afford to recycle.” If you don’t have any interest in recycling, in whatever form, then you could well be doing your own global environmental benefit if you just got rid of it. Let me explain. Recycling takes time, money and energy, and it doesn’t really solve the problem...»
Правда работает и правда генерирует текст который не отличить от некоторых сумасшедших постов в фейсбуке. Ждем появления нейро-SEO-специалистов?
https://medium.com/@vanya_cohen/opengpt-2-we-replicated-gpt-2-because-you-can-too-45e34e6d36dc
Это стало возможным из-за того, что OpenAI все же сдался на днях и опубликовал свою «среднюю» модель, но не опубликовал «финальные» веса: https://openai.com/blog/gpt-2-6-month-follow-up/
На основе этих данных и смогли воспроизвести «финальные» веса.
Называется это все OpenGPT-2 – можно скачать как и веса, так и запустить алгоритм в Google Colab. Отдельно ребята отмечают, что если по их коду тренировать нейронку с нуля, то придется вложить 50k$ на облачные вычисления.
Пример работы – на вход OpenGPT-2 дали:
«Recycling is good for the world. NO! YOU COULD NOT BE MORE WRONG!!»
И нейронка сгенерировала длинную статью которая начинается :
«That´s because recycling is all about selling to customers who cannot afford to recycle.” If you don’t have any interest in recycling, in whatever form, then you could well be doing your own global environmental benefit if you just got rid of it. Let me explain. Recycling takes time, money and energy, and it doesn’t really solve the problem...»
Правда работает и правда генерирует текст который не отличить от некоторых сумасшедших постов в фейсбуке. Ждем появления нейро-SEO-специалистов?
Medium
OpenGPT-2: We Replicated GPT-2 Because You Can Too
By Aaron Gokaslan* and Vanya Cohen*
👍1
Вот всё в телеге удобно, кроме подключения комментариев к каналу🤪
Надеюсь, сейчас откроется возможность комментирования
Надеюсь, сейчас откроется возможность комментирования
Forwarded from Neural Shit
Смотрите, какой-то чувак снимает короткие видео, сценарии к которым пишет нейросеть GPT-2.
Получается забавно: хоть в словах и есть согласованность, в сюжете всё равно получается бессмыслица.
https://m.youtube.com/watch?feature=youtu.be&v=QfI0Pu0jz3E
Получается забавно: хоть в словах и есть согласованность, в сюжете всё равно получается бессмыслица.
https://m.youtube.com/watch?feature=youtu.be&v=QfI0Pu0jz3E
YouTube
This, dad, is my friend dan.
** Please suggest lines we can use to create new scripts in the comments!! **
* Also check out Richard's (DAN!) band Indigo Drone, they rock.
To write this script we enter the first sentence into GPT-2 artificial intelligence. Every single word from then…
* Also check out Richard's (DAN!) band Indigo Drone, they rock.
To write this script we enter the first sentence into GPT-2 artificial intelligence. Every single word from then…
Обратите внимание на ссылку во втором абзаце - перейдя по ней, можно узнать, кто стоял у истоков Open AI, породившего GPT
Forwarded from Мастриды
Недавно была сыграна удивительная шахматная партия. Играла компьютерная программа против человека: slatestarcodex.com/2020/01/06/a-very-unlikely-chess-game
Но удивителен не результат партии (шахматные программы сегодня легко обыгрывают даже чемпионов мира, хотя в этот раз победил человек), а то, что это была за программа. Это GPT-2, нейросеть, которая продолжает за тебя написанный текст. Я уже писал про эту программу и про опасения, связанные с её разработкой: t.me/mustreads/2234
GPT-2 успешно сопротивлялась в партии против человека … даже не зная о том, что играет в шахматы. Нейроcети дали тексты шахматной нотации (записи ходов латиницей, т.е. e2-e4 и т.д.) – базу из нескольких миллионов сыгранных шахматных партий. При этом программу не учили правилам шахмат, для неё все эти записи партий были просто текстом.
Если нейросети дать на изучение тексты песен Егора Летова, она через какое-то время сможет сама писать тексты, похожие на песни «Гражданской обороны» (это уже делал Яндекс: music.yandex.ru/artist/4445922). А если нейросети дать тексты шахматных партий, она начинает генерировать достаточно убедительные тексты шахматных партий. В итоге программа проиграла ферзя, но до середины партии достаточно неплохо сопротивлялась. Видимо, если её подольше пообучать, она станет ещё сильнее.
По-моему, это отличная иллюстрация того, как ИИ может превзойти человека в какой-то сфере, особо не напрягаясь, и расширить свои способности в неожиданном для нас направлении. Лишний повод напомнить вам о серьёзности рисков, связанных с развитием не дружественного человеку супер-ИИ. Скоро сделаю про это ролик.
Вот инструкция для тех, кто хочет тоже сыграть партию с GPT: colab.research.google.com/drive/12hlppt1f2N0L9Orp8YCLgon6EF5V3vuR
P.S. Попробуйте написать короткую фразу на английском для GPT-2 и предложите нейросети продолжить текст за вас по ссылке: talktotransformer.com (сегодня этот сайт с российского IP у меня почему-то недоступен – возможно, они так борются с генерацией фейк-ньюз русскими ботами – но включите VPN с IP любой другой страны и всё заработает)
P.P.S. Аналогичная программа доступна на русском: text.skynet.center
P.P.P.S. На тему противостояния ИИ и людей за шахматной доской рекомендую всем любителям шахмат материал про матч между топ-5 гроссмейстером мира Хикару Накамурой и одной из сильнейших программ Комодо, в котором компьютер давал фору гроссмейстеру в каждой партии: en.chessbase.com/post/wsj-on-odds-chess-match-nakamura-vs-komodo (здесь можно почитать про матч и посмотреть все партии).
В первой партии это была фора в пешку, во второй – в пешку и ход, в третьей – в качество (ладья за слона), в четвёртой – фора в 4 хода. В итоге человек не выиграл ни одной партии и проиграл матч. Я в детстве занимался шахматами и был КМСом – так вот, местами было больно и обидно за гроссмейстера, которого переигрывали, как будто Леонель Месси играет в футбол против школьника со двора.
#техно_мастрид
Но удивителен не результат партии (шахматные программы сегодня легко обыгрывают даже чемпионов мира, хотя в этот раз победил человек), а то, что это была за программа. Это GPT-2, нейросеть, которая продолжает за тебя написанный текст. Я уже писал про эту программу и про опасения, связанные с её разработкой: t.me/mustreads/2234
GPT-2 успешно сопротивлялась в партии против человека … даже не зная о том, что играет в шахматы. Нейроcети дали тексты шахматной нотации (записи ходов латиницей, т.е. e2-e4 и т.д.) – базу из нескольких миллионов сыгранных шахматных партий. При этом программу не учили правилам шахмат, для неё все эти записи партий были просто текстом.
Если нейросети дать на изучение тексты песен Егора Летова, она через какое-то время сможет сама писать тексты, похожие на песни «Гражданской обороны» (это уже делал Яндекс: music.yandex.ru/artist/4445922). А если нейросети дать тексты шахматных партий, она начинает генерировать достаточно убедительные тексты шахматных партий. В итоге программа проиграла ферзя, но до середины партии достаточно неплохо сопротивлялась. Видимо, если её подольше пообучать, она станет ещё сильнее.
По-моему, это отличная иллюстрация того, как ИИ может превзойти человека в какой-то сфере, особо не напрягаясь, и расширить свои способности в неожиданном для нас направлении. Лишний повод напомнить вам о серьёзности рисков, связанных с развитием не дружественного человеку супер-ИИ. Скоро сделаю про это ролик.
Вот инструкция для тех, кто хочет тоже сыграть партию с GPT: colab.research.google.com/drive/12hlppt1f2N0L9Orp8YCLgon6EF5V3vuR
P.S. Попробуйте написать короткую фразу на английском для GPT-2 и предложите нейросети продолжить текст за вас по ссылке: talktotransformer.com (сегодня этот сайт с российского IP у меня почему-то недоступен – возможно, они так борются с генерацией фейк-ньюз русскими ботами – но включите VPN с IP любой другой страны и всё заработает)
P.P.S. Аналогичная программа доступна на русском: text.skynet.center
P.P.P.S. На тему противостояния ИИ и людей за шахматной доской рекомендую всем любителям шахмат материал про матч между топ-5 гроссмейстером мира Хикару Накамурой и одной из сильнейших программ Комодо, в котором компьютер давал фору гроссмейстеру в каждой партии: en.chessbase.com/post/wsj-on-odds-chess-match-nakamura-vs-komodo (здесь можно почитать про матч и посмотреть все партии).
В первой партии это была фора в пешку, во второй – в пешку и ход, в третьей – в качество (ладья за слона), в четвёртой – фора в 4 хода. В итоге человек не выиграл ни одной партии и проиграл матч. Я в детстве занимался шахматами и был КМСом – так вот, местами было больно и обидно за гроссмейстера, которого переигрывали, как будто Леонель Месси играет в футбол против школьника со двора.
#техно_мастрид
Slate Star Codex
A Very Unlikely Chess Game
Almost 25 years after Kasparov vs. Deep Blue, another seminal man vs. machine matchup: Neither competitor has much to be proud of here. White has a poor opening. Black screws up and loses his queen…
ChatGPT эволюция
"Чат-бот" как-то безумно скучно звучит для этой поистине революционной штуки, согласны? Надо бы ему кликуху придумать. Хотя почему бы у него самого не спросить)
Снизошло.
GPT + ИИ = милашка Гипти.
Вот картинки, каким его увидели 3 разных ИИ
GPT + ИИ = милашка Гипти.
Вот картинки, каким его увидели 3 разных ИИ
Forwarded from Denis Sexy IT 🤖
Создатели нейронки GPT2 (это та, которая пишет правдоподобные тексты), применили такую же архитектуру но для генерации картинок – смотрите, нейронка догенерировала картинку и теперь котик читает 🌚
Подробнее:
https://openai.com/blog/image-gpt/
Подробнее:
https://openai.com/blog/image-gpt/
Forwarded from эйай ньюз
Стоит ли GPT-3 всего того хайпа вокруг нее? Я думаю нет, просто зная как работает маркетинг у OpenAI. Все ведь помнят GPT-2, да? (Для тех, кто пропустил, они почти год срали всем в уши про то, что GPT-2 слишком опасная чтобы давать ее людям, ага, и где она сейчас?) То, что GPT-3 улучшает на один процент (условно) точность language generation не делает ее особенной, особенно учитывая то, что тренируют ее в несравнимых условиях с несравнимыми затратами ресурсов. Таких моделей много, на любой вкус, просто никто ими не интересуется. Разрекламируй их так же как рекламируют GPT-3 и окажется что и они тоже неплохо код генерят, и табулатуры гитарные пишут, просто никто этого не делает. OpenAI держат планку в плане исследований на уровне с другими большими игроками типо DeepMind и FAIR, но вот пиарщики у них ебейшие. Чему-чему, а этому у них стоит учиться, и GPT-3 отличный тому пример.
https://twitter.com/sharifshameem/status/1282676454690451457
https://twitter.com/sharifshameem/status/1282676454690451457
X (formerly Twitter)
Sharif Shameem (@sharifshameem) on X
This is mind blowing.
With GPT-3, I built a layout generator where you just describe any layout you want, and it generates the JSX code for you.
W H A T
With GPT-3, I built a layout generator where you just describe any layout you want, and it generates the JSX code for you.
W H A T
Forwarded from Метаверсище и ИИще
Продолжим тему ИИ - искусственных инфлюенсеров.
Ибо пищи для ̶И̶И̶ ума подвалило как по заказу.
Чуть позже расскажу, про ИИ-флюенсера, который хорошо умеет в графический дизайн и даже постит отличные картинки, а сейчас вот такой случай двухнедельной давности, где в качестве инфлюенсера выступает ИИ.
Один смышленый парень (кстати, интерн из ФБ) решил пошутить.
Завел блог и придумал название, сделал описание, добавил фото.
А дальше.. дальше все делал ИИ. Писал тексты. С помощью так склоняемого нынче GPT-3.
В итоге, у автора 26 000 посетителей блога за две недели.
Дальше смешнее.
Только один человек реально заподозрил неладное и написал автору напрямую.
Несколько людей в коментах высказались критически про контент и стиль, но были тут же освистаны и обруганы остальными с формулировкой "ведите себя прилично и нечего тут умничать".
Прекрасный кейс про киберпанк, как мне кажется.
Дальше у автора в статье хорошие мысли про будущее online media.
Он с цифрами в руках показывает, что ресурс типа Buzzfeed может экономить до 3 миллионов долларов в год с помощью GPT-3.
Доказывает убедительно. Помножая зарплаты писателей на количество писателей и поделив на производительность ИИ. А также упоминая переход на удаленку и экономию костов.
Он справедливо замечает, что данный подход не будет работать в новостях, касающихся фактологии и аналитики, тут GPT просто ничем не поможет (разве что составлением убедительных гороскопов), а вот во всем, что касается разговоров за жизнь и мощных филосовских прогонов за личную отвественность перед собственной эффективностью (как в примере автора), ИИ уделает в велеречивости и убедительности кожаных мешков одной левой нейросетью.
А теперь глядим в Инстаграмчик и Фейсбучек, что там у нас набирает по полной? Ну вы поняли...
Статья вот тут:
https://liamp.substack.com/p/my-gpt-3-blog-got-26-thousand-visitors
Блог тут: https://news.ycombinator.com/from?site=adolos.substack.com
И дальше напрашивается философский твист в контентное ожирение.
Когда-то проблема пропитания населения была (в целом) решена и пришла проблема ожирения. Понадобилось некоторое количество лет, чтобы понять, что с ожирением и качеством еды тоже надо что-то делать. Причем на уровне государственного регулирования.
А пока мы пожираем контент во всех его видах. И производство контента растет, и, что самое главное, запрос на производсто еще больших объемов контента тоже растет.
И тут приходят GPT и GAN и говорят: мы решим вашу проблему, мы накормим население контентом.. нет.. мы закормим население контентом до упора.
Только вот где он упор? Как вычислить объем информационного желудка?
Ибо пищи для ̶И̶И̶ ума подвалило как по заказу.
Чуть позже расскажу, про ИИ-флюенсера, который хорошо умеет в графический дизайн и даже постит отличные картинки, а сейчас вот такой случай двухнедельной давности, где в качестве инфлюенсера выступает ИИ.
Один смышленый парень (кстати, интерн из ФБ) решил пошутить.
Завел блог и придумал название, сделал описание, добавил фото.
А дальше.. дальше все делал ИИ. Писал тексты. С помощью так склоняемого нынче GPT-3.
В итоге, у автора 26 000 посетителей блога за две недели.
Дальше смешнее.
Только один человек реально заподозрил неладное и написал автору напрямую.
Несколько людей в коментах высказались критически про контент и стиль, но были тут же освистаны и обруганы остальными с формулировкой "ведите себя прилично и нечего тут умничать".
Прекрасный кейс про киберпанк, как мне кажется.
Дальше у автора в статье хорошие мысли про будущее online media.
Он с цифрами в руках показывает, что ресурс типа Buzzfeed может экономить до 3 миллионов долларов в год с помощью GPT-3.
Доказывает убедительно. Помножая зарплаты писателей на количество писателей и поделив на производительность ИИ. А также упоминая переход на удаленку и экономию костов.
Он справедливо замечает, что данный подход не будет работать в новостях, касающихся фактологии и аналитики, тут GPT просто ничем не поможет (разве что составлением убедительных гороскопов), а вот во всем, что касается разговоров за жизнь и мощных филосовских прогонов за личную отвественность перед собственной эффективностью (как в примере автора), ИИ уделает в велеречивости и убедительности кожаных мешков одной левой нейросетью.
А теперь глядим в Инстаграмчик и Фейсбучек, что там у нас набирает по полной? Ну вы поняли...
Статья вот тут:
https://liamp.substack.com/p/my-gpt-3-blog-got-26-thousand-visitors
Блог тут: https://news.ycombinator.com/from?site=adolos.substack.com
И дальше напрашивается философский твист в контентное ожирение.
Когда-то проблема пропитания населения была (в целом) решена и пришла проблема ожирения. Понадобилось некоторое количество лет, чтобы понять, что с ожирением и качеством еды тоже надо что-то делать. Причем на уровне государственного регулирования.
А пока мы пожираем контент во всех его видах. И производство контента растет, и, что самое главное, запрос на производсто еще больших объемов контента тоже растет.
И тут приходят GPT и GAN и говорят: мы решим вашу проблему, мы накормим население контентом.. нет.. мы закормим население контентом до упора.
Только вот где он упор? Как вычислить объем информационного желудка?
Excavations
My GPT-3 Blog Got 26 Thousand Visitors in 2 Weeks
The future of online media
Forwarded from TJ
Нейросеть GPT-3 от OpenAI стала доступна некоторым разработчика меньше месяца назад, но уже успела наделать шума из-за своей универсальности: она может написать код, музыку или сделать вёрстку — достаточно текстового описания.
Хотя первые отзывы об алгоритме исключительно восторженные, он на самом деле не слишком приближает человечество к настоящему искусственному интеллекту. Почему GPT-3 лишь убедительно «бросает пыль в глаза» и как способна изменить привычный мир.
https://tjournal.ru/tech/195331
Хотя первые отзывы об алгоритме исключительно восторженные, он на самом деле не слишком приближает человечество к настоящему искусственному интеллекту. Почему GPT-3 лишь убедительно «бросает пыль в глаза» и как способна изменить привычный мир.
https://tjournal.ru/tech/195331
Forwarded from Метаверсище и ИИще
В ответ на бан Тик-Тока Трампом китайцы сбегали домой и позвали Большого Брата, то есть ИИ. (на самом деле в еще в апреле)
ИИ взял и нагенерил GAN-ами стотыщ лиц, которые не существуют, и превратил их в реальные аккаунты в соц-сетях типа Facebook, Twitter, and YouTube.
Нагенерил дивных имен.
И обрушился на Трампа с яростной бранью. То есть запустил целую медиа-кампанию.
Мало того, они нагенерили еще тучу видео со звуком, через автоматический text-to-speech.
То есть организовать и "одеть" мощную медиа-атаку можно целиком с помощью ИИ.
И эти вот несуществующие люди и дипфейки - это прям отличный материал для таких развлечений.
К слову сказать с качеством у китайцев вышло плохо, тексты с ошибками, произношение ужасное, что в итоге свело на нет все усилия.
Однако недавний пример того, как один смышленый аспирант вывел в топ свой блог с помощью GPT-3, говорит о том, что качество генерируемого контента неуклонно растет.
А вот потребитель этого контента, похоже, не сильно меняется с годами...
https://www.pcmag.com/news/pro-china-propaganda-act-used-fake-followers-made-with-ai-generated-images
ИИ взял и нагенерил GAN-ами стотыщ лиц, которые не существуют, и превратил их в реальные аккаунты в соц-сетях типа Facebook, Twitter, and YouTube.
Нагенерил дивных имен.
И обрушился на Трампа с яростной бранью. То есть запустил целую медиа-кампанию.
Мало того, они нагенерили еще тучу видео со звуком, через автоматический text-to-speech.
То есть организовать и "одеть" мощную медиа-атаку можно целиком с помощью ИИ.
И эти вот несуществующие люди и дипфейки - это прям отличный материал для таких развлечений.
К слову сказать с качеством у китайцев вышло плохо, тексты с ошибками, произношение ужасное, что в итоге свело на нет все усилия.
Однако недавний пример того, как один смышленый аспирант вывел в топ свой блог с помощью GPT-3, говорит о том, что качество генерируемого контента неуклонно растет.
А вот потребитель этого контента, похоже, не сильно меняется с годами...
https://www.pcmag.com/news/pro-china-propaganda-act-used-fake-followers-made-with-ai-generated-images
PCMAG
Pro-China Propaganda Act Used Fake Followers Made With AI-Generated Images
A pro-China propaganda campaign on social media has been creating fake followers with the help of AI-generated images of seemingly real, but fictitious people.
Forwarded from эйай ньюз
Интересных технических новостей пока на горизонте не видно, наверняка из-за отсутствия конференций в этот период. Но вот интересная новость на пересечении эйай и бизнеса:
GPT-3 оказалось будет эксклюзивно лицензирована для Microsoft, что очень странно, учитывая что OpenAI всегда была некоммерческой компанией построенной на улучшении ИИ для всего человечества через открытый рисерч (откуда и Open-). Но Microsoft оказался более нуждающимся чем остальное человечество. Даже Маск, один из основателей, написал в Твиторе: “This does seem like the opposite of open. OpenAI is essentially captured by Microsoft”.
GPT-3 оказалось будет эксклюзивно лицензирована для Microsoft, что очень странно, учитывая что OpenAI всегда была некоммерческой компанией построенной на улучшении ИИ для всего человечества через открытый рисерч (откуда и Open-). Но Microsoft оказался более нуждающимся чем остальное человечество. Даже Маск, один из основателей, написал в Твиторе: “This does seem like the opposite of open. OpenAI is essentially captured by Microsoft”.
Silicon Valley
Elon Musk criticizes OpenAI exclusively licensing GPT-3 to Microsoft
Tesla CEO Elon Musk doesn’t seem to approve of Microsoft’s deal with OpenAI — the research company he co-founded in 2015.
Forwarded from TJ
Нейросеть GPT-3 неделю отвечала на вопросы пользователей реддита, притворяясь человеком — всё дошло до обсуждения иллюминатов и предсказаний апокалипсиса.
Пока бот рассуждал на философские темы и даже получал благодарности от реальных людей, его разоблачили. Всё потому, что он публиковал огромные посты с интервалом один раз в минуту.
https://tjournal.ru/tech/221065
Пока бот рассуждал на философские темы и даже получал благодарности от реальных людей, его разоблачили. Всё потому, что он публиковал огромные посты с интервалом один раз в минуту.
https://tjournal.ru/tech/221065