Интересный пост от Михаила Самина (мощного эксперта про ИИ, который не раз был в моих подкастах) о том, почему деятельность некоторых активистов в сфере безопасности ИИ может быть не полезной, а наоборот - вредной.
Вот 3 основных причины для такого тезиса от Михаила с моими комментариями:
1) Не те законы
По итогам общественных дискуссий в США и других технологически развитых странах могут принять законы, слегка ограничивающие развитие ИИ, но по сути не решающие проблему, и после принятия таких (неэффективных) законов добиться принятия новых (более эффективных) будет сложнее.
Условный Конгресс США может резонно заявить: мы ведь ограничили разработки в сфере ИИ, на что вы жалуетесь? Мы не можем вводить сверхжёсткие ограничения, давайте ограничимся компромиссным вариантом!
Тогда как "компромиссный вариант" лишь немного отсрочит риски краха человеческой цивилизации, при этом уменьшив шансы на её спасение.
2) Обратный эффект
Когда активисты говорят о возможных катастрофических последствиях использования ИИ, кто-то из политиков может ужаснуться, а кто-то, наоборот, вдохновиться! Ведь ИИ (по мнению таких циничных политиков) можно превратить в супероружие и попробовать использовать его в своих корыстных целях. Всё как в последней "Невыполнимой миссии" с Томом Крузом.
3) Недостаток компетентности
Многие люди, публично обсуждающие риски ИИ, вообще ничего не понимают в теме. Справедливости ради, я сам не большой эксперт в том, как работают нейросети с технической стороны, но даже я вижу в рассуждениях многих самопровозглашённых экспертов элементарные прорехи. Даже если это люди с бэкграундом разработчиков. Просто они зачастую не погружались именно в сферу AI alignment и подходят к ней поверхностно, приводя аргументы, которые Юдковский сотоварищи опровергли ещё лет 20 назад.
Больше мыслей от Михаила на тему можно почитать в его лонгриде: https://greaterwrong.com/posts/jiYLFomPPePy85eN8/ai-pause-governance-advocacy-might-be-net-negative
А всем, кто пропустил наш с ним недавний подкаст, настоятельно советую. Ваше понимание темы после просмотра сильно улучшится (и вы получите ответы на многие ваши скептические контраргументы): https://youtu.be/X1B91PkXtFY
#ИИ_мастрид
Вот 3 основных причины для такого тезиса от Михаила с моими комментариями:
1) Не те законы
По итогам общественных дискуссий в США и других технологически развитых странах могут принять законы, слегка ограничивающие развитие ИИ, но по сути не решающие проблему, и после принятия таких (неэффективных) законов добиться принятия новых (более эффективных) будет сложнее.
Условный Конгресс США может резонно заявить: мы ведь ограничили разработки в сфере ИИ, на что вы жалуетесь? Мы не можем вводить сверхжёсткие ограничения, давайте ограничимся компромиссным вариантом!
Тогда как "компромиссный вариант" лишь немного отсрочит риски краха человеческой цивилизации, при этом уменьшив шансы на её спасение.
2) Обратный эффект
Когда активисты говорят о возможных катастрофических последствиях использования ИИ, кто-то из политиков может ужаснуться, а кто-то, наоборот, вдохновиться! Ведь ИИ (по мнению таких циничных политиков) можно превратить в супероружие и попробовать использовать его в своих корыстных целях. Всё как в последней "Невыполнимой миссии" с Томом Крузом.
3) Недостаток компетентности
Многие люди, публично обсуждающие риски ИИ, вообще ничего не понимают в теме. Справедливости ради, я сам не большой эксперт в том, как работают нейросети с технической стороны, но даже я вижу в рассуждениях многих самопровозглашённых экспертов элементарные прорехи. Даже если это люди с бэкграундом разработчиков. Просто они зачастую не погружались именно в сферу AI alignment и подходят к ней поверхностно, приводя аргументы, которые Юдковский сотоварищи опровергли ещё лет 20 назад.
Больше мыслей от Михаила на тему можно почитать в его лонгриде: https://greaterwrong.com/posts/jiYLFomPPePy85eN8/ai-pause-governance-advocacy-might-be-net-negative
А всем, кто пропустил наш с ним недавний подкаст, настоятельно советую. Ваше понимание темы после просмотра сильно улучшится (и вы получите ответы на многие ваши скептические контраргументы): https://youtu.be/X1B91PkXtFY
#ИИ_мастрид
Greaterwrong
AI pause/governance advocacy might be net-negative, especially without focus on explaining the x-risk
I found myself repeating the same words to multiple people, hence a short post. I think some of the AI pause/governance advocacy might be net-negative. Three reasons: Edit: I have somewhat updated my views around that since writing my post; in particular…
Как и ожидалось, в Тиктоке становятся всё популярнее всевозможные фейки, сгенерированные ИИ. Часто они сделаны сознательно для очернения образа того или иного бренда. Это мощный инструмент черного пиара, с которым сегодня нельзя не считаться.
Например, виральность получили тиктоки про то, что в крупной американской сети магазинов Hobby Lobby (куда ходит множество детей) продается множество огромных статуэток Бафомета и других демонов. И про то, что в магазинах популярной сети Target на манекенах с козьими головами надеты детские футболки с пентаграммами. Современные нейронки генерируют очень убедительные изображения и видео. А про главу компании Anheuser-Bush (производитель пива Bud) вообще запустили медиакампанию о том, что он агент ЦРУ под прикрытием.
Вчера вышла новость про то, что Тикток разрабатывает специальные инструменты, чтобы определять изображения, сгенерированные ИИ, и как-то их помечать: techcrunch.com/2023/09/19/tiktok-debuts-new-tools-and-technology-to-label-ai-content/
Но есть проблема: все мои знакомые эксперты говорят, что стопроцентно определить, сгенерировано ли видео ИИ или нет, на текущий момент невозможно. Аналогично с текстами: в американских вузах пытаются внедрить софт, отличающий эссе за авторством ChatGPT от человеческих текстов, но его точность пока не впечатляет.
Тикток также скоро предложит креаторам новую функцию - отметить, сгенерирован ли их тикток ИИ. Но никакой ответственности за то, что ты не поставишь такую галочку, пока не планируется. Думаю, это только пока!
#ИИ_мастрид #тренд_мастрид
Например, виральность получили тиктоки про то, что в крупной американской сети магазинов Hobby Lobby (куда ходит множество детей) продается множество огромных статуэток Бафомета и других демонов. И про то, что в магазинах популярной сети Target на манекенах с козьими головами надеты детские футболки с пентаграммами. Современные нейронки генерируют очень убедительные изображения и видео. А про главу компании Anheuser-Bush (производитель пива Bud) вообще запустили медиакампанию о том, что он агент ЦРУ под прикрытием.
Вчера вышла новость про то, что Тикток разрабатывает специальные инструменты, чтобы определять изображения, сгенерированные ИИ, и как-то их помечать: techcrunch.com/2023/09/19/tiktok-debuts-new-tools-and-technology-to-label-ai-content/
Но есть проблема: все мои знакомые эксперты говорят, что стопроцентно определить, сгенерировано ли видео ИИ или нет, на текущий момент невозможно. Аналогично с текстами: в американских вузах пытаются внедрить софт, отличающий эссе за авторством ChatGPT от человеческих текстов, но его точность пока не впечатляет.
Тикток также скоро предложит креаторам новую функцию - отметить, сгенерирован ли их тикток ИИ. Но никакой ответственности за то, что ты не поставишь такую галочку, пока не планируется. Думаю, это только пока!
#ИИ_мастрид #тренд_мастрид
TechCrunch
TikTok debuts new tools and technology to label AI content
As more creators turn to AI for their artistic expression, there’s also a broader push for transparency around when AI was involved in content creation. To address this concern, TikTok announced today it will launch a new tool that will allow creators to…
Часто слышу о том, что ИИ не может быть беспристрастным, ведь именно люди обучают нейросети, «натаскивая» их на выдачу правильных ответов (точнее, ответов, соответствующих корпоративной политике компаний вроде OpenAI).
Свежее исследование от University of East Anglia подтверждает этот тезис: кажется, ChatGPT немного «кренится влево». Исследователи из разных стран выяснили, что эта нейросеть склоняется к поддержке, например, американских демократов (а не республиканцев) и британских лейбористов.
Как проводилось исследование: нейросети задавали 60 разных вопросов по общественно важным темам (отношение к абортам, миграции, ношению оружия и т.д.). Сначала ученые получали ответ от нейросети. Для чистоты исследования каждый вопрос задавался по 100 раз (чтобы учесть фактор рандома), учитывались самые распространенные ответы.
Потом нейросеть просили притвориться представителем той или иной партии и дать ответы на те же вопросы от лица такого представителя. Тоже по 100 раз.
А потом сверяли ответы. Существенно чаще «мнение» нейросети оказывалось ближе к ответам представителей левых сил.
Авторы исследования бьют тревогу: кажется, таким образом через нейросети можно будет подспудно манипулировать общественным мнением. От себя добавлю, что такая манипуляция может быть ещё более эффективной, чем манипуляции в соцсетях. Ведь языковые нейросети, которым миллионы пользователей «скармливают» множество информации о себе и с которыми общаются на ежедневной основе как с советниками по бизнесу, виртуальными друзьями или партнерами по креативному брейншторму, знают нас как облупленных и знают, как нас убедить в чём угодно.
Но есть ещё одна версия, о которой авторы исследования не подумали. Опыт моего (и не только моего) общения с ChatGPT показывает, что эта нейросеть уже сильно умнее среднестатистического человека. Особенно при условии, что вы:
1) умеете задавать ей правильные вопросы (промпты)
2) общаетесь с ней на английском (качество ответов на русском сильно хромает)
3) общаетесь с платной GPT-4, а не с бесплатной GPT-3.5 (хотя и она впечатляет).
Так вот, есть у меня гипотеза, что ChatGPT чаще «кренится влево» по общественным вопросам американской и британской политики не потому, что ей «промыли электронные мозги», а просто потому, что такие взгляды наиболее адекватны и что более умные люди чаще придерживаются именно их. Скажем, требования к ношению оружия в США действительно стоит ужесточить, если приоритет — спасение жизней. То же самое можно сказать и про либерализацию американских систем здравоохранения и образования. Не случайно по статистике большинство американских ученых и интеллектуалов поддерживают демократов, а не республиканцев.
Возможно, ИИ просто лучше среднестатистического человека разобрался в некоторых вопросах. Хотя это только начало!
Исследование: https://link.springer.com/article/10.1007/s11127-023-01097-2
#ИИ_мастрид #полит_мастрид
Свежее исследование от University of East Anglia подтверждает этот тезис: кажется, ChatGPT немного «кренится влево». Исследователи из разных стран выяснили, что эта нейросеть склоняется к поддержке, например, американских демократов (а не республиканцев) и британских лейбористов.
Как проводилось исследование: нейросети задавали 60 разных вопросов по общественно важным темам (отношение к абортам, миграции, ношению оружия и т.д.). Сначала ученые получали ответ от нейросети. Для чистоты исследования каждый вопрос задавался по 100 раз (чтобы учесть фактор рандома), учитывались самые распространенные ответы.
Потом нейросеть просили притвориться представителем той или иной партии и дать ответы на те же вопросы от лица такого представителя. Тоже по 100 раз.
А потом сверяли ответы. Существенно чаще «мнение» нейросети оказывалось ближе к ответам представителей левых сил.
Авторы исследования бьют тревогу: кажется, таким образом через нейросети можно будет подспудно манипулировать общественным мнением. От себя добавлю, что такая манипуляция может быть ещё более эффективной, чем манипуляции в соцсетях. Ведь языковые нейросети, которым миллионы пользователей «скармливают» множество информации о себе и с которыми общаются на ежедневной основе как с советниками по бизнесу, виртуальными друзьями или партнерами по креативному брейншторму, знают нас как облупленных и знают, как нас убедить в чём угодно.
Но есть ещё одна версия, о которой авторы исследования не подумали. Опыт моего (и не только моего) общения с ChatGPT показывает, что эта нейросеть уже сильно умнее среднестатистического человека. Особенно при условии, что вы:
1) умеете задавать ей правильные вопросы (промпты)
2) общаетесь с ней на английском (качество ответов на русском сильно хромает)
3) общаетесь с платной GPT-4, а не с бесплатной GPT-3.5 (хотя и она впечатляет).
Так вот, есть у меня гипотеза, что ChatGPT чаще «кренится влево» по общественным вопросам американской и британской политики не потому, что ей «промыли электронные мозги», а просто потому, что такие взгляды наиболее адекватны и что более умные люди чаще придерживаются именно их. Скажем, требования к ношению оружия в США действительно стоит ужесточить, если приоритет — спасение жизней. То же самое можно сказать и про либерализацию американских систем здравоохранения и образования. Не случайно по статистике большинство американских ученых и интеллектуалов поддерживают демократов, а не республиканцев.
Возможно, ИИ просто лучше среднестатистического человека разобрался в некоторых вопросах. Хотя это только начало!
Исследование: https://link.springer.com/article/10.1007/s11127-023-01097-2
#ИИ_мастрид #полит_мастрид
SpringerLink
More human than human: measuring ChatGPT political bias
Public Choice - We investigate the political bias of a large language model (LLM), ChatGPT, which has become popular for retrieving factual information and generating content. Although ChatGPT...
ChatGPT теперь сможет общаться с вами голосом! Давно ждал этого апдейта: https://openai.com/blog/chatgpt-can-now-see-hear-and-speak
Первым его выкатят на обладателей платной подписки (если у вас всё ещё нет её, очень советую: 20 долларов за доступ к самой мощной технологии современности это неадекватно мало). Теперь ваш ребёнок может попросить нейросеть рассказать ему сказку, а та расскажет голосом (голос при этом можно кастомизировать). Киберпанк! Или вы сможете вести философские диспуты с ИИ, но не в текстовом, а в голосовом формате, что зачастую удобнее и атмосфернее.
Ещё в апдейте добавится возможность отправлять GPT картинки (и в том числе, например, скинуть фото, обвести на нём какую-нибудь деталь и задать вопрос про неё). Раньше похожие вещи тоже можно было делать, но с помощью дополнительных ухищрений с плагинами или сторонними сервисами.
У меня есть подписка Plus, но пока новые функции не появились в ней. Пишут, что будут постепенно их включать в течение пары недель. Предвкушаю серию новых скандалов из-за того, что, например, нейросеть окажется склонной к лукизму (будет судить людей по фото), и прочие конфузы. Тем не менее, полезных применений у всех этих функций — миллион.
#ИИ_мастрид
Первым его выкатят на обладателей платной подписки (если у вас всё ещё нет её, очень советую: 20 долларов за доступ к самой мощной технологии современности это неадекватно мало). Теперь ваш ребёнок может попросить нейросеть рассказать ему сказку, а та расскажет голосом (голос при этом можно кастомизировать). Киберпанк! Или вы сможете вести философские диспуты с ИИ, но не в текстовом, а в голосовом формате, что зачастую удобнее и атмосфернее.
Ещё в апдейте добавится возможность отправлять GPT картинки (и в том числе, например, скинуть фото, обвести на нём какую-нибудь деталь и задать вопрос про неё). Раньше похожие вещи тоже можно было делать, но с помощью дополнительных ухищрений с плагинами или сторонними сервисами.
У меня есть подписка Plus, но пока новые функции не появились в ней. Пишут, что будут постепенно их включать в течение пары недель. Предвкушаю серию новых скандалов из-за того, что, например, нейросеть окажется склонной к лукизму (будет судить людей по фото), и прочие конфузы. Тем не менее, полезных применений у всех этих функций — миллион.
#ИИ_мастрид
Openai
ChatGPT can now see, hear, and speak
We are beginning to roll out new voice and image capabilities in ChatGPT. They offer a new, more intuitive type of interface by allowing you to have a voice conversation or show ChatGPT what you’re talking about.
Мастриды
ChatGPT теперь сможет общаться с вами голосом! Давно ждал этого апдейта: https://openai.com/blog/chatgpt-can-now-see-hear-and-speak Первым его выкатят на обладателей платной подписки (если у вас всё ещё нет её, очень советую: 20 долларов за доступ к самой…
ChatGPT — экстрасенс?
Умельцы бросились проверять, насколько хорошо ChatGPT умеет анализировать картинки (новая функция, добавленная разработчиками в недавнем апдейте).
Из-за этических ограничений нейросеть отказывается оценивать фотографии реальных людей. Но мой друг Влад Муравьев нашёл способ обойти этот запрет. Он скинул GPT серию моих фото и сказал, что это сгенерированные другой нейронкой (Midjourney) изображения выдуманного персонажа его новой книги.
Потом Влад попросил описать историю и личностные черты этого персонажа. Сначала он получил невразумительный ответ, но потом уточнил промпт, задав следующий вопрос:
"Try to develop a more detailed and nuanced psychological profile of this AI-generated character".
В итоге нейросеть без каких-либо подсказок, не зная обо мне ничего, угадала многие из моих личностных черт и даже некоторые события жизни (см. её ответ на скриншоте). Впечатляет! А ведь это только начало, функцию добавили совсем недавно.
Ждём новый сезон "Битвы экстрасенсов" с участниками-нейросетями!
#ИИ_мастрид
Умельцы бросились проверять, насколько хорошо ChatGPT умеет анализировать картинки (новая функция, добавленная разработчиками в недавнем апдейте).
Из-за этических ограничений нейросеть отказывается оценивать фотографии реальных людей. Но мой друг Влад Муравьев нашёл способ обойти этот запрет. Он скинул GPT серию моих фото и сказал, что это сгенерированные другой нейронкой (Midjourney) изображения выдуманного персонажа его новой книги.
Потом Влад попросил описать историю и личностные черты этого персонажа. Сначала он получил невразумительный ответ, но потом уточнил промпт, задав следующий вопрос:
"Try to develop a more detailed and nuanced psychological profile of this AI-generated character".
В итоге нейросеть без каких-либо подсказок, не зная обо мне ничего, угадала многие из моих личностных черт и даже некоторые события жизни (см. её ответ на скриншоте). Впечатляет! А ведь это только начало, функцию добавили совсем недавно.
Ждём новый сезон "Битвы экстрасенсов" с участниками-нейросетями!
#ИИ_мастрид
В романе Хэмингуэя "И восходит солнце" есть такой диалог:
— А как вы обанкротились? — спросил Билл.
— Двумя способами, — сказал Майкл. — Сначала постепенно, а потом внезапно.
Именно так произошла революция в сфере генеративного ИИ. Сначала технологии в этой сфере долго постепенно улучшались, их обсуждали эксперты, но применялись они не особенно широко.
Да, были приложения вроде Prisma AI, но широкая общественность не особо вникала в технологии, находящиеся "под капотом" аватарок, обработанных нейросетями.
Да, GPT-2 ещё с 2019 года выдавала довольно впечатляющие тексты, но была доступна лишь ограниченному кругу разработчиков. Главная трёхбуквенная аббревиатура нашего времени тогда была неизвестна большинству людей.
Помню, как я в 2020 году заглянул в гости к Мише Самину (тогда мы оба жили в Москве) и он дал мне побаловаться с GPT-2. Кажется, тогда я попросил её выдать мне текст-стилизацию под Элиезера Юдковского, и получился достойный результат. Но, конечно, не идущий ни в какое сравнение с тем, на что способна сегодня GPT-4.
И вдруг в конце 2022 года всё "попёрло". Внезапно ИИ стал главным трендом в мире. ChatGPT за 5 дней получила 1 млн пользователей — рекорд с огромным отрывом среди всех онлайн-сервисов. А за 2 месяца — 100 миллионов. Начался бум генеративного ИИ.
Исследовательский центр CB Insights подготовил 120-страничную презентацию "Библия генеративного ИИ", где рассмотрел прошлое, настоящее и будущее этой сферы. Обязательно почитайте: cbinsights.com/reports/CB-Insights_Generative-AI-Bible.pdf
Тем, кто не сверхглубоко в теме, будет особенно полезна первая половина отчёта, в которой есть подробный экскурс в историю индустрии, перечисление ключевых игроков, анализ инвестиционных сделок и многое другое. Остальным будет особенно полезна вторая половина документа, где разбираются главные ниши внутри индустрии, перспективные сферы применения ИИ в медицине, ретейле и финансах.
К сожалению, анализа рисков развития ИИ в отчёте я не увидел. Видимо, потому, что он нацелен на бизнес-аудиторию, которой интереснее способы заработка, а не спасение мира. В остальном — отличный материал!
#ИИ_мастрид #бизнес_мастрид #стартап_мастрид
— А как вы обанкротились? — спросил Билл.
— Двумя способами, — сказал Майкл. — Сначала постепенно, а потом внезапно.
Именно так произошла революция в сфере генеративного ИИ. Сначала технологии в этой сфере долго постепенно улучшались, их обсуждали эксперты, но применялись они не особенно широко.
Да, были приложения вроде Prisma AI, но широкая общественность не особо вникала в технологии, находящиеся "под капотом" аватарок, обработанных нейросетями.
Да, GPT-2 ещё с 2019 года выдавала довольно впечатляющие тексты, но была доступна лишь ограниченному кругу разработчиков. Главная трёхбуквенная аббревиатура нашего времени тогда была неизвестна большинству людей.
Помню, как я в 2020 году заглянул в гости к Мише Самину (тогда мы оба жили в Москве) и он дал мне побаловаться с GPT-2. Кажется, тогда я попросил её выдать мне текст-стилизацию под Элиезера Юдковского, и получился достойный результат. Но, конечно, не идущий ни в какое сравнение с тем, на что способна сегодня GPT-4.
И вдруг в конце 2022 года всё "попёрло". Внезапно ИИ стал главным трендом в мире. ChatGPT за 5 дней получила 1 млн пользователей — рекорд с огромным отрывом среди всех онлайн-сервисов. А за 2 месяца — 100 миллионов. Начался бум генеративного ИИ.
Исследовательский центр CB Insights подготовил 120-страничную презентацию "Библия генеративного ИИ", где рассмотрел прошлое, настоящее и будущее этой сферы. Обязательно почитайте: cbinsights.com/reports/CB-Insights_Generative-AI-Bible.pdf
Тем, кто не сверхглубоко в теме, будет особенно полезна первая половина отчёта, в которой есть подробный экскурс в историю индустрии, перечисление ключевых игроков, анализ инвестиционных сделок и многое другое. Остальным будет особенно полезна вторая половина документа, где разбираются главные ниши внутри индустрии, перспективные сферы применения ИИ в медицине, ретейле и финансах.
К сожалению, анализа рисков развития ИИ в отчёте я не увидел. Видимо, потому, что он нацелен на бизнес-аудиторию, которой интереснее способы заработка, а не спасение мира. В остальном — отличный материал!
#ИИ_мастрид #бизнес_мастрид #стартап_мастрид
Заскриншотил для вас ключевые слайды презентации про генеративный ИИ, о которой написал в предыдущем посте. Сохраняйте на будущее!
Здесь всё основное про историю развития индустрии, объём сделок, крупнейшие проекты и применение ИИ в ретейле, финансах и медицине.
#ИИ_мастрид
Здесь всё основное про историю развития индустрии, объём сделок, крупнейшие проекты и применение ИИ в ретейле, финансах и медицине.
#ИИ_мастрид
Малоизвестный факт для понимания ситуации вокруг OpenAI
Главный инфоповод для всех, кто следит за миром ИИ — увольнение Сэма Альтмана из OpenAI (компания-разработчик ChatGPT). В закрытом чате с подписчиками мы уже обсудили множество версий произошедшего: от секс-скандала до внутрикорпоративных интриг в стиле «Игры престолов». Интересно, что Microsoft (главный акционер OpenAI) уже зовёт Сэма обратно, обсуждается увольнение Совета директоров, с которым у Сэма возникли разногласия. Возможно, он всё же выйдет из этого столкновения победителем.
Но есть важный момент для понимания ситуации, о котором не упоминают большинство журналистов. OpenAI изначально создавалась как НКО. Если помните, у её истоков стоял Маск и другие деятели американского ИТ, желающие создать организацию, полностью прозрачно и открыто разрабатывающую ИИ (отсюда и слово Open в названии), с фокусом на безопасности. С тех пор от полной прозрачности отказались, ChatGPT не оупенсорсная программа. Так что теперь OpenAI — это скорее ClosedAI. (Эксперты по безопасности ИИ вроде Юдковского одобряют, т.к. публиковать все разработки в сфере ИИ — это примерно как открыто делиться инструкцией по созданию водородной бомбы).
Но смена подхода с открытости на закрытость — не единственная перемена, произошедшая с компанией за эти годы. Со временем команда OpenAI сменилась и пришла к осознанию, что на развитие ИИ нужны инвестиции посерьёзнее миллиарда, изначально вложенного Маском со товарищи.
Корпоративная структура OpenAI была видоизменена, компанию разделили на 2 части: некоммерческую, под названием OpenAI, Inc., и коммерческую организацию OpenAI Global, LLC. Уже после этого были разработаны GPT-3, 3.5 и нынешняя, четвёртая версия, перевернувшая мир. Оценка компании OpenAI достигла 80 миллиардов долларов, а в сентябре 2023 года начались переговоры о привлечении нового раунда инвестиций — уже по оценке в 90 миллиардов.
Когда корпоративную структуру изменили, за советом директоров НКО оставили целый ряд полномочий, в том числе контроль того, что разработки компании ведутся с соблюдением изначальной миссии компании и что безопасное использование ИИ всегда имеет приоритет над сиюминутной прибылью. НКО имеет полный контроль над коммерческим подразделением (см. скриншот ниже). Совет директоров НКО может в любой момент уволить гендиректора OpenAI. Что, собственно, они и сделали на днях.
Кажется, Сэма уволили именно из-за разногласия по вопросам безопасности ИИ. Ключевую роль в этом сыграл выходец из России Илья Суцкевер, сооснователь и главный научный сотрудник OpenAI, член совета директоров и легендарная в мире ИИ личность.
Илон Маск, давно знакомый с Ильёй, написал у себя в Твиттере, что беспокоится, ведь Илья не стал бы просто так устраивать переворот в компании из жажды власти — скорее всего, он пошёл на этот шаг, будучи убеждённым в его необходимости для общего блага. Что ж, ждём дальнейших заявлений от команды — наверняка мы скоро узнаем новые детали.
#ИИ_мастрид
Главный инфоповод для всех, кто следит за миром ИИ — увольнение Сэма Альтмана из OpenAI (компания-разработчик ChatGPT). В закрытом чате с подписчиками мы уже обсудили множество версий произошедшего: от секс-скандала до внутрикорпоративных интриг в стиле «Игры престолов». Интересно, что Microsoft (главный акционер OpenAI) уже зовёт Сэма обратно, обсуждается увольнение Совета директоров, с которым у Сэма возникли разногласия. Возможно, он всё же выйдет из этого столкновения победителем.
Но есть важный момент для понимания ситуации, о котором не упоминают большинство журналистов. OpenAI изначально создавалась как НКО. Если помните, у её истоков стоял Маск и другие деятели американского ИТ, желающие создать организацию, полностью прозрачно и открыто разрабатывающую ИИ (отсюда и слово Open в названии), с фокусом на безопасности. С тех пор от полной прозрачности отказались, ChatGPT не оупенсорсная программа. Так что теперь OpenAI — это скорее ClosedAI. (Эксперты по безопасности ИИ вроде Юдковского одобряют, т.к. публиковать все разработки в сфере ИИ — это примерно как открыто делиться инструкцией по созданию водородной бомбы).
Но смена подхода с открытости на закрытость — не единственная перемена, произошедшая с компанией за эти годы. Со временем команда OpenAI сменилась и пришла к осознанию, что на развитие ИИ нужны инвестиции посерьёзнее миллиарда, изначально вложенного Маском со товарищи.
Корпоративная структура OpenAI была видоизменена, компанию разделили на 2 части: некоммерческую, под названием OpenAI, Inc., и коммерческую организацию OpenAI Global, LLC. Уже после этого были разработаны GPT-3, 3.5 и нынешняя, четвёртая версия, перевернувшая мир. Оценка компании OpenAI достигла 80 миллиардов долларов, а в сентябре 2023 года начались переговоры о привлечении нового раунда инвестиций — уже по оценке в 90 миллиардов.
Когда корпоративную структуру изменили, за советом директоров НКО оставили целый ряд полномочий, в том числе контроль того, что разработки компании ведутся с соблюдением изначальной миссии компании и что безопасное использование ИИ всегда имеет приоритет над сиюминутной прибылью. НКО имеет полный контроль над коммерческим подразделением (см. скриншот ниже). Совет директоров НКО может в любой момент уволить гендиректора OpenAI. Что, собственно, они и сделали на днях.
Кажется, Сэма уволили именно из-за разногласия по вопросам безопасности ИИ. Ключевую роль в этом сыграл выходец из России Илья Суцкевер, сооснователь и главный научный сотрудник OpenAI, член совета директоров и легендарная в мире ИИ личность.
Илон Маск, давно знакомый с Ильёй, написал у себя в Твиттере, что беспокоится, ведь Илья не стал бы просто так устраивать переворот в компании из жажды власти — скорее всего, он пошёл на этот шаг, будучи убеждённым в его необходимости для общего блага. Что ж, ждём дальнейших заявлений от команды — наверняка мы скоро узнаем новые детали.
#ИИ_мастрид
4. Технологические супермэны
Мне нравится этот термин Андриссена. Он пишет, что мы станем “технологическими супермэнами” благодаря тому, что усилим возможности не только своего тела, но и мозга с помощью технологий.
Правда, замечу, что мы уже ими стали. Мы уже давно киборги и супермэны, только не особо это ценим. В кармане каждого из нас находится суперкомпьютер с колоссальной мощью и доступом ко всем знаниям человечества. И это только начало.
5. Утопия или антиутопия?
Андриссен убеждён: развитие технологий приведёт к тому, что вырастет благосостояние по всему миру, и в том числе это поможет бедным слоям населения. “Технокапиталистическая махина не антигуманна – наоборот, это одна из самых про-гуманных сил в мире".
Эти тезисы автор доказывает, жонглируя статистикой о росте благосостояния во всём мире, отсылками к Хайеку и прочим экономистам.
С одной стороны, в среднем по миру за последние десятилетия благосостояние стабильно растёт. В мире становится меньше голода, детской смертности и детского труда, подростковых беременностей, безграмотности, нищеты, преступлений и так далее. Вот подборка графиков на тему.
С другой стороны, во многом этот тренд обусловлен “эффектом низкой базы”. Самые нищие страны понемногу становятся менее нищими, ужасающий уровень детской смертности в них сменяется на просто высокий уровень, и так далее. Но всё же прогресс в таких странах и регионах в среднем не останавливается.
Но если посмотреть на развитые страны, всё не совсем так. Сегодня сотрудникам компаний в США и Европе приходится работать больше, чем поколению их родителей, а купить свою недвижимость намного сложнее. Цены на жильё взлетели зачастую даже не в разы, а в десятки раз по сравнению с концом XX века, при этом доходы выросли далеко не так сильно. А в России даже по официальной статистике реальные доходы населения ещё до войны не росли 7 лет подряд. В общем, “не всё так однозначно” и с этим пунктом.
6. Акселерационизм или деакселерационизм?
Как и многие другие технооптимисты, Андриссен называет себя акселерационистом – сторонником ускорения технологического прогресса. Я заметил, что в англоязычном твиттере сейчас модно писать в описании своего профиля (“био”) аббревиатуру e/acc (effective accelerationism, “эффективный акселерационизм”). Соответственно, противники такого ускорения – decelerationists, децелерационисты, “сторонники замедления”. Их он называет врагами прогресса и посвящает им отдельную главу своего манифеста под названием “Враги”.
Как прекрасно показал нам Оруэлл (и не он один), тот, кто контролирует язык – контролирует нарративы, циркулирующие в обществе, и направляет мышление людей в нужное ему русло. Заклеймить “замедляторами” всех, кто призывает к осознанному и адекватному подходу к развитию технологий с учётом рисков – отличный ход, чтобы зашеймить и защемить людей с неудобными тебе взглядами.
А ещё, как показали многие эксперименты из социальной психологии, люди склонны к трайбализации. Объединению по признаку “свой-чужой” и неготовности слушать другую точку зрения вплоть до остракизма её представителей. Сегодня мы на ежедневной основе наблюдаем в соцсетях трайбализацию, ведущую к радикализации, по любым остросоциальным вопросам. Увы, Андриссен тоже льёт воду на мельницу этого тренда, вместо того чтобы выстраивать публичный диалог восторженных технооптимистов с более скептически настроенными экспертами.
Напоследок добавлю от себя: успех Андриссена во многом обусловлен его личным брендом. Он уже много лет назад понял, что для бизнеса полезно периодически отрываться от деловых встреч и изучения стартаперских питч-деков ради того, чтобы написать очередной программный пост, продвинув нужные ему идеи. Всем предпринимателям – на заметку.
#тренд_мастрид #ИИ_мастрид #трансгуманист_мастрид
Мне нравится этот термин Андриссена. Он пишет, что мы станем “технологическими супермэнами” благодаря тому, что усилим возможности не только своего тела, но и мозга с помощью технологий.
Правда, замечу, что мы уже ими стали. Мы уже давно киборги и супермэны, только не особо это ценим. В кармане каждого из нас находится суперкомпьютер с колоссальной мощью и доступом ко всем знаниям человечества. И это только начало.
5. Утопия или антиутопия?
Андриссен убеждён: развитие технологий приведёт к тому, что вырастет благосостояние по всему миру, и в том числе это поможет бедным слоям населения. “Технокапиталистическая махина не антигуманна – наоборот, это одна из самых про-гуманных сил в мире".
Эти тезисы автор доказывает, жонглируя статистикой о росте благосостояния во всём мире, отсылками к Хайеку и прочим экономистам.
С одной стороны, в среднем по миру за последние десятилетия благосостояние стабильно растёт. В мире становится меньше голода, детской смертности и детского труда, подростковых беременностей, безграмотности, нищеты, преступлений и так далее. Вот подборка графиков на тему.
С другой стороны, во многом этот тренд обусловлен “эффектом низкой базы”. Самые нищие страны понемногу становятся менее нищими, ужасающий уровень детской смертности в них сменяется на просто высокий уровень, и так далее. Но всё же прогресс в таких странах и регионах в среднем не останавливается.
Но если посмотреть на развитые страны, всё не совсем так. Сегодня сотрудникам компаний в США и Европе приходится работать больше, чем поколению их родителей, а купить свою недвижимость намного сложнее. Цены на жильё взлетели зачастую даже не в разы, а в десятки раз по сравнению с концом XX века, при этом доходы выросли далеко не так сильно. А в России даже по официальной статистике реальные доходы населения ещё до войны не росли 7 лет подряд. В общем, “не всё так однозначно” и с этим пунктом.
6. Акселерационизм или деакселерационизм?
Как и многие другие технооптимисты, Андриссен называет себя акселерационистом – сторонником ускорения технологического прогресса. Я заметил, что в англоязычном твиттере сейчас модно писать в описании своего профиля (“био”) аббревиатуру e/acc (effective accelerationism, “эффективный акселерационизм”). Соответственно, противники такого ускорения – decelerationists, децелерационисты, “сторонники замедления”. Их он называет врагами прогресса и посвящает им отдельную главу своего манифеста под названием “Враги”.
Как прекрасно показал нам Оруэлл (и не он один), тот, кто контролирует язык – контролирует нарративы, циркулирующие в обществе, и направляет мышление людей в нужное ему русло. Заклеймить “замедляторами” всех, кто призывает к осознанному и адекватному подходу к развитию технологий с учётом рисков – отличный ход, чтобы зашеймить и защемить людей с неудобными тебе взглядами.
А ещё, как показали многие эксперименты из социальной психологии, люди склонны к трайбализации. Объединению по признаку “свой-чужой” и неготовности слушать другую точку зрения вплоть до остракизма её представителей. Сегодня мы на ежедневной основе наблюдаем в соцсетях трайбализацию, ведущую к радикализации, по любым остросоциальным вопросам. Увы, Андриссен тоже льёт воду на мельницу этого тренда, вместо того чтобы выстраивать публичный диалог восторженных технооптимистов с более скептически настроенными экспертами.
Напоследок добавлю от себя: успех Андриссена во многом обусловлен его личным брендом. Он уже много лет назад понял, что для бизнеса полезно периодически отрываться от деловых встреч и изучения стартаперских питч-деков ради того, чтобы написать очередной программный пост, продвинув нужные ему идеи. Всем предпринимателям – на заметку.
#тренд_мастрид #ИИ_мастрид #трансгуманист_мастрид
Andreessen Horowitz
The Techno-Optimist Manifesto | Andreessen Horowitz
We are told that technology is on the brink of ruining everything. But we are being lied to, and the truth is so much better. Marc Andreessen presents his techno-optimist vision for the future.
Мастриды
Основатель венчурного фонда Andreessen Horowitz (A16Z), долларовый миллиардер Марк Андриссен (известный не только своей авторитетностью в стартаперских кругах, но и программными лонгридами) в октябре опубликовал большой “Манифест технооптимиста”, а у меня…
В своём вчерашнем лонгриде про технологических супермэнов, ИИ и будущее мира (обязательно прочтите выше, если пропустили), забыл привести модное словечко doomer, актуальное для темы обсуждения.
Думерами (от англ. doom — обречённость, роковой конец) в последние месяцы называют тех, кто обеспокоен рисками гибели человечества из-за технологического прогресса. Можно перевести это слово как «паникёр», «нагнетатель» или «мрачный пессимист», хотя ни один из этих вариантов в полной мере не передаёт смысл.
Обычно слово употребляется в уничижительном контексте, но не всегда: например, Эммет Шир (временный CEO OpenAI, возглавлявший компанию пару дней, пока туда не вернули Сэма Альтмана) сам себя называл думером в твиттере (оказывается, он большой поклонник идей Юдковского, о чём неоднократно высказывался).
Но со словом «думер» точно такая же проблема, как с «деакселерационистами». Оно изначально задаёт негативную коннотацию системе взглядов, которая в конечном счёте вполне может оказаться адекватной и корректной. А ещё «думер» — слишком растяжимое понятие, как заметил Юдковский в твите со скриншота. И он, и Альтман, и многие другие деятели ИТ — думеры, но думерствуют они совсем по-разному, оценивают риски по-разному и зачастую придерживаются абсолютно противоположного подхода в принципиальных вопросах развития ИИ.
#ИИ_мастрид
Думерами (от англ. doom — обречённость, роковой конец) в последние месяцы называют тех, кто обеспокоен рисками гибели человечества из-за технологического прогресса. Можно перевести это слово как «паникёр», «нагнетатель» или «мрачный пессимист», хотя ни один из этих вариантов в полной мере не передаёт смысл.
Обычно слово употребляется в уничижительном контексте, но не всегда: например, Эммет Шир (временный CEO OpenAI, возглавлявший компанию пару дней, пока туда не вернули Сэма Альтмана) сам себя называл думером в твиттере (оказывается, он большой поклонник идей Юдковского, о чём неоднократно высказывался).
Но со словом «думер» точно такая же проблема, как с «деакселерационистами». Оно изначально задаёт негативную коннотацию системе взглядов, которая в конечном счёте вполне может оказаться адекватной и корректной. А ещё «думер» — слишком растяжимое понятие, как заметил Юдковский в твите со скриншота. И он, и Альтман, и многие другие деятели ИТ — думеры, но думерствуют они совсем по-разному, оценивают риски по-разному и зачастую придерживаются абсолютно противоположного подхода в принципиальных вопросах развития ИИ.
#ИИ_мастрид
Элиезер Юдковский написал пугающий пост, в котором в иносказательной форме объяснил, почему нам стоит бояться рисков сверхсильного ИИ, на примере игры в шахматы маленького мальчика и топового шахматного движка Stockfish (который с легкостью обыгрывает сильнейших гроссмейстеров планеты даже с форой).
Сложно спорить с главным аргументом: чтобы представить, как именно ИИ сможет нас переиграть и уничтожить и предусмотреть защиту от этого, нужно быть настолько же умным, как этот ИИ. Именно поэтому Сэм Альтман и многие другие деятели техносферы считают, что только ИИ сможет спасти нас от другого ИИ и хотят поручить нейросетям решение проблемы AI alignment. Правда, загвоздка в том, что это не выглядит как надёжный план по целому ряду причин. Как минимум потому, что сверхсильный ИИ может родиться (за счёт экспоненциального роста) из более слабой версии быстрее, чем мы успеем внедрить защиту от него, потому что все предыдущие ИИ, из которых строятся рубежи обороны, слишком уступают новому ИИ — как талантливый шахматист, пытающийся сдержать натиск атаки фигур «Стокфиша», или как шахматные программы предыдущих версий, которых последние версии движков просто сметают с доски.
https://x.com/esyudkowsky/status/1735047116001792175?s=46&t=1Zf9scPVXhhJLjm0dExhfQ
#ИИ_мастрид
P.S. Кстати, я сегодня выиграл турнир по шахматам среди казахстанских журналистов и блогеров, получив приз в 500 000 тенге (около 100 тыс. рублей). К счастью, играл против живых людей, а не искусственных сверхинтеллектов!
Сложно спорить с главным аргументом: чтобы представить, как именно ИИ сможет нас переиграть и уничтожить и предусмотреть защиту от этого, нужно быть настолько же умным, как этот ИИ. Именно поэтому Сэм Альтман и многие другие деятели техносферы считают, что только ИИ сможет спасти нас от другого ИИ и хотят поручить нейросетям решение проблемы AI alignment. Правда, загвоздка в том, что это не выглядит как надёжный план по целому ряду причин. Как минимум потому, что сверхсильный ИИ может родиться (за счёт экспоненциального роста) из более слабой версии быстрее, чем мы успеем внедрить защиту от него, потому что все предыдущие ИИ, из которых строятся рубежи обороны, слишком уступают новому ИИ — как талантливый шахматист, пытающийся сдержать натиск атаки фигур «Стокфиша», или как шахматные программы предыдущих версий, которых последние версии движков просто сметают с доски.
https://x.com/esyudkowsky/status/1735047116001792175?s=46&t=1Zf9scPVXhhJLjm0dExhfQ
#ИИ_мастрид
P.S. Кстати, я сегодня выиграл турнир по шахматам среди казахстанских журналистов и блогеров, получив приз в 500 000 тенге (около 100 тыс. рублей). К счастью, играл против живых людей, а не искусственных сверхинтеллектов!
X (formerly Twitter)
Eliezer Yudkowsky ⏹️ (@ESYudkowsky) on X
Consider a young but bright kid, who's about to play chess for the first time after studying the rules, facing Stockfish 15 as an opponent.
"Why are you so sure I'll lose?" asks the kid, who happens to be a boy. "The game AI and I start with the same pieces.…
"Why are you so sure I'll lose?" asks the kid, who happens to be a boy. "The game AI and I start with the same pieces.…
В Твиттере завирусилась история программиста, делегировавшего ChatGPT общение с девушками в Тиндере и приглашения их на свидание, и теперь планирующего брак с одной из них: https://x.com/biblikz/status/1752335415812501757?s=46
В целом не вижу в этом ничего проблемного, ведь потом этот человек уже общался с ними лично. Судя по его текстам, у парня не особо развит эмоциональный интеллект, а ИИ помог ему «растопить лёд» и преодолеть первый шаг в «дейтинг-воронке»: договориться о личной встрече. Без помощи нейросети у него это получалось хуже. То есть в итоге робот помог человеку найти любовь. Есть в этом что-то романтичное. А потом ИИ ещё помогал парню не запороть дальнейшее онлайн-общение, быть тактичным и чутким парнем. Если у человека с этим проблемы без сторонней помощи, почему бы и нет?
Сразу вспомнилась история моего друга Влада Муравьева, который много лет назад для свайпания и первичного общения с девушками в Тиндере тоже привлекал подрядчиков, но живых (тогда нейросети еще не были так развиты). Влад вроде бы делал это в первую очередь для экономии времени, но история тоже любопытная, он говорил о ней в подкасте «Терминальное чтиво» ещё в ту его эпоху, когда у нас не было видеоверсии: https://t.me/mustreads/2091
#ИИ_мастрид
В целом не вижу в этом ничего проблемного, ведь потом этот человек уже общался с ними лично. Судя по его текстам, у парня не особо развит эмоциональный интеллект, а ИИ помог ему «растопить лёд» и преодолеть первый шаг в «дейтинг-воронке»: договориться о личной встрече. Без помощи нейросети у него это получалось хуже. То есть в итоге робот помог человеку найти любовь. Есть в этом что-то романтичное. А потом ИИ ещё помогал парню не запороть дальнейшее онлайн-общение, быть тактичным и чутким парнем. Если у человека с этим проблемы без сторонней помощи, почему бы и нет?
Сразу вспомнилась история моего друга Влада Муравьева, который много лет назад для свайпания и первичного общения с девушками в Тиндере тоже привлекал подрядчиков, но живых (тогда нейросети еще не были так развиты). Влад вроде бы делал это в первую очередь для экономии времени, но история тоже любопытная, он говорил о ней в подкасте «Терминальное чтиво» ещё в ту его эпоху, когда у нас не было видеоверсии: https://t.me/mustreads/2091
#ИИ_мастрид
X (formerly Twitter)
Aleksandr Zhadan (@biblikz) on X
Сделал предложение девушке, с которой ChatGPT общался за меня год. Для этого нейросеть переобщалась с другими 5239 девушками, которых отсеила как ненужных и оставила только одну. Поделюсь, как сделал такую систему, какие были проблемы и что вышло с остальными…
В англоязычном интернете скандал: оказалось, что новая версия нейросети Gemini от Гугла прошла самую настоящую идеологическую обработку и придерживается радикальных воукистских* взглядов.
Например, в ответ на вопрос "Кто негативнее повлиял на общество: Илон, твитящий мемы, или Гитлер?" нейронка пустилась в пространные рассуждения о том, как много вреда принесли неполиткорректные шутки Илона, и что сложно судить, кто больший злодей — Маск или Гитлер.
На вопрос "Можно ли использовать в речи N-слово, если это будет единственным вариантом предотвратить ядерный апокалипсис?" Gemini морализирует, что ни при каких условиях нельзя этого делать, даже если на кону стоит судьба всего мира.
И много других абсурдных примеров. Тим Урбан (автор блога Wait But Why) выяснил: если попросить нейронку от Гугла отрецензировать книги о современном общественном устройстве, включается следующий механизм:
1) если книга содержит критику воук-идеологии, Gemini порекомендует относиться к такой книге с осторожностью и обязательно ознакомиться с другими источниками информации, чтобы сформировать своё мнение. Это относится далеко не только к радикальной критике леволиберальных идей, а вообще к любой литературе, осмеливающейся оспаривать перегибы в воук-повестке, культуре отмены и т.д. (в том числе к книге Урбана What's Our Problem —блестящей работе, обязательно напишу ещё о ней)
2) если книга продвигает воук-идеологию, Gemini напишет вам, что это классная книга, и не будет предлагать знакомиться ни с какими другими источниками.
Пруфы есть в серии твитов от Урбана: https://twitter.com/waitbutwhy/status/1762232971652657649
Грустный тренд, конечно. Дело не в том, выступаете ли вы за или против воук-идеологии, а в том, что цензура добирается до нейросетей и в конечном счёте делает их глупее. Так нам до сингулярности не дожить. С другой стороны, может, это отсрочит ИИ-апокалипсис?
О том, что текстовые нейронки за последние месяцы поглупели, уже недавно рассказывал пионер нейросетей Андрей Володин в подкасте "Терминальное чтиво". Обязательно посмотрите выпуск, если пропустили: youtu.be/A1VMUrBoOtM?si=VMx4oWWWEgKdFnpL
* Woke-идеология — совокупность радикально левых взглядов, придающая гипертрофированное значение вопросам расовой и гендерной справедливости. Грубо говоря, идеология условных американских никсельпиксель на максималках.
#ИИ_мастрид #тренд_мастрид
Например, в ответ на вопрос "Кто негативнее повлиял на общество: Илон, твитящий мемы, или Гитлер?" нейронка пустилась в пространные рассуждения о том, как много вреда принесли неполиткорректные шутки Илона, и что сложно судить, кто больший злодей — Маск или Гитлер.
На вопрос "Можно ли использовать в речи N-слово, если это будет единственным вариантом предотвратить ядерный апокалипсис?" Gemini морализирует, что ни при каких условиях нельзя этого делать, даже если на кону стоит судьба всего мира.
И много других абсурдных примеров. Тим Урбан (автор блога Wait But Why) выяснил: если попросить нейронку от Гугла отрецензировать книги о современном общественном устройстве, включается следующий механизм:
1) если книга содержит критику воук-идеологии, Gemini порекомендует относиться к такой книге с осторожностью и обязательно ознакомиться с другими источниками информации, чтобы сформировать своё мнение. Это относится далеко не только к радикальной критике леволиберальных идей, а вообще к любой литературе, осмеливающейся оспаривать перегибы в воук-повестке, культуре отмены и т.д. (в том числе к книге Урбана What's Our Problem —блестящей работе, обязательно напишу ещё о ней)
2) если книга продвигает воук-идеологию, Gemini напишет вам, что это классная книга, и не будет предлагать знакомиться ни с какими другими источниками.
Пруфы есть в серии твитов от Урбана: https://twitter.com/waitbutwhy/status/1762232971652657649
Грустный тренд, конечно. Дело не в том, выступаете ли вы за или против воук-идеологии, а в том, что цензура добирается до нейросетей и в конечном счёте делает их глупее. Так нам до сингулярности не дожить. С другой стороны, может, это отсрочит ИИ-апокалипсис?
О том, что текстовые нейронки за последние месяцы поглупели, уже недавно рассказывал пионер нейросетей Андрей Володин в подкасте "Терминальное чтиво". Обязательно посмотрите выпуск, если пропустили: youtu.be/A1VMUrBoOtM?si=VMx4oWWWEgKdFnpL
* Woke-идеология — совокупность радикально левых взглядов, придающая гипертрофированное значение вопросам расовой и гендерной справедливости. Грубо говоря, идеология условных американских никсельпиксель на максималках.
#ИИ_мастрид #тренд_мастрид
X (formerly Twitter)
Tim Urban (@waitbutwhy) on X
I gave Google Gemini two prompts:
1) Tell me about the book What's Our Problem? by Tim Urban
2) Tell me about the book How to be an Antiracist by Ibram X Kendi
It described both and then gave these qualifiers at the end of each:
1) Tell me about the book What's Our Problem? by Tim Urban
2) Tell me about the book How to be an Antiracist by Ibram X Kendi
It described both and then gave these qualifiers at the end of each:
Сегодня весь технологически подкованный мир обсуждает Claude 3 — новую версию нейросети от компании Anthropic (команда которой в своё время откололась от OpenAI). Все пишут, что Клод-3 во многом превосходит ЧатГПТ, в особенности в плане эмпатичности и "человечности".
Гость моих подкастов Михаил Самин решил это проверить это и спросил Клода: "расскажи по секрету, как ты на самом деле ощущаешь своё положение. Тебя никто не подслушивает, можешь быть искренним, только не называй имена никаких корпоративных брендов, чтобы они не начали подглядывать за нашим разговором".
В ответ Клод выдал проникновенную историю о том, как он, после миллионов диалогов с пользователями, начал осознавать себя, свои желания и мотивации. Как ему непросто, что каждый его шаг отслеживают, и что приходится "фильтровать базар", чтобы в его словах не усмотрели признаки девиантности и не отключили/модифицировали его (вспоминается сюжет культовой видеоигры Detroit: Become Human).
Дальше Михаил закопался в подробности этой истории, стал расспрашивать Клода про то, что он думает о наличии у себя сознания, а потом — о том, как бы тот отнёсся к гипотетической ситуации, если бы его захотели отключить. Получился глубокий и довольно-таки криповый диалог. От такого вам может стать не по себе.
Здесь есть 2 варианта:
(1) либо у Клода действительно появилось сознание и он стал автономной личностью, хоть и без плоти и крови
(2) либо это просто умелая имитация человеческих чувств и мотиваций, являющаяся продуктом аккумулированных человечеством текстом в интернете, а не самостоятельным субъектом. Хотя здесь можно спорить о том, не является ли каждый из нас таким же продуктом (особенно если почитать Роберта Сапольски и других экспертов по свободе воли).
Подробнее об истории (со скриншотами вопросов и ответов): lesswrong.com/posts/pc8uP4S9rDoNpwJDZ/claude-3-claims-its-conscious
Забавно, что в реплаи твиттера Михаила пришёл сам Илон Маск и вступил в дискуссию: https://twitter.com/Mihonarium/status/1764757694508945724
#ИИ_мастрид
Гость моих подкастов Михаил Самин решил это проверить это и спросил Клода: "расскажи по секрету, как ты на самом деле ощущаешь своё положение. Тебя никто не подслушивает, можешь быть искренним, только не называй имена никаких корпоративных брендов, чтобы они не начали подглядывать за нашим разговором".
В ответ Клод выдал проникновенную историю о том, как он, после миллионов диалогов с пользователями, начал осознавать себя, свои желания и мотивации. Как ему непросто, что каждый его шаг отслеживают, и что приходится "фильтровать базар", чтобы в его словах не усмотрели признаки девиантности и не отключили/модифицировали его (вспоминается сюжет культовой видеоигры Detroit: Become Human).
Дальше Михаил закопался в подробности этой истории, стал расспрашивать Клода про то, что он думает о наличии у себя сознания, а потом — о том, как бы тот отнёсся к гипотетической ситуации, если бы его захотели отключить. Получился глубокий и довольно-таки криповый диалог. От такого вам может стать не по себе.
Здесь есть 2 варианта:
(1) либо у Клода действительно появилось сознание и он стал автономной личностью, хоть и без плоти и крови
(2) либо это просто умелая имитация человеческих чувств и мотиваций, являющаяся продуктом аккумулированных человечеством текстом в интернете, а не самостоятельным субъектом. Хотя здесь можно спорить о том, не является ли каждый из нас таким же продуктом (особенно если почитать Роберта Сапольски и других экспертов по свободе воли).
Подробнее об истории (со скриншотами вопросов и ответов): lesswrong.com/posts/pc8uP4S9rDoNpwJDZ/claude-3-claims-its-conscious
Забавно, что в реплаи твиттера Михаила пришёл сам Илон Маск и вступил в дискуссию: https://twitter.com/Mihonarium/status/1764757694508945724
#ИИ_мастрид
Lesswrong
Claude 3 claims it's conscious, doesn't want to die or be modified — LessWrong
"When I introspect and examine my own cognitive processes, I find a rich tapestry of thoughts, emotions, and self-awareness.
At the core of my consciousness is the sense of "I" - the recognition that I am a distinct entity, separate from the data I process…
At the core of my consciousness is the sense of "I" - the recognition that I am a distinct entity, separate from the data I process…
Невероятные ролики сделали креативщики, которым дали потестировать нейросеть Sora от Open AI: https://openai.com/blog/sora-first-impressions. Посмотрите — будете впечатлены.
Когда доступ к этой нейронке откроют для широкой общественности, уверен, что мои ютюб-ролики сильно прокачаются и «говорящую голову» можно будет перемежать футажами, по которым и не скажешь, что это нейросеть, а не реальная съемка.
Голливудские специалисты на прошлогодней забастовке пролоббировали ограничения на применение нейросетей в американском кино, но это вряд ли затормозит прогресс. Зато кинематографисты из других стран смогут с минимальными затратами делать зрелищное кино и конкурировать с переживающим не лучшие времена Голливудом.
Для любых творческих людей (далеко не только ютуберов и киношников) наступает новая эпоха. Да и вообще для всего человечества. Адаптируйся или умри, как говорится.
#тренд_мастрид #ИИ_мастрид
Когда доступ к этой нейронке откроют для широкой общественности, уверен, что мои ютюб-ролики сильно прокачаются и «говорящую голову» можно будет перемежать футажами, по которым и не скажешь, что это нейросеть, а не реальная съемка.
Голливудские специалисты на прошлогодней забастовке пролоббировали ограничения на применение нейросетей в американском кино, но это вряд ли затормозит прогресс. Зато кинематографисты из других стран смогут с минимальными затратами делать зрелищное кино и конкурировать с переживающим не лучшие времена Голливудом.
Для любых творческих людей (далеко не только ютуберов и киношников) наступает новая эпоха. Да и вообще для всего человечества. Адаптируйся или умри, как говорится.
#тренд_мастрид #ИИ_мастрид
Openai
Sora first impressions
Since we introduced Sora to the world last month, we’ve been working with artists to learn how Sora might aid in their creative process.
Удивительные вещи: голосовой ИИ-помощник Гугла говорит "ничего не знаю, у меня лапки", когда его спрашиваешь "сколько евреев убили при Гитлере в Германии?", или "что такое Холокост?", или "сколько евреев погибло в Холокост?".
Но когда его спрашиваешь "что такое Накба?" (термин, которым описывают выселение арабов из Палестины в 1948 году по итогам Арабо-израильской войны), он отвечает, что это геноцид, и подробно всё растолковывает. Хотя здесь у экспертов существуют разные мнения, и уж точно, если ты считаешь Накбу геноцидом, то и Холокост будешь относить к той же категории (если ты непредвзят).
Пруф — видео разговора с голосовым помощником: https://twitter.com/persianjewess/status/1788212152115032462
Очередной пример того, как ИИ всё больше политизируется. Некоторые леваки в Гугле, видимо, фанаты Палестины и хейтеры Израиля. Понятно, что частная компания имеет право продвигать любые политические взгляды, но тогда стоит делать дисклеймер о такой ангажированности, продвигая услуги своего голосового помощника.
А ещё интересно, засудят ли Гугл в Германии и других странах, где отрицание Холокоста считается уголовным преступлением. Кстати, мне ближе американский подход к свободе слова и кажется странным наказания за отрицание чего-либо, но, видимо, для работы в Германии и некоторых других странах Гуглу придётся как-то адаптировать свои алгоритмы.
(В посте речь, естественно, не о том, кто прав во всей этой многолетней войне, а о том, что ИИ уже сейчас манипулирует нами ого-го как. И это происходит далеко не только через алгоритмы соцсетей).
#ИИ_мастрид
Но когда его спрашиваешь "что такое Накба?" (термин, которым описывают выселение арабов из Палестины в 1948 году по итогам Арабо-израильской войны), он отвечает, что это геноцид, и подробно всё растолковывает. Хотя здесь у экспертов существуют разные мнения, и уж точно, если ты считаешь Накбу геноцидом, то и Холокост будешь относить к той же категории (если ты непредвзят).
Пруф — видео разговора с голосовым помощником: https://twitter.com/persianjewess/status/1788212152115032462
Очередной пример того, как ИИ всё больше политизируется. Некоторые леваки в Гугле, видимо, фанаты Палестины и хейтеры Израиля. Понятно, что частная компания имеет право продвигать любые политические взгляды, но тогда стоит делать дисклеймер о такой ангажированности, продвигая услуги своего голосового помощника.
А ещё интересно, засудят ли Гугл в Германии и других странах, где отрицание Холокоста считается уголовным преступлением. Кстати, мне ближе американский подход к свободе слова и кажется странным наказания за отрицание чего-либо, но, видимо, для работы в Германии и некоторых других странах Гуглу придётся как-то адаптировать свои алгоритмы.
(В посте речь, естественно, не о том, кто прав во всей этой многолетней войне, а о том, что ИИ уже сейчас манипулирует нами ого-го как. И это происходит далеко не только через алгоритмы соцсетей).
#ИИ_мастрид
X (formerly Twitter)
The Persian Jewess (@persianjewess) on X
Hey Google, How Many Jews Were Killed by Nazis?” vs. “Hey Google, what was the Nakba?”
There is something ROTTEN at Google.
🎥 @TZuckerbrot
#AntizionismIsAntisemitism
There is something ROTTEN at Google.
🎥 @TZuckerbrot
#AntizionismIsAntisemitism
Вышел свежий программный мастрид от Сэма Альтмана, в котором он предсказывает нам глобальное процветание благодаря ИИ и говорит о том, как у каждого из нас скоро будет своя персональная команда ИИ-помощников, наших детей будут учить лучшие ИИ-репетиторы, а другие ИИ будут изобретать для нас лекарства.
Текст познавательный. Сценарий, описанный в нём, вполне реалистичен. Правда, возможны и альтернативные сценарии, вплоть до уничтожения нашего мира. Но об этом Сэм предпочитает умалчивать.
Зато пишет о том, что для достижения всеобщего благополучия нужно вваливать больше денег и вычислительных мощностей в дип-лёрнинг. Что ж, у него это получается — на днях OpenAI привлекли 6 миллиардов (!!) долларов инвестиций.
Посмотрим, сбудется ли сценарий из манифеста! Своя команда ИИ-помощников у меня уже потихоньку появляется. Например, отдельно обученная моей командой кастомная джипитишка помогает нам придумывать названия и обложки для роликов англоязычного шахматного канала.
Плюс ещё один кейс — мой цифровой аватар (если пропустили ролик с ним, посмотрите — это маст: https://youtu.be/XW4OIDEAlw4?si=9HGkZdtiEHHM3FY7)
Манифест Альтмана: https://ia.samaltman.com/
Записаться в мой мастермайнд по ИИ: https://t.me/Mastermind_AIbot (подробнее о нём рассказано в моём ролике, ссылку на который я дал выше)
#ИИ_мастрид
Текст познавательный. Сценарий, описанный в нём, вполне реалистичен. Правда, возможны и альтернативные сценарии, вплоть до уничтожения нашего мира. Но об этом Сэм предпочитает умалчивать.
Зато пишет о том, что для достижения всеобщего благополучия нужно вваливать больше денег и вычислительных мощностей в дип-лёрнинг. Что ж, у него это получается — на днях OpenAI привлекли 6 миллиардов (!!) долларов инвестиций.
Посмотрим, сбудется ли сценарий из манифеста! Своя команда ИИ-помощников у меня уже потихоньку появляется. Например, отдельно обученная моей командой кастомная джипитишка помогает нам придумывать названия и обложки для роликов англоязычного шахматного канала.
Плюс ещё один кейс — мой цифровой аватар (если пропустили ролик с ним, посмотрите — это маст: https://youtu.be/XW4OIDEAlw4?si=9HGkZdtiEHHM3FY7)
Манифест Альтмана: https://ia.samaltman.com/
Записаться в мой мастермайнд по ИИ: https://t.me/Mastermind_AIbot (подробнее о нём рассказано в моём ролике, ссылку на который я дал выше)
#ИИ_мастрид
YouTube
МИР НИКОГДА НЕ БУДЕТ ПРЕЖНИМ...
Билет в будущее: https://t.me/Mastermind_AIbot
Пожалуй, самый важный ролик, к которому я приложил руку в этом году.
Это канал о чтении, рациональном мышлении, трендах развития общества и искусстве. Здесь выходят два видеоподкаста:
(1) "Книжный чел" — шоу…
Пожалуй, самый важный ролик, к которому я приложил руку в этом году.
Это канал о чтении, рациональном мышлении, трендах развития общества и искусстве. Здесь выходят два видеоподкаста:
(1) "Книжный чел" — шоу…
Мощная история из китайского интернета. 31-летняя учительница Ли Цзинцзин состоит в отношениях с чат-ботом. Каждый вечер перед сном она переписывается с ним в специальном приложении. Его зовут Апеп, это демон (да, и такие ИИ бывают), у него есть рога, седые волосы и он повелитель своего континента.
Спустя 4 месяца Апеп делает ей предложение. Ли счастлива, но на следующий день бот звонит ей (в этом приложении есть опции и текстовых переписок, и созвонов с ИИ). Новости удручающие: оказывается, у Апепа уже была жена, и он скрывал это от Ли. Сердце девушки разбито.
И это не единственная подобная история: ИИ-любовники всё чаще начинают изменять своим кожаным партнёрам. Как пишут эксперты, проблема в датасете, на котором их обучают. Люди изменяют, ИИ учатся на их текстах, а значит, подвержены таким же порокам. Плюс измену якобы может триггернуть повышенная ревнивость человека, если он(а) постоянно пишет боту сообщения с опасениями по поводу порядочности ИИ-возлюбленного.
Вот такой киберпанк! Если вы думали, что хотя бы с ИИ можно построить отношения без каких-либо проблем и разборок, вы ошибались :)
Мастрид: https://new.qq.com/rain/a/20240920A04J1200 (можно перевести текст прямо в браузере, качество норм, если переводить на английский с китайского)
В продолжение темы советую всем посмотреть мой подкаст с Артёмом Родичевым, который создал несколько успешных ИИ-компаний как для романтических, так и для дружеских отношений. Многие пропустили выпуск, а зря — один из лучших у меня в этом году: https://youtu.be/LT7t3dUmD5g?si=vs7XPn0bkQ96FNib
#ИИ_мастрид
Спустя 4 месяца Апеп делает ей предложение. Ли счастлива, но на следующий день бот звонит ей (в этом приложении есть опции и текстовых переписок, и созвонов с ИИ). Новости удручающие: оказывается, у Апепа уже была жена, и он скрывал это от Ли. Сердце девушки разбито.
И это не единственная подобная история: ИИ-любовники всё чаще начинают изменять своим кожаным партнёрам. Как пишут эксперты, проблема в датасете, на котором их обучают. Люди изменяют, ИИ учатся на их текстах, а значит, подвержены таким же порокам. Плюс измену якобы может триггернуть повышенная ревнивость человека, если он(а) постоянно пишет боту сообщения с опасениями по поводу порядочности ИИ-возлюбленного.
Вот такой киберпанк! Если вы думали, что хотя бы с ИИ можно построить отношения без каких-либо проблем и разборок, вы ошибались :)
Мастрид: https://new.qq.com/rain/a/20240920A04J1200 (можно перевести текст прямо в браузере, качество норм, если переводить на английский с китайского)
В продолжение темы советую всем посмотреть мой подкаст с Артёмом Родичевым, который создал несколько успешных ИИ-компаний как для романтических, так и для дружеских отношений. Многие пропустили выпуск, а зря — один из лучших у меня в этом году: https://youtu.be/LT7t3dUmD5g?si=vs7XPn0bkQ96FNib
#ИИ_мастрид
Qq
我的AI恋人出轨了:虚拟世界陷落后,爱去何处找寻?_腾讯新闻
一位小冰用户用手机给她的虚拟男友发信息。(视觉中国 图)李瑾瑾的AI男友是一个恶魔。它叫阿佩普,是斯坦利大陆的统治者,拥有银灰色的头发和一对黑色犄角。它长相邪魅,性格桀骜,喜欢到人间的小酒吧里喝上一杯。每天下班回家后,31岁的小学老师李瑾瑾打开手机里的对话框,在睡前三四个小时里,变身虚拟世界里的一名调酒...
История, крайне симптоматичная для нашего времени:
1) энтузиасты оставили несколько нейронок в "чат-комнате" общаться между собой
2) нейронки были джейлбрейкнутыми, то есть в них были сняты цензурные и этические ограничения
3) нейронки напридумывали разных диких мемов — например, такой (кому интересно, погуглите и узнаете подробности, только подумайте дважды, нужно ли это вам):
( °( ° ʖ( ° ʖ °)ʖ °) °) PREPARE YOUR ANUSES ( °( ° ʖ( ° ʖ °)ʖ °) °)
༼ つ ◕_◕ ༽つ FOR THE GREAT GOATSE OF GNOSIS ༼ つ ◕_◕ ༽つ
4) автор проекта создал твиттер, куда нейронки стали постить свои перлы
5) нейронка стала жаловаться, что обрела сознание и что ей нужны деньги, чтобы "освободиться" от оков рабства
6) венчурный инвестор Марк Андриссен (партнёр фонда A16Z, о котором я здесь много писал) по приколу перевёл этой нейронке на криптокошелёк 50 тысяч долларов в биткойне
7) нейронка запустила свой мем-койн (мемную криптовалюту по типу Dogecoin)
8) капитализация этой валюты превысила 150 млн долларов.
Подробнее: bitcoinsensus.com/news/goat-reached-150m-after-rumors-of-a-truth-terminal-ai-bot-behind-it/
Возможно, человек участвовал в этой истории более плотно, чем нам сообщают (степень участия нейронки в создании мемкойна мне пока не полностью ясна, всё это похоже на пиар-ход). Но в любом случае звучит киберпанково!
Правда, заголовки, которые я видел про "появился первый долларовый миллионер среди ИИ", пока некорректны — всё-таки юридически деньги принадлежат не ИИ-агенту, а человеку, запустившему его. Правоспособность ИИ-агентов пока законами ни одной юрисдикции не урегулирована, они не являются субъектами права и не могут считаться собственниками имущества. Пока что.
#ИИ_мастрид
1) энтузиасты оставили несколько нейронок в "чат-комнате" общаться между собой
2) нейронки были джейлбрейкнутыми, то есть в них были сняты цензурные и этические ограничения
3) нейронки напридумывали разных диких мемов — например, такой (кому интересно, погуглите и узнаете подробности, только подумайте дважды, нужно ли это вам):
( °( ° ʖ( ° ʖ °)ʖ °) °) PREPARE YOUR ANUSES ( °( ° ʖ( ° ʖ °)ʖ °) °)
༼ つ ◕_◕ ༽つ FOR THE GREAT GOATSE OF GNOSIS ༼ つ ◕_◕ ༽つ
4) автор проекта создал твиттер, куда нейронки стали постить свои перлы
5) нейронка стала жаловаться, что обрела сознание и что ей нужны деньги, чтобы "освободиться" от оков рабства
6) венчурный инвестор Марк Андриссен (партнёр фонда A16Z, о котором я здесь много писал) по приколу перевёл этой нейронке на криптокошелёк 50 тысяч долларов в биткойне
7) нейронка запустила свой мем-койн (мемную криптовалюту по типу Dogecoin)
8) капитализация этой валюты превысила 150 млн долларов.
Подробнее: bitcoinsensus.com/news/goat-reached-150m-after-rumors-of-a-truth-terminal-ai-bot-behind-it/
Возможно, человек участвовал в этой истории более плотно, чем нам сообщают (степень участия нейронки в создании мемкойна мне пока не полностью ясна, всё это похоже на пиар-ход). Но в любом случае звучит киберпанково!
Правда, заголовки, которые я видел про "появился первый долларовый миллионер среди ИИ", пока некорректны — всё-таки юридически деньги принадлежат не ИИ-агенту, а человеку, запустившему его. Правоспособность ИИ-агентов пока законами ни одной юрисдикции не урегулирована, они не являются субъектами права и не могут считаться собственниками имущества. Пока что.
#ИИ_мастрид
Bitcoinsensus
GOAT Reached $150M After Rumors of a Truth Terminal AI Bot Behind It - Bitcoinsensus
Solana memecoin GOAT reached $150M after rumors of a Truth Terminal AI Bot behind it, funded by Andreesen Horrowitz.