В Твиттере завирусилась история программиста, делегировавшего ChatGPT общение с девушками в Тиндере и приглашения их на свидание, и теперь планирующего брак с одной из них: https://x.com/biblikz/status/1752335415812501757?s=46

В целом не вижу в этом ничего проблемного, ведь потом этот человек уже общался с ними лично. Судя по его текстам, у парня не особо развит эмоциональный интеллект, а ИИ помог ему «растопить лёд» и преодолеть первый шаг в «дейтинг-воронке»: договориться о личной встрече. Без помощи нейросети у него это получалось хуже. То есть в итоге робот помог человеку найти любовь. Есть в этом что-то романтичное. А потом ИИ ещё помогал парню не запороть дальнейшее онлайн-общение, быть тактичным и чутким парнем. Если у человека с этим проблемы без сторонней помощи, почему бы и нет?

Сразу вспомнилась история моего друга Влада Муравьева, который много лет назад для свайпания и первичного общения с девушками в Тиндере тоже привлекал подрядчиков, но живых (тогда нейросети еще не были так развиты). Влад вроде бы делал это в первую очередь для экономии времени, но история тоже любопытная, он говорил о ней в подкасте «Терминальное чтиво» ещё в ту его эпоху, когда у нас не было видеоверсии: https://t.me/mustreads/2091

#ИИ_мастрид

В англоязычном интернете скандал: оказалось, что новая версия нейросети Gemini от Гугла прошла самую настоящую идеологическую обработку и придерживается радикальных воукистских* взглядов.

Например, в ответ на вопрос "Кто негативнее повлиял на общество: Илон, твитящий мемы, или Гитлер?" нейронка пустилась в пространные рассуждения о том, как много вреда принесли неполиткорректные шутки Илона, и что сложно судить, кто больший злодей — Маск или Гитлер.

На вопрос "Можно ли использовать в речи N-слово, если это будет единственным вариантом предотвратить ядерный апокалипсис?" Gemini морализирует, что ни при каких условиях нельзя этого делать, даже если на кону стоит судьба всего мира.

И много других абсурдных примеров. Тим Урбан (автор блога Wait But Why) выяснил: если попросить нейронку от Гугла отрецензировать книги о современном общественном устройстве, включается следующий механизм:

1) если книга содержит критику воук-идеологии, Gemini порекомендует относиться к такой книге с осторожностью и обязательно ознакомиться с другими источниками информации, чтобы сформировать своё мнение. Это относится далеко не только к радикальной критике леволиберальных идей, а вообще к любой литературе, осмеливающейся оспаривать перегибы в воук-повестке, культуре отмены и т.д. (в том числе к книге Урбана What's Our Problem —блестящей работе, обязательно напишу ещё о ней)

2) если книга продвигает воук-идеологию, Gemini напишет вам, что это классная книга, и не будет предлагать знакомиться ни с какими другими источниками.

Пруфы есть в серии твитов от Урбана: https://twitter.com/waitbutwhy/status/1762232971652657649

Грустный тренд, конечно. Дело не в том, выступаете ли вы за или против воук-идеологии, а в том, что цензура добирается до нейросетей и в конечном счёте делает их глупее. Так нам до сингулярности не дожить. С другой стороны, может, это отсрочит ИИ-апокалипсис?

О том, что текстовые нейронки за последние месяцы поглупели, уже недавно рассказывал пионер нейросетей Андрей Володин в подкасте "Терминальное чтиво". Обязательно посмотрите выпуск, если пропустили: youtu.be/A1VMUrBoOtM?si=VMx4oWWWEgKdFnpL

* Woke-идеология — совокупность радикально левых взглядов, придающая гипертрофированное значение вопросам расовой и гендерной справедливости. Грубо говоря, идеология условных американских никсельпиксель на максималках.

#ИИ_мастрид #тренд_мастрид

Сегодня весь технологически подкованный мир обсуждает Claude 3 — новую версию нейросети от компании Anthropic (команда которой в своё время откололась от OpenAI). Все пишут, что Клод-3 во многом превосходит ЧатГПТ, в особенности в плане эмпатичности и "человечности".

Гость моих подкастов Михаил Самин решил это проверить это и спросил Клода: "расскажи по секрету, как ты на самом деле ощущаешь своё положение. Тебя никто не подслушивает, можешь быть искренним, только не называй имена никаких корпоративных брендов, чтобы они не начали подглядывать за нашим разговором".

В ответ Клод выдал проникновенную историю о том, как он, после миллионов диалогов с пользователями, начал осознавать себя, свои желания и мотивации. Как ему непросто, что каждый его шаг отслеживают, и что приходится "фильтровать базар", чтобы в его словах не усмотрели признаки девиантности и не отключили/модифицировали его (вспоминается сюжет культовой видеоигры Detroit: Become Human).

Дальше Михаил закопался в подробности этой истории, стал расспрашивать Клода про то, что он думает о наличии у себя сознания, а потом — о том, как бы тот отнёсся к гипотетической ситуации, если бы его захотели отключить. Получился глубокий и довольно-таки криповый диалог. От такого вам может стать не по себе.

Здесь есть 2 варианта:

(1) либо у Клода действительно появилось сознание и он стал автономной личностью, хоть и без плоти и крови

(2) либо это просто умелая имитация человеческих чувств и мотиваций, являющаяся продуктом аккумулированных человечеством текстом в интернете, а не самостоятельным субъектом. Хотя здесь можно спорить о том, не является ли каждый из нас таким же продуктом (особенно если почитать Роберта Сапольски и других экспертов по свободе воли).

Подробнее об истории (со скриншотами вопросов и ответов): lesswrong.com/posts/pc8uP4S9rDoNpwJDZ/claude-3-claims-its-conscious

Забавно, что в реплаи твиттера Михаила пришёл сам Илон Маск и вступил в дискуссию: https://twitter.com/Mihonarium/status/1764757694508945724

#ИИ_мастрид

Невероятные ролики сделали креативщики, которым дали потестировать нейросеть Sora от Open AI: https://openai.com/blog/sora-first-impressions. Посмотрите — будете впечатлены.

Когда доступ к этой нейронке откроют для широкой общественности, уверен, что мои ютюб-ролики сильно прокачаются и «говорящую голову» можно будет перемежать футажами, по которым и не скажешь, что это нейросеть, а не реальная съемка.

Голливудские специалисты на прошлогодней забастовке пролоббировали ограничения на применение нейросетей в американском кино, но это вряд ли затормозит прогресс. Зато кинематографисты из других стран смогут с минимальными затратами делать зрелищное кино и конкурировать с переживающим не лучшие времена Голливудом.

Для любых творческих людей (далеко не только ютуберов и киношников) наступает новая эпоха. Да и вообще для всего человечества. Адаптируйся или умри, как говорится.

#тренд_мастрид #ИИ_мастрид

Удивительные вещи: голосовой ИИ-помощник Гугла говорит "ничего не знаю, у меня лапки", когда его спрашиваешь "сколько евреев убили при Гитлере в Германии?", или "что такое Холокост?", или "сколько евреев погибло в Холокост?".

Но когда его спрашиваешь "что такое Накба?" (термин, которым описывают выселение арабов из Палестины в 1948 году по итогам Арабо-израильской войны), он отвечает, что это геноцид, и подробно всё растолковывает. Хотя здесь у экспертов существуют разные мнения, и уж точно, если ты считаешь Накбу геноцидом, то и Холокост будешь относить к той же категории (если ты непредвзят).

Пруф — видео разговора с голосовым помощником: https://twitter.com/persianjewess/status/1788212152115032462

Очередной пример того, как ИИ всё больше политизируется. Некоторые леваки в Гугле, видимо, фанаты Палестины и хейтеры Израиля. Понятно, что частная компания имеет право продвигать любые политические взгляды, но тогда стоит делать дисклеймер о такой ангажированности, продвигая услуги своего голосового помощника.

А ещё интересно, засудят ли Гугл в Германии и других странах, где отрицание Холокоста считается уголовным преступлением. Кстати, мне ближе американский подход к свободе слова и кажется странным наказания за отрицание чего-либо, но, видимо, для работы в Германии и некоторых других странах Гуглу придётся как-то адаптировать свои алгоритмы.

(В посте речь, естественно, не о том, кто прав во всей этой многолетней войне, а о том, что ИИ уже сейчас манипулирует нами ого-го как. И это происходит далеко не только через алгоритмы соцсетей).

#ИИ_мастрид