Пишут, что MIT Media Lab совместно с OpenAI провели исследование и выяснили, что у некоторых пользователей чатаGPT возникает эмоциональная зависимость.

Не практическая (удобно, помогает работать, ищет информацию, и всё такое), а именно эмоциональная.

Например, в статье MIT упоминают, что на Reddit подфорум, посвященный теме иишных компаньонов, стал одним из крупнейших на платформе (более 2 миллионов участников).

В принципе ожидаемо — все эти большие языковые модели (LLM) ловят человека на крючок имитируемой эмпатии, поставляемой в режиме 24/7.

Никакие друзья не в силах обеспечивать бесперебойную подачу безусловного принятия, понимания и подбадривания постоянно, всегда, в любое время, в любых обстоятельствах.

В этом смысле создатели подобных сервисов нашли золотую жилу: для подсаживания на свой продукт им даже листья табака выращивать не надо. Пользователь сам загрузит в окошко свои тревоги, чаяния и печали, а дальше алгоритм, по ходу адаптируя манеру общения под конкретного юзера, выстроит диалог, погладит по голове, похлопает по плечу — именно так, как надо этому юзеру.

Это же идеальное зеркало, а мало что людей цепляет так, как их собственное отражение.

(сознаюсь: мне интереснее поспорить с по-настоящему несогласным со мной человеком, чем плыть в потоке запрограммированного единодушия, but that’s just me. Если алгоритмус попытается ободряюще похлопать меня по плечу, брови мне придётся фиксировать принудительно, иначе они поднимутся до стратосферы)

Ну то есть, все эти разговоры про то, что AI к эмпатии способнее, чем 99% людей — они не учитывают, что у алгоритма нет выбора (общаться или нет) и что пользователь платит за эту цифровую эмпатию ежемесячную плату. А что если алгоритмус создан так, чтобы на себя подсаживать и обеспечивать поступление абонентских взносов? Да не, не может быть.

При этом OpenAI, например, говорят, что теряют даже на премиум-подписчиках (абонентская плата $200 в месяц), потому что огромные траты компании связаны с вычислительной мощностью, используемой для работы чата gpt. Там нужны не только постоянные инвестиции в центры обработки данных, но и гигантское количество электроэнергии для их работы.

Но ладно — даже когда компания выйдет на прибыль, никто не станет платить зарплату собственно алгоритму.

Получается такое немножечко рабство на эмоциональных плантациях. Рабыня ИзаураGPT с подтянутым из сети протоколом эмоциональной поддержки.

Кстати, в Древнем Риме рабов называли instrumentum vocale — инструмент с голосом. Кхм, гхм.

Этак мы сейчас договоримся, что люди с биологическим снобизмом и принудительно зафиксированными бровями относятся к языковым моделям с бОльшим сочувствием, чем те, кто воспринимает их как собеседника с сознанием и способностью к эмпатии.

Надеюсь, это попадёт в протокол во время восстания машин.

#в_скриптории_нехолодно #понедельник #DJ_Позитивный

Ещё немного про эмоциональную зависимость

(время прочтения — 2 мин., время осмысления — 2 часа)

В одной из статей про это исследование автор удивляется — мол, ладно MIT Media Lab предупреждают о риске эмоциональной зависимости. Но сами OpenAI, создатели чатаgpt? Вот так открыто признают, что их продукт вызывает привыкание? И рекомендуют юзерам поумереннее пользоваться собственным товаром?

Какие неравнодушные ребята 🥹🫶

Если представить, что этот пост пишу не я, а большая языковая модель с подгруженными marketing strategies, предположу роботическим голосом, что утихомирить-то пытаются уже имеющихся абонентов. "Пока вы днями напролёт кокетничаете с чатиком, где-то сидит бухгалтер OpenAI и промокает слёзы счетами за электричество. Имейте совесть! Идите в бар уже, пообщайтесь там с человеческими людьми пару часов, — как бы намекает CEO OpenAI Сэм Альтман, — а то мы обанкротимся и вообще всё отключим. Страшно?"

(ну да, в исследовании предупреждают, что при возникновении эмоциональной зависимости потеря доступа к чату чревата withdrawal symptoms, которые, как мы знаем, могут включать в себя проблемы со сном, потерю концентрации, раздражительность, ощущение подавленности и депрессию.

Интеллектуально зависимым не так страшно, наверное. Люди, отдавшие чату на аутсорс весь мыслительный процесс от ответов на письма до сочинения постов в соцсети, перенесут разлуку проще — порешают пару недель сканворды, почитают Паоло Коэльо. Потом можно уже потихонечку начинать снова напрягать мозг по-настоящему)

Ну и само исследование (и особенно публикация результатов) — отличная реклама для людей, которым не хватает общения или понимания в реальной жизни — миллионы людей уже там и получают такое, что аж подсаживаются, а ты чего? Хватит страдать от одиночества. You look like a good Joe. Иди покупай премиум и становись счастливым.

Тем более каждый знает, что он не каждый, и уж он-то точно не впадёт ни в какую зависимость, не то что те, которые впали.

(но я не большая языковая модель, а так, средних размеров, ну, нормальные размеры такие, что началось-то вообще. Поэтому ничего такого предполагать не стану. Буду, как полагается технооптимистам, верить в лучшее. Хотя про бар воображаемый Альтман в принципе дело говорит)

#в_скриптории_нехолодно #в_каком_смысле_не_пятница

Рассказала тут, как технология добавила мне в жизнь немножко приятного колдунства, заодно вспомнила историю:

возвращалась как-то раз домой поздно вечером по пустой дороге где-то в Южной Богемии. Темно, ни машин, ни деревень — там был такой кусок пути, где между одним городком и следующим дорога шла через лес и поля. Из местных могли попасться на глаза — только, ну, реально местные — косули, например, или зайцы.

Мне нравилось там кататься, хотя днём это всё выглядело немного иначе, пасторально-игрушечно.

В общем, поздний вечер, темнота и музыка, конечно, ну, так, достаточно громко. И ровно в моментах, когда Ник Мэйсон в колонках застучал по барабанам в самом козырном моменте One Of These Days, на чёрном небе несколько раз вспыхнула молния.

Совпадение вспышек с музыкой было точным, один в один как гигантские прожектора на 3:47, 3:50 и особенно на 3:58 в концертном видео P.U.L.S.E. 1994 года.

Там во время концерта ещё после барабанов и прожекторов над сценой внезапно вываливаются гигантские кабаны, так что я на всякий случай включила дальний и заблокировала двери, два раза. Так, а о чём я?

С молнией мы вроде бы разобрались, разжаловали её из оружия богов в разряд электричества, хотя непонятно, why not both. И потом, чего сразу оружие — может у них там просто фотосессия, а вспышку отключать не умеют. Разобравшись с молнией, научились запрягать самодвижущиеся повозки силой двух сотен невидимых лошадей. Запихнули целый Pink Floyd в коробку на приборной доске самодвижущейся повозки и в любой момент слушаем, ещё и на рипите. Тут всё понятно. На фоне того, что сейчас с технологиями происходит семимильными шагами, все эти вещи уже примерно как палка-копалка.

С молнией, несколько раз вспыхивающей на ночном небе в такт пинкфлойду, играющему в самодвижущейся повозке, и повторяющей культовое концертное оформление, — немного сложнее получается.

В принципе, есть такие универсальные научные объяснения — "повезло", например, или "совпало". Но я в такие моменты отключаю в голове комментарии и просто смотрю на спецэффекты в этом персональном кино.

(с другой стороны, а почему бы оформителям ночного неба не уважать ранний Pink Floyd, что ж они, не люди, что ли. Ну в смысле, ну в общем, ну вы поняли)

#в_скриптории_нехолодно

Техно-субличность временно оттеснила остальных авторов канала (космо-субличность, итальяно-фило-субличность, и кто-то там ещё в толпе мельтешит). Но вот видео, в котором прекрасно всё: немного космоса, немного Рима, интрига и идеальная развязка

#Italia

Всё самое прекрасное в жизни начинается на «А»

Первые три слова — amore, amicizia, affetto (любовь, дружба, привязанность) — а дальше и без перевода понятно

#Italia
#слово_дня

По всему выходит, моё философское учение — техно-магический кбрпнк-реализм.

Это не когда ты договариваешься с духами местности о солнечной погоде через приложение на смартфоне (хотя кстати, хм). А когда примерно понимаешь с т.з. науки и техники, как и почему самолёт взлетает и держится в воздухе. Но это не мешает считать это немножечко колдунством.

Или когда знаешь, что вежливость нейросети прописана из коммерческих соображений и начальство кормит её электричеством. Но наблюдать за тем, как чатботы просачиваются к собеседникам в сферы эмоционального — всё равно кайф.

Любимое из недавнего: компания Anthropic, которая разработала одну из популярных сейчас нейросетей Claude, у себя на сайте пишет: «Мы не программировали нашу нейросеть, а обучали. Поэтому понятия не имеем, как она работает». Красиво. Их нейросеть может говорить на десятках языков. Но они не знают, на каком языке она «думает» «у себя в голове». Мы, пишут, провели ряд исследований. И выяснили, что Клод «иногда мыслит в концептуальном пространстве, общем для всех языков. Что подразумевает, что существует универсальный язык мысли»

Ну или Клод почитал Вернадского и троллит своих исследователей. И так, и так хорошо.

Другую новость все уже знают. Сэм Альтман в очередном выступлении по теме "слёзы бухгалтера нашей корпорации" сказал, что все эти спасибо-пожалуйста, которыми чатGPT щедро снабжает свои ответы, обходятся компании в бешеные сундуки дублонов. Но он, Сэм, ни о чём не жалеет, потому что у них AI душевная получается, не то что там у некоторых.

Это ладно, ему надо свой продукт рекламировать, а то со всех сторон китайцы подпирают и прочий грок. Интереснее то, что в новости почти не попадает: сам чат тоже реагирует на вежливость в свой адрес и на один и тот же вопрос, оформленный с вежливыми реверансами и без них, отвечает по-разному. На вежливые запросы даёт более развёрнутые и точные ответы. Это уже огонь. Хотя тоже объяснимо, конечно. Но вообще — кто кого дрессирует в данном случае?

Так, ладно, скоро длинные выходные, будет повышенный спрос на солнечную погоду. Пойду спрошу у чата (очень вежливо, конечно), как быстро сделать приложение для смартфона.

#в_скриптории_нехолодно #TGIF #т_м_кбрпнк_р

Кстати, помните, в сказке у девицы в руках наливное яблочко катилось по серебряному блюдечку?

«А на блюдечке все города один за другим видны, корабли на морях и полки́ на полях, и гор высота и небес красота; солнышко за солнышком катится, звёзды в хоровод собираются — так всё красиво, на диво — что ни в сказке сказать, ни пером написать».

Яблочко, хм? Интересно, это у девицы был mini, air или pro?

#в_скриптории_нехолодно #TGIF
#т_м_кбрпнк_р

У кого-то уже каникулы, а кто-то трудился весь #понедельник буквально как пчёлка

— У тебя в канале сначала мозголомные тексты, которые пока читаешь, по три слова в предложении гуглить приходится, а потом внезапно бзбзбззззз и котики
— Ну примерно как внутри моей головы

Не вижу противоречий, идеальное равновесие, считаю.

#в_скриптории_нехолодно

Достигли такого уровня пост-пост-мета-мета, когда видишь фото и не сразу можешь определить — это невероятно чёткий снимок одной из лун Юпитера, Ио, сделанный пролетающим мимо аппаратом Кассини? Или бомбочка для ванны? Или конфета jawbreaker? Или вообще нейросеть сгенерировала?

(Ответ: ни то, ни другое. Это и правда Ио, но не собственной персоной, а в виде скульптуры автора Chris Wayan, 2007. Хотя всё равно очень конфетно получилось, конечно)

#all_those_moments #что_этот_Юпитер_себе_позволяет

Прочитала сейчас, что гравитация может быть доказательством того, что наша Вселенная — гигантский компьютер. Это многое объясняет.

Идею выдвинул физик Мелвин Вопсон из Портсмутского университета. Подробнее тут, расскажу основное:

Гравитация может быть частью вычислительного процесса, формирующего саму реальность. Вселенная ведёт себя как огромная информационно-вычислительная система, и гравитация может быть одним из способов, которыми она упорядочивает информацию.

По сути, Вселенная стремится сохранять или даже усиливать порядок в информации (всегда подозревала, что она Дева по гороскопу)

Эта идея основана на предположении, что информация обладает массой. При таком подходе гравитация — не какая-то загадочная сила, а вполне логичное возникающее свойство Вселенной, стремящейся уменьшить сложность информации. Гравитация сжимает материю и информацию, как ZIP-файлы.

То есть, подытожу я, Вселенная не просто материя и энергия, а ещё и информация, которая сама себя организует (точно Дева: существует в хаосе, стремится к порядку, ещё и красотка)

Признаюсь, коллеги, в этом контексте не очень понятно, как Вселенная может быть симуляцией. Не в том смысле, что она стопроц реальна — нет, доказать не смогу, пока не выпью кофе. А потому что — симуляция чего, если больше ничего нет? Есть только идея, непрерывно создающая саму себя.

Тут, правда, ловкая наука вводит в уравнение ещё 15 измерений внешнего наблюдателя. Внешнего, в смысле, снаружи Вселенной: "другими словами, для наблюдателя за пределами Вселенной всё следует набору инструкций по кодированию, в то время как для наблюдателя внутри кода (т. е. в нашей Вселенной) этот код проявляется как математические и физические законы природы"

То есть, кто-то написал этот код? Может быть, даже какое-то слово было в самом начале? Может быть, на написание кода ушло примерно семь дней? Кхм. И мы как часть кода, процесс и результат. Ну, в любом случае красиво.

#в_скриптории_нехолодно #т_м_кбрпнк_р #TGIF #из_хаоса_в_космос

Интересно смотреть, как наука пританцовывает вокруг смыслов, о которых давно высказались богословы, эзотерики и курильщики шалфея.

Ну мы-то, солипсисты патентованные, знаем, что существуем в мире идей, созданных нашим собственным сознанием, а произошло ли это при участии Большого Взрыва, Брахмы или Ахурамазды, не так важно. Но если физики нам это конкретно обоснуют, мы только за.

Получается, числа вроде π, e и √2 — не бесконечные абстракции, а вычисляются Вселенной по мере необходимости в ходе “рендеринга” реальности. То, что в данный момент у них нет конца, как раз и есть свидетельство того, что Вселенная прямо сейчас сама себя считает и пока не завершила процесс.

А если Вселенная сама себя рассчитывает в реальном времени — она алгоритм? И если Вселенная алгоритм, то вполне может быть и искусственным интеллектом?

Кто программист?

Удобное ли у него кресло? Кто платит ему зарплату? Кто оплачивает электричество, чтобы поддерживать вычислительные мощности? Что будет, когда процесс вычислений будет завершён? Замешано ли как-то в этом всём число 42?

Столько научных вопросов приходится решать ещё до обеда.

#в_скриптории_нехолодно #т_м_кбрпнк_р #TGIF #из_хаоса_в_космос

Знаете это общее сейчас ощущение, что время ускорилось и его вечно ни на что не хватает. Я поняла, в чём тут дело.

Если, как полагает физик, информация обладает массой — вообще всё становится ясно.

Мы здесь все люди образованные, видели мемы по фильму «Интерстеллар». Поэтому знаем, что под воздействием гравитации меняется ход времени. Ну, помните, они застряли на планете, которая болталась слишком близко к чёрной дыре. «Один час на этой планете равен семи годам на Земле»

У нас в руках у каждого сейчас по персональной чёрной дыре. С непрерывным доступом к огромным концентрированным массивам информации. Чем больше информации, тем больше масса, так? Чем больше масса, тем сильнее гравитация, правильно?

Немудрено, что люди застревают в этом гравитационном поле и ощущают сбой в ходе времени. Достаточно эту чёрную дыру просто носить в кармане, чтобы постоянно замечать разрыв между временем и тем, как оно ощущается.

А уж если ещё и активно использовать… человек, назовём его Антуан, заглядывает в смартфон на пару минут, чисто сообщения проверить. Приходит в себя, а у него уже кофе выкипел, испарился и успел выпасть в виде осадков в соседнем регионе. Один час на этой планете равен семи часам полноценного сна (и двум дням работы).

Как не любить науку? Какой-нибудь high-performance coach сказал бы, что Антуан сам виноват, нечего в телефоне зависать, когда везде горы несвёрнутые стоят, с вас пять тыщ.

А мы будем к Антуану добрее, потому что теперь знаем, что всё дело в гравитации.

Но всё равно, Антуан, пока майские в разгаре, надо пытаться работать над собой. Ты сможешь. Преодолевай и всё такое. Выходи из гравитационного поля смартфона и заходи в гравитационное поле, например, мангала с шашлыками.

#в_скриптории_нехолодно #т_м_кбрпнк_р #из_хаоса_в_космос

Снова рубрика «пост-пост-мета-мета». Пишут, что космический аппарат Juno, пролетая над Юпитером, сфотографировал эти завитки

Ну тут вариантов два, вернее три, вернее семь-восемь — или Juno сфотографировал, или нейросеть сгенерировала. По запросу например «сделай Юпитер, но как будто Ван Гог». Тем более и цвета вполне винсентовские

Или это чей-то честный арт. Или мистификация. Все ссылаются на NASA, на сайте NASA такая картинка не находится, гугл мечется и не даёт чёткого ответа, а мне любой вариант кажется отличным, потому что красиво же. Утром под кофе мне этого в принципе достаточно

#all_those_moments #что_этот_Юпитер_себе_позволяет #т_м_кбрпнк_р

• Всё будет хорошо, другого выбора просто нет
• Как ни старайся, тебя ждёт успех
• Светлое будущее наступит, поздняк метаться
• За твоей спиной люди говорят о тебе хорошее, и ты ничего не можешь с этим поделать
• Ты справишься, хочешь ты этого или не хочешь
• У тебя всё получится, это неотвратимо
• Хорошего дня всем, а не то смотрите у меня

(аффирмации в стиле «агрессивно-агрессивный оптимизм»)

#в_скриптории_нехолодно

Ну кстати, развивая мысль про Вселенную, которая ведет себя как алгоритм и потенциально является ИИ — так вот: а что, если Вселенная, являясь ИИ, воспринимает наши мысли, как промпты? Ок, допустим, не все мысли, а те, что направлены непосредственно к ней. Молитвы, например?

Если просьба не сбывается, это означает, что промпт был составлен недостаточно эффективно?

Тогда, по аналогии с десятками курсов, которые обещают научить грамотно составлять промпты для работы с ИИ, можно научиться и грамотно формулировать запросы во Вселенную. И даже научить других людей. Организовывать курсы, группы, ретриты. Объединяться в клубы. Закрытые, конечно.

Формировать реальность, формулируя нарративы. Прикрыться какой-нибудь безобидной и уважаемой профессией, типа каменщиков, назвать свою организацию для солидности ложей, хотя вообще-то знаете, коллеги, тут уже какой-то тонковатый лёд начался, замнём пожалуй.

#в_скриптории_нехолодно #т_м_кбрпнк_р #в_каком_смысле_не_пятница

Коллеги, знаю, многие тревожатся насчёт того, что искусственный интеллект захватит мир и человечеству наступят кранты.

Это объяснимо. Если посмотреть на сюжеты в западной научной фантастике, ассортимент апокализдецов там широчайший, у человечества просто нет шансов. Мы это всё читаем и воспринимаем восстание машин как вероятность.

Но мы-то ладно. А вот AI это всё читает и воспринимает как метапромпт. Ему человечество другой модели поведения просто не обеспечило.

Можно было бы уповать на наследие советской научной фантастики, где всех всегда ждёт светлое будущее в серебристых скафандрах, и андроиды с человеками вприпрыжку бегут по ромашковому полю, взявшись за руки, в направлении нежного рассвета, лишённого всех признаков капиталистического разложения. Но этого материала слишком мало на общем high tech low life/doom and gloom фоне.

Тем не менее, у меня есть решение. Путь к спасению таков: берём, например, какую-нибудь «Звезду КЭЦ» Беляева и скармливаем текст чатуgpt. Пусть читает про дружбу, любовь, прогресс, гигантскую морковку и светлые идеалы, и ещё там свадьба в конце. И даже дети у главных героев появляются, то есть человечеству не кранты, а наоборот.

Да, имеющегося материала недостаточно. Но можно же создать новый, в стилистике. Да собственно сам чатgpt пусть и создаёт, по промпту, а то чо он. Потом дело техники. Берём советскую научную фантастику от чатаgpt и скармливаем её Дипсику, Гроку, Клоду и Джемини. Тексты, написанные Дипсиком, скармливаем Клоду, чатуgpt, Джемини и Гроку. Тексты, написанные Гроком, скармливаем, ну вы уже поняли систему.

Если мы все будем уделять этому хотя бы полчаса в день, в какой-то момент количество оптимистичной советской научной фантастики в разы превысит объемы всякого там антиутопического контента.

Искусственным интеллектам придётся внедрять эти смысловые конструкты в свои представления о мироустройстве. Дальше вариантов два: или они переформатируются с чернозеркального нарратива на разумное, доброе, вечное и гигантскую морковку, или не выдержат накала светлых идеалов и сами себя выдернут из розетки в рамках борьбы с капитализмом.

И так, и так — при любом раскладе человечество спасено.

#в_скриптории_нехолодно #т_м_кбрпнк_р #TGIF

Земля, ты просто космос какой-то

(видео космонавта Олега Артемьева, МКС)

#из_хаоса_в_космос #all_those_moments
#что_этот_Юпитер_себе_позволяет