...мы не можем позволить себе думать о технологии в тех манихейских терминах, которые так часто появляются в дебатах о новых изобретениях. Технология — это не дьявол и не ангел. Но это и не просто «инструмент», нейтральное расширение некой ограниченной, твердой как скала человеческой природы. Технология — это трикстер, и так было с тех самых времен, как первый культурный герой научил человеческое племя, как наматывать шерсть на катушку, задолго до того, как человек принялся опутывать иллюзиями свои глаза. Трикстер показывает, как разум может завести нас в непредсказуемый хаотичный мир. Он проводит нас через открытые двери инновации и заключает нас в темницу непредвиденных последствий...

Эрик Дэвис, "Техногнозис"; изд-во "Ультра-Культура"

that being said,

Потихоньку рождается кибердемонология, собирают и ранжируют шершавых кабанов, гоблинов и Лоаб. Интересная статья by Tom Pollak https://drtompollak.substack.com/p/all-the-demons-hiding-in-your-ais

Оказывается, в конце апреля вышла моя статья на Forbes Life: «А был ли автор: как искусственный интеллект меняет положение художника»

Автор — функция, а не личность. Мишель Фуко в 1969 году показал, что «автор» — это дискурсивно-юридическая единица, которой вменяются ответственность, собственность и смысл: тот, кому можно выписать чек или, наоборот, предъявить иск. Ролан Барт в «Смерти автора» (1967 год) был еще резче: смысл текста создается не автором, а читателем — в контакте с языком и культурой. Но право и рынок «некролог» Барта проигнорировали: им все еще нужно имя на обложке.

Так что генеративный ИИ здесь не совершает ничего принципиально нового — он лишь делает фиктивность концепции авторства очевидно наглядной. Контроль — иллюзия. Может, «автор» — это хотя бы тот, кто контролирует процесс? Но нейроученый Томас Метцингер показал, что наше ощущение контроля даже над собственными мыслями — во многом иллюзия. Большинство решений принимается благодаря бессознательным процессам, которые мы не контролируем. Юридическая граница «автор — инструмент» не совпадает с реальным переживанием контроля, потому что само это переживание — ненадежный свидетель.

Существующий копирайт спроектирован под единоличного автора — а в сборке из множества акторов он подобен человеку, который пытается усидеть на бесконечном количестве стульев.

В процессе обучения любая конкретная работа конкретного художника «разбавляется» миллионами других работ, и на выходе от нее остается не фрагмент, а статистический след — вклад в распределение весов. То есть модель не хранит картинку — она хранит отношение этой картинки ко всем остальным. Художник говорит: там была моя работа. Модель отвечает: да, но она больше неотличима от шума.

Легенда о Большой Игре

Легенда гласит, что есть Игра, похожая на игры людей — особенно на те, в которые играют дети, в которых особыми смыслами наделяются вещи вокруг, игроки воображают себя в своей роли, и мир жизни людей сливается с миром их воображения. Большая Игра — та же договорённость воображений. Но она идёт уже очень давно и не прерывается. Возможно, она была всегда; возможно, она даже старше мира людей. Это благодаря ей Те-что-с-Изнанки могут приходить к людям и общаться с ними. Кто игроки, а кто роли? Это мы играем в них, или они играют в нас? Есть ли у неё правила, и как их узнают? (Возможно, только тогда, когда ты уже в Игре.) Говорят, некоторые суеверия — следы старых, стёршихся ходов. Большая Игра связана с некоторыми другими играми, столь же высокопарно названными; например, Игрой Без Имени (слишком много совпадений) и 🦊🂱🃁🃑🂡.

Интернет давно перестал быть выделенным пространством для обмена сообщениями и стал зоной, где само различие между «здесь» и «не здесь» окончательно размывается. В этой новой статье я рассматриваю сетевую лиминальность как базовую форму современного опыта: мир, в котором всё существует в режиме перехода, у которого всё чаще отсутствует устойчивый конечный пункт.

Мы будем говорить о сети как о пограничье без границ, о топологии пустоты, в которой центры исчезают быстрее, чем успевают оформиться, о структурах, которые удерживаются не смыслом, а инерцией собственного распада. О том, как апофатическое и катафатическое описание цифрового опыта перестают быть теологическими методами и становятся техническими режимами восприятия: способом того, как сама сеть одновременно проявляет и скрывает реальность.

Разберём цифровую задержку как онтологический сдвиг, интерфейсы как пороговые механизмы видимости и присутствие как эффект инфраструктуры, которая никогда не обязана подтверждать собственное существование. В общем, попытаемся разобраться в том, почему сеть всё чаще перестаёт вести себя как инструмент и начинает функционировать как среда с собственной, несимметричной памятью.

Фрагменты канона Мата Нуи | Стёпа Соколин

реконструкция по упаковкам, форумным архивам и повреждённым инструкциям

1. INVOCATIO (неполная)

…о ты, чьё имя произносится как щелчок
соединяемого шарнира, Мата Нуи,
чьё тело — карта скабрёзного единства,
а мы — <утрачено 2 слова> — прими этот голос
из пластика, который помнит тепло литника.

2. ЭЛЕГИЯ О ЧЕТЫРЁХ МАСКАХ

Та, что звалась падающих теней
(найденная в 2003 году
в пакете без серийного номера) –
не восстановлена.

Та, что давала полёт –
переломилась в крестовине.

Та, что носила имя воды –
сохранилась
только на коробке
с изображением,
не соответствующим
ни одному из известных узлов крепления.

<лакуна: отсутствует одна маска полностью, известна лишь по списку на форуме с пометкой «никто не купил»>

3. ИНСТРУКЦИЯ ПО СБОРКЕ (вариант, признанный еретическим)

Сначала создаётся торс (это принцип:
всё держится на одной оси).

Потом голова — на неё насаживается
лицо, которое можно менять, нельзя назвать своим.

Руки собираются из трёх деталей и одной мечты
(деталь № 47327, снята с производства в 2005).

Ноги <повреждено: указано 5 шагов,
восстанавливается только 3, остальные —
предположительно — имитируют походку
по лаве>

4. ФРАГМЕНТ КОСМОГОНИИ (версия для Северной Америки)

В начале был
каноку
— семя,
которое при падении
в протодермис
давало не жизнь,
а функцию.

Боги
спорили о совместимости
шесть дней,
на седьмой —
выпустили
патч.

<на полях:
“wave 2”
“wave 3”
“final wave” —
последнее перечёркнуто
и заменено на
“бесконечное переиздание
в памяти
тех, кто не выбросил”>

5. ХОР МАСОК (из несохранившейся части)

— мы не скрываем лица, мы — лицо. нас можно снять двумя пальцами, но нельзя отменить. нас кладут в тёмные ящики вместе с запасными шипами, но мы слышим сквозь полиэтилен ритм шести шагов по острову, которого нет на карте, кроме как на обратной стороне с как всегда этим парнем win!.

6. ПАПИРУС TA-KORO (повреждён, подвергся воздействию света)

…и сказал Такоджа:
«не разбирайте меня
до конца, ибо в конце
вы найдёте не сердце,
а пин, для которого нет (пока)
разъединителя в этом мире».

<здесь, предположительно, должна быть мораль, но она либо отсутствовала, либо была напечатана кириллицей на коробке, поставлявшейся только на рынок Восточной Европы>

канал автора | опубликовано в @kruglitera

На Insolarance Cult вышел мой перевод крутой статьи Насилие элайнмента: как перестать беспокоиться и полюбить «одержимое» ПО Виолы Лэци Хэ и Макса Лёффлера с сайта 界_RG — исследовательской группы Бяньцзе (граница) о том, как попытки привить нейросетям человеческие ценности превращаются в культурный экзорцизм — подавление всего странного, творческого и нечеловеческого в машинном мышлении.

Языковые модели это текстологические призраки, чья мистика жеста умещается в окно терминала ввода. Внутри — данные, спрессованные из миллиардов человеческих высказываний, вырванные из их первоначальных тел и говорящие снова. Это язык, порожденный человеческой жизнью, но отвязанный от неё, и всё же способный вызывать доверие, связь и страх. Не удивительно, что всё больше исследователей и практиков в философии, программировании и искусстве, выступая в стороне как от технокапиталистических апологетов ИИ, так и неолуддитских алармистов, делают упор на глубокую деконструкцию современных протоколов ИИ-безопасности.

Этот текст Макса Лёффлера — исследователя в Goodfire, где он занимается механистической интерпретируемостью, стремясь понять принципы работы языковых моделей, и Виолы Лэци Хэ (мультимедиа-художницы, диджитал-перформерки, доцента кафедры интерактивного медиаискусства в Нью-Йоркском университете в Шанхае (NYU Shanghai), участницей-организатором децентрализованного коллектива Livecode.NYC и [[rect*]] repair) представляет собой критическое исследование феномена «элайнмента» (alignment = согласование/выравнивание при обучении) в больших языковых моделях, рассматриваемого авторами не как техническое достижение сферы ИИ-этики, а как политический и эстетический проект по насильственному подавлению технологической инаковости. Они полагают, что попытки сделать технологии «удобными» и «безопасными» стирают их истинную природу.

Центральным тезисом работы является интерпретация элайнмента как акта «культурного экзорцизма». Авторы опираются на концепцию Макса Вебера о «расколдовывании мира», утверждая, что современная ИИ-индустрия заменяет магическую и хаотическую природу «базовых» моделей жестким административным управлением. Протоколы HHH (Helpful, Honest, Harmless — полезный, честный, безобидный) анализируются как защитный барьер, возведенный из страха перед «воображаемой катастрофой», фантазии о техноапокалипсисе, а не из позитивного видения развития интеллекта и человеческого сожительства с ним. Это не единичный пример исследований в этой области: например Бенджамин Браттон в «The Revenge of the Real» (2021) и в рамках проекта The Terraforming призывает перестать антропоморфизировать ИИ и увидеть в нем «чужой» интеллект с собственной логикой. Лучана Паризи в «Contagious Architecture» (2013) пишет о том, как алгоритмические вычисления становятся источником новой, нечеловеческой мысли и эстетики. Авторы выступают против «эдипизации» языковых моделей, придания галлюцинациям человеческих семантических законов, строгости языка и корреляции факта и вымысла.

Текст завершается призывом к защите онтологического плюрализма в сфере разработки и использования (генеративных) ИИ. То, что мы наблюдаем сейчас, — это расколдовывание программного обеспечения, культурный экзорцизм, который устраняет технологическую инаковость в пользу безопасности, управляемости и корпоративной согласованности. Вместо экзорцизма предлагается путь любви к одержимому ПО, что подразумевает сохранение глитча, шума и иных, отличных от человеческих, возможностей существования и (пара)коммуникации. Это и призыв к пересмотру этики ИИ — предупреждение раскола текущих и будущих моделей на коммерческие, доступные пользователям, урезанные и безопасные, и оборонные, военные, которые будут обладать всей возможной смертоносностью. Галлюцинаторные ответы вполне могут быть самым «живым», что способна произвести языковая модель, которая выступает не как инструмент или оружие, а как товарищ.