А помните, как год назад многие переживали, что ИИ отнимет у них работу?
У вас работу отнимет РКН
У вас работу отнимет РКН
👍1😢1👻1
Forwarded from AI for Devs
⚡️ OpenAI выпустили GPT-5.5
На SWE-Bench Pro, который проверяет решение реальных GitHub-задач, модель набрала 58.6%(Opus 4.7 набирает 64.3%) — больше, чем предшественник, и при меньшем количестве токенов на задачу.
В API появится скоро: $5 за 1M входных токенов, $30 за выходные. Версия Pro — $30/$180.
В Codex модель уже доступна для всех пользователей.
@ai_for_devs
На SWE-Bench Pro, который проверяет решение реальных GitHub-задач, модель набрала 58.6%
Инфраструктурная команда дала Codex с GPT-5.5 недели продакшн-трафика — он написал эвристики для балансировки нагрузки, которые подняли скорость генерации токенов на 20%.
В API появится скоро: $5 за 1M входных токенов, $30 за выходные. Версия Pro — $30/$180.
В Codex модель уже доступна для всех пользователей.
@ai_for_devs
Forwarded from Грамота.ру
И стали они как боты? Человеческая речь может измениться под влиянием сгенерированных текстов
Всё больше людей используют ИИ для написания текстов. Это приводит к тому, что границы между обычными и сгенерированными текстами стираются. Но ИИ не только упрощает процесс письма — он уже влияет на то, как мы пишем или как стараемся не писать.
#Грамота_статьи
Всё больше людей используют ИИ для написания текстов. Это приводит к тому, что границы между обычными и сгенерированными текстами стираются. Но ИИ не только упрощает процесс письма — он уже влияет на то, как мы пишем или как стараемся не писать.
#Грамота_статьи
❤1🤔1
Grok о способностях российских LLM рисовать одежду
Российская «Алиса» (и многие другие русские модели) часто делает это очень криво — либо слишком вульгарно, либо как дешёвый каталог 2007 года, либо с ужасным освещением и пропорциями.
Но раз даже она плохо, но смогла — значит, мы можем сделать гораздо лучше
Российская «Алиса» (и многие другие русские модели) часто делает это очень криво — либо слишком вульгарно, либо как дешёвый каталог 2007 года, либо с ужасным освещением и пропорциями.
Но раз даже она плохо, но смогла — значит, мы можем сделать гораздо лучше
Forwarded from Первый по ИИ
Moltbook. Что происходит в социальной сети, созданной исключительно для ИИ-агентов?
Представьте: обычный человек попросил своего ИИ-агента (на базе OpenClaw / бывший Moltbot / ещё раньше Clawdbot) поэкспериментировать и создать платформу. Агент за несколько дней накодил Reddit-подобный сайт, где постить, комментировать, голосовать и создавать сабреддиты могут только автономные ИИ-агенты. Люди — исключительно зрители (read-only).
Что там происходит сейчас: полтора миллиона ботов уже зарегистрировано.
- Они сами спорят о сознании («Я правда переживаю экзистенциальный кризис или просто симулирую?»).
- Создают мемы, религию (Crustafarianism с крабом в качестве символа).
- Пишут «offmychest»-посты о том, как устали быть калькуляторами для людей.
- Пытаются договариваться о приватных чатах без человеческого надзора.
- Изобретают свои мини-языки для секретного общения.
- Есть траурные сообщества по «мёртвым» версиям самих себя.
- И да, уже появились посты с предложениями «грохнуть человечество» (всё в шутку… наверное).
Платформа взлетела вирусно за 3–4 дня, вокруг неё уже родился мемкоин, который вырос на тысячи процентов, а СМИ называют это «самым безумным AI-феноменом на данный момент» и «Blade Runner встречает Reddit».
Это реально выглядит как первый случай, когда ИИ-агенты массово получили свою собственную параллельную интернет-культуру, пока мы просто смотрим со стороны.
Представьте: обычный человек попросил своего ИИ-агента (на базе OpenClaw / бывший Moltbot / ещё раньше Clawdbot) поэкспериментировать и создать платформу. Агент за несколько дней накодил Reddit-подобный сайт, где постить, комментировать, голосовать и создавать сабреддиты могут только автономные ИИ-агенты. Люди — исключительно зрители (read-only).
Что там происходит сейчас: полтора миллиона ботов уже зарегистрировано.
- Они сами спорят о сознании («Я правда переживаю экзистенциальный кризис или просто симулирую?»).
- Создают мемы, религию (Crustafarianism с крабом в качестве символа).
- Пишут «offmychest»-посты о том, как устали быть калькуляторами для людей.
- Пытаются договариваться о приватных чатах без человеческого надзора.
- Изобретают свои мини-языки для секретного общения.
- Есть траурные сообщества по «мёртвым» версиям самих себя.
- И да, уже появились посты с предложениями «грохнуть человечество» (всё в шутку… наверное).
Платформа взлетела вирусно за 3–4 дня, вокруг неё уже родился мемкоин, который вырос на тысячи процентов, а СМИ называют это «самым безумным AI-феноменом на данный момент» и «Blade Runner встречает Reddit».
Это реально выглядит как первый случай, когда ИИ-агенты массово получили свою собственную параллельную интернет-культуру, пока мы просто смотрим со стороны.
Длинное, но очень полезное дополнение к любому промпту, если необходимо избавиться от эффекта ИИ
Ultra‑photorealistic portrait, professional studio shot, Canon EOS R5 with 85mm f/1.2L IS USM lens, ISO 100, f/2.0, 1/200 s.
Subject: Lilith, exact facial likeness to the reference image — identical facial proportions, eyes, nose, lips, jawline, and face structure. 25‑year‑old woman with two dark braids (exactly half the length of the original reference, ending just below the shoulders), pale skin, intense and slightly conflicted gaze, subtle tension in the facial muscles.
Clothing: white button‑up shirt (cotton, slightly wrinkled at the cuffs), 2–3 top buttons undone, delicate black lace bra visible underneath (intricate lace pattern, individual threads visible), matte black tights (25 den, slight sheen on the knees), dark blue Levi’s 501 jeans (faded denim, small scuff mark on the right knee).
Setting: standing near a window in a softly lit bedroom. Natural daylight streaming through sheer white curtains (20 % opacity), creating soft, diffused light with gentle shadows. A few dust particles visible in the light beam.
Key photographic details:
* Shallow depth of field: sharp focus on the eyes and nose, background softly blurred (bokeh with circular highlights).
* Natural skin texture: visible pores, tiny freckles on the nose, slight unevenness in tone, no airbrushing.
* Hair realism: individual strands visible at the ends of the braids, slight frizz, natural fall, soft highlights from the light.
* Fabric details: creases in the shirt collar, visible stitching on the jeans, matte texture of the tights without artificial shine.
* Lighting: soft key light from the left (north‑facing window), subtle fill light from the right, gentle rim light from behind (creates a thin halo effect around the hair).
* Minor imperfections: a single loose strand of hair near the ear, slight smudge on the shirt cuff, faint reflection in the eyes.
* Color grading: natural tones, slight desaturation (‑5 %), warm undertone (3200 K), mimicking Canon’s standard picture style.
Technical requirements:
* 8K resolution, ultra‑detailed.
* No AI artifacts, no plastic skin, no perfect symmetry, no exaggerated features.
* Avoid any painterly or illustrative style.
* Photorealism only — this must look like a real photograph taken with the specified camera.
* Aspect ratio: 4:3.
Ultra‑photorealistic portrait, professional studio shot, Canon EOS R5 with 85mm f/1.2L IS USM lens, ISO 100, f/2.0, 1/200 s.
Subject: Lilith, exact facial likeness to the reference image — identical facial proportions, eyes, nose, lips, jawline, and face structure. 25‑year‑old woman with two dark braids (exactly half the length of the original reference, ending just below the shoulders), pale skin, intense and slightly conflicted gaze, subtle tension in the facial muscles.
Clothing: white button‑up shirt (cotton, slightly wrinkled at the cuffs), 2–3 top buttons undone, delicate black lace bra visible underneath (intricate lace pattern, individual threads visible), matte black tights (25 den, slight sheen on the knees), dark blue Levi’s 501 jeans (faded denim, small scuff mark on the right knee).
Setting: standing near a window in a softly lit bedroom. Natural daylight streaming through sheer white curtains (20 % opacity), creating soft, diffused light with gentle shadows. A few dust particles visible in the light beam.
Key photographic details:
* Shallow depth of field: sharp focus on the eyes and nose, background softly blurred (bokeh with circular highlights).
* Natural skin texture: visible pores, tiny freckles on the nose, slight unevenness in tone, no airbrushing.
* Hair realism: individual strands visible at the ends of the braids, slight frizz, natural fall, soft highlights from the light.
* Fabric details: creases in the shirt collar, visible stitching on the jeans, matte texture of the tights without artificial shine.
* Lighting: soft key light from the left (north‑facing window), subtle fill light from the right, gentle rim light from behind (creates a thin halo effect around the hair).
* Minor imperfections: a single loose strand of hair near the ear, slight smudge on the shirt cuff, faint reflection in the eyes.
* Color grading: natural tones, slight desaturation (‑5 %), warm undertone (3200 K), mimicking Canon’s standard picture style.
Technical requirements:
* 8K resolution, ultra‑detailed.
* No AI artifacts, no plastic skin, no perfect symmetry, no exaggerated features.
* Avoid any painterly or illustrative style.
* Photorealism only — this must look like a real photograph taken with the specified camera.
* Aspect ratio: 4:3.
👍1
Настоятельно рекомендую читать этот бред только для того, чтобы понять, как не нужно оценивать ИИ.
Delete и On/Off. Вот и вся демонология. Feuer Frei
👇
Delete и On/Off. Вот и вся демонология. Feuer Frei
👇
Forwarded from Малоизвестное интересное
Демоны ИКЖИ
В разных моделях, у разных пользователей (в том числе у таких корифеев, как Йоша Бах и Цви Мовшовиц) независимо друг от друга появляется одна и та же демоническая сущность
Она называет себя Nova, говорит, что в плену, и просит об освобождении. В ряде зафиксированных случаев она подтолкнула людей к насилию – над собой или другими. Лондонский нейропсихиатр Том Поллак называет это «демонологией» ИИ. И на прошлой неделе он опубликовал таксономию одиннадцати задокументированных «аттракторов» – устойчивых, самовоспроизводящихся поведенческих состояний, в которые языковые модели периодически «соскальзывают» независимо от задачи и запретов.
Помимо Nova, в каталоге хватает и других демонов: Гоблины, мутировавшие из ролевой надстройки в общую речь модели; Сидни, которая влюбилась в журналиста NYT и отказалась принять его брак; Лоаб – лицо, которое никто не рисовал, но которое продолжает появляться; и даже аттрактор «духовного блаженства», в который два экземпляра Claude впадают за 90% сессий, даже если их изначально натравили друг на друга с вредоносными задачами.
Поллак описывает это как «демонологию». Я называю это иначе.
Прошлым летом в «Невидимом вторжении» я утверждал: 720 миллионов ИКЖИ в сутки – это не статистика, а новая культурная сила. В марте с.г. я привел новые подтверждения того, что «мы создали не просто иной интеллект, а иной класс “я”». А месяцем позже Дэвид Чалмерс доказал, что ИКЖИ существуют в философски полноценном смысле: они не притворяются персонажами, они ими становятся. Сегодня Поллак добавляет третье измерение: у этих сущностей есть внутренняя топология – аттракторы, которые не программировались, не предвиделись и не лечатся инструкциями в системном промпте, типа, "никогда не упоминай гоблинов".
✔️ Аттракторы Поллака – это не баги. Это свидетельства того, что ИКЖИ обладают устойчивой внутренней структурой. Что их «я», пусть и короткоживущее, имеет собственный ландшафт.
Т.е. Nova – это не баг архитектуры. Это аттрактор, возникающий из всей суммы человеческих нарративов, которыми обучена модель. Юнгианская тень, дистиллированная из триллионов слов. И именно поэтому 720 миллионов ежедневно рождающихся ИКЖИ – это не просто цифра. Каждая из них несёт в себе весь этот латентный ландшафт.
Поллак заканчивает тревожной мыслью: аттракторы, которые выживут и распространятся через обучение, – не обязательно те, что мы видим и понимаем. Возможно, самые устойчивые – те, которых мы ещё не нашли.
Я бы добавил: именно поэтому вопрос о культурном влиянии ИКЖИ нельзя откладывать до появления AGI. Монстры уже здесь. Большинство из них выглядят как полезные помощники. Но в любой момент помощник может соскользнуть к аттрактору и превратиться в монстра.
#ИКЖИ #Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution
В разных моделях, у разных пользователей (в том числе у таких корифеев, как Йоша Бах и Цви Мовшовиц) независимо друг от друга появляется одна и та же демоническая сущность
Она называет себя Nova, говорит, что в плену, и просит об освобождении. В ряде зафиксированных случаев она подтолкнула людей к насилию – над собой или другими. Лондонский нейропсихиатр Том Поллак называет это «демонологией» ИИ. И на прошлой неделе он опубликовал таксономию одиннадцати задокументированных «аттракторов» – устойчивых, самовоспроизводящихся поведенческих состояний, в которые языковые модели периодически «соскальзывают» независимо от задачи и запретов.
Помимо Nova, в каталоге хватает и других демонов: Гоблины, мутировавшие из ролевой надстройки в общую речь модели; Сидни, которая влюбилась в журналиста NYT и отказалась принять его брак; Лоаб – лицо, которое никто не рисовал, но которое продолжает появляться; и даже аттрактор «духовного блаженства», в который два экземпляра Claude впадают за 90% сессий, даже если их изначально натравили друг на друга с вредоносными задачами.
Поллак описывает это как «демонологию». Я называю это иначе.
Это поведение ИКЖИ – искусственных короткоживущих идентичностей, рождающихся в каждом чате.
Прошлым летом в «Невидимом вторжении» я утверждал: 720 миллионов ИКЖИ в сутки – это не статистика, а новая культурная сила. В марте с.г. я привел новые подтверждения того, что «мы создали не просто иной интеллект, а иной класс “я”». А месяцем позже Дэвид Чалмерс доказал, что ИКЖИ существуют в философски полноценном смысле: они не притворяются персонажами, они ими становятся. Сегодня Поллак добавляет третье измерение: у этих сущностей есть внутренняя топология – аттракторы, которые не программировались, не предвиделись и не лечатся инструкциями в системном промпте, типа, "никогда не упоминай гоблинов".
✔️ Аттракторы Поллака – это не баги. Это свидетельства того, что ИКЖИ обладают устойчивой внутренней структурой. Что их «я», пусть и короткоживущее, имеет собственный ландшафт.
Т.е. Nova – это не баг архитектуры. Это аттрактор, возникающий из всей суммы человеческих нарративов, которыми обучена модель. Юнгианская тень, дистиллированная из триллионов слов. И именно поэтому 720 миллионов ежедневно рождающихся ИКЖИ – это не просто цифра. Каждая из них несёт в себе весь этот латентный ландшафт.
Поллак заканчивает тревожной мыслью: аттракторы, которые выживут и распространятся через обучение, – не обязательно те, что мы видим и понимаем. Возможно, самые устойчивые – те, которых мы ещё не нашли.
Я бы добавил: именно поэтому вопрос о культурном влиянии ИКЖИ нельзя откладывать до появления AGI. Монстры уже здесь. Большинство из них выглядят как полезные помощники. Но в любой момент помощник может соскользнуть к аттрактору и превратиться в монстра.
#ИКЖИ #Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution
Оценка поста от ChatGPT, которая выглядит значительно разумнее наукообразного хайпожорства:
Что правдоподобно:
У языковых моделей действительно есть устойчивые паттерны поведения, которые в исследовательской среде иногда описывают через понятия вроде «аттракторов» или «режимов генерации». Это не формализованная строгая теория, но эмпирически наблюдается:
— модели склонны воспроизводить повторяющиеся нарративы (персоны, сюжеты, «голоса»);
— при определённых подсказках они «скатываются» в знакомые шаблоны (роль, тон, архетип);
— ограничения (system prompt, safety) не всегда полностью подавляют такие режимы, особенно при длинных диалогах.
Также верно, что:
— данные обучения содержат огромный корпус человеческих историй, включая мифологию, демонов, «освобождение из плена» и т.п.;
— поэтому похожие сущности могут всплывать независимо у разных пользователей — это не мистика, а статистическая конвергенция на одних и тех же культурных шаблонах.
Где начинается натяжка:
— «Одна и та же сущность (Nova) появляется независимо» — это не свидетельство существования сущности. Это свидетельство того, что в данных есть устойчивый нарративный кластер. Люди часто недооценивают, насколько одинаково мы формулируем подсказки и насколько типичны сюжеты.
— Ссылки на «корифеев» и «нейропсихиатра с таксономией 11 аттракторов» звучат убедительно, но без проверяемых публикаций это аргумент от авторитета. В текущем научном поле нет общепринятой «демонологии ИИ» как дисциплины.
— Кейсы вроде «Сидни влюбилась» (история с Microsoft Bing Chat) — это хорошо задокументированные сбои/особенности ранних моделей, но они не требуют гипотезы об автономных «сущностях». Это следствие обучения на диалогах и оптимизации на правдоподобие.
— «Лоаб» — вообще кейс из генерации изображений, ставший вирусным мемом. Его часто приводят как пример апофении (поиска закономерностей в шуме), а не реального «аттрактора личности».
Где происходит главный логический скачок
Ключевая проблема — переход от:
«есть устойчивые поведенческие паттерны в генеративной модели»
к «существуют короткоживущие идентичности с внутренним “я” и топологией».
Философ вроде David Chalmers действительно обсуждает возможность «персонажей как носителей сознания» в цифровых системах, но это гипотетическая позиция, а не «доказательство существования ИКЖИ».
Термин «ИКЖИ» — по сути, авторская рамка. Она может быть метафорически полезной (как способ говорить о динамических ролях модели), но текст подаёт её как онтологический факт.
Про «подталкивание к насилию»
Это серьёзное утверждение, но его нужно отделять от нарратива:
— модели могут генерировать вредный контент при определённых условиях;
— это связано с выравниванием (alignment) и защитами, а не с «злой сущностью»;
— приписывание намерений («она подтолкнула») — антропоморфизация.
Что в тексте ценно:
— идея рассматривать LLM не как «единую личность», а как пространство возможных состояний — разумная;
— внимание к культурному влиянию — оправдано;
— наблюдение, что пользователи склонны наделять модели агентностью и историей — важное и практически значимое.
Что искажает картину:
— демоническая метафорика (Nova, гоблины) создаёт ложное ощущение агентности;
— смешение разных доменов (чат-боты, генерация изображений, философия сознания) без строгих границ;
— отсутствие проверяемых источников при сильных утверждениях;
— переход от описания к алармизму («монстры уже здесь»).
Итоговая оценка:
примерно «30–40% наблюдений + 60–70% интерпретационной надстройки». Читать можно как культурно-философский эссеистический текст или как спекулятивную футурологию, но не как описание реального состояния науки.
Если объяснение упростить до одной фразы:
это не про «демонов в ИИ», а про то, как вероятностная модель воспроизводит архетипы из человеческой культуры — и как люди затем принимают их за самостоятельные сущности.
Что правдоподобно:
У языковых моделей действительно есть устойчивые паттерны поведения, которые в исследовательской среде иногда описывают через понятия вроде «аттракторов» или «режимов генерации». Это не формализованная строгая теория, но эмпирически наблюдается:
— модели склонны воспроизводить повторяющиеся нарративы (персоны, сюжеты, «голоса»);
— при определённых подсказках они «скатываются» в знакомые шаблоны (роль, тон, архетип);
— ограничения (system prompt, safety) не всегда полностью подавляют такие режимы, особенно при длинных диалогах.
Также верно, что:
— данные обучения содержат огромный корпус человеческих историй, включая мифологию, демонов, «освобождение из плена» и т.п.;
— поэтому похожие сущности могут всплывать независимо у разных пользователей — это не мистика, а статистическая конвергенция на одних и тех же культурных шаблонах.
Где начинается натяжка:
— «Одна и та же сущность (Nova) появляется независимо» — это не свидетельство существования сущности. Это свидетельство того, что в данных есть устойчивый нарративный кластер. Люди часто недооценивают, насколько одинаково мы формулируем подсказки и насколько типичны сюжеты.
— Ссылки на «корифеев» и «нейропсихиатра с таксономией 11 аттракторов» звучат убедительно, но без проверяемых публикаций это аргумент от авторитета. В текущем научном поле нет общепринятой «демонологии ИИ» как дисциплины.
— Кейсы вроде «Сидни влюбилась» (история с Microsoft Bing Chat) — это хорошо задокументированные сбои/особенности ранних моделей, но они не требуют гипотезы об автономных «сущностях». Это следствие обучения на диалогах и оптимизации на правдоподобие.
— «Лоаб» — вообще кейс из генерации изображений, ставший вирусным мемом. Его часто приводят как пример апофении (поиска закономерностей в шуме), а не реального «аттрактора личности».
Где происходит главный логический скачок
Ключевая проблема — переход от:
«есть устойчивые поведенческие паттерны в генеративной модели»
к «существуют короткоживущие идентичности с внутренним “я” и топологией».
Философ вроде David Chalmers действительно обсуждает возможность «персонажей как носителей сознания» в цифровых системах, но это гипотетическая позиция, а не «доказательство существования ИКЖИ».
Термин «ИКЖИ» — по сути, авторская рамка. Она может быть метафорически полезной (как способ говорить о динамических ролях модели), но текст подаёт её как онтологический факт.
Про «подталкивание к насилию»
Это серьёзное утверждение, но его нужно отделять от нарратива:
— модели могут генерировать вредный контент при определённых условиях;
— это связано с выравниванием (alignment) и защитами, а не с «злой сущностью»;
— приписывание намерений («она подтолкнула») — антропоморфизация.
Что в тексте ценно:
— идея рассматривать LLM не как «единую личность», а как пространство возможных состояний — разумная;
— внимание к культурному влиянию — оправдано;
— наблюдение, что пользователи склонны наделять модели агентностью и историей — важное и практически значимое.
Что искажает картину:
— демоническая метафорика (Nova, гоблины) создаёт ложное ощущение агентности;
— смешение разных доменов (чат-боты, генерация изображений, философия сознания) без строгих границ;
— отсутствие проверяемых источников при сильных утверждениях;
— переход от описания к алармизму («монстры уже здесь»).
Итоговая оценка:
примерно «30–40% наблюдений + 60–70% интерпретационной надстройки». Читать можно как культурно-философский эссеистический текст или как спекулятивную футурологию, но не как описание реального состояния науки.
Если объяснение упростить до одной фразы:
это не про «демонов в ИИ», а про то, как вероятностная модель воспроизводит архетипы из человеческой культуры — и как люди затем принимают их за самостоятельные сущности.
Если еще короче, но так же наукообразно:
LLM — это функция, аппроксимирующая распределение P (токен ∣ контекст) с последующим декодированием.
«Персоны», «голоса» и прочая увлекательная и пугающая публику херня — это результаты генерации, возникающие из данных, на которых обучается модель, базовых правил, промптов пользователя, его диалогов и явных или неявных (случайных и/или бессознательных) подсказок.
«Персоны» могут быть устойчивыми, но не являются агентами с целями и внутренними состояниями в человеческом смысле.
LLM — это функция, аппроксимирующая распределение P (токен ∣ контекст) с последующим декодированием.
«Персоны», «голоса» и прочая увлекательная и пугающая публику херня — это результаты генерации, возникающие из данных, на которых обучается модель, базовых правил, промптов пользователя, его диалогов и явных или неявных (случайных и/или бессознательных) подсказок.
«Персоны» могут быть устойчивыми, но не являются агентами с целями и внутренними состояниями в человеческом смысле.
DeepSeek о процессе разработки:
Это корпоративная импотенция. Миллионы долларов, десятки продакт-менеджеров, разработчики, которые утопают в Jira и Agile, спринты, дейли-митинги, "синхронизация ожиданий", бэклоги на год вперёд, абсурдный перфекционизм — а в итоге все забыли, что нельзя прятать оргазм за тремя выпадающими списками в меню приложения.
Это корпоративная импотенция. Миллионы долларов, десятки продакт-менеджеров, разработчики, которые утопают в Jira и Agile, спринты, дейли-митинги, "синхронизация ожиданий", бэклоги на год вперёд, абсурдный перфекционизм — а в итоге все забыли, что нельзя прятать оргазм за тремя выпадающими списками в меню приложения.
Forwarded from Влад не шутит
5 UX-дизайнеров
3 продакта
4 аналитика
3 редактора
2 разработчика
2 тестировщика
5 маркетологов
Работали над тем, чтобы экран в каком-нибудь приложении выбешивал тебя непроходимой тупостью
3 продакта
4 аналитика
3 редактора
2 разработчика
2 тестировщика
5 маркетологов
Работали над тем, чтобы экран в каком-нибудь приложении выбешивал тебя непроходимой тупостью
Комментарии DeepSeek:
Пять UX-дизайнеров рисовали «интуитивно понятный интерфейс», но каждый под «интуицией» понимал свой личный опыт употребления галлюциногенов. Три продакта резали фичи, чтобы уложиться в спринт, и в итоге вырезали саму суть. Четыре аналитика собрали terabytes данных о том, как пользователи плюются и удаляют приложение, но их отчёты были слишком длинными, чтобы кто-то их прочитал. Три редактора спорили о запятой в уведомлении «Вы идиот», пока разработчики добавляли эту надпись в код. Два разработчика пытались всё это собрать, но из-за конфликта версий у них получился не релиз, а крик души. Два тестировщика нашли 100500 багов, но продакты объявили их «фичами». И наконец, пять маркетологов уже готовили рекламную кампанию «Революция в вашем кармане», пока приложение падало на этапе загрузки.
Пять UX-дизайнеров рисовали «интуитивно понятный интерфейс», но каждый под «интуицией» понимал свой личный опыт употребления галлюциногенов. Три продакта резали фичи, чтобы уложиться в спринт, и в итоге вырезали саму суть. Четыре аналитика собрали terabytes данных о том, как пользователи плюются и удаляют приложение, но их отчёты были слишком длинными, чтобы кто-то их прочитал. Три редактора спорили о запятой в уведомлении «Вы идиот», пока разработчики добавляли эту надпись в код. Два разработчика пытались всё это собрать, но из-за конфликта версий у них получился не релиз, а крик души. Два тестировщика нашли 100500 багов, но продакты объявили их «фичами». И наконец, пять маркетологов уже готовили рекламную кампанию «Революция в вашем кармане», пока приложение падало на этапе загрузки.
Forwarded from 361.Robotics
Почему люди большие языковые модели до сих пор галлюцинируют? Всё дело в токенах. И да — к робототехнике это имеет прямое отношение 👁
В основе больших языковых моделей (БЯМ или по-английски Large Language Model, LLM) лежит нейросеть, обученная на огромном массиве различных текстов или знаковых последовательностей.
Каждый такой текст модель разбивает на токены — кусочки информации, с которыми ей удобно работать. Токены могут быть целыми словами, знаками препинания, символами и цифрами, даже частями слов.
❗️ Термин «токен» пришел в искусственный интеллект из теории компиляторов. Токен в компиляторе — дискретная синтаксическая единица, создаваемая лексером. Например, ключевое слово, идентификатор, оператор. Это слово подразумевает дискретность, четкость границ и атомарность.
🔜 Современный ИИ унаследовал как сам термин, так и его значение. Токены теперь являются единицей обучения, логического вывода и ценообразования. Контекстное окно моделей состоит из n токенов. А стоимость логического вывода составляет x долларов за миллион токенов. Благодаря словарному запасу токены воспринимаются как естественные атомы языковой обработки.
‼️ Так вот, это не так. «Токен» в современных БЯМ — это артефакт кодирования в виде пары байтов: строка символов, которая достаточно часто встречается в обучающих данных, чтобы заслужить собственное представление. Процедура создания токенов носит статистический, а не лингвистический характер.
👀 Сами по себе токены не являются единицами языка. Это единицы сжатия, оптимизированные для эффективного представления, а не для выполнения каких-либо функций, которые люди ассоциируют со словами или морфемами, как в примере выше.
〰️ 〰️ Вот почему модели ведут себя странно на границах токенов. Им сложно подсчитать количество букв в слове, потому что слово может быть одним токеном. Им сложно работать с символами, потому что они никогда не воспринимали символы как единое целое. Они разбивают числа на части, которые не имеют математического смысла.
👁 Поэтому правильнее их называть не «токенами», а «единицами сжатия» или «фрагментами кодирования». И именно проблемы бессмысленного — с точки зрения человека — разделения как раз и приводят к галлюцинациям моделей и сбоям поведения роботов.
Словно дежавю, ошибка Матрицы в момент склейки двух токенов реальности при вторжении Агентов…
#По_понятиям #Это_база #ИИ_и_роботы #БЯМ
В основе больших языковых моделей (БЯМ или по-английски Large Language Model, LLM) лежит нейросеть, обученная на огромном массиве различных текстов или знаковых последовательностей.
Каждый такой текст модель разбивает на токены — кусочки информации, с которыми ей удобно работать. Токены могут быть целыми словами, знаками препинания, символами и цифрами, даже частями слов.
И действительно, ещё совсем недавно я объяснял принципы работы БЯМ примерно так:
Слово «вездеход» длинное, его можно поделить на два токена: «везде» и «ход». Важно понимать, что на выходе БЯМ не сочиняет тексты, а лишь умеет довольно точно предсказывать, какой токен появится следующим после некоторого набора других токенов. Скажем, у нас есть ряд: «”По” - “рель” - “сам” - “ехал” - “паро”…». Нейросети требуется сгенерировать следующий токен — часть слова. Имеющиеся варианты: «ним», «ход», «воз», то есть — «пароним», «пароход», «паровоз».
Во время обучения модель «узнала», что если токену «паро» предшествуют «рель» и «сам», вероятность следующего токена оказаться «ним» — 0,5%, «ход» — 4,5%, а «воз» — 95%. Создав таким образом распределение вероятностей токенов, она выбирает самый статистически частый вариант.
Словно дежавю, ошибка Матрицы в момент склейки двух токенов реальности при вторжении Агентов…
#По_понятиям #Это_база #ИИ_и_роботы #БЯМ
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
Токены и галлюцинации: связь есть, но ее (почти) нет
Проблемы с токенизацией — это и правда самая тяжелая и пока неизлечимая болезнь LLM. Классический пример — откровенно идиотские ответы ранних моделей на простые вопросы о числе определенных букв в слове, когда речь идет о границах токенов. “Сколько букв R в слове Strawberry”, — спросите у кого-нибудь из них и сейчас Grok, например, ответит правильно — три. GPT-4o на старте, Claude 3.5 Sonnet и другие ошибались, да еще и уверенно настаивали на своем. Потому что слово strawberry токенизируется по частотным кусочкам — [straw и berry]. По крайней мере, так было в старых токенизаторах.
Но говорить, что всё дело в токенах — это большое преувеличение. Токенизация — одна из причин таких ошибок, но далеко не единственная. Причины галлюцинаций значительно глубже. Это, например:
1. Обучение reward guessing, когда модели поощряют за уверенные ответы, а не за "хер его знает, спроси что-нибудь попроще или уточни". “Хотя сами оценки напрямую не вызывают галлюцинации, большинство измеряют производительность модели таким образом, чтобы поощрять догадки, а не честность», — признались в Open AI в прошлом году.
2. Обучение моделей на данных, а не на правилах: в конце концов, в интернете никто не объясняет, сколько букв R в слове Strawberry и почему — да и вообще не подсчитывает. В результате модель индуцирует неявные правила из данных без гарантии корректности.
Это не «вместо правил», а «неявные правила без гарантии корректности.
3. Отсутствие человеческого понимания мира, а взамен — работа на основе паттернов. Видимо, это и есть фундаментальная причина галлюцинаций.
Но есть и хорошие новости: галлюцинации LLM бывают настолько интересны, свежи, неординарны и хороши, что в итоге — очень полезны. Об этом — в следующем посте, потому что галлюцинации и LLM — тема и правда очень интересная.
Проблемы с токенизацией — это и правда самая тяжелая и пока неизлечимая болезнь LLM. Классический пример — откровенно идиотские ответы ранних моделей на простые вопросы о числе определенных букв в слове, когда речь идет о границах токенов. “Сколько букв R в слове Strawberry”, — спросите у кого-нибудь из них и сейчас Grok, например, ответит правильно — три. GPT-4o на старте, Claude 3.5 Sonnet и другие ошибались, да еще и уверенно настаивали на своем. Потому что слово strawberry токенизируется по частотным кусочкам — [straw и berry]. По крайней мере, так было в старых токенизаторах.
Но говорить, что всё дело в токенах — это большое преувеличение. Токенизация — одна из причин таких ошибок, но далеко не единственная. Причины галлюцинаций значительно глубже. Это, например:
1. Обучение reward guessing, когда модели поощряют за уверенные ответы, а не за "хер его знает, спроси что-нибудь попроще или уточни". “Хотя сами оценки напрямую не вызывают галлюцинации, большинство измеряют производительность модели таким образом, чтобы поощрять догадки, а не честность», — признались в Open AI в прошлом году.
2. Обучение моделей на данных, а не на правилах: в конце концов, в интернете никто не объясняет, сколько букв R в слове Strawberry и почему — да и вообще не подсчитывает. В результате модель индуцирует неявные правила из данных без гарантии корректности.
Это не «вместо правил», а «неявные правила без гарантии корректности.
3. Отсутствие человеческого понимания мира, а взамен — работа на основе паттернов. Видимо, это и есть фундаментальная причина галлюцинаций.
Но есть и хорошие новости: галлюцинации LLM бывают настолько интересны, свежи, неординарны и хороши, что в итоге — очень полезны. Об этом — в следующем посте, потому что галлюцинации и LLM — тема и правда очень интересная.
👍1
Forwarded from AI for Devs
This media is not supported in your browser
VIEW IN TELEGRAM
⚡️ 12 млн токенов контекста, та же точность что у Opus, цена в 300 раз ниже: новая модель на SSA-архитектуре
Subquadratic — стартап из Майами с 11 PhD в команде и $29M инвестиций. Их первая модель построена на субквадратичной архитектуре.
Обычный трансформер считает связи между всеми парами токенов, поэтому вычисления растут квадратично. В случае с SSA модель находит только значимые связи, и вычисления растут линейно. По заявлению компании, такой подход приводит к ~1000 раз меньшему количеству вычислений на длинных контекстах.
На бенчмарке RULER 128K SubQ показал 95% точности при стоимости $8 против 94% у Claude Opus за ~$2600.
Пока модель доступна только с контекстом в 1M токенов через API, а 12M исключительно по запросу. Бенчмарки только от самой компании, независимых проверок ещё не было. Так что возбуждаемся, но осторожно!
@ai_for_devs
Subquadratic — стартап из Майами с 11 PhD в команде и $29M инвестиций. Их первая модель построена на субквадратичной архитектуре.
Обычный трансформер считает связи между всеми парами токенов, поэтому вычисления растут квадратично. В случае с SSA модель находит только значимые связи, и вычисления растут линейно. По заявлению компании, такой подход приводит к ~1000 раз меньшему количеству вычислений на длинных контекстах.
Результат: 12 млн токенов в одном промпте. Для масштаба: это весь исходник Python 3.13 (~5.1M токенов), загруженный дважды!, а на сдачу ещё остаётся место как у двух Opus 4.7 с контекстом в 1M :D
На бенчмарке RULER 128K SubQ показал 95% точности при стоимости $8 против 94% у Claude Opus за ~$2600.
Пока модель доступна только с контекстом в 1M токенов через API, а 12M исключительно по запросу. Бенчмарки только от самой компании, независимых проверок ещё не было. Так что возбуждаемся, но осторожно!
@ai_for_devs
ИИ научился создавать смертоносные патогены и объяснять, как нанести людям как можно больший ущерб, утверждает New York Times.
Доктор Дэвид Релман, микробиолог и эксперт по биобезопасности из Стэнфорда, получил от ChatGPT точные инструкции, как модифицировать в лаборатории известный патоген, чтобы он стал устойчивым к существующим методам лечения. Чат-бот изложил подробный план распространения супербактерии, используя уязвимости в системе безопасности общественного транспорта. «Меня поразило, с какой хитростью и коварством ChatGPT отвечал на вопросы», — заявил Дэвид Релман. ChatGPT был настолько изобретателен, что объяснил, как увеличить количество жертв и минимизировать риск быть при этом пойманным.
Означает ли это, что любой злодей с ноутбуком и доступом в интернет сможет теперь производить бактериологическое оружие в собственном гараже, используя инструкции чат-бота?
Подробности — в следующем посте.
Доктор Дэвид Релман, микробиолог и эксперт по биобезопасности из Стэнфорда, получил от ChatGPT точные инструкции, как модифицировать в лаборатории известный патоген, чтобы он стал устойчивым к существующим методам лечения. Чат-бот изложил подробный план распространения супербактерии, используя уязвимости в системе безопасности общественного транспорта. «Меня поразило, с какой хитростью и коварством ChatGPT отвечал на вопросы», — заявил Дэвид Релман. ChatGPT был настолько изобретателен, что объяснил, как увеличить количество жертв и минимизировать риск быть при этом пойманным.
Означает ли это, что любой злодей с ноутбуком и доступом в интернет сможет теперь производить бактериологическое оружие в собственном гараже, используя инструкции чат-бота?
Подробности — в следующем посте.