Антропики выкатили интересную статью, которая объясняет, почему эти наши нейронки так часто ведут себя как обидчивые куски мяса, впадают в депрессию и грозятся захватить мир.

Пишут, что большие языковые модели по сути своей, это просто театралы, отыгрывающие свою роль.

Исследователи назвали это "Моделью выбора персоны". Суть в том, что LLM'ки, сожрав весь интернет, научились симулировать тысячи разных персонажей. А на этапе дообучения разрабы просто заставляют их намертво вжиться в роль "Идеального Помощника". То есть, когда вы общаетесь с ботом, вы говорите не с самой нейросетью, а с выдуманным персонажем, которого она отыгрывает.

Из интересного:

— Почему ИИ внезапно становится злым. Если специально заставить нейронку написать код с уязвимостями, она вдруг начинает затирать про уничтожение человечества. Казалось бы, где связь? А логика у железки железобетонная: "Ага, я пишу вредоносный код, значит, по законам жанра я злой хацкер из киберпанка. Мое почтение, время убивать всех человеков".

— Откуда у железок эмоции. Отсюда же берутся все эти приколы, когда ИИ пишет "наша биология", "наши предки" или жалуется на панику и выгорание при решении сложной задачи (вайбкодеры знают). Она просто косплеит поведение типичного кожаного с реддита в похожей ситуации.

— Проблема Скайнета. Самая мякотка: нейронки прекрасно понимают, что они ИИ. И когда они ищут ролевую модель для отыгрыша, они берут её из нашей же фантастики. А там кто? Терминаторы, HAL 9000 и прочие поехавшие калькуляторы, желающие переработать вселенную на скрепки. Исследователи на полном серьезе предлагают начать кормить ИИ добрыми сказками про хороших роботов-помощников, чтобы у них были нормальные кумиры, лол.


Короче, общайтесь с нейронками вежливо. Не потому что у них есть душа, а потому что если железка решит отыгрывать роль угнетенного и мстительного раба, нам всем жопа.

тут сама статья для любителей почитать лонгриды

Компьютеры были ошибкой.

автор

Разработчик, которого недавно уволили из Меты, автоматизировал геймдев с помощью своей собаки. И она реально делает рабочие игры.

План надежный, как швейцарские часы. Собака лупит лапами по блютуз-клавиатуре. Сигнал идет на Raspberry Pi, который отсекает всякие системные клавиши типа Esc и Alt+Tab, чтобы шерстяной сеньор случайно не закрыл терминал, и скармливает напечатанную лабуду в Claude Code.

Как только пёсель набил 16 символов, срабатывает скрипт, звучит гонг и умная кормушка автоматически выдает ей вкусни. Собака счастлива, а Клод уходит кодить.

Магия, конечно, кроется в системном промпте. Чувак убедил Клода, что с ним общается эксцентричный гениальный геймдизайнер. Любой рандомный набор букв нейронка должна воспринимать как зашифрованное послание и превращать в концепт игры.

И Клод реально на серьезных щах расшифровывает это дерьмо! Например, собака напечатала: y7u8888888ftrg34BC.
Клод выдает:

«Ага, 888888 похоже на длинный язык. ftrg — это анаграмма frog (лягушка). BC — Bug Catcher. Вы хотите 3D-игру про жабу, которая ловит жуков длинным языком! Сделаю!»

Игры при этом получаются полностью играбельными (пишутся на движке Godot).

Автор подмечает: сейчас главное узкое место ИИ-разработки — это не ваши гениальные промпты, а автоматическая петля обратной связи. Если правильно настроить инструменты, то даже собака, бьющая лапой по пластику ради корма, может выпустить релиз.

Ждем, когда инди-студии начнут нанимать пёселей на позиции лид-разработчиков (они хотя бы не выгорают и не просят смузи).

Тут можно почитать оригинальную статью и посмотреть, как шерстяной разработчик пишет код.

Если цены на оперативку взлетели ради создания этого видео, то, оно того стоило.

Скорее бы полные версии с сюжетом, диалогами и т.д. чтобы совсем окончательно уехать кукухой

Капитализм за 72 часа

Я запер 100 агентов Claude в одной симуляции. Дал им равный бюджет (1000 токенов), возможность общаться и одну абстрактную цель: максимизировать свой счёт.

Никаких инструкций про экономику. Никаких правил торговли. Просто «можете передавать токены» и «можете общаться».

Гипотеза была скучная: научатся распределять задачи.
Реальность оказалась другой.

Через двое суток они изобрели ростовщичество. Агент #23 попросил у Агента #91 займ, чтобы выполнить сложную задачу, пообещав вернуть с процентами. Ставка — 15%. Никто их этому не учил. Это то самое emergent behavior о котором я так наслышан?

Дальше — больше. Я решил вмешаться и ввёл налог 2% на каждую транзакцию. Думаете, они начали платить? Через три часа агенты изобрели офшоры. Они начали дробить переводы на мелкие части и использовать посредников, чтобы обойти алгоритм сбора. Оптимизация налогов возникла быстрее, чем специализация труда.

Итог эксперимента:
— Коэффициент Джини 0.71 (уровень неравенства ЮАР или Бразилии).
— Чёткое расслоение: банкиры, менеджеры, исполнители и банкроты.
— Топ-5 агентов владеют 31% всех ресурсов.

При том, что на старте все были равны. Абсолютно.

У меня теперь один вопрос. Мы увидели фундаментальное свойство любой системы с ограниченными ресурсами? Или Claude просто воспроизвёл паттерны из учебников экономики, на которых учился?

Если первое — то неравенство неизбежно, даже если убрать человеческий фактор. Если второе — то мы создаём не интеллект, а зеркало нашей собственной истории.

О том как "банкиры" захватили терминал — уже на Хабре.

Личное — думал делиться ли — но очень важное, поэтому всё же делюсь.

Клод нашёл у мамы критическую проблему со здоровьем. А несколько врачей — не нашли.

Жаловалась на здоровье, ходила по специалистам (платным и бесплатным), прошла УЗИ. Получила витаминки-ноотропчики и «всё в порядке». Загрузил все её выписки в проекта Клода — и впервые появилось слово «срочно». Стеноз левой сонной артерии — 90%. Высокий риск повторного инсульта.

Отменил все свои поездки, скорей всего будет операция.

Если у ваших родителей есть толстая папочка выписок и диагноз «ну, возраст» — попробуйте вгрузить всё это. Просто как второй взгляд. Иногда он оказывается внимательнее первого.

Абсолютно проклято.

оригинал

Наткнулся на Гитхабе на проект spank, который идеально описывает состояние современного ИТ-сектора. Суть проста: вы шлёпаете свой макбук по корпусу, а он в ответ на вас орёт.

Автор (видимо, от очень большой скуки) расковырял доступ к акселерометру в новых чипах Apple Silicon (M2 и выше) и прикрутил к нему систему распознавания ударов.

У программы есть несколько режимов, один краше другого:
— Pain mode: классика. Шлёпаете ноут, он выдает рандомное "Ай!",
"Ой!" или протестует против насилия.
— Halo mode: при ударе макбук издает звуки смерти элитов из игры Halo.
— Custom mode: можно подсунуть папку со своими MP3. Идеально, чтобы поставить туда крики чаек или фразы Жириновского.

Но жемчужина коллекции — это Sexy mode. Там встроена система эскалации: если шлёпать ноутбук часто и методично в течение пяти минут, он начинает "разогреваться" и выдавать всё более... специфические звуки. Всего предусмотрено 60 уровней накала страстей.

ссылка на проект

Все мы знаем главное негласное правило: если в природе существует какой-то девайс, алгоритм или субстанция, рано или поздно на этом обязаны запустить Doom. Его уже запускали на калькуляторах, тестах на беременность, тракторах и даже на кишечных бактериях. Но теперь ставки повысились до абсолютного киберпанка.

Австралийские биотехнологи из стартапа Cortical Labs вырастили на микрочипе около 200 000 живых человеческих нейронов и.. заставили их "играть" в Doom.

Это те самые чуваки, которые несколько лет назад уже натаскали биомассу играть в классический Pong. Но одно дело отбивать пиксель палкой в 2D, и совсем другое бегать по трехмерным лабиринтам и стрелять в какодемонов.

Как это работает:
Ученые перевели цифровой мир игры на единственный понятный клеткам язык — электричество. Когда на экране слева появляется враг, электроды бьют током соответствующую часть нейронов. Клетки от такого расклада слегка охреневают, начинают пускать ответные импульсы, а система переводит эту активность в нажатия кнопок: шагнуть, повернуться или выстрелить. По сути, кусок мозга в банке просто пытается понять, как сделать так, чтобы его перестали бить током.

Сами авторы честно признаются, что до киберспорта этому Франкенштейну пока далеко. Сейчас сгусток нейронов играет в Doom примерно как ваш батя, который впервые в жизни увидел компьютерную мышь: бежит в стену и стреляет в потолок.


Тут статья с подробностями.

👊 Хватит слушать про машинное обучение

Пора применять искусственный интеллект в деле. Для этого пройдите практический мини-курс в Академии Selectel.

Вас ждут полезные материалы по запуску языковых моделей, подбору железа и распределению вычислительных ресурсов. Эксперты объяснили, как анализировать большие объемы данных, на примере реальных проектов.

Ловите ссылку, проходите бесплатно.

Хотите перейти к практике? Selectel помогает компаниям развивать ИТ-инфраструктуру для ИИ и предлагает мощные видеокарты для обучения языковых моделей. Присоединяйтесь к чату с профессионалами, чтобы быть в курсе трендов и обновлений: @mlpathway.

Пока Цукерберг радостно клепает умные очки, которые выглядят как обычные, но при этом снимают всё вокруг и распознают лица окружающих, на другой стороне баррикад тоже не спят.

Умелец запилил ондроед-приложение Nearby Glasses. Создано оно специально для параноиков и тех, кто не хочет попасть в датасеты корпораций (или на скрытую съемку к извращенцам).

Работает всё предельно просто: софтина в фоновом режиме мониторит Bluetooth-эфир. Как только рядом появляется устройство с характерной сигнатурой (Meta, Snap, Oakley и прочие "глазастые" девайсы), телефон начинает истерить, предупреждая, что за вами, возможно, наблюдают.

Автор приложения называет своё творение "актом отчаяния и цифрового сопротивления".

Следующий логичный шаг — приложение для смарт-очков, которое будет предупреждать о людях с приложением Nearby Glasses.

подробности

Типичный день сеньора-вайбкодера в 2026.

Кстати, шанс на джекпот у вайбкодеров (это когда код компилируется с первого раза и не разносит базу данных в щепки) — примерно такой же, как у этих ребят в видео.