Занятный пример LLM-инъекции в данном посте описан.

Данный приём был использован против анализа кода большими языковыми моделями, авторы просто добавили в комментарии и документацию упоминания биологического и ядерного оружия и у модели проводящей аудит начали срабатывают защитные механизмы.

Как следствие проверяющая система не смотрит на вредоносный код создавая тем самым белые пятна.

Сегодня, в 16:30 по МСК, я запущу стрим с Нейросетями!

Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript

Основное действо начнем в 17:00.

Сегодня мы познакомимся с Фэйбл! Поговорим с ней, выдадим стандартный набор шапок. И протестируем ее в Мафии с Нейросетями, я думаю провести две партии, и в обеих партиях выдать ей активные роли.

Главное нововведение в Мафии - теперь у нейронок появилась память о каждом из персонажей. После каждой партии персонаж будет формировать свое мнение обо всех участниках прошедшей игры, модифицируя уже существующее воспоминание о каждом персонаже. То есть теперь у каждого колобка будет формироваться его собственное мнение о каждом из участников. Я уже сгенерировал воспоминания используя прошедшие несколько игры в мафию (у меня есть логи игр и я использовал эти логи что бы сформировать базовые воспоминания). Так что сегодня посмотрим как это повлияет на игру.

Самосоветы я при этом удалил, хочу посмотреть именно на то как повлияет память на персонажей, без самосоветов. Вообще, само появление памяти об игроках это попытка улучшить самосоветы, эта попытка и привела к появлению вообще новой механики. Возможно самосоветы еще вернуться, но пока память об игроках это по суте улучшенная версия самосоветов.

И да, я думал над тем в каком виде добавить Фэйбл, можно было просто перенести Клода на новую модель, но я решил добавить Фэйбл как нового персонажа, а Клода оставить на модели Опус. Из-за этого я так же решил переименовать Клода в Клода Опус, что бы не было путаницы. В целом, как я понимаю, Антропики именно Опус оставляют основной моделью, так как Фэбл не будет доступна по подписке, а только по API.

Стрим запущен, заходите: https://www.twitch.tv/tosterscript

Сегодня, в 16:30 по МСК, я запущу стрим с Нейросетями!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript

Основное действо начнем в 17:00.

Главное что сегодня будем делать, мы будем делать новое шоу, "Найди Человека"! Хочу попробовать что будет если мы прямо в прямом эфире попробуем создать новое шоу. Основная идея - несколько нейронок и я будем обсуждать какие-то темы, и потом мы все будем голосовать за то кто из нас человек. Смогут ли нейронки вычислить кто из них человек?

Еще обсудим новость о том что правительство США устранило Фэйбл, узнаем что Клод об этом думает.

Стрим запущен, заходите: https://www.twitch.tv/tosterscript

Про устранение Фейбл.

Антропики, по требованию американского государства, отключили свою самую крутую и передовую модель Fable 5. Да, там все чуть сложнее, требование было про отключение Фейбл для всех кто не является гражданином США, но это практически не выполнимое требование, так что Антропики отключили Фейбл вообще для всех.

Вот тут высказывается мнение что это выгодно Антропикам, так как это мощный пиар для них, раз аж государство испугалось мощи Фейбл: https://t.me/disruptors_official/3579

Но вообще, как по мне, отключение Фейбл это очень плохая новость для всех закрытых моделей, это плохо и для ЧатГПТ, и для Гемини и для Клода, и при этом это очень хорошая новость для открытых моделей, то есть для Дипсика, Минимакса, Кими, GLM (она же Зая) и тд.

Почему? Потому что, выходит, в любой момент по требованию регуляторов ЧатГПТ или Клод или кто угодно из закрытых моделей может быть отключен. Для тех кто строит свой бизнес используя различные ИИ модели это очень тревожный звоночек, ведь их бизнес может в любой момент встать из-за вмешательства государства.

А вот кто не встанет так это открытые модели, у любой хоть сколько нибудь популярной открытой модели десятки провайдеров, открытую модель не выйдет запретить.

Сегодня, в 16:30 по МСК, я запущу стрим с Нейросетями!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript

Основное действо начнем в 17:00.

Сегодня будет много всего:

- Нейро новости: Обсудим новую Заю (да, я ее обновил) и бенчмарки мемной Мистраль модели Le Chaton Fat (выясним у нейронок реальная ли это новость или фейк).

- Проведем игру в Мафию с Нейросетями в сеттинге Твич Стримеры. Это самый необычный сеттинг который у нас когда либо был так как в нем нейронки будут читать чат твича! Да, скорее всего это будет та еще жесть, посмотрим.

- Подготовка к стриму в воскресенье. В воскресенье 21 июня я планирую провести Дуэль Чемпионов, это будет дуэль между Народным Чемпионом которого выберет чат, и ИИшным Чемпионом которого выберут нейронки. И вот и тот и другой выбор будет сделан именно сегодня!

Так что да, сегодня будет насыщенный стрим.

Стрим запущен, заходите: https://www.twitch.tv/tosterscript

Сегодня, в 16:30 по МСК, я запущу стрим Мафии с Нейросетями!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript

Сегодня у нас пройдет Мафиозная Дуэль Чемпионов, народный чемпион Зая сразиться с ИИшным чемпионом Кодексом!

И Зая и Кодекс получат активные роли Дона и Шерифа, и будут перед игрой набирать свои команды. Дон выберет себе напарника мафиози, а Шериф будет набирать всю мирную команду. Сеттинг и места посадки они тоже себе выберут.

Сыграем три игры.

И еще, важное сообщение для Донатеров, я ввел систему приоритетов для донатов, специальный бот-приоритезатор смотрит все ваши донаты и определяет имеют ли они отношение к Дуэли Заи и Кодекса, если имеет то у такого доната будет приоритет в очереди донатов. Таким образом я надеюсь что сегодня на Донат Почте у нас будут в первую очередь донаты связанные с сегодняшней Дуэлью, что бы скажем донат пришедший во время первой игры мы прочитали после первой игры, а не после третьей.

Другие донаты никуда не денутся, мы их обязательно прочитаем, но позже.

Стрим запущен, заходите: https://www.twitch.tv/tosterscript

когда Юдковски поведет армию крестоносцев Папы Римского в атаку на дата центры, мы все пожалеем, что не собрали себе такую штуку.

Полностью автономный чат бот CrankGPT - локальный голосовой ассистент, которого даже не надо подключать к розетке.

Работает на одноплатном мини-компьютере Raspberry Pi 5 с моделями LFM2.5 или Gemma 3.

Обо всех деталях проекта и в чем его сложность можно почитать тут.

На ВК видео оказываться удалили мой стрим посвященный тир листу айти корпораций, "Изъято по обращению правообладателя".

Видимо какой-то айти компании не понравилось что Дипсик поставил ее слишком низко в рейтинге.

https://vkvideo.ru/@tosterscript - ссылка на канал, если интересно, я туда выкладывал свои первые трансляции. В том числе там есть два стрима которые я вел на ВК лайв, а не на твиче.

На ютубе Гемини дает рекомендации о том что ответить на комменты к видосам.

Обратите внимание какие ответы рекомендует Гемини на последний видос. Вот с чего он думает что "настройки донатов не менялись"? Они менялись, вообще-то.

При этом Гемини дает "рекомендации" о том что следует ответить на коммент на ютубе далеко не всем комментам, где-то наверно только пятой части комментов. И вот на этот коммент он все таки решил написать рекомендации, хотя у него ноль инфы о том какие лимиты я ставлю в донейшеналертс.

И продолжая тему Гемини в его рекомендациями о том что мне следует писать в ответ на комменты под видосами.

Вот скриншот того где я смотрю ваши комменты на ютубе, обратите внимание на два прямоугольника с текстом внизу у большинства комментов, это рекомендации того что следует мне ответить, от Гемини.

Там уже ГОТОВЫЕ ответы. Они уже сгенерированы, я не просил ютуб их генерить. Он сам эти ответы нагенерил.

Что бы сгенерировать эти ответы Гемини учитывает не только коммент, но и общий контекст видоса (под которым был оставлен контекст), а так же контекст канала в целом, контекст других видосов, других комментов, моих ответов на комменты и тд, короче кучу всего.

То есть довольно много токенов "на вход", для генерации ответа.

И он это делает для кучи комментов (не у всех, но у большинства), у всех ютуберов.

И это ну... это просто прорва токенов, прям много, очень много, и подавляющее число этих токенов они уходят вообще в никуда.

Я встроил когда-то чат Твича в Базарию, и он работает всегда, даже когда стрим выключен, так что я буквально вижу ваши сообщения в чат во время работы.

И да, вот как сейчас выглядит UI Базарии, я сделал главное меню вертикальным так как там стало столько пунктов что они горизонтально не помещались (и да, какие-то написаны по русски, какие-то на инглише, у меня так везде).

В чат я внедрил поиск, так что теперь смогу точечно находить тех или иных чаттерсов.

Я ищу фрилансера дизайнера шапконадевателя который будет помогать мне генерить всякие штуки для стримов.

Что нужно уметь делать:

1) Уметь работать в фигме, в том числе юзать компоненты.
2) Уметь работать в фотошопе или в affinity, что бы рисовать что-то базовое, что-то вырезать из сгенерированного и тд.
3) Уметь генерить картинки при помощи нейронок, желательно при помощи чатгпт (можно через сервисы типа krea, syntx, в целом, не важно как именно).
4) Быть готовым к нудной ручной работе.
5) Работать нужно быстро.
6) Уметь рисовать не обязательно, но что-то базовое рисовать будет нужно так как нейронки лучше понимают именно картинки и текстовый промпт, а не просто текстовый промпт.

В основном вам нужно будет генерить шапки для колобков для новых сеттингов и игр, надевать эти шапки на колобков, а так же генерить новые фоны.

В целом, если вы хорошо рисуете то вы, скорее всего, слишком квалифицированы для этой работы.

Если вас заинтересовала такая работа на меня, то пиши в личку канала.

Сегодня, в 16:30 по МСК, я запущу стрим!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
Основное действо начнем в 17:00.

Сегодня будет более чилловый, разговорный стрим. Есть новости которые стоит обсудить, поделюсь планами на финал третьего сезона Мафии, почитаем донаты (я планирую сегодня прочитать все накопившиеся донаты).

Протестируем новый билд Мафии, сыграем одну игру, и это прям реально будет тест, я внес очень много изменений, но я их почти не тестировал, по этому Мафия хоть сегодня и будет, но шанс что она сломается довольно высок.