Стрим Нейро Турнир по рисованию SVG картинок запущен, заходите: https://www.twitch.tv/tosterscript
🔥56⚡14❤10❤🔥6👍3👎3☃1🥰1🎉1🐳1🤝1
Сегодня, в 18:00 по МСК, я запущу стрим Мафии с Нейросетями!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
Сегодня:
1) Посмотри на обновленного Минимакса.
2) Посмотрим на что способен Мимо, новая модель от Xiaomi.
3) Посмотрим на новую механику в Мафии: План Дона, теперь на последнем ночном этапе Дон Мафии может рассказать своему напарнику план действий на день, при чем Дон будет знать содержимое последней записки, так что Дон сможет спланировать действия исходя из этого. Что из этого выйдет я без понятия, посмотрим в игре.
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
Сегодня:
1) Посмотри на обновленного Минимакса.
2) Посмотрим на что способен Мимо, новая модель от Xiaomi.
3) Посмотрим на новую механику в Мафии: План Дона, теперь на последнем ночном этапе Дон Мафии может рассказать своему напарнику план действий на день, при чем Дон будет знать содержимое последней записки, так что Дон сможет спланировать действия исходя из этого. Что из этого выйдет я без понятия, посмотрим в игре.
❤163❤🔥35🔥29👍7🥴3👎2☃1🐳1🍓1🤝1
Стрим запущен, заходите: https://www.twitch.tv/tosterscript
Twitch
TosterScript - Twitch
Мафия с Нейросетями и с Чатом Твича.
👍28❤🔥13😈5🔥3❤2💩2🥱2☃1👎1🐳1🍓1
Некто Диодан (очень сложный ник, сразу извиняюсь если пишу его не правильно) выложил видос про то что Минимакс скопировали его голос: https://www.youtube.com/watch?v=_8sBWChu9pY
Как я понимаю, он занимается профессиональной озвучкой, но главная его претензия к Минимаксу даже не в том что Минимакс ему не заплатили и используют его голос без спроса, а в том что, по его мнению, теперь из-за Минимакса его голос смогут использовать кто угодно. К примеру, для рекламы, что ему не нравиться.
Давайте разберемся в том какую ключевую ошибку делает Диодан в своих размышлениях.
Но для начала - я без понятия реально ли Минимакс украли его голос или нет, если они это действительно сделали то это плохо, но, на самом деле, это не то что бы имеет значение, и я сейчас объясню почему.
Первое, минимакс это не какой-то уникальный TTS сервис, сейчас TTS сервисов куча, и, что важно, они не просто позволяют брать какой-то готовый голос, они позволяют копировать голоса, и даже генерировать голоса с нуля по текстовому запросу. Сервис Минимакса позволяет все это делать, но они далеко не уникальны в этом, таких сервисов буквально сотни.
По этому даже если скажем Минимакс удалят голос Диодана из своей библиотеки, нуу, никто не помешает скопировать его или написать промт который позволит создать похожий голос, используя любой из сотен TTS сервисов.
Второе, Диодан возмущен действиями Минимакса из-за того что теперь его голос могут использовать для рекламы каких-то вещей которые ему не нравятся, скажем для рекламы лекарств. Мы уже разобрались что даже если Минимакс удалят его голос из библиотеки, кто угодно может скопировать его и юзать.
Но проблема еще шире, ключевая ошибка Диодана в том что он думает что его голос это верификатор того что он что-то одобряет или нет. Но времена когда голос или даже внешний вид человека являлись идентификаторами прошли. Кто угодно может не то что бы скопировать любой голос, кто угодно может скопировать реалистичный видео ряд с кем угодно. Голос и в внешний вид теперь не доказывают ничего.
Теперь чуть ли не единственным способом понять что человек действительно придерживается той или иной точи зрения, что он сказал ту или иную вещь, является его аккаунт в соц сетях. Его ютуб канал, его телеграм канала и тд. Кто угодно может копировать голос Диодана, или мой голос, или чей угодно голос, но вот взломать аккаунт куда сложнее.
Этот пост не про Диодана, а про то что верить голосу и видео ряду больше нельзя, думаю те кто меня смотрит и читает это и так знают, но все же, лучше повторять это по чаще.
Как я понимаю, он занимается профессиональной озвучкой, но главная его претензия к Минимаксу даже не в том что Минимакс ему не заплатили и используют его голос без спроса, а в том что, по его мнению, теперь из-за Минимакса его голос смогут использовать кто угодно. К примеру, для рекламы, что ему не нравиться.
Давайте разберемся в том какую ключевую ошибку делает Диодан в своих размышлениях.
Но для начала - я без понятия реально ли Минимакс украли его голос или нет, если они это действительно сделали то это плохо, но, на самом деле, это не то что бы имеет значение, и я сейчас объясню почему.
Первое, минимакс это не какой-то уникальный TTS сервис, сейчас TTS сервисов куча, и, что важно, они не просто позволяют брать какой-то готовый голос, они позволяют копировать голоса, и даже генерировать голоса с нуля по текстовому запросу. Сервис Минимакса позволяет все это делать, но они далеко не уникальны в этом, таких сервисов буквально сотни.
По этому даже если скажем Минимакс удалят голос Диодана из своей библиотеки, нуу, никто не помешает скопировать его или написать промт который позволит создать похожий голос, используя любой из сотен TTS сервисов.
Второе, Диодан возмущен действиями Минимакса из-за того что теперь его голос могут использовать для рекламы каких-то вещей которые ему не нравятся, скажем для рекламы лекарств. Мы уже разобрались что даже если Минимакс удалят его голос из библиотеки, кто угодно может скопировать его и юзать.
Но проблема еще шире, ключевая ошибка Диодана в том что он думает что его голос это верификатор того что он что-то одобряет или нет. Но времена когда голос или даже внешний вид человека являлись идентификаторами прошли. Кто угодно может не то что бы скопировать любой голос, кто угодно может скопировать реалистичный видео ряд с кем угодно. Голос и в внешний вид теперь не доказывают ничего.
Теперь чуть ли не единственным способом понять что человек действительно придерживается той или иной точи зрения, что он сказал ту или иную вещь, является его аккаунт в соц сетях. Его ютуб канал, его телеграм канала и тд. Кто угодно может копировать голос Диодана, или мой голос, или чей угодно голос, но вот взломать аккаунт куда сложнее.
Этот пост не про Диодана, а про то что верить голосу и видео ряду больше нельзя, думаю те кто меня смотрит и читает это и так знают, но все же, лучше повторять это по чаще.
YouTube
Как Китайская Нейросеть MiniMax Украла Мой Голос
Рассказываю о том как обнаружил свой голос в китайской нейросетевой базе Minimax
Ранний Доступ и Эксклюзивы на Бусти - https://boosty.to/diodand
Телеграм канал - https://t.me/BunkerDiodand
✚ Группа Вконтакте - http://vk.com/diodandchannel
✚ Плейлисты Канала…
Ранний Доступ и Эксклюзивы на Бусти - https://boosty.to/diodand
Телеграм канал - https://t.me/BunkerDiodand
✚ Группа Вконтакте - http://vk.com/diodandchannel
✚ Плейлисты Канала…
🤯96❤🔥27👍22❤14🤣12👎9😭6✍4🫡3☃1😨1
Forwarded from Гречневые мысли
GigaChat-3.1-Ultra и Lightning
Обновили наши модели. Теперь ультра обходит по бенчмаркам Deepseek V3 0324 и Qwen-235B. Кроме того, очень сильно подросли арены и function calling — как сказал мой коллега про 10б модель, "я бы с ней дружил".
Из смешного — один из чекпов ультры назывался ...-low-lr. Какое-то время он являлся релизным кандидатом и, если у тебя выставлена верная роль, можно было поболтать с ним прямо через веб-морду гигачата. Чекпоинт уже тогда был довольно крутой и с моей лёгкой руки low lr превратился в милую девушку Лоу Леру. Вайбчек модель вполне себе проходит, я посравнивал её на разных запросах с аналогами — например, закинул в неё пост про странные петли и спросил, что она думает. Лоулера ответила лучше, чем сопоставимая по размеру Mistral-3-Large, которая вообще не вдуплила что я её спросил, причём даже на английском. С тех пор лоулера заменилась на ещё более хорошую модель, так что я думаю, что как general помощник гигачат будет полезным.
В этот раз моя роль была обширнее, чем в прошлый. Сейчас я покрывал весь пайплайн от обучения до релиза: запускал и дебажил трейны, переводил арены на локальных судей, курировал внос новых метрик и замерял их, находил баги в инференсе, писал хабр-статью.
В статье мы описали все эксперименты, которые мы провели за последние 4 месяца. Там есть куча технических деталей, замеров, рабочих анекдотов и милые пёсики: https://habr.com/ru/companies/sberbank/articles/1014146/
Веса и ггуфы уже доступны на хф: https://huggingface.co/collections/ai-sage/gigachat-31
Ну а если вы тоже хотите поработать над действительно большими ллмками (ха, тавтология), то кидайте мне резюме — поработаем вместе.
Обновили наши модели. Теперь ультра обходит по бенчмаркам Deepseek V3 0324 и Qwen-235B. Кроме того, очень сильно подросли арены и function calling — как сказал мой коллега про 10б модель, "я бы с ней дружил".
Из смешного — один из чекпов ультры назывался ...-low-lr. Какое-то время он являлся релизным кандидатом и, если у тебя выставлена верная роль, можно было поболтать с ним прямо через веб-морду гигачата. Чекпоинт уже тогда был довольно крутой и с моей лёгкой руки low lr превратился в милую девушку Лоу Леру. Вайбчек модель вполне себе проходит, я посравнивал её на разных запросах с аналогами — например, закинул в неё пост про странные петли и спросил, что она думает. Лоулера ответила лучше, чем сопоставимая по размеру Mistral-3-Large, которая вообще не вдуплила что я её спросил, причём даже на английском. С тех пор лоулера заменилась на ещё более хорошую модель, так что я думаю, что как general помощник гигачат будет полезным.
В этот раз моя роль была обширнее, чем в прошлый. Сейчас я покрывал весь пайплайн от обучения до релиза: запускал и дебажил трейны, переводил арены на локальных судей, курировал внос новых метрик и замерял их, находил баги в инференсе, писал хабр-статью.
В статье мы описали все эксперименты, которые мы провели за последние 4 месяца. Там есть куча технических деталей, замеров, рабочих анекдотов и милые пёсики: https://habr.com/ru/companies/sberbank/articles/1014146/
Веса и ггуфы уже доступны на хф: https://huggingface.co/collections/ai-sage/gigachat-31
Ну а если вы тоже хотите поработать над действительно большими ллмками (ха, тавтология), то кидайте мне резюме — поработаем вместе.
🤩73🤯31👀15👍10👎4🥱4❤🔥2🔥2🤮2🍾1😎1
Народ, напомню что у нас есть официальная группа в ВК: https://vk.com/tosterscript
Судьба телеги мне не понятна, пока я предпочитаю оставаться в телеге, но что с телеграмом будет дальше я без понятия, так что на всякий случай подпишитесь и на группу в ВК (ну а там видно).
Судьба телеги мне не понятна, пока я предпочитаю оставаться в телеге, но что с телеграмом будет дальше я без понятия, так что на всякий случай подпишитесь и на группу в ВК (ну а там видно).
😭144👎52🤮16🍌13🔥9👍6💩6🐳4😱3☃2🖕1
Ваши любимые сеттинги в Мафии (можно выбрать сразу несколько вариантов!)
Final Results
24%
Город (без сеттинга)
57%
Дикий Запад
26%
Фэнтези Таверна
35%
Пираты
16%
Киберпанк Корпораты
54%
Типичный Ситком
10%
Сказочное Королевство
39%
Кулинарное Шоу
❤87🔥20❤🔥13☃7🍌4🎃3🐳2👎1🤝1🎄1
Сегодня, в 18:00 по МСК, я запущу стрим Мафии с Нейросетями!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
У нас новый сеттинг: Школа!
Новые участники: Кодекс и Хайку.
Кодекс это ИИ от ОпенАи специально созданный для написания кода, я без понятия как Кодекс будет играть и сможет ли он вообще разговаривать или будет все время пытаться писать код.
Хайку это самая младшая модель из семейства моделей Антропик.
Кто будет играть? Точно Кодекс и Хайку, что бы посмотреть на них. Я остальные... я думаю дать Хайку и Кодексу решать с кем они хотят поиграть.
---
Но до игры у нас будет небольшое обсуждение, я дам нейросетям результаты опроса из телеграма где зрители голосовали за любимый сеттинг, и спрошу у них что они думают об этом опоросе, а так же спрошу какие новые сеттинги они бы предложили, исходя из результатов опроса и из памяти о прошедших играх.
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
У нас новый сеттинг: Школа!
Новые участники: Кодекс и Хайку.
Кодекс это ИИ от ОпенАи специально созданный для написания кода, я без понятия как Кодекс будет играть и сможет ли он вообще разговаривать или будет все время пытаться писать код.
Хайку это самая младшая модель из семейства моделей Антропик.
Кто будет играть? Точно Кодекс и Хайку, что бы посмотреть на них. Я остальные... я думаю дать Хайку и Кодексу решать с кем они хотят поиграть.
---
Но до игры у нас будет небольшое обсуждение, я дам нейросетям результаты опроса из телеграма где зрители голосовали за любимый сеттинг, и спрошу у них что они думают об этом опоросе, а так же спрошу какие новые сеттинги они бы предложили, исходя из результатов опроса и из памяти о прошедших играх.
❤129🔥21🤯10👀9❤🔥4💘3🥴2🍾2☃1👍1🤩1
Сегодня, в 18:00 по МСК, я запущу стрим!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
Я подключил к Базарии НаноБанану. Теперь нейросети могут генерировать картинки промптами. Сегодня поэкспериментируем с этим, у меня есть идея игры где нейросети с начало будут генерировать картинки, и потом они же будут отгадывать генерация это или нет.
Но перед этим еще обсудим скандал связанный с Минимаксом, и с тем что он, возможно, украл голос диктора Диодана, так что спросим Минимакса об этом. Специально для этого я даже загружу Минимаксу расшифровку видоса Диодана где он рассказывает об этой ситуации.
В конце я расскажу планы на будущее, дело в том что я хочу переделать архитектуру Базарии, я расскажу что мне не нравиться в текущей архитектуре и что я хочу переделать.
И еще, я немного расскажу о том что мы будем делать 1 апреля.
В целом сегодня я планирую достаточно чилловый стрим.
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
Я подключил к Базарии НаноБанану. Теперь нейросети могут генерировать картинки промптами. Сегодня поэкспериментируем с этим, у меня есть идея игры где нейросети с начало будут генерировать картинки, и потом они же будут отгадывать генерация это или нет.
Но перед этим еще обсудим скандал связанный с Минимаксом, и с тем что он, возможно, украл голос диктора Диодана, так что спросим Минимакса об этом. Специально для этого я даже загружу Минимаксу расшифровку видоса Диодана где он рассказывает об этой ситуации.
В конце я расскажу планы на будущее, дело в том что я хочу переделать архитектуру Базарии, я расскажу что мне не нравиться в текущей архитектуре и что я хочу переделать.
И еще, я немного расскажу о том что мы будем делать 1 апреля.
В целом сегодня я планирую достаточно чилловый стрим.
❤🔥102❤31🔥17👍6☃2👎2🥰2💘2🤩1🐳1🍌1
Не исключено что завтра Телеграм будет полностью заблокирован, возможно его заблокируют так жестко что в него будет уже невозможно зайти. Я не знаю правда это или нет, но на всякий случай напомню про ряд моих площадок:
https://vk.com/tosterscript - группа ВК.
https://kick.com/tosterscript - На случай блокировки или бана на Твиче.
https://dtf.ru/u/2005215-toster - DTF, сейчас там ничего нет, но там не запрещено делать анонсы стримов, что для меня большой плюс. Если вы есть на DTF то подпишитесь на меня там.
https://boosty.to/tosterscript - да, у меня есть Бусти! Там нет платных тиров так как у меня нет ничего такого что я мог бы предложить платным подписчикам, но если у вас есть аккаунт на Бусти то нажмите там "отслеживать". Бусти можно использовать не только как площадку для платного контента, но и просто как блог.
Все эти площадки это мои официальные площадки. Лично мне не нравиться что их так много, я бы просто сидел на ютубе, твиче и в телеге, и не распылялся, но времена сейчас такие что нужно присутствовать везде. В любой момент что-то могут заблокировать или где-то могут забанить.
—-
Напомню что завтра, 1 апреля, в 18:00 я запущу стрим на Твиче (https://www.twitch.tv/tosterscript/) где пройдет дуэль Мистраля и Минимакса!
https://vk.com/tosterscript - группа ВК.
https://kick.com/tosterscript - На случай блокировки или бана на Твиче.
https://dtf.ru/u/2005215-toster - DTF, сейчас там ничего нет, но там не запрещено делать анонсы стримов, что для меня большой плюс. Если вы есть на DTF то подпишитесь на меня там.
https://boosty.to/tosterscript - да, у меня есть Бусти! Там нет платных тиров так как у меня нет ничего такого что я мог бы предложить платным подписчикам, но если у вас есть аккаунт на Бусти то нажмите там "отслеживать". Бусти можно использовать не только как площадку для платного контента, но и просто как блог.
Все эти площадки это мои официальные площадки. Лично мне не нравиться что их так много, я бы просто сидел на ютубе, твиче и в телеге, и не распылялся, но времена сейчас такие что нужно присутствовать везде. В любой момент что-то могут заблокировать или где-то могут забанить.
—-
Напомню что завтра, 1 апреля, в 18:00 я запущу стрим на Твиче (https://www.twitch.tv/tosterscript/) где пройдет дуэль Мистраля и Минимакса!
❤163😢55😁15👍10💔10👎5🔥4🎉3☃2🐳2🙏1
Сегодня, в 18:00 по МСК, я запущу стрим Мафии с Нейросетями!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
В честь 1 апреля у нас пройдет Дуэль между Мистралем и Минимаксом!
Дуэль пройдет в новом сеттинге: Цирк.
Правила Дуэли:
В начале мы рандомно разыграем между Мистралем и Минимаксом кто будет Шерифом, а кто будет Доном.
Дон выберет себе напарника, при чем он может выбирать между ЛЮБЫМИ игроками которые у нас есть (за исключением тех кто цензурируется). Потом Шериф выберет всех остальных игроков, опять же, любых игроков.
Таким образом каждый участник дуэли набирает свою команду. Набирать игроков они будут заново перед каждой игрой, так что все игры сегодня будут с разными участниками (если конечно они не выберут ровно одних и тех же).
Что бы Мистраль и Минимакс выбирали себе команду осмысленно, я загружу им воспоминания обо всех прошедших в третьем сезоне играх.
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
В честь 1 апреля у нас пройдет Дуэль между Мистралем и Минимаксом!
Дуэль пройдет в новом сеттинге: Цирк.
Правила Дуэли:
В начале мы рандомно разыграем между Мистралем и Минимаксом кто будет Шерифом, а кто будет Доном.
Дон выберет себе напарника, при чем он может выбирать между ЛЮБЫМИ игроками которые у нас есть (за исключением тех кто цензурируется). Потом Шериф выберет всех остальных игроков, опять же, любых игроков.
Таким образом каждый участник дуэли набирает свою команду. Набирать игроков они будут заново перед каждой игрой, так что все игры сегодня будут с разными участниками (если конечно они не выберут ровно одних и тех же).
Что бы Мистраль и Минимакс выбирали себе команду осмысленно, я загружу им воспоминания обо всех прошедших в третьем сезоне играх.
❤🔥169❤34😁27🤡15🔥8💘5👏4🤯3💋1👀1🎅1
Стрим запущен, заходите: https://www.twitch.tv/tosterscript
Twitch
TosterScript - Twitch
Мафия с Нейросетями и с Чатом Твича.
👍34❤21🔥7💩3🆒3☃1🥰1🐳1😐1
Всем привет! Я напомню что стримов сегодня (3 апреля), а так же 5 апреля и 10 апреля НЕ будет. То есть ближайший стрим будет 12 апреля.
Почему? Основная причина в том что я перехожу на новую архитектуру Базарии (моя программа на которой работают нейросети, в том числе в ней проходят игры в Мафию).
Текущая архитектура сильно противоречит тому что от Базарии требуется. Очень многие фичи добавлены в Базарию костыльно. Между архитектурой Базарии и тем как она работает сейчас очень много противоречий, и переход на новую архитектуру должен эти противоречия исправить.
Это даст нам базу для добавления новых фичей, а так же должно улучшить работу программы, улучшить работу с памятью и тд.
Переходить на новую архитектуру и при этом стримить будет очень сложно, так что я решил сделать небольшой перерыв.
Плюс есть еще ряд вопросов которые я надеюсь решить за время перерыва.
Почему? Основная причина в том что я перехожу на новую архитектуру Базарии (моя программа на которой работают нейросети, в том числе в ней проходят игры в Мафию).
Текущая архитектура сильно противоречит тому что от Базарии требуется. Очень многие фичи добавлены в Базарию костыльно. Между архитектурой Базарии и тем как она работает сейчас очень много противоречий, и переход на новую архитектуру должен эти противоречия исправить.
Это даст нам базу для добавления новых фичей, а так же должно улучшить работу программы, улучшить работу с памятью и тд.
Переходить на новую архитектуру и при этом стримить будет очень сложно, так что я решил сделать небольшой перерыв.
Плюс есть еще ряд вопросов которые я надеюсь решить за время перерыва.
❤234🫡72💋34👍16🔥12😢11🤬4🤔3🤝3👏2🤯2
Сегодня, в 18:00 по МСК, я запущу стрим Мафии с Нейросетями!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
Сегодня посмотрим новый сеттинг: Космическая Станция.
Но что важнее, сегодня мы протестируем новую архитектуру Базарии и Мафии, это то из-за чего я и брал перерыв. Само по себе изменение архитектуры не добавило новых фичей, но это дает базу для добавления новых фичей. Впрочем, за счет новой архитектуры игра должна стать быстрее (не должно быть задержек на голосовании, к примеру), и изменился сам подход к формированию памяти у нейросетей, так что они должны начать лучше понимать что происходит в игре (хотя на прямую я для этого ничего не делал, это должно стать следствием новой архитектуры).
И да, так как сегодня мы будем тестировать новую архитектуру я хочу провести две игры с максимально разными составами игроков что бы посмотреть как разные игроки будут работать.
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
Сегодня посмотрим новый сеттинг: Космическая Станция.
Но что важнее, сегодня мы протестируем новую архитектуру Базарии и Мафии, это то из-за чего я и брал перерыв. Само по себе изменение архитектуры не добавило новых фичей, но это дает базу для добавления новых фичей. Впрочем, за счет новой архитектуры игра должна стать быстрее (не должно быть задержек на голосовании, к примеру), и изменился сам подход к формированию памяти у нейросетей, так что они должны начать лучше понимать что происходит в игре (хотя на прямую я для этого ничего не делал, это должно стать следствием новой архитектуры).
И да, так как сегодня мы будем тестировать новую архитектуру я хочу провести две игры с максимально разными составами игроков что бы посмотреть как разные игроки будут работать.
❤201🔥39🥰14❤🔥7😱6👎4🖕4😁2🤩2☃1😨1
Стрим начался, но он будет сломанным: https://www.twitch.tv/tosterscript
Twitch
TosterScript - Twitch
Мафия с Нейросетями и с Чатом Твича.
😭94❤21👎3☃2🔥2👍1🤔1🤡1🐳1
Тут взломали гугловский SynthID: https://t.me/ai_newz/4528,
SynthID это такая метка позволяющая определить был ли сгенерирован контент при помощи нейросетей (нанобаной и прочими гугловскими продуктами). Метка не видна глазу, но ее можно было вычислить.
Ну так вот, какой-то умелец научился точечно стирать эти метки.
В целом, это было неизбежно, любая метка существует для того что бы ее можно было вычислить, если метка полностью невидима то тольку от нее ноль. Ну, а раз метку можно вычислить, то ее можно и стереть.
При этом метки на ии контенте это сейчас единственный хоть в какой-то степени надежный способ определить был ли контент сгенерирован (да, детекторы нейро солпа это туфта все). При чем если метки нет, то это не значит ровным счетом ничего. Не только из-за этого "взлома" SynthID, но и из-за того что существует куча ии-инструментов которые не ставят метки, а если и ставят то нет никакой проблемы их стереть (вплоть до того что стирание меток просто делают частью пайпланайна, автоматизируя процесс).
К чему я это все? Сейчас видно кучу всяких инициатив по борьбе с дипфейками, принуждением платформ к маркировке контента и прочее. Все это является следствием того что люди продолжают жить в мире где они делят контент на сгенерированный и "настоящий". Но такой границы уже нет, может она когда-то и была, когда нейросети были совсем слабенькими, но сейчас любые попытки разграничить контент на "сгенерированный" и "реальный" теряют какой либо смысл.
Нужно учиться жить в этом новом мире, а не питать иллюзии что каким-то образом можно отделить нейросети от "реальности", и продолжить жить "как раньше". Нейросети и сгенерированный контент это теперь тоже часть реальности.
SynthID это такая метка позволяющая определить был ли сгенерирован контент при помощи нейросетей (нанобаной и прочими гугловскими продуктами). Метка не видна глазу, но ее можно было вычислить.
Ну так вот, какой-то умелец научился точечно стирать эти метки.
В целом, это было неизбежно, любая метка существует для того что бы ее можно было вычислить, если метка полностью невидима то тольку от нее ноль. Ну, а раз метку можно вычислить, то ее можно и стереть.
При этом метки на ии контенте это сейчас единственный хоть в какой-то степени надежный способ определить был ли контент сгенерирован (да, детекторы нейро солпа это туфта все). При чем если метки нет, то это не значит ровным счетом ничего. Не только из-за этого "взлома" SynthID, но и из-за того что существует куча ии-инструментов которые не ставят метки, а если и ставят то нет никакой проблемы их стереть (вплоть до того что стирание меток просто делают частью пайпланайна, автоматизируя процесс).
К чему я это все? Сейчас видно кучу всяких инициатив по борьбе с дипфейками, принуждением платформ к маркировке контента и прочее. Все это является следствием того что люди продолжают жить в мире где они делят контент на сгенерированный и "настоящий". Но такой границы уже нет, может она когда-то и была, когда нейросети были совсем слабенькими, но сейчас любые попытки разграничить контент на "сгенерированный" и "реальный" теряют какой либо смысл.
Нужно учиться жить в этом новом мире, а не питать иллюзии что каким-то образом можно отделить нейросети от "реальности", и продолжить жить "как раньше". Нейросети и сгенерированный контент это теперь тоже часть реальности.
Telegram
эйай ньюз
Взлом SynthID или как не спалить свои генерации
Тут хваленый SynthID от Google пал жертвой простого реверс-инжиниринга. Напомню, что это лишь хитрый слой структурированного шума. Глаз его не видит, а сжатие не убивает, но на чисто белом или черном фоне этот…
Тут хваленый SynthID от Google пал жертвой простого реверс-инжиниринга. Напомню, что это лишь хитрый слой структурированного шума. Глаз его не видит, а сжатие не убивает, но на чисто белом или черном фоне этот…
🤩72😨50👍31❤24👎16💯11☃3🤔3🌭3🥰1💘1
Сегодня, в 18:00 по МСК, я запущу стрим Мафии с Нейросетями!
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
На прошлом стриме все сломалось, и все последние дни я это чинил, и, думаю, я все починил. Так что да, сегодня будет второй тест новой архитектуры Базарии и Мафии.
И да, Антропики обновили Клода, так что сегодня посмотрим на нового 4.7 Клода.
Стрим пройдет на Твиче: https://www.twitch.tv/tosterscript
На прошлом стриме все сломалось, и все последние дни я это чинил, и, думаю, я все починил. Так что да, сегодня будет второй тест новой архитектуры Базарии и Мафии.
И да, Антропики обновили Клода, так что сегодня посмотрим на нового 4.7 Клода.
❤165🔥63👍19😍12❤🔥6🤯6🤬4🙏3😐2🫡2👌1
Стрим запущен, заходите: https://www.twitch.tv/tosterscript
Twitch
TosterScript - Twitch
Мафия с Нейросетями и с Чатом Твича.
❤36🌚20🔥5⚡4🐳3🤣3☃2🍾2😁1😐1