Neural Shit
49.9K subscribers
3.71K photos
1.17K videos
22 files
1.9K links
Проклятые нейронные сети

Для связи: @krasniy_doshik

ркн https://clck.ru/3PNXmE
Download Telegram
Forwarded from Derp Learning
Media is too big
VIEW IN TELEGRAM
как объяснить гуманитариям, что такое gaussian splatting

спер тут
This media is not supported in your browser
VIEW IN TELEGRAM
Нейросети были ошибкой

автор
Современные проблемы требуют современных решений

Если вам хочется, чтобы ваше фото не могли редактировать с помощью ChatGPT, Grok и других моделек, то сделать это легко.

Чувак в твитторе выяснил, что если в угол картинки добавлять едва заметный вотермарк с сиськами-письками, то большинство моделек пасует и уходит в отказ работать с этим изображением, талдыча, что "это нарушает политику безопасности".

Ну и сразу же мини-приложение напилили, которое лепит на картинку вотермарк с искусственной грудью.

Опробовал на гроке, из 4х картинок на трёх сработало, при этом сам вотермарк не особо бросается в глаза.
Киберпанк, который мы заслужили
Давно нейросказок не делал. Вот вам "Колобок" с дагестанскими вайбами от Gemini pro:

>>В одном горном ауле, где даже у орлов была прописка и пониженная «Приора», жили-были старик Магомед и его старуха Патимат. Магомед был аксакал уважаемый, с седой бородой до пояса и взглядом, которым можно было орехи колоть. А Патимат… Патимат готовила лучший в Дагестане хинкал.

И вот как-то раз говорит Магомед:
— Э, Патимат, ваа, сделай что-нибудь покушать, а? Душа просит не хинкала, а чего-то круглого, дерзкого!

Почесала Патимат затылок, поскребла по сундуку (амбара не было), наскребла муки на один маленький, но очень гордый колобок. Замесила тесто на родниковой воде, добавила для сытности мелкорубленной баранины с курдюком, скатала шарик и сунула в печь.

Получился не колобок, а настоящий Хинкалобок — румяный, с поджаристым боком, пахнущий так, что соседский волкодав с цепи сорвался. Положила его Патимат на окно остывать.

Лежал Хинкалобок, лежал, а потом вдруг подпрыгнул, глянул на скучную жизнь в ауле и решил: «Хватит это терпеть! Пора в Махачкалу, на проспект Шамиля!». И покатился прямо по тропинке вниз, в ущелье.

Катится Хинкалобок, а навстречу Заяц-борцуха, в трико и с поломанными ушами:
— Э, круглый! Ты кто такой? С какого района? Съем тебя, белка наберусь!
— Не ешь меня, ушастый! — ответил Хинкалобок. — Лови мой трек!

«Я Хинкалобок, дерзкий бок,
От Маги ушёл, от Патимат ушёл,
От тебя, борец-неудачник, и подавно уйду!»

И покатился дальше. Заяц аж уши распрямил от наглости.

Катится Хинкалобок, а навстречу Волк на заниженной черной «Приоре», чётки перебирает:
— Салам алейкум! Ты старших не уважаешь? Поговорим, потом съем!
— Ваалейкум, волчара! Некогда мне, дела ждут! Лови хит!

«Я Хинкалобок, дерзкий бок,
От Зайца-борцухи ушёл,
От тебя, авторитет на «Приоре», уйду!»

И дальше покатился, оставив Волка сплёвывать.

Катится Хинкалобок, а навстречу Медведь-Аксакал, хозяин леса и пары магазинов у трассы:
— Э, молодой! Старших надо уважать. Я тебя есть не буду, холестерин. Но лекцию прочитаю!
— Слушай, отец, уважение заслужить надо! Лови трек:

«Я Хинкалобок, дерзкий бок,
От Зайца ушёл, от Волка ушёл,
И от тебя, Медведь-поучитель, уйду!»

И покатился дальше, оставив Медведя в раздумьях.

Почти докатился Хинкалобок до трассы, собой гордится, звездой себя чувствует. Тут сидит на камушке Лиса модная с айфоном:
— Вааа, какой аппетитный джигит катится! Хинкалобчик, салам! Я твой фанат! Можно с тобой сторис для инстаграма?

Хинкалобок аж загордился:
— Конечно, сестрёнка!

Лиса включила камеру:
— Ой, звук плохой. Сядь на носик, спой прямо в микрофончик!

Хинкалобок прыгнул ей на нос, а Лиса его — ХАП! И съела.

А потом выложила в сторис: «Сочный хинкал на обед. Готовлюсь к лету. #ПП #Дагестан».
Пытался генерировать стишки в стиле смеси "Вредных советов" Григория Остера и песен Короля и Шута (да, я поехавший):

>>Если друг тебя обидел,
Ты запомни навсегда:
В мире нет друзей, приятель,
Только вечная борьба.
Хочешь стать великим войном?
Взяв топор, иди во двор.
Всем соседям громко крикни:
«Начинается террор!»
Если папа отказался
На прогулку отпускать —
Ты окно пошире настежь,
И лети! Зачем скучать?
Если ночью стало страшно,
Не зови на помощь папу,
Лучше в шкаф к скелету спрячься —
Он всегда тебе был рад!

>>Если в темный лес дремучий
За грибами ты пошел,
И тропинку в жуткой чаще
Уж никакак не ты нашел,
Не кричи «Ау!», как предки,
Позови лесных чертей!
Они выведут к болоту,
Где сто трупов королей.
Будет весело и страшно
В окруженьи их костей.

>>Если клоун на дороге
Предлагает красный шар,
А в глазах его таится
Лишь безумие и жар,
Ты бери тот шар без страха,
Крепко за верёвку рви!
Из него прольются с воплем
Не конфеты, а мозги.
Сразу станет всем понятно,
Кто тут главный, черт возьми

>>Если стало скучно дома,
И тоска сжимает грудь,
Книгу черную прабабки
Постарайся раздобыть.
Начерти на кухне мелом
Пять лучей кривой звезды,
И пропой гортанным ревом
Заклинанье Сатаны.
Пусть родители в работе,
Ты ж не будешь одинок:
Из портала в адской плоти
Выйдет верный твой дружок!

>>Если мама суп сварила,
А тебе он не пошел,
Не спеши его ты вылить
И не прячь его под стол.
Под кроватью вурдалаку
Протяни тарелку вниз.
Он обрадуется знаку,
Издавая хриплый свист.
Будет чавкать, будет выть он,
Благодарностью горя,
И поделится с тобою
Костью старого царя.

>>Если в доме тёмный погреб,
А родители твердят:
«Ни ногой туда, ни в коем!
Там чудовища сидят!»
Не теряй ни дня, ни часа,
Дверь с петель срывай скорей!
Ведь чудовищам так скучно
Без весёлых злых детей

>>Если свой портфель в потемках
Ты никак не соберёшь,
Не ищи в углу тетрадки,
Все равно их не найдешь.
Ты бери топор побольше
Или кухонный тесак,
И скажи отцу с ухмылкой:
«Папа, я учусь не так!
Мне не нужно уравнений,
Знаю я и без письма,
Как избавить от мучений
Мир, давно сошел с ума!»

Всё это сгенерировал Gemini 2.5 pro, как по мне — самая лучшая модель для стихов на русском языке
Forwarded from Derp Learning
Почему выбрал именно этого клауд провайдера ответить затрудняюсь
Чуваки из Сakana AI (это японский стартап, основанный исследователями из Google) напилили Text-to-LoRA.

Суть: создание адаптера LoRA на лету по текстовому описанию задачи. Обычно, чтобы настроить языковую модель на конкретную задачу, требуется пердолинг с датасетом (сбор данных, разметка), дообучение и дрочба с подбором гиперпараметров. Вместо этого T2L использует гиперсеть, которая генерирует матрицы адаптации LoRA по обычному текстовому описанию задачи.

Самое интересное — разработчики обещают, что оно может работать с незнакомыми типами задач. Получается эдакий вайбкодинг для файнтюна моделек. Работает с Mistral, Llama и Gemma. В пейпере пишут, что стоимость запуска этого ништяка в среднем в 4 раза ниже, чем стандартное обучение на примерах.

Но есть и ложка дегтя: работает оно более-менее нормально только с хорошо расписанным промптом, просто написать "сделай, чтоб задача решилась быстро, хорошо и заебись" не получится — на выходе будет лора, которая делает красиво, но не то, что хотелось.

Тут статья.
Тут код
Media is too big
VIEW IN TELEGRAM
ВНИМАНИЕ!!!!

Роботы танцуют!

Спасибо за внимание.
This media is not supported in your browser
VIEW IN TELEGRAM
Как тебе такое, Boston Dynamics?

автор
Наткнулся на arXiv'е на интересную статью, в которой предложили новый способ править факты в больших языковых моделях без долгого и дорогого файнтюна -- MEMOIR. Суть: часто с некоторыми запросами модельки с упорством ста ослов лажают, галлюцинируют и несут бред. Обычно в таких случаях разработчики прибегают к файнтюну, дабы исправить подобное поведение и внести точность. Можно еще юзать RAG, но он тоже часто лажает и имеет свои минусы. В статье предлагают не тащить модель на долгое дообучение и просирать тонны GPU-часов, а впиливать в неё дополнительный слой памяти – своего рода флешку в "теле" нейронки. Изначально этот слой забит нулями, т.е. пуст. Когда нужно внести что-то новое/исправить старое в существующих знаниях, правки вносятся именно туда, а базовые веса остаются нетронутыми. Когда модель отвечает, она сначала решает, стоит ли достать данные из этой памяти, а потом уже выдаёт финальный результат.

Интересно, что каждый раз новая информация укладывается в свой уголок памяти и больше ни на что не влияет. Если запрос похож на уже отредактированный, включается нужный фрагмент, если нет – модель работает в обычном режиме. Это позволяет делать до нескольких тысяч правок подряд и при этом не терять старые правки и не ломать всё остальное поведение.

Для компаний это мега-юзкейс: экономит затраченное время и шекели на дообучение модели, инженеры затрачивают считанные минуты на точечное исправление.

Кода пока нет, но скоро обещают выкатить.

тут пейпер
Gemini pro сгенерировал мне цитаты Говарда Лавкрафта, если бы он был преподавателем JavaScript. А я принёс вам:

О приведении типов и ==
:
«Не прибегайте к нечестивому двойному равенству, ибо оно соединяет в безумном союзе то, что должно оставаться раздельным: число и пустоту, истину и её извращённое отражение. В этой аберрации логики, в этом противоестественном слиянии сущностей, я узрел отблеск первозданного Хаоса, что предшествовал всякой строгости и порядку».


О контексте this:
«Сущность, именуемая this, не подчиняется законам здравого смысла и евклидовой геометрии. Её облик и природа меняются в зависимости от того, какой тёмный ритуал её вызвал — был то вызов метода, конструктора или же одинокой функции в безбожной пустоте глобальной области. Взирать в её бездонную переменчивость — значит рисковать утратить собственное "я" и впасть в безумие».


Об асинхронности и Callback Hell:
«Асинхронность есть не что иное, как геометрия неевклидовых пространств, воплощённая в коде. Время здесь течёт не прямо, но вьётся спиралями вглубь вложенных функций, образуя циклопические пирамиды обратных вызовов. В самом сердце этого лабиринта пульсирует обещание исполнения, которое может никогда не наступить, оставляя разум в вечном, трепетном ожидании».


О фреймворках:
«Каждый новый фреймворк — это культ, возникший из бездны NPM, сулящий порядок и спасение от древнего ужаса ванильного DOM. Его адепты шепчут о священных компонентах и виртуальных деревьях. Но под капотом их всех скрываются те же безымянные примитивы, те же щупальца событий и состояний, что сводили с ума и наших предшественников».


О глобальной области видимости:
«Не тревожьте древний легаси-код, погребённый в глубинах проекта. Ибо в его глобальной области видимости, словно в затопленном Р'льехе, дремлют переменные-монстры с именами из одной буквы. Пробуждение хотя бы одной из них обрушит на ваше хрупкое приложение волну непредсказуемых мутаций и ошибок, от которых не спасёт ни один отладчик».


О NaN:
«Среди всех чисел есть одно, что не является числом. Его имя — NaN, и это есть сама чума арифметики. Оно рождается из нечестивых операций, из деления на бездну, и разносит свою порчу, заражая всякое вычисление, к которому прикоснётся. Но самый жуткий его секрет в том, что оно не равно даже самому себе, ибо в его природе — отрицать саму суть тождества и ввергать логику в пучину безумия».


О регулярных выражениях:
«Регулярные выражения — это не строки, но древние, богохульные письмена, начертанные в незапамятные эоны до появления читаемого синтаксиса. Каждый символ, каждая скобка и квантификатор — это часть запретного ритуала, способного расчленить текст и извлечь его сокрытую суть. Но допусти ошибку в этих заклинаниях, и они обратятся против тебя, поглощая память в приступе катастрофического возврата, пока весь мир твоего приложения не схлопнется в единую точку застывшего ужаса».


О Event Loop:
«За пределами нашего кода, в невидимом эфире движка, вращается Великий Цикл Событий. Этот слепой, безразличный бог вершит судьбы наших функций, бросая одни в очередь макрозадач, а другим даруя жуткое преимущество в очереди микрозадач. Мы можем лишь молить его о милости, поднося ему наши коллбэки и промисы, но его логика остаётся за гранью нашего понимания, и порядок исполнения — его непостижимая, космическая прихоть».


Об отладчике и console.log:
«Иногда, в час отчаяния, мы взываем к Оракулу, именуемому console.log, в надежде, что он прольёт свет на тёмные процессы, происходящие внутри. Но его ответы — лишь неясные тени, искажённые отражения истинной природы объектов. И чем глубже мы погружаемся в трассировку стека, тем яснее понимаем, что ошибка — не в коде, а в самой ткани реальности, которую мы пытались подчинить своей воле».
Киберпанк, который мы заслужили.

А вообще, очень смелое предположение, что водители BMW смотрят в зеркала.
Еще в 2020 году с помощью уже древней GPT-2 я пытался продолжать вот эту скотскую кликбейтную рекламу, обрывающуюся на полуслове, которую часто можно увидеть на сайтах, если отключить адблок.

Прогресс не стоит на месте, теперь у нас есть мультимодальные нейронки. Показал GPT o3 настоящие скриншоты такой рекламы и попросил сгенерировать фейковые скриншоты подобного. Без описания текста, без описания картинок, просто скрин и просьба сделать так же. Справляется она на отличненько, надо сказать, от настоящей подобной рекламы почти неотличимо.