Уроборос-многоножка — символ ближайших лет в обучении языковых моделей. Раньше информационный поток был линейно-иерархичным: от первоисточника через фильтры глухих телефонов и пропаганды достигал реципиента. Теперь круг замыкается — источником становится сам продукт переработки.

Количество генерированного или обработанного нейросетями контента лавинообразно растёт, имитация натурального даётся всё лучше — скоро будет совсем не отличить. Нейронки будут опираться в своих выдачах на контент, которые сгенерировали другие нейронки, опирающиеся на контент от третьих и так далее. Этакий информационный инцест — вырождение — информация смешивается со своими собственными производными.

На первом этапе обучения языковых моделей мы ещё имели более-менее нормальный (хотя уже порядком засранный) пул накопленной информации. Не библиотека, конечно: килотонны SEO-оптимизированной розовой слизи, перевранные вики-статьи и новости, форумные срачи, полный спектр улётного контента от повесточников и шизопатриотов до биохакеров и экстрасенсов. Ну хотя бы можно было как-то вручную отранжировать уровень доверия от Блумберга до Панорамы.

А вот что дальше, когда нейроэкскрементов станет на порядки больше, чем исходного материала? На чём будут дообучаться нейронки последующих лет? И речь ведь не только про статьи или новости. Сегодня нейро-улучшайзеры встроены в интерфейсы современных смартфонов, юзеры радостно "улучшают" свои тексты, чтоб не напрягаться формулировками, авто-улучшают свои фоточки, чтоб не заниматься фотошопингом, программисты вайб-кодят в полный рост. И вот это всё нейроулучшенное попадёт в один общий котёл вместе с крупицами оригинального.

Но и производители достоверного и натурального тоже станут перед выбором. Какой смысл продолжать делать качественный контент, если юзеры даже не заходят к тебе на сайт, ограничиваясь выдачей нейро-ассистентов? Должна же быть какая-то выгода. Кто-то наверное будет продавать владельцам нейронок свой контент за деньги (честно-честно не генерили), а кто-то будет монетизироваться через намеренное искажение данных в нужную спонсорам сторону.

Очень будет интересно посмотреть, как человечество справится с этим. Меня не покидает ощущение, что так или иначе ему всё равно придётся закатать рукава и как следует вручную прибраться в своём инфополе. Garbage in — garbage out.

Очень интересное мнение... по факту мы движемся к синтетической катастрофе. Круг замкнулся, за новым контеном будут гоняться как умалишенные ))) Сеньоры и лиды которых сейчас увольняют повсеместно будут ценны как вкрапления в янтаре, а людей надо будет еще больше, крен сместится на более прокаченных. Как в цедом и ожидалось, выигрышь на шорте, проигрышь на лонге. В топе будут те компании которые сохранят кадры, остальных поглотят.

https://habr.com/ru/companies/sberbank/articles/909934/ - вышла моя новая статья про генерацию синтетических данных

Шедевр )))

Новые перспективные исследования.

Не спится мне ночью, я тут вот чего нашел... дичь какая-то... что-то я подобное уже слышал. Вот краткое содержание сие...

"Новая техноутопия предлагает нам порнографию вместо секса, инфлюэнсеров вместо религии, видеоигры вместо спорта, короткие видео вместо чтения, мемы вместо аналитики, чатботы вместо друзей и любимых, искусственный интеллект вместо размышлений

Она предлагает дешевую имитацию жизни, но её притягательность в том, что она не требует никаких усилий от потребителя, подстраивается под его ожидания и кажется безопасным.  Мягкий окутывающий плед, теплая уютная могила

Думаю так и надо. Очередной этап эволюции. Это фильтр для лишних людей. По-своему гуманный, потому что у каждого есть возможность остаться в реальном мире и не выбирать цифровое забвение. История будет продолжаться, но только с теми, кто выбрал красную таблетку. С теми, кто воспринимает технологии как часть жизни, а не цель существования..."

Сэнсей ))

🔍 Vespa — поисковая платформа для работы с векторами и ML-моделями в реальном времени.
Проект предлагает нестандартный подход к обработке данных: он объединяет полнотекстовый поиск, векторные операции и ML-инференс в едином конвейере.

Платформа развертывается как в облаке, так и on-premise, а её архитектура оптимизирована для задач рекомендательных систем и персонализации. Хотя проект существует с 2003 года, он активно развивается — новые сборки выходят четыре раза в неделю.

🤖 GitHub

https://www.kaggle.com/models/mistral-ai/devstral-small-2505?utm_medium=email&utm_source=gamma&utm_campaign=model-devstral-2025

Devstral - это агентный LLM для решения задач программной инженерии, созданный в рамках сотрудничества между Mistral AI и All Hands AI 🙌. Devstral отлично справляется с использованием инструментов для изучения кодовых баз, редактирования множества файлов и управления агентами программной инженерии.