ProgKit - Konstantin T. pinned «Если бы у вас был "помощник" на базе llm то какими свойствами он обладал? Я для себя пока придумал вот что: - календарь, он бы следил за задачами, делами и я бы с ним голосом обсуждал планы - база знаний, я бы заносил всю информацию которую только можно…»
ProgKit - Konstantin T.
Если бы у вас был "помощник" на базе llm то какими свойствами он обладал? Я для себя пока придумал вот что: - календарь, он бы следил за задачами, делами и я бы с ним голосом обсуждал планы - база знаний, я бы заносил всю информацию которую только можно…
Настраиваю домашнюю лабораторию для экспериментов с таким помощником.
Поделитесь своими вопросами касающимися этой тематики, даже если вопрос "ничего не понятно" напиши!
Мне будет о чем подумать и как ответить
Поделитесь своими вопросами касающимися этой тематики, даже если вопрос "ничего не понятно" напиши!
Мне будет о чем подумать и как ответить
Как и любое приложение, приложение на базе LLM должно где-то работать.
Я хочу создать рой, кластер, назвать можно как угодно, Цель одна, быстро соединять новые устройства в одну сеть. VPN сеть в которой каждое устройство будет закрыто от внешнего мира. Это позволит подключать разные серверы в общую сеть, и локальные и внешние.
Потом внутри этой сети поднять kubernetis, и вот мы имеем масштабируемую инфраструктуру в которую можно добавлять машины.
Что скажете?
Я хочу создать рой, кластер, назвать можно как угодно, Цель одна, быстро соединять новые устройства в одну сеть. VPN сеть в которой каждое устройство будет закрыто от внешнего мира. Это позволит подключать разные серверы в общую сеть, и локальные и внешние.
Потом внутри этой сети поднять kubernetis, и вот мы имеем масштабируемую инфраструктуру в которую можно добавлять машины.
Что скажете?
👍2
Хотел написать сегодня про llm-d который запустила компания Red Hat, это vLLM для Kubernetis.
Но походу новость дня, я снова перебрался в NeoVim!
Как же все тут работает быстро, мои любимые горячие кнопки, любимая тема, LSP и вообще... Как после долгой поездки вернуться домой...
Но походу новость дня, я снова перебрался в NeoVim!
Как же все тут работает быстро, мои любимые горячие кнопки, любимая тема, LSP и вообще... Как после долгой поездки вернуться домой...
Redhat
Red Hat Launches the llm-d Community, Powering Distributed Gen AI Inference at Scale
Red Hat has launched llm-d, a new open source project developed in collaboration with industry leaders, designed to power distributed generative AI inference at scale. The project utilizes Kubernetes architecture, vLLM-based distributed inference, and intelligent…
😁1
Я сегодня вдруг осознал что domain driven design просто идеально ложиться в парадигму разработки кода через ИИ.
Ну вот смотри, разделённые контексты, маленькие куски кода решают только небольшую проблему.
Идеально для того чтобы ии мог брать и готовить такие атомарные куски находясь не в контексте всего приложения, а конкретной бизнесс задачи.
Роль программиста тут удерживать ИИ в контексте и требовать решать "чисто" конкретные задачи.
Ну вот смотри, разделённые контексты, маленькие куски кода решают только небольшую проблему.
Идеально для того чтобы ии мог брать и готовить такие атомарные куски находясь не в контексте всего приложения, а конкретной бизнесс задачи.
Роль программиста тут удерживать ИИ в контексте и требовать решать "чисто" конкретные задачи.
Полетела неделя, всю неделю не было времени ни на что кроме работы, пока ИИ не заменил нас приходится работать 😂
По ночам разбирал три модельки для описания кода.
Советую посмотреть на codellama, codegemma и конечно devstral.
На мой взгляд devstal сейчас лидер среди доступных свободно распространяемых моделей. Грамотно рассуждает при хорошем контексте и дает не плохой результат.
Надо кстати понимать что ИИ при хорошей архитектуре приложения в которой с ней работаешь вносит приятные правки а в 💩нокоде только увеличивает его))
Держу в курсе, мы все еще нужны!
По ночам разбирал три модельки для описания кода.
Советую посмотреть на codellama, codegemma и конечно devstral.
На мой взгляд devstal сейчас лидер среди доступных свободно распространяемых моделей. Грамотно рассуждает при хорошем контексте и дает не плохой результат.
Надо кстати понимать что ИИ при хорошей архитектуре приложения в которой с ней работаешь вносит приятные правки а в 💩нокоде только увеличивает его))
Держу в курсе, мы все еще нужны!
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Друзья, как вы относитесь к стримам по программированию?
Anonymous Poll
19%
Смотрю
63%
Твой посмотрю🤨
19%
Не смотрю
https://www.twitch.tv/progkit - подписывайтесь на мой твич канал, по вечерам иногда буду стримить, можно при деле поболтать!
Twitch
ProgKit - Twitch
Стримлю программирование на русском
В какое время удобнее всего смотреть стримы? МСК таймзона
Anonymous Poll
0%
Утром
38%
Днем
38%
Вечером
25%
Ночью
Я тут забурился в автоматизированное написание статей для сайта, чтобы наполнять его контентом для привлечения органичекого трафика на сайт.
Так вот скажу я вам этот "контент завод" та еще игрушка, мне нужно чтобы поисковик не понимал что текст написан AI а это прям сложная штука ведь он написан AI :)
Пробую разные промпты и автопроверку через другую неиронку и переписываю снова и так по кругу....
замкнутому кругу...
Так вот скажу я вам этот "контент завод" та еще игрушка, мне нужно чтобы поисковик не понимал что текст написан AI а это прям сложная штука ведь он написан AI :)
Пробую разные промпты и автопроверку через другую неиронку и переписываю снова и так по кругу....
замкнутому кругу...
В общем-то результаты тестов и гугления или «перплексии» привели меня к таким мыслям:
- во-первых, LLM-ки не создадут мне нового контента, а это будет просто дублирование чего-то, на чём они учились, и с точки зрения поисковика при тривиальном промпте типа «напиши статью на тему “бла бла”» они напишут хреново перефразированные чужие мысли. Да, усложнив промпт, можно добиться неузнаваемости в детекторах ИИ, но опять же вопрос в нужности такого контента.
- во-вторых, гугл стал в выдаче на вопросы типа «как разархивировать tar» просто выдавать генерацию от их ИИ. Т. е. написание статей некоторых категорий не имеет смысла: пользователь не дойдёт даже до неё — он прочитает то, что ему гугл выдаст.
Итогом: не отказываюсь искать решение для хорошей генерации немусорных текстов, которые помогут наполнить блог чем-то полезным; при этом решил пойти путём создания контента самостоятельно, но пользуясь помощником в плане редактора, пунктуации и т. д.
Для этого я создал раздел «Проекты», в котором буду вести проекты, по которым же буду делать стримы, а также создавать текст в блог на тему стрима или решения какой-то конкретной проблемы.
https://progkit.dev/projects/
- во-первых, LLM-ки не создадут мне нового контента, а это будет просто дублирование чего-то, на чём они учились, и с точки зрения поисковика при тривиальном промпте типа «напиши статью на тему “бла бла”» они напишут хреново перефразированные чужие мысли. Да, усложнив промпт, можно добиться неузнаваемости в детекторах ИИ, но опять же вопрос в нужности такого контента.
- во-вторых, гугл стал в выдаче на вопросы типа «как разархивировать tar» просто выдавать генерацию от их ИИ. Т. е. написание статей некоторых категорий не имеет смысла: пользователь не дойдёт даже до неё — он прочитает то, что ему гугл выдаст.
Итогом: не отказываюсь искать решение для хорошей генерации немусорных текстов, которые помогут наполнить блог чем-то полезным; при этом решил пойти путём создания контента самостоятельно, но пользуясь помощником в плане редактора, пунктуации и т. д.
Для этого я создал раздел «Проекты», в котором буду вести проекты, по которым же буду делать стримы, а также создавать текст в блог на тему стрима или решения какой-то конкретной проблемы.
https://progkit.dev/projects/
👍2
ProgKit - Konstantin T.
Channel photo updated
Чуть чуть сделал "ребрендинг". Привожу к единому стилю все свои медийные площадки
👍2
Я так понял сео оптимизация учит медитации, я уже 2 дня жду индексации сайта, полагаю это норма!
ProgKit - Konstantin T.
Я так понял сео оптимизация учит медитации, я уже 2 дня жду индексации сайта, полагаю это норма!
Сайт зашёл в индекс и гугл показал ошибки которые надо исправить.
Одна из них это картинки которые долго грузятся. Поискал решения для своего кейса, это статический билд на базе nextjs и без явного import картинка не будет оптимизироваться даже сторонними либами.
Придется пилить свой велосипед, записать видос думаю на эту тему если время позволит, текстовая статья будет обязательно, она должна попасть в индекс)
Одна из них это картинки которые долго грузятся. Поискал решения для своего кейса, это статический билд на базе nextjs и без явного import картинка не будет оптимизироваться даже сторонними либами.
Придется пилить свой велосипед, записать видос думаю на эту тему если время позволит, текстовая статья будет обязательно, она должна попасть в индекс)
👍1
У меня вот такой портативный столик для работы, чтобы не занимать много места в квартире.
И вот опускал я сегодня ноут пониже и услышал характерный звук треска, штош!
Сгонял в строительный магазин и купил новую столешницу небольшую, размером чуть больше этой, купил масло специальное и замариновал ее на балконе)) как впитается масло, заменю!
Держу в курсе!
И вот опускал я сегодня ноут пониже и услышал характерный звук треска, штош!
Сгонял в строительный магазин и купил новую столешницу небольшую, размером чуть больше этой, купил масло специальное и замариновал ее на балконе)) как впитается масло, заменю!
Держу в курсе!
🤝3
ProgKit - Konstantin T.
Сайт зашёл в индекс и гугл показал ошибки которые надо исправить. Одна из них это картинки которые долго грузятся. Поискал решения для своего кейса, это статический билд на базе nextjs и без явного import картинка не будет оптимизироваться даже сторонними…
Ура велосипед отменяется, есть хорошее решение https://www.npmjs.com/package/next-export-optimize-images
npm
npm: next-export-optimize-images
Optimize images at build time with Next.js.. Latest version: 4.6.2, last published: 5 months ago. Start using next-export-optimize-images in your project by running `npm i next-export-optimize-images`. There are 2 other projects in the npm registry using…
✍1
