Код в мешке
251 subscribers
9.11K photos
1.6K videos
2.11K files
43K links
Код в мешке - про кодинг, и не только...
Это личная записная книжка

https://t.me/joinchat/AAAAAEIy6oGlr8oxqTMS5w
Download Telegram
KC868-AK: пианино на DIN-рейку (собачий вальс теперь не проблема)

Как выяснилось в последствии, KC868-AK — это ни что иное, как… контроллер! Это не клавиатура, не беспроводная клавиатура, а именно полноценный ESP32 контроллер, у которого клавиатура, хоть доминирует визуально, является только небольшой «подсистемой» его обширного функционала, характерного для контроллеров на ESP32.

Другими словами, KC868-AK нужно воспринимать не как «клавиатуру», а именно как полноценный контроллер на ESP32, но с дополнительными возможностями по «кнопочному» управлению вашей IoT системой.
https://habr.com/ru/company/timeweb/blog/719666/
Вторая Юность радиоприёмника
https://habr.com/ru/company/ruvds/blog/716988/

Реальной второй жизнью настоящих старых радиоприёмников занимается вот этот мужик, делает свои платы для встраивания в старые схемы.

Это все крайне сложно, проще сразу микропередатчик из 5 деталей сделать: 
https://sci-toys.com/scitoys/scitoys/radio/am_transmitter.html
Сколько стоит содержать виртуальную девушку? Создаем подругу, записывающую кружочки в Telegram, с помощью 4 нейросетей

Не так давно в интернете появилась душещипательная история, как пользователь hackdaddy8000 сперва создал виртуальную девушку, а затем усыпил ее.
Моральный и мемный аспект этого события обсуждали в комментариях под новостями.

Поговорим о технической стороне.
Как повторить этот шедевр и можно ли обойтись без сервисов OpenAI, которые сложно оплатить в России?
И главное — сколько придется инвестировать в виртуальную подругу.
https://habr.com/ru/company/selectel/blog/718134/

Как все это выглядит, смотрите по ссылке. Получилось довольно интересное приложение, которое не только реагирует на сообщения бездушным текстом, но и записывает забавные видеосообщения. Полный исходный код доступен в репозитории.
Качество кода оставляет желать лучшего, но этого достаточного для быстрого старта собственного проекта по образу и подобию.

Возможно, эти тексты тоже вас заинтересуют:
→ Локализуем игру в слова с искусственным интеллектом
...
Alexey2005
21.02.2023 в 15:59

Для чатов лучше брать не "ванильную" GPT-J-6B, а её специализированную чат-версию Pygmalion-6B, предварительно прочитав, как для неё правильно оформлять контекст, "впихивая" туда сведения о персонаже и используемой им стилистике диалогов.
В случае же, если планируется делать чат в фэнтезийном или SciFi-сеттинге, рекомендую использовать Open Pre-trained Transformer (OPT), разработанный исследователями-экстремистами из запрещённой в России организации Meta*.

Их модели дают очень высокое качество генерации, поддерживают шардирование, могут квантоваться не только до 16 бит, но и до 8 бит (что например позволяет запускать 13B-модель на карточке с 16 Гб VRAM), а также могут расшаривать слои между GPU и CPU (остаток, который не влез в VRAM, досчитывается на CPU).
Код в мешке
Сколько стоит содержать виртуальную девушку? Создаем подругу, записывающую кружочки в Telegram, с помощью 4 нейросетей Не так давно в интернете появилась душещипательная история, как пользователь hackdaddy8000 сперва создал виртуальную девушку, а затем усыпил…
Alexey2005
21.02.2023 в 16:33
Рекомендую пользоваться не ванильной версией KoboldAI, а форком от henk717 - там гораздо больше возможностей.
В частности, там есть поддержка распределённого сервиса AI-Horde: любой доброволец может поднять у себя нейронку, какую только позволяет его железо, и предоставить к ней доступ для всех желающих.
Соответственно, вы сможете оценить генеративные возможности даже весьма крупных сеток, просто подсоединившись к одному из таких добровольцев и погенерировав на его мощностях.
Также там есть поддержка моделей OPT со всеми их фичами, что позволяет поднимать очень крупные нейронки даже на весьма тухлых карточках.

Я как-то ради интереса пускал OPT-6.7B-Erebus на древней GeForce 1070Ti с 8Гб VRAM, и оно работало, пусть даже с уполовиненным контекстом и скоростью 5 токенов в секунду.
Кстати, русскоязычная ruGPT от Сбера тоже поддерживается (кроме XL-версии, которую из-за этого их идиотского Sparse Attention вообще хрен где запустишь).
Также KoboldAI отлично интегрируется с TavernAI, что позволяет легко создавать карточки персонажей, прописывать их характер/историю и устраивать чаты с этими персонажами.

diogen4212
21.02.2023 в 16:22

Вот такая штука есть, но не знаю, насколько лучше или хуже представленной в статье.
Куча моделей с разным… содержанием.
https://github.com/KoboldAI/KoboldAI-Client
...