Код в мешке
251 subscribers
9.11K photos
1.6K videos
2.11K files
43K links
Код в мешке - про кодинг, и не только...
Это личная записная книжка

https://t.me/joinchat/AAAAAEIy6oGlr8oxqTMS5w
Download Telegram
Вторая Юность радиоприёмника
https://habr.com/ru/company/ruvds/blog/716988/

Реальной второй жизнью настоящих старых радиоприёмников занимается вот этот мужик, делает свои платы для встраивания в старые схемы.

Это все крайне сложно, проще сразу микропередатчик из 5 деталей сделать: 
https://sci-toys.com/scitoys/scitoys/radio/am_transmitter.html
Сколько стоит содержать виртуальную девушку? Создаем подругу, записывающую кружочки в Telegram, с помощью 4 нейросетей

Не так давно в интернете появилась душещипательная история, как пользователь hackdaddy8000 сперва создал виртуальную девушку, а затем усыпил ее.
Моральный и мемный аспект этого события обсуждали в комментариях под новостями.

Поговорим о технической стороне.
Как повторить этот шедевр и можно ли обойтись без сервисов OpenAI, которые сложно оплатить в России?
И главное — сколько придется инвестировать в виртуальную подругу.
https://habr.com/ru/company/selectel/blog/718134/

Как все это выглядит, смотрите по ссылке. Получилось довольно интересное приложение, которое не только реагирует на сообщения бездушным текстом, но и записывает забавные видеосообщения. Полный исходный код доступен в репозитории.
Качество кода оставляет желать лучшего, но этого достаточного для быстрого старта собственного проекта по образу и подобию.

Возможно, эти тексты тоже вас заинтересуют:
→ Локализуем игру в слова с искусственным интеллектом
...
Alexey2005
21.02.2023 в 15:59

Для чатов лучше брать не "ванильную" GPT-J-6B, а её специализированную чат-версию Pygmalion-6B, предварительно прочитав, как для неё правильно оформлять контекст, "впихивая" туда сведения о персонаже и используемой им стилистике диалогов.
В случае же, если планируется делать чат в фэнтезийном или SciFi-сеттинге, рекомендую использовать Open Pre-trained Transformer (OPT), разработанный исследователями-экстремистами из запрещённой в России организации Meta*.

Их модели дают очень высокое качество генерации, поддерживают шардирование, могут квантоваться не только до 16 бит, но и до 8 бит (что например позволяет запускать 13B-модель на карточке с 16 Гб VRAM), а также могут расшаривать слои между GPU и CPU (остаток, который не влез в VRAM, досчитывается на CPU).
Код в мешке
Сколько стоит содержать виртуальную девушку? Создаем подругу, записывающую кружочки в Telegram, с помощью 4 нейросетей Не так давно в интернете появилась душещипательная история, как пользователь hackdaddy8000 сперва создал виртуальную девушку, а затем усыпил…
Alexey2005
21.02.2023 в 16:33
Рекомендую пользоваться не ванильной версией KoboldAI, а форком от henk717 - там гораздо больше возможностей.
В частности, там есть поддержка распределённого сервиса AI-Horde: любой доброволец может поднять у себя нейронку, какую только позволяет его железо, и предоставить к ней доступ для всех желающих.
Соответственно, вы сможете оценить генеративные возможности даже весьма крупных сеток, просто подсоединившись к одному из таких добровольцев и погенерировав на его мощностях.
Также там есть поддержка моделей OPT со всеми их фичами, что позволяет поднимать очень крупные нейронки даже на весьма тухлых карточках.

Я как-то ради интереса пускал OPT-6.7B-Erebus на древней GeForce 1070Ti с 8Гб VRAM, и оно работало, пусть даже с уполовиненным контекстом и скоростью 5 токенов в секунду.
Кстати, русскоязычная ruGPT от Сбера тоже поддерживается (кроме XL-версии, которую из-за этого их идиотского Sparse Attention вообще хрен где запустишь).
Также KoboldAI отлично интегрируется с TavernAI, что позволяет легко создавать карточки персонажей, прописывать их характер/историю и устраивать чаты с этими персонажами.

diogen4212
21.02.2023 в 16:22

Вот такая штука есть, но не знаю, насколько лучше или хуже представленной в статье.
Куча моделей с разным… содержанием.
https://github.com/KoboldAI/KoboldAI-Client
...
MirkoPC — «док-станция» для Raspberry Pi 4, превращающая «малинку» в полноценный ПК

Raspberry Pi 4 Model B — отличный одноплатник, который можно использовать для решения обширного спектра задач.

Все бы хорошо, но у платы, в силу ее небольшого размера, ограниченное число портов и коннекторов.
Потенциально плата поддерживает гораздо большее их количество, чем реализовали разработчики.
Вот бы добавить HDMI, несколько USB, Ethernet!

И это уже можно сделать, причем почти без усилий.
Разработчик из Польши по имени Mirek предложил собственное решение — своеобразную док-станцию для «малинки», которая превращает ее в полноценный Linux-ПК.

На этой плате есть несколько выходов для дисплеев, USB-порты, разъем для подключения PCIe NVMe и кое-что еще.
https://habr.com/ru/post/553168/

Raspberry Pi PCIe Devices

Raspberry Pi PCI Express device compatibility database
< Back to Boards and Projects
MirkoPC - a CM4 Computer

Videos Related to this Board

So I heard you liked USB... (5 new CM4 boards)
Raspberry Pi boots off an NVMe SSD, natively!
Meet MirkoPC - a tiny full-featured Raspberry Pi CM4 PC!
These new Raspberry Pi CM4 Boards are getting wild!
MirkoPC - a CM4 Computer
CM4 board with RTC battery, full-size M.2 slot, and audio outputs.
More Info | Website
CM4_Tiny
A tiny CM4 carrier board for media projects.
More Info | Website
Axzez Interceptor Carrier Board
A tiny CM4 board with 5 SATA slots, ATX power input, and 4 Ethernet ports.
More Info | Website
DFRobot IoT Router Carrier Board Mini

An open hardware micro-ATX motherboard for the CM4.
More Info | Website
RPi4-RTC-PoE DIN rail mini server
A mini-server for DIN-rail with PoE, RTC, DALI-2, RS485(DMX-512) and ZigBee.
More Info | Website
Waveshare CM4 IO Base
A miniature baseboard with tons of IO, including an M.2 slot.
More Info | Website
Raspberry Pi 4

Full featured
Dual display support
Choice of multiple RAM variants
More info →
https://www.raspberrypi.com/products/raspberry-pi-4-model-b/
You will need

A 15W USB-C power supply – we recommend the official Raspberry Pi USB-C Power Supply
Micro SD card with Raspberry Pi OS installed (buy a pre-loaded SD card along with your Raspberry Pi, or install Raspberry Pi OS using Raspberry Pi imager)
keyboard and mouse
Cables to connect to one or two displays via Raspberry Pi 4's micro HDMI ports

Take it further

Learn how to configure, update, and navigate your Raspberry Pi once it's set up
Discover a whole range of projects for your Raspberry Pi
Read more detailed documentation on configuring your Raspberry Pi
Find out about accessing your Raspberry Pi remotely
...