Код в мешке
251 subscribers
9.11K photos
1.6K videos
2.11K files
43K links
Код в мешке - про кодинг, и не только...
Это личная записная книжка

https://t.me/joinchat/AAAAAEIy6oGlr8oxqTMS5w
Download Telegram
Вторая Юность радиоприёмника
https://habr.com/ru/company/ruvds/blog/716988/

Реальной второй жизнью настоящих старых радиоприёмников занимается вот этот мужик, делает свои платы для встраивания в старые схемы.

Это все крайне сложно, проще сразу микропередатчик из 5 деталей сделать: 
https://sci-toys.com/scitoys/scitoys/radio/am_transmitter.html
Сколько стоит содержать виртуальную девушку? Создаем подругу, записывающую кружочки в Telegram, с помощью 4 нейросетей

Не так давно в интернете появилась душещипательная история, как пользователь hackdaddy8000 сперва создал виртуальную девушку, а затем усыпил ее.
Моральный и мемный аспект этого события обсуждали в комментариях под новостями.

Поговорим о технической стороне.
Как повторить этот шедевр и можно ли обойтись без сервисов OpenAI, которые сложно оплатить в России?
И главное — сколько придется инвестировать в виртуальную подругу.
https://habr.com/ru/company/selectel/blog/718134/

Как все это выглядит, смотрите по ссылке. Получилось довольно интересное приложение, которое не только реагирует на сообщения бездушным текстом, но и записывает забавные видеосообщения. Полный исходный код доступен в репозитории.
Качество кода оставляет желать лучшего, но этого достаточного для быстрого старта собственного проекта по образу и подобию.

Возможно, эти тексты тоже вас заинтересуют:
→ Локализуем игру в слова с искусственным интеллектом
...
Alexey2005
21.02.2023 в 15:59

Для чатов лучше брать не "ванильную" GPT-J-6B, а её специализированную чат-версию Pygmalion-6B, предварительно прочитав, как для неё правильно оформлять контекст, "впихивая" туда сведения о персонаже и используемой им стилистике диалогов.
В случае же, если планируется делать чат в фэнтезийном или SciFi-сеттинге, рекомендую использовать Open Pre-trained Transformer (OPT), разработанный исследователями-экстремистами из запрещённой в России организации Meta*.

Их модели дают очень высокое качество генерации, поддерживают шардирование, могут квантоваться не только до 16 бит, но и до 8 бит (что например позволяет запускать 13B-модель на карточке с 16 Гб VRAM), а также могут расшаривать слои между GPU и CPU (остаток, который не влез в VRAM, досчитывается на CPU).
Код в мешке
Сколько стоит содержать виртуальную девушку? Создаем подругу, записывающую кружочки в Telegram, с помощью 4 нейросетей Не так давно в интернете появилась душещипательная история, как пользователь hackdaddy8000 сперва создал виртуальную девушку, а затем усыпил…
Alexey2005
21.02.2023 в 16:33
Рекомендую пользоваться не ванильной версией KoboldAI, а форком от henk717 - там гораздо больше возможностей.
В частности, там есть поддержка распределённого сервиса AI-Horde: любой доброволец может поднять у себя нейронку, какую только позволяет его железо, и предоставить к ней доступ для всех желающих.
Соответственно, вы сможете оценить генеративные возможности даже весьма крупных сеток, просто подсоединившись к одному из таких добровольцев и погенерировав на его мощностях.
Также там есть поддержка моделей OPT со всеми их фичами, что позволяет поднимать очень крупные нейронки даже на весьма тухлых карточках.

Я как-то ради интереса пускал OPT-6.7B-Erebus на древней GeForce 1070Ti с 8Гб VRAM, и оно работало, пусть даже с уполовиненным контекстом и скоростью 5 токенов в секунду.
Кстати, русскоязычная ruGPT от Сбера тоже поддерживается (кроме XL-версии, которую из-за этого их идиотского Sparse Attention вообще хрен где запустишь).
Также KoboldAI отлично интегрируется с TavernAI, что позволяет легко создавать карточки персонажей, прописывать их характер/историю и устраивать чаты с этими персонажами.

diogen4212
21.02.2023 в 16:22

Вот такая штука есть, но не знаю, насколько лучше или хуже представленной в статье.
Куча моделей с разным… содержанием.
https://github.com/KoboldAI/KoboldAI-Client
...
MirkoPC — «док-станция» для Raspberry Pi 4, превращающая «малинку» в полноценный ПК

Raspberry Pi 4 Model B — отличный одноплатник, который можно использовать для решения обширного спектра задач.

Все бы хорошо, но у платы, в силу ее небольшого размера, ограниченное число портов и коннекторов.
Потенциально плата поддерживает гораздо большее их количество, чем реализовали разработчики.
Вот бы добавить HDMI, несколько USB, Ethernet!

И это уже можно сделать, причем почти без усилий.
Разработчик из Польши по имени Mirek предложил собственное решение — своеобразную док-станцию для «малинки», которая превращает ее в полноценный Linux-ПК.

На этой плате есть несколько выходов для дисплеев, USB-порты, разъем для подключения PCIe NVMe и кое-что еще.
https://habr.com/ru/post/553168/

Raspberry Pi PCIe Devices

Raspberry Pi PCI Express device compatibility database
< Back to Boards and Projects
MirkoPC - a CM4 Computer

Videos Related to this Board

So I heard you liked USB... (5 new CM4 boards)
Raspberry Pi boots off an NVMe SSD, natively!
Meet MirkoPC - a tiny full-featured Raspberry Pi CM4 PC!
These new Raspberry Pi CM4 Boards are getting wild!
MirkoPC - a CM4 Computer
CM4 board with RTC battery, full-size M.2 slot, and audio outputs.
More Info | Website
CM4_Tiny
A tiny CM4 carrier board for media projects.
More Info | Website
Axzez Interceptor Carrier Board
A tiny CM4 board with 5 SATA slots, ATX power input, and 4 Ethernet ports.
More Info | Website
DFRobot IoT Router Carrier Board Mini

An open hardware micro-ATX motherboard for the CM4.
More Info | Website