Похоже, ИИ окончательно ушёл в офлайн. Энтузиасты собрали CrankGPT — механического ассистента, которому не нужны ни облако, ни розетка, ни аккумулятор.

В основе — Raspberry Pi 5 с 8 ГБ памяти и компактная LLM. После примерно 30 секунд ручной прокрутки устройство принимает голосовой запрос, локально обрабатывает его и затем проговаривает ответ. Всё это — без подключения к интернету.

Звучит как странный, но очень наглядный эксперимент на стыке железа и AI. Для тех, кому интересны такие разборы по AI, разработке и технологиям, это ещё и хороший пример того, как локальные модели можно запускать буквально в полевых условиях.

Если что, к апокалипсису ручной GPT уже почти готов

#AI #Raspberry #LLM