Кусочки екома

Вернемся к вопросу, как делают сервисы на базе ИИ

9️⃣

______

Чтобы разобраться, как устроены все эти модели, представим, что «сервис на основе ИИ» — это служба доставки 🚚 со своими машинами , водителями и остальной инфраструктурой.

______

1. Базовая модель, которую мы выбираем на ~~GitHub~~ Hugging Face, — это грузовик в обычной комплектации от производителя, который может перевозить какие-то грузы.

2. Обучение на данных — тренировка водителя возить разные грузы по произвольным маршрутам с заездом на склад и в точки назначения.

3. Дообучение модели — следующий уровень тренировки под разные условия: дождь, снег, отсутствие сигнала GPS, 👮‍♂️ мент остановил и т.д.

4. Тонкая настройка — обучение конкретному типу доставки, например, свежих продуктов в течение двух часов. Это уровень адаптации ИИ-сервиса под конкретный бизнес. Частая проблема — модель забывает всё остальное, тереяет обобщаемость (генерализацию).

* * *

Итого: можно делать сервис на основе базовой модели, как и служба доставки может работать на каких-то машинах по умолчанию. Но чтобы улучшать сервис и быть конкурентоспособным, машины и процессы нужно постоянно улучшать.

А вот что еще можно сделать:

5. Модель можно сжать — это как замена грузовиков на малолитражки, которые не могут взять на борт большой груз, но зато быстрее перемещаются по городу, жрут меньше бензина.

6. Масштабировать модель (добавить серверов или использовать облачные вычисления) — если заказов много, можно нанять больше водителей и купить дополнительный транспорт.

7. Ошибка модели — поломка машины. Ее можно починить (дообучить модель) или заменить на другую (заменить модель)

8. Тестировать модель — проверка машины перед выездом.

9. Обновить модель — замена старого грузовика на новый. Например, обновить модель до более современной версии (с GPT-3 на GPT-4), чтобы она работала быстрее и точнее.

10. Интегрировать несколько моделей – это как создание логистического центра. Одна модель отвечает за поиск товаров, другая — за рекомендации, третья — за обработку заказов. Как если бы грузовики забирают товары со центрального склада, другие доставляют их клиентам, а третьи — занимаются возвратами.

👍6🔥4✍1

1.02K views05:36