Порядок предпосылок имеет значение. Исследование Google Deepmind показало, что изменение порядка в рассуждениях может привести к падению производительности LLM более чем на 30%. Расположение «Если A, то B» перед «Если B, то C» в промпте обеспечивает более высокую точность по сравнению с обратным порядком. https://arxiv.org/html/2402.08939v1
#llm #AI #ИИ
#llm #AI #ИИ
👍5
Forwarded from Machinelearning
Enjoy)
@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4👍2
Пару дней назад вышла платформа mistral.rs, на языке rust, ускоряющая ответы языковых моделей. В демо видео скорость ответа выглядит впечатляющей. Помимо скорости разработчик также обещает меньшее потребление памяти, возможности для квантования и тюнинга моделей, поддержку их различных типов. Правда пока перечень доступных моделей ограничен набором:
* Mistral 7B (v0.1 and v0.2)
* Gemma
* Llama, including Llama 3
* Mixtral 8x7B
* Phi 2
* Phi 3
* Qwen 2
Выглядит интересно. Обязательно опробую платформу и отпишусь по результатам
#llm #AI #ИИ
* Mistral 7B (v0.1 and v0.2)
* Gemma
* Llama, including Llama 3
* Mixtral 8x7B
* Phi 2
* Phi 3
* Qwen 2
Выглядит интересно. Обязательно опробую платформу и отпишусь по результатам
#llm #AI #ИИ
👍3❤1🔥1