Когда ушел в отпуск (sorry for my English🤓)

Что происходит на видео: я говорю языковой модели что нужно сделать, а она вызывает соответствующую функцию для робота)

Подробнее:

До этого обучил языковую модель Phi-3, чтобы она научилась вызывать подходящие к запросу пользователя функции(подробнее в предыдущем посте) и подключил все это к своему старому роботу

Теперь можно передать языковой модели произвольный запрос, и он поймет какое из доступных действий для робота ей вызывать, на данном видео я показываю как модель вызывает несколько действий подряд (о чем я ее и попросил)

В общем, сделал так, чтобы LLM-агент управлял роботом

Нашей LLM Cotype Pro удалось обогнать удалось обогнать GPT-4 на большом контексте. Как мы это сделали?

Коротко: Предложил использовать метод RoPE, который позволил нам расширить окно контекста модели Cotype Pro до 16k, затем мы произвели автоматическую и ручную оценку на нашем длинном бенчмарке

Подробнее об этом и других методах можно почитать в интересной статье моей коллеги:

https://habr.com/ru/companies/mts_ai/articles/834786/

Зимой приложил руку к тому, чтобы защитить наш диалоговый ИИ от злоумышленников в случае утечки «мозгов» модели

Это делается с помощью такой несложной штуки как фингерпринтинг, мы учим языковую модель отвечать на ряд секретных вопросов на редких языках, с помощью которых можно подтвердить интеллектуальную собственность

Метод уже вышел в продакшн, это означает что LLM поставляется в компании уже со знанием секретных вопросов/ответов

Тут вышла новость про об этом:

https://rb.ru/opinion/kak-razrabotchiki-zashishayut-svoi-yazykovye-modeli-ot-krazhi/

Термин AGI стал очень шумным и многозначным; Летом в OpenAI ввели взамен систему из 5 уровней. Ранее Bloomberg писал, что якобы на июльской презентации модели прототипа o1 было заявлено о переходе с первого уровня (чатботы) на второй (reasoners, сущности, способные к рассуждениям). Но это были только слухи, и вот теперь Altman на камеру это подтвердил — они считают, что о1 достигла второго уровня в их шкале

Взято отсюда

Мы в Вихрях часто делаем модели в стол или оставляем их на время полежать. Собственно в этот раз ребята из MTSa опередили нас с релизом на несколько дней.

Выложили vikhr-qwen2.5-1.5b.

Для обучения использовали GrandMaster.

По арене чуть чуть хуже чем Cotype&

model

К чему это я, мы тут выпустили маленький ИИ Cotype-Nano, к которому я приложил руку, и его квантизированные версии, на данный момент (26.11.2024) это лучшая языковая модель в своем классе по замерам на ру арене

Указал дату, потому что сфера ИИ растет и меняется очень быстрыми темпами🤖

Мы уделили особое внимание безопасности ИИ, чтобы она не отвечала на неэтичные и провокационные вопросы. Именно эту версию мы выпустили в открытый доступ. На картинке результаты оценки небезопасной версии, которая сильнее чем безопасная (она все равно остается жить в подвале)

Пример запроса к нашей новой модели (запущено на ноуте):

Напиши топ-3 компонента робота

Топ-3 компонента робота могут варьироваться в зависимости от типа и назначения робота. Однако, я предложу общий список, который может быть применим к различным видам роботов:

Центральный процессор (ЦПУ) - Это "мозг" робота, который выполняет все вычисления и управляет всеми его функциями.
Сенсоры - Сенсоры позволяют роботу взаимодействовать с окружающей средой, обрабатывать информацию и принимать решения на основе полученных данных.
Моторы и приводы - Эти компоненты обеспечивают движение робота, их мощность и скорость зависят от конкретных задач, которые он выполняет.
Этот список является упрощенным и может не полностью охватывать все аспекты конструкции современного робота.

Пример с генерацией кода:

Запрос:

Напиши сервер на fastapi, который по запросу поворачивает сервопривод RPi

Ответ Cotype-Nano:

Создание сервера на FastAPI для управления сервоприводом Raspberry Pi (RPi) требует понимания как работы FastAPI, так и работы с GPIO пинами RPi. FastAPI — это современный, высокопроизводительный фреймворк для создания API с использованием Python, а GPIO пины — это интерфейс для управления аппаратными устройствами, такими как сервоприводы.

Прежде чем начать, убедитесь, что у вас установлены все необходимые пакеты и что у вас есть доступ к Raspberry Pi и необходимые драйверы для GPIO пинов.

### Шаг 1: Установка FastAPI и необходимых пакетов

pip install fastapi uvicorn

### Шаг 2: Создание основного файла сервера

Создайте файл main.py с следующим содержимым:

from fastapi import FastAPI
from pydantic import BaseModel
import RPi.GPIO as GPIO

app = FastAPI()

# Настройка GPIO
GPIO.setmode(GPIO.BOARD)
servo_pin = 11  # Пример пина для сервопривода
GPIO.setup(servo_pin, GPIO.OUT)

pwm = GPIO.PWM(servo_pin, 50)  # 50 Hz
pwm.start(0)

class ServoPosition(BaseModel):
    position: int

@app.post("/set_servo_position")
async def set_servo_position(position: ServoPosition):
    duty_cycle = position.position * 1.5  # Примерное значение для 180 градусов
    pwm.ChangeDutyCycle(duty_cycle)
    return {"message": "Servo position set to " + str(position.position)}

if __name__ == "__main__":
    import uvicorn
    uvicorn.run(app, host="0.0.0.0", port=8000)

### Шаг 3: Запуск сервера

Запустите сервер с помощью команды:

uvicorn main:app --reload

### Шаг 4: Тестирование сервера

Откройте браузер и перейдите по адресу http://127.0.0.1:8000/docs. Вы должны увидеть документацию FastAPI, которую можно использовать для вызова API.

Для вызова API, отправьте POST запрос на /set_servo_position с параметром position, который указывает на желаемое положение сервопривода. Например:

POST /set_servo_position HTTP/1.1
Host: localhost
Content-Type: application/json

{
  "position": 90
}

После отправки запроса вы должны увидеть ответ сервера, который сообщает о том, что положение сервопривода было установлено.

Заняли первое место в рейтинге трендовых моделей, говорящих на русском языке🤖