LLM для кодинга и локальный тест открытых моделей на AMD

LLM кодеры уже показывают отличные результаты на бенчмарках и в реальных задачах. Кажется, сейчас хорошее время, чтобы начать пробовать ими пользоваться.

В статье разберем открытые LLM для кодинга. Сравнимы ли они с подписочными моделями? Можно ли их использовать для работы? А есть ли вариант начать локально?

В части туториала:

1. Запустим через docker с помощью llama.cpp.

2. Сделаем замеры скорости генерации.

3. Ускорим за счет спекулятивного декодинга.

4. Подключим в vscode, заставим работать локально и через ssh.

Читать далее

#llm_coder #llm #copilot #coding #llm_inference #qwen2_5_coder #sonnet3_7 | @habr_ai

От психолога до эльфа 80-го уровня: как создать свою уникальную роль для нейросети в домашних условиях и не сойти с ума

В этой статье я расскажу о том, как с помощью ролей настроить нейросеть на решение конкретных задач и поделюсь готовыми примерами промтов для них. Вы сможете опробовать их в работе с любой бесплатной нейросетью, способной взаимодействовать в формате чат-бота. Надеюсь, что мои советы вдохновят вас на создание собственных виртуальных помощников, которые облегчат ваш труд.

Итак, поехали! (Читать далее)

#ии #ии_ассистент #промт #битрикс #copilot #чат_бот #chatgpt #нейросеть #нейросети #искусственный_интеллект | @habr_ai

[Перевод] Новая уязвимость в GitHub Copilot и Cursor: как хакеры могут превратить AI-агентов в оружие

Исследователи Pillar Security обнаружили новый опасный вектор атак на цепочку поставок, который назвали «Бэкдор файла правил» («Rules File Backdoor»). Этот метод позволяет хакерам незаметно компрометировать код, сгенерированный ИИ, путем внедрения скрытых вредоносных инструкций в, казалось бы, безобидные файлы конфигурации, используемые Cursor и GitHub Copilot — ведущими в мире редакторами кода на базе ИИ.

Читать далее

#cursor #github #copilot #ai #ии_ассистент #информационная_безопасность #уязвимости | @habr_ai

Обзор Copilot в Xcode на SwiftUI

Вот я и добралась до Copilot (знаю, поздно, всё руки не доходили установить). Было жутко интересно, чем конкретно он мне может помочь в написании кода. Так что, ХаброКотаны, кому интересно, приглашаю вас почитать дальше.

P.S. Обложку, кстати, сделал гпт в стиле гибли из моей фоточки. Читать далее

#swiftui #copilot #chatgpt #нейросети #xcode | @habr_ai

[Перевод] Контекст GitHub’овского Copilot: что работает, а что нет

Недавно мы разбирались, как писать код с Cursor. Знать про настройку LLM необходимо всем, кто профессионально использует нейросети в своей работе. Предлагаем перевод еще одной статьи Романа Иманкулова. Автор исследовал GitHub Copilot, чтобы разобраться в составлении инструкций по кодированию и, таким образом, повлиять на предложения, которые генерирует Copilot. Читать дальше →

#selectel #программирование #python #ии #copilot | @habr_ai

Применение ИИ для написания текстов

Добрый день! Сегодня хотелось бы рассмотреть с одной стороны уже заезженную, а с другой не теряющую своей актуальности тему применения искусственного интеллекта для написания текстов, больший упор сделаем на написание научных текстов. Данная тема является востребованной на данный момент, так как у большинства студентов приближается время защиты дипломов и в современном мире представляется возможность упростить написание работ за счёт применения искусственного интеллекта.

Рассмотрим 3 наиболее популярных на данный момент модели: Читать далее

#искусственный_интеллект #нейронные_сети #создание_контента #копирайтинг #wordify #sudowrite #copilot | @habr_ai

Общение с LLM-моделью по собственной базе знаний в Obsidian

Copilot в Obsidian — полноценное решение для загрузки личной базы знаний в LLM-модель. С её помощью можно лучше понять себя, собрать мысли и найти новые связи в своих заметках.

Для подключения модели можно использовать множество различных поставщиков LLM-моделей.

В этой статье мы будем использовать локальную модель, запущенную с помощью Ollama. Поэтому нам понадобится командная строка, Docker и видеокарта (лучше от 24 Гб видеопамяти, или же для эксперимента можно арендовать GPU-сервер на пару часов). Читать далее

#obsidian #софт #заметки #искусственный_интеллект #copilot | @habr_ai

[Перевод] Vibe Coding — не оправдание для некачественной работы

ИИ-ассистенты обещают революцию в программировании, позволяя за минуты создать то, на что раньше уходили дни. Но за этой скоростью скрывается опасность — код, который выглядит рабочим, но разваливается при первом же необычном сценарии. "Vibe coding" требует не отказа от инженерной дисциплины, а нового уровня ответственности за то, что генерирует искусственный интеллект.

— 7 правил безопасного vibe coding

— Для каких целей подходит и не подходит vibe coding Читать далее

#искусственный_интеллект #разработка #vibe_coding #качество_кода #технический_долг #pair_programming #copilot #code_review #программная_инженерия #лучшие_практики | @habr_ai

Будьте добры, помедленнее! Я записываю… или Как мы приручили нейросеть для видеозвонков

Всем привет! Меня зовут Дима, я продакт-менеджер команды видеозвонков в Битрикс24.

Сегодня я расскажу о том, как создавался новый функционал, изменивший подход к онлайн-встречам — CoPilot в видеозвонках.

В этой статье — немного закулисья: как мы придумывали CoPilot в видеозвонках, какие решения принимали на ходу, что получилось хорошо, а что пришлось переписать несколько раз. Читать далее

#битрикс24 #видеозвонки #исскуственный_интеллект #транскрибация_звонков #история_создания #copilot | @habr_ai

Почему до сих пор ни один ИИ не может написать даже простой проект сам?

Почему даже Cursor AI не может написать простой проект по моему промпту?

Автор: A.Ankalaev

Cистемный администратор с опытом более 20 лет Читать далее

#ии_агенты #нейросети #gpt #llm #copilot #openai #cursor_ai | @habr_ai