С библиотекой искусственного интеллекта для 1С пользоваться RAG не просто, а очень просто. Раз, два, три и готово!
https://infostart.ru/1c/articles/2348224/
https://habr.com/ru/articles/896314/

Время от времени приходится слышать разговоры о том, что "пузырь ИИ скоро лопнет". Существует и более продвинутая версия этого нарратива. Дескать в истории ИИ уже были две "зимы", значит будет и третья. Но первая "зима" искусственного интеллекта случилась по причине того, что было предъявлено математическое доказательство. А вторая, по причине того, что не было предъявлено математического доказательства. Похоже, что на этом список причин "зим" исчерпан.
В 1969 году два авторитетных ученых Сеймур Паперт и Марвин Мински опубликовали работу, в которой дали математическое обоснование пределов возможностей перцептрона. Если говорить простыми словами, это означало, что однослойную нейросеть нельзя обучить чему угодно. Эти ученые на тот момент не были противниками ИИ, скорее наоборот. И сейчас мы понимаем, что практический вывод из их работы должен был заключаться в том, чтобы перейти к многослойной архитектуре, что собственно и произошло через некоторое время. Но чиновники агентств, финансирующих исследования в такие тонкости не вникали, а просто закрыли программы. Все и сразу. Просто их и было тогда не так уж и много.
Вторая "зима" была по сути эхом первой. Когда оказалось, что на практике это работает, можно, например, распознавать банковские чеки, заполненные от руки (это реальная экономия огромных средств), интерес к нейросетям возник снова. Но теперь беда пришла не со стороны чиновников, а со стороны научного сообщества. Полный игнор, ни одна научная конференция не принимает никакие доклады на тему обучения нейросетей. Просто помнили, что "авторитетные ученые доказали", и что за этим последовало.
Возникла странная ситуация: "на практике это работает, но работает ли это в теории?". Но и она не могла быть вечной. Когда выяснилось, что это может удерживать автомобиль на дороге, на теорию окончательно забили.

Простая классификация ИИ провайдеров.

1. Дают доступ к моделям собственной разработки на своих вычислительных мощностях.
OpenAI, Anthropic, Google, Deepseek, Alibaba...
Как правило, у них почти нет проблем со скоростью и аптаймом. Они большие, и это их основной бизнес (или один из основных). Исключением сейчас является Deepseek. Они вынуждены работать на оборудовании похуже, чем у конкурентов и с трудом справляются с обрушившимся на них трафиком. Но я думаю, что эти трудности временные. При работе с провайдерами этой категории есть проблемы. Первая, это ограничени доступа по странам со стороны провайдера. Вторая, лимиты. Большинство провайдеров делят своих клиентов на ранги (tier). На рангах начального уровня вам могут быть доступны не все модели, а также объем вашего трафика будет ограничен. Чтобы подняться в высшие ранги потребуются время и деньги. Также следует отметить сложности с оплатой при работе с этой категорией.

2. Дают доступ к open-source моделям на своих вычислительных мощностях.
Это, в некотором смысле, второй эшелон провайдеров. Их несколько десятков, а может уже и больше сейчас. Они, хоть и не такие большие, как провайдеры первой категории, но у них тоже, как правило, все в порядке со скоротью и аптаймом. Более того, в некоторых случаях они превосходят первую категорию. Например, модели Deepseek у них работают значительно быстрее, чем у самих Deepseek. Хорошие чипы, конкуренция и... размеры. Если у вас клиентов не так много, как у Deepseek, можно и нормальную скрость обеспечить. Их плюс в том, что у них все попроще с лимитами, но все еще остаются проблемы с оплатой. Но, кстати, в эту категорию можно смело включать отечественный Яндекс. Он дает доступ не только к своим моделям, но и к LLama и никаких проблем с оплатой у него нет.

3. Прокси-провайдеры. Не имеют собственных серьезных вычислительных мощностей, но дают доступ к провайдерам первой и второй категории. Можно выделитьт Openrouter и VseGPT. Смыслы их существования все те же. Обход блокировок, лимиты и оплата. С оплатой лучше всего у VseGPT, а, например, у Openrouter на выбор либо карта зарубежного банка, либо криптовалюта. С лимитами у всех все хорошо. Здесь есть определенное удобство. Вы работаете с одним провайдером, но при этом имеете высший ранг у всех провайдеров первой категории.

Библиотека искусственного интеллекта для 1С добралась до того момента, когда в ней появился раздел "устаревшее". Теперь это выделено в коде соответствующей областью.
Скоро в эту область попадет основная функция библиотеки Генерация(), а пока я продолжаю работу над Response API и функцией библиотеки Ответ().
Немного задержался с очередной версией, так как было о чем задуматься. В версии 22 я добавил возможность подавать на вход изображения и pdf.

В целом, в OpenAI стараются делать просто там, где можно сделать просто. И это в полной мере относится к вызову с простым текстовым вопросом пользователя. Здесь можно обойтись всего двумя параметрами (модель, вопрос). Зато, с изображениями и pdf начинаются сложности. На мой взгляд не очень оправданные. Тут решили сохранить предыдущий подход к работе в режиме чата. В результате схема осталась в том излишне сложном виде, что и была. Это при том, что уже есть новый, более простой, способ сделать чат. А если кому-то нужно сохранить совместимость, то можно пользоваться старым Completion API. Долго думал, может это я чего-то не догоняю. Ну да, старая схема более универсальна. Можно передать не весь чат, а произвольные куски. Но даже если это где-то и понадобится, можно будет взять старый Completion. Так и не решил для себя, что это. То ли просто инерция. Взяли и скопировали кусок старой схемы в новую, чтобы долго не разбираться. То ли решили обеспечить себе возможность в будущем полностью отключить Completion API. В результате в библиотеке не стал повторять схему OpenAI. Сделал по-возможности просто. На входе либо просто текст, либо массив структур тип, содержание. Если тип "текст", тогда содержание это просто строка. Если тип "изображение base64", тогда содержание это двоичные данные закодированные в base64.

В Response API добавлена работа с вызовами функций. Для OpenAI уже можно переключаться с ветки Генерация() на ветку Ответ(). В ближайшее время займусь подключением остальных провайдеров

Приходилось много раз писать JSON схемы для решения тех или иных задач, связанных с применением искусственного интеллекта. Всякий раз это было довольно напряженное занятие, которое в принципе можно было бы упростить. Так появился редактор JSON схем для искусственного интеллекта. Теперь он вошел в состав очередной версии библиотеки. И получилась самая настоящая среда разработки

Здесь https://infostart.ru/1c/tools/2361931/ на содержательном примере показываю, как работает редактор JSON схем. Там же можно скачать его отдельной обработкой, если кому надо

Когда разразился бум ИИ, все были потрясены темпами прироста новых пользователей у OpenAI. Миллион за пять дней! Но и этот рекорд не то, что потускнел, превратился в ничто. Недавно OpenAI предоставили возможность для всех побаловаться с генерацией картинок и получили миллион новых пользователей за час. Тем интереснее наблюдать на этом фоне за относительно скромными достижениями в области применения технологий искусственного интеллекта в бизнесе. Как ни крути, но все эти миллионы пользователей преимущественно так и остаются в области развлечений. Мы пока так и не услышали ничего о компании, которая выкатила бизнес-продукт на основе ИИ и завоевала мир. Хотя с начала бума прошло уже более трех лет. Лично я думаю, что такое положение вещей будет сохраняться еще некоторое время. Дело тут в скорости развития событий. Она сейчас такова, что мы все, не только потенциальные заказчики, но и разработчики тоже, немного дезориентированы. Продукт сделать можно. И, кстати, сейчас это получится сделать гораздо быстрее, чем раньше. Но что с ним будет завтра? Зачастую это "завтра" уже можно писать без кавычек, потому что это буквальное завтра. Один простой пример. В начале бума модели не умели читать pdf. Тут же появились стартапы, успешно решающие данную проблему. Как появились, так и исчезли. OpenAI, а за ними и прочие, реализовали у себя такую опцию. CEO OpenAI, Сэм Альтман высказался по этому поводу назидательно. Дескать, а вот не надо заниматься мелким тюнингом. Ну здрасте! А чем еще должны заниматься разработчики второго эшелона? Видимо, ничем. Конечно, можно было бы заранее догадаться о развитии событий с этими pdf. Проблема в том, что в обратную сторону это не работает. Догадаться о благоприятном для разработчиков развитии событий сейчас не представляется возможным. Либо вы делаете какую-то экзотику и тогда непонятно как набрать сколько-нибудь значимое количество клиентов. Либо вы делаете что-то универсальное. И ситуация еще хуже. Вы без проблем набираете клиентов, масштабируетесь, а потом в один день теряете все, потому что лидеры решили посмотреть в сторону вашей универсальной фичи.
Могу ошибаться, но похоже что серьезные команды сейчас заняли выжидательную позицию. Ждут, когда станет ясно, что будут делать лидеры и чего не будут. Возможно, что ситация изменится, когда темп развития событий станет чуть ниже.

Сегодня очередной бесплатный вебинар на тему Использование технологий искусственного интеллекта в бизнесе
Раз в месяц я стараюсь проводить такие вебинары. Несмотря на то, что тема одна и та же, содержание вебинара всякий раз отличается от предыдущих, потому что за месяц много чего происходит. Приглашаю всех желающих.
https://us04web.zoom.us/j/71513872005?pwd=GFFJjSQaa86TcgCDKrKpkYfP5IajU5.1

Для тех, кто пропустил (и для тех, кто не пропустил тоже))
Запись вебинара 17.04.2025
https://disk.yandex.ru/i/4e0Pz5fXdgs8Xg

Очередной бесплатный вебинар состоится 22.05.2025 в 14:00 мск.
Тема вебинара та же, "Использование технологий искусственного интеллекта в бизнесе". Обзор текущей ситуации, интересные кейсы, рекомендации ведущего.
Приглашаю всех к участию.
Записывайтесь здесь, в комментариях, или на сайте
https://brainguard.ru/page57162589.html

Библиотека искусственного интеллекта для 1С добралась до 1000 загрузок. На самом деле их несколько больше, так как это только бесплатные загрузки. А были еще и те, кто принял решение поблагодарить автора и скачал библиотеку за плату.
Библиотека существует чуть больше года, Но большая часть загрузок приходится на три последних месяца.

В очередной версии библиотеки доработан редактор JSON схем. Схемы создаются для Response API и для Completion API. Схемы отбьютифалены. Спасибо @JohnyDeath за подсказки. Добавлен реквизит nullable. Он заслуживает отдельного разговора, который состоится чуть позже.
Также изменил представление элемента справочника Модели. Теперь там имя модели и название провайдера.

Исправил ошибку, связанную с новым представлением модели

Раньше список моделей заполнялся однократно, при обнаружении пустого справочника. Я выбрал такой нехитрый подход, чтобы не тратить время на начальном этапе.
Сейчас моделей стало намного больше. А также появилось множество новых свойств у моделей. Чтобы во всем этом вам было проще ориентироваться, я сделал обновление списка моделей при обновлении версии библиотеки и добавил основные свойства моделей.
Особое внимание обратите на свойство "Место на арене". В отличие от прочих свойств вы его не найдете в официальных описаниях. Чтобы составить представление о "силе" модели можно смотреть бенчмарки. Но их много, они для разных применений разные, к ним есть серьезные вопросы. Короче, здесь надо быть специалистом и глубоко погрузиться в тему.

Арена в некотором смысле более надежна. Если вы еще не знаете, арена это такое место, где живым людям предлагают вслепую оценить какая из двух моделей ответила на их вопрос лучше. Получается что-то похожее на шахматные рейтинги.
Здесь надо только понимать точность этого метода. Кто там первый-второй-третий не так уж важно. Но модель из третьего десятка уж точно слабее модели из первого.

Если говорить про 1С...
В принципе, не только к 1С относится, но в 1С это уж очень ярко проявляется.
ИИ можно попросить написать код. И это хорошее подспорье для программистов.
Но можно ведь пойти и дальше. Если мы не программисты, то нам код как таковой не интересен. Нам результат нужен, а не код.
Поэтому мы просим ИИ дать нам результат. Для получения результата ИИ пишет код, выполняет его (как вариант, пробует выполнить, получает ошибки, исправляет ошибки, снова пробует выполнить) и показывает нам результат. И это уже сейчас используется достаточно широко.
Как на это реагируют программисты 1С en masse?
Они сидят ровно, смотрят на свои типовые конфигурации и говорят себе:
"Ну как? Это же такая сложная система! ИИ никогда не сможет грамотно воткнутся в нужное место, чтобы решить задачу."
Вот тут фатальная ошибка. Типовые конфигурации такие сложные не потому, что учет сложен. В учете ничего сложного нет. По большому счету все можно свести к двум базовым операциям: накопить и распределить. Типовые конфигурации такие сложные, потому что строились в расчете на написание кода людьми. И главная задача заключалась в минимизации количества кода вообще и повторяющегося кода в особенности. Потому что мы ненавидим рутину. Для того, чтобы не решать всякий раз с нуля повторяющиеся задачи и писать снова и снова похожий код, мы громоздим сложную систему библиотек и модулей.
Но ИИ не ведает рутины. Сто пользователей попросят его решить одну и ту же задачу, он сто раз напишет один и тот же код (за две копейки) и не разу не матернется.
В результате оказывается что есть база, есть пользователи, а между ними ИИ. А типовые конфигурации с их навороченной сложностью тут просто некуда и незачем втыкать. Не нужна такая "прослойка" между пользователем и базой в современных условиях.

Ничто не возникает из ничего и не исчезает бесследно.
На заре автоматизации бизнеса обычный прием заказа от клиента выглядел так. Клиент, действуя привычным для себя способом, звонил оператору и говорил, что ему нужно. Оператор, прилагая определенные усилия, регистрировал полученные от клиента данные в информационной системе. Прием каждого заказа от клиента чего-то стоил бизнесу. Более того, стоил несколько больше, чем раньше, в докомпьютерную эру. Поскольку доступ к компьютерам в то время был в основном только на стороне бизнеса, вариантов не было. Потом появились интернет и мобильные устройства. И на первый взгляд в приеме заказов произошла революция. Заказы к нам теперь приходят из интернета(мессенджеров) и сразу попадают в информационную базу, без участия человека. И здесь кроется ошибка. Люди думают, что стоимость приема заказов практически исчезла, потому что они инвестировали в автоматизацию. Но, нет, она не исчезла. Она ушла на сторону клиента. Теперь усилия по оформлению заказа предпринимает клиент. А бизнес удачно инвестировал только лишь в то, чтобы спихнуть с себя эту ношу и взвалить ее на клиента.
Настоящая революция происходит сейчас. В полном соответствии с принципом развития по спирали, клиент теперь может все так же, как в докомпьютерную эпоху, просто сказать, что ему нужно. Совершенно не напрягаясь, своими словами, как умеет. И это его бла-бла-бла превратится в заказ сохраненный в информационной базе. Без участия человека, но с участием ИИ. Вот тут возникает реальная экономия человеческих усилий.
Но есть и серьезный фактор, тормозящий прогресс. Это сложившаяся ситуация. Внедрять новые системы должен бизнес, но ему и так хорошо. Он уже инвестировал в то, чтобы облегчить себе жизнь и у него получилось. А теперь он должен инвестировать в то, чтобы облегчить жизнь своим клиентам. Не то, чтобы бизнесу тут было бы совсем все равно. Но без явного давления со стороны клиентов большинство предпочтет занять выжидательную позицию.
Так что и нам, разработчикам остается ждать, когда появятся акторы, ломающие эту ситуацию. Ну и популяризировать по мере сил