Экстрактор и Аналитика данных. Из 1С в BI
163 subscribers
66 photos
4 videos
3 files
100 links
Пишем про нашу разработку “Экстрактор из 1С в BI ” и BI-услуги, помогаем разобраться в аналитике данных в 1С и BI, делимся кейсами и отзывами клиентов.

Экстрактор: https://clck.ru/3A6Uaw
Все вопросы/ответы: https://t.me/extractor1CBI
Download Telegram
Небольшой баг-фикс
2.9.20.89 Ошибка, обработчики строки выполняются при выгрузке каждой строки.
Поправлено, чтобы выполнялись только привязанные к данной строке проекта обработчики
Приступили к закрытому тестированию нового релиза:
- Экстрактор 1С с выгрузкой данных в Microsoft SQL

Оптимистично 😀 до конца месяца выпустим релиз
Выпустили релиз 2.10.1.1 с поддержкой выгрузки из 1С в MS SQL Server
Поддержано два варианта выгрузки:
- Insert (вставка блоками)
- Bulk Insert (вставка через файлы TSV)

Идеология выгрузки сохранена прежней:
- Полная перевыгрузка (когда таблица очищается и загружается снова)
- Добавление
- Перезапись партиции (где в качестве "партиции" используется автозаполняемое "служебное" поле __Partition (с индексированием)

Краткая инструкция: https://1c2bi.ru/docs/course/?COURSE_ID=3&CHAPTER_ID=085&LESSON_PATH=17.85

Видео с демо: https://youtu.be/xEFZcF6sPrI
Релиз обновления: 1С Экстрактор 2.10.2.2
💥 Обновление Экстрактора данных 1С в BI.
Обновление оценят те, кто работает с Microsoft Power BI: обновленный 1С Экстрактор выгружает данные теперь еще и в MS SQL Server.
Какие возможности открываются пользователям Microsoft Power BI?
- Удобная и легкая настройка выгрузки данных 1С (по схеме: Далее-Далее-Далее…);
- Частая выгрузка из 1С в MS SQL (хоть каждый час, хоть каждые 15 минут)
- Работа с оперативными данными 1С в Power BI не только в режиме Import, но и Direct Query;
- Быстрая многопоточная выгрузка данных из 1С;
- Все возможности 1С по предоставлению данных, вплоть до документа-регистратора, а также выгрузка ежедневных остатков, сложные запросы и расчеты и т.д.;
- Система работает с любой 1С 8 (независимо от платформы 1С и конфигурации).

Исправления ошибок релиза 2.10.2.2:
1. Ошибка экранирования имени базы ClickHouse
2. Ошибка копирования подключения
3. Поправлена ошибка при выборе функции "Произвольная подстрока"
4. Исправлено экранирование блоков insert для MSSQL
5. Прочие мелкие исправления
Улучшения:
1. Предопределенные обработчики вынесены в отдельный модуль (без обфускации)
2. Сборщик: Блок между строк сворачивается в одну строку, что ускоряет выполнение, актуально для больших циклов
3. В дереве конфигурации выведены иконки по типу объекта

👍 Краткое видео по настройке выгрузки из 1С 8 ERP 2.5 в MS SQL Server:
https://youtu.be/xEFZcF6sPrI
В Личный кабинет выложили обновление (релиз 2.10.2.3):
Исправление ошибок:
Для MS SQL
1) При изменении таблицы была ошибка, которая не фиксировалась, но и таблица не изменялась
2) Ошибка выгрузке "пустой даты"
3) При создании таблицы для поля даты с временем теперь выбирается тип datetime2(0) (он поддерживает больший диапазон при меньшем потреблении памяти)
4) Ошибка восстановления размерности поля при открытии конструктора
5) исправление ошибки экранирования при выгрузке "блоками"

Общее
1) Добавлена управляемая форма списка очереди (чтобы исключить создание формы по умолчанию)
2) В форме списка очереди добавлена кнопка очистки очереди (удаляются записи согласно текущего отбора на форме)
Внутри команды обсудили ближайшие планы на разработку (горизонт 2 недели), итого приступаем к:
1. Оптимизация и еще раз оптимизация. Ускоряем выгрузку и регистрацию изменений, особенно для Толстого клиента 1С (будет актуально для решения на базе УПП 1.3 и т.д.).
2. Лечим (вылезающие сейчас активно) болячки новой выгрузки в MS SQL (ну и готовимся уже к автоматизации выгрузки в PostgreSQL).
3. Накопили в бэклоге кучу мелких интерфейсных хотелок и багов. Будем делать тоже.
4. Поймали мелкие особенности в выгрузке из MS Excel - устраняем.
5. Готовим структурированную документацию.
Новый релиз - 2.10.2.6. Небольшие правки по коду:
Исправлены следующие баги:
1) При снятии флага с параметра набора данных, партиция все равно создается
2) Зависания при выборе в поле просмотра Excel - файла
3) Добавлены кнопки копирования, выбора и снятия выбора при настройке выгрузки из Excel - файла
4) Добавлено сообщение об успешности/неуспешности ввода ключа лицензирования
5) В шаблон проекта добавлены новые поля о текущей версии платформы и конфигурации
6) Поправлена загрузка шаблонов для MS SQL
7) Добавлена настройка количества параметров регламентного задания для "кастомных" сборок расширения Экстрактора 1С (например для Альфа-Авто)
#Релиз
А можно ли собрать P&L на данных 1С Бухгалтерии в Yandex Datalens? - конечно можно
Один из вариантов настройки есть на данном коротком видео (причем без единой строчки программного кода):
https://youtu.be/GsrFlLy3vdY
Использованы:
1. 1С Бухгалтерия (демо база)
2. Экстрактор 1С
3. Yandex Datalens
Экстрактор и Аналитика данных. Из 1С в BI
Выбираем приоритеты в разработке функциональности в Экстракторе 1С.
Интересует Ваше мнение: Выберите более интересные для Вас (вашей компании) возможные будущие фичи Экстрактора 1С
Сделали предрелиз поддержки выгрузки в PostgreSQL

Эта неделя посвящена ловле багов (пока баги ловятся хорошо, все таки в PostgreSQL много "особенностей")
Если все будет удачно, то в конце недели выпустим уже бета-релиз
Обновили инструкцию.
Теперь она более структурирована и более соответствует текущей версии Экстрактора 1С:
https://1c2bi.ru/docs/
Экстрактор и Аналитика данных. Из 1С в BI
Сделали предрелиз поддержки выгрузки в PostgreSQL Эта неделя посвящена ловле багов (пока баги ловятся хорошо, все таки в PostgreSQL много "особенностей") Если все будет удачно, то в конце недели выпустим уже бета-релиз
Утро понедельника - самое время опубликовать новый релиз 2.11.3.28 (MS SQL + PostgreSQL stable)
ДАТА РЕЛИЗА
19.02.24
Выпустили стабильный релиз с поддержкой выгрузки в PostgreSQL и MS SQL Server

Новинки:
- Выгрузка очереди по времени создания
- Добавлен вывод в лог информации о выгрузке блока

Исправления:
- Поправлена ошибка открытия формы помощника
- Добавлено сжатие при выгрузке блока в базу ClickHouse
- Ошибка когда в конструкторе при возвращении к запросу пропадали параметры
- Ошибка когда остаются недостуные поля после редактирования запроса
- Не заполняется Способ выгрузки при создании проекта
- Ошибка сериализации партиции
- Ошибка при копировании проекта
- Ошибка отсутствия описания типа у поля источника
- Ошибка при переключении с MSSQL на ClickHouse, задается движок по умолчанию
- Удаление автогенерируемых полей при удалении поля источника
- Ошибка получения размера сжатого файла
- Ошибка открытия конструктора запросов в толстом клиенте до версии 8.3.5
- Слетает выбор вычисляемых полей

Релиз уже в Личном кабинете
Экстрактор и Аналитика данных. Из 1С в BI
Утро понедельника - самое время опубликовать новый релиз 2.11.3.28 (MS SQL + PostgreSQL stable) ДАТА РЕЛИЗА 19.02.24 Выпустили стабильный релиз с поддержкой выгрузки в PostgreSQL и MS SQL Server Новинки: - Выгрузка очереди по времени создания - Добавлен вывод…
Маленький фикс. Сделали исправления следующих ошибок (релиз 2.11.3.32):

0) Ошибка экранирования символов для Postgres
1) В толстом клиенте, ошибка модульЭкс_ПредопределенныеОбработчики не найден
2) Ошибка формирования запроса с параметром по произвольной подстроке
3) Ошибка открытия диалога выбора файла в версиях до 8.3.6
4) Ошибка выгрузки при переключении типа подключения на ClickHouse (поле Тип не найдено)
5) Расширение метода обработчика регламентного задания заменен с &Вместо на &Перед
6) Ошибка получения сообщений из потоков для версий платформы до 8.3.6
7) Автоподстановка параметров для объектов "Задачи" и "БизнесПроцессы"
8) Уникальный идентификатор не экранируется по умолчанию
Продолжили исправлять баги:
Новый релиз 2.11.3.40
Доработки
1) Для ClickHouse ограничение длины имени таблицы и колонок настраивается в подключении (по умолчанию 200 знаков в url кодировке)
Исправления ошибок
2) Поправлена ошибка, когда поле из выбора не удаляется
3) Поправлена ошибка экранирования NULL значение для ClickHouse
4) При запуске строки проекта она выполняется даже если не выбрана
5) Поправлена ошибка экранирования данных для MSSQL при выгрузке через файл
6) Поправлена ошибка когда выгрузка не останавливалась при ошибке выгрузки и пользователю выдавалось сообщение об успешной выгрузке
О планах на ближайший месяц:
1. Эту неделю посвятим исследованию возможности выгрузки данных из "типовых" отчетов 1С, которые работают на "типовых" 1С
2. Параллельно изучаем возможность выноса "Очереди" из Регистра сведений 1С в СУБД Redis, что позволит еще ускорить работу с регистрацией изменений для Экстрактора 1С в больших высоконагруженных системах 1С
Screenshot_143.png
40.5 KB
Релиз 2.11.4.45

Исправления ошибок:
1) Ошибка при десериализации пробельных символов (\t, \n и т.п.) из XML. В частности, если в параметр попадал такой символ, то выборка была не корректная
2) Доработано блочное удаление в PG
3) Ошибка при создании схемы в MSSQL
4) Ошибка экранирования при поиске партиции в ClickHouse
5) Ошибка срабатывания обработчика инициализации для выключенной строки проекта
6) Для MSSQL и PG при выгрузке блоками экранируется только апостроф (')
7) Для ClickHouse при выгрузке блоками экранируется апостроф (') и обратный слеш (\)
8) Поправлена ошибка форматирования поля с типом integer для PG

Изменения:
1) В администрирование подключения добавлена команда очистки таблицы
2) Параметр по умолчанию для оборотных регистров и документов изменен на "День"

Важное изменение:
1) Опциональное приведение партиции к нижнему регистру (для новых подключений, эта опция будет работать "по умолчанию", для ранее заведенных подключений, необходимо установить флаг в настройке подключения
2) Приведение строковых параметров в предопределенных обработчиках к нижнему регистру

Поясним
В Сlickhouse и PostgreSQL, в зависимости от настройки СУБД, поиск может быть как регистро-зависимым так и регистро-НЕзависимым (особенно это касается PosgreSQL, используемого совместно с базами 1С)
В результате, партиция "А" и "а" могут быть как разными, так и одинаковыми.
Чтобы избежать таких коллизий, в 2.11.4.45 есть опция в настройка "Подключения", включив которую поиск и именование партиций всегда будут в "нижнем регистре"
Если не знаете какой вариант выбрать, просто включите данную опцию
Поздравляю с наступающим праздником 8 марта!

Ну и небольшое обновление Экстрактора 1С уже в Личном кабинете:
Изменения:
1. Добавлен выбор табличных частей ПВХ при выборе объект

Исправления ошибок:
1. Удаление конечных пробелов в строке параматра и партиции
2. Ошибка установки параметра из обработчика (ТекущаяДата())
3. Ошибка удаления строк при пересоздании таблицы
4. Ошибка сопоставления новой строки с существующим полем
5. Ошибка вызова обработчика источника
6. Ошибка очистки типов параметров при сохранении обработчика
7. Ошибка проверки первичного ключа ClickHouse
8. Ошибка запуска обработчика инициализации для строки в которой нет параметров
Экстрактор и Аналитика данных. Из 1С в BI
Поздравляю с наступающим праздником 8 марта! Ну и небольшое обновление Экстрактора 1С уже в Личном кабинете: Изменения: 1. Добавлен выбор табличных частей ПВХ при выборе объект Исправления ошибок: 1. Удаление конечных пробелов в строке параматра и партиции…
Дополнили релиз 2.11.4.54:

Мелкие улучшения:
1. Ошибка загрузки набора данных из шаблона
2. Вывод соответствия полей в список

Данный релиз считаем стабильным 😀.
Просьба обновиться до 2.11.4.54 (если не сделали это ранее)

ЗЫ:
Ну а мы ушли в исследование возможности делать выгрузки из "типовых отчетов" 1С (пока все местами грустно, но мы не теряем надежду)