Написал большую статью «Когда просто бэкап — это скучно, ZFS, Asterisk и немного магии» https://infoblog72.ru/blog/kogda-prosto-bekap-eto-skuchno-zfs-asterisk-i-nemnogo-magii.html Она для тех, кто работает с инфраструктурой и отвечает за живучесть сервисов. Рассказываю, как организовал резервное копирование Asterisk-сервера на FreeBSD через ZFS снапшоты, автоматизировал репликацию на удалённый Debian-сервер с помощью zrepl и какие подводные камни возникли в процессе.

В статье описываю реальную рабочую конфигурацию, подход к проектированию, поясняю, почему выбран pull-метод, и делюсь всеми ключевыми командами. Никакой теории ради теории — только практика и конкретика.

Статья для тех, кто хочет не просто бэкапить, а строить надёжную систему восстановления.

Продолжаю разбираться с Asterisk. Была интересная задача — необходимо было на одном из номеров выводить женским голосом сообщение: «Данная линия не обслуживается». Искать девушку и записывать её голос я не стал, а воспользовался сервисом Yandex SpeechKit. Он озвучил это сообщение женским голосом. Затем я преобразовал полученный аудиофайл в нужный формат, понятный Asterisk (ffmpeg -i input.wav -ar 8000 -ac 1 -c:a pcm_s16le output.wav), и задача была выполнена.
Ещё в нашей фирме есть мобильное приложение, позволяющее совершать звонки. Мне потребовалось выяснить, через какой транк осуществляется звонок. Приложение разработано на Yii. Я решил скачать исходники, зайти на production-сервер и создать архив проекта. Архив создавался примерно полчаса, разросся до размера около 70 Гб, заполнив всё доступное пространство, и завершился ошибкой. Вместе с архиватором отказал и сам production-сервер. Так я случайно «уронил» production, правда всего лишь на десять минут. Выяснилось, что помимо исходников программы я пытался скопировать ещё и каталог загрузок («upload»). Само приложение я потом успешно скачал через GitLab, и оно заняло около одного гигабайта.
Процесс совершения звонков из мобильного приложения выглядит так: PHP-код подключается по SSH к серверу Asterisk и запускает Bash-скрипт с параметрами абонента и направления звонка. Скрипт формирует текстовый файл-заготовку звонка, который затем обрабатывается Asterisk. Однако почему бы не воспользоваться API самого Asterisk, позволившим бы совершить звонок простым HTTP-запросом типа POST? Судя по всему, разработчики на PHP были незнакомы с таким решением. Причины выбора именно этого метода остаются для меня загадкой.
К слову, заметил любопытное сходство между фреймворком Yii и такими технологиями, как NestJS, ASP.NET Core. Здесь прекрасно проявляется принцип объектно-ориентированного программирования, классы, объекты, интерфейсы.
Из этого опыта я вынес несколько выводов. Во-первых, даже простая задача — вроде озвучивания фразы — требует знания инструментов, которые сильно экономят время. Во-вторых, любые действия на production нужно тщательно обдумать, даже если речь идёт об простой архивации. И наконец, архитектура решений, вроде звонков из приложения, должна опираться на здравый смысл и знание возможностей платформы.

В блоге вышла новая статья «Как восстановить Asterisk из снапшота — пошаговая инструкция» https://infoblog72.ru/blog/kak-vosstanovit-asterisk-iz-snapshota-poshagovaya-instrukcziya.html. В ней я рассказываю, как поднять виртуальную копию сервера телефонии на базе FreeBSD 13.1, начиная с загрузки LiveCD и настройки русской раскладки, заканчивая передачей ZFS-снапшота по SSH и активацией загрузочного датасета. Всё описано строго по шагам — без воды и с реальными командами.

Разбираю ключевые действия: создание временного /etc, запуск SSH, получение IP через DHCP, подготовку диска, создание пула zfspool, выбор нужного снапшота и восстановление через zfs send | ssh zfs receive. После этого сервер практически готов к запуску, остаётся лишь отключить ISO и включить машину.

Если вы работаете с Asterisk и используете ZFS, обязательно прочитайте статью. Это реальный опыт восстановления, который можно повторить в условиях продакшена — без лишних рисков и с контролем на каждом этапе.

Продолжаю изучать FreeBSD. Выяснил, что эта операционная система наполнена магией. Система magic распознает тип файлов, Daemon — это служба, ELF — тип файла, а Wizard — это волшебник.

Смотрю курс по FreeBSD, и там тренер рассказал анекдот: «Однажды Ланселоту пришло письмо от короля Артура с заданием: «Ты должен пройти Испытание Рыцаря-администратора. Ответь на этот вопрос: Какие 4 заглавные буквы не являются правильными ключами утилиты ls в FreeBSD?» Ланселот думал долго, но так ничего и не вспомнил. Тогда он написал в ответ: «Не знаю, но точно не -HELP».

Почему это смешно (для тех, кто не в теме)? В системах Unix-like, включая FreeBSD, утилиты, как правило, не имеют опции -HELP. Вместо этого используется man ls, --help, или можно просто попробовать запустить команду без аргументов. Настоящий юниксовый гуру знает, что помощи от самой программы ждать не стоит — только от man или info.

Узнал про vimtutor.ru — это встроенный в систему учебник по vim. А также, что Docker во FreeBSD нет. Есть Jails — родные BSD-контейнеры, но вот Docker нет.

Пока система выглядит, мягко говоря, странно. Есть 2 пути до конфигов: /etc — сама система и /usr/local/etc — конфиги установленных приложений. Все важные настройки хранятся в одном файле /etc/rc.conf — демоны, сеть и файрволл. Поэтому он может принимать огромные размеры. В общем, система, мягко говоря, «странная», если нет большой необходимости переходить, не рекомендую.

Продолжаю изучать Asterisk. Установил на виртуалке FreePBX. Это такой веб-интерфейс над Asterisk. Устанавливал вот по этому гайду: «FreePBX 16 on Debian 12 with Asterisk 18» https://www.youtube.com/watch?v=LRghtpGsYTg. Как было правильно сказано, FreePBX для автоматизации самых простых операций, чтобы реализовать что-то более-менее посложнее, надо писать самому.

Узнал, что существует Kamailio https://www.kamailio.org/w — SIP-прокси для Asterisk. Кто-то может возразить, но есть же haproxy, он прекрасно всё проксирует. Да, прекрасно, но с обрывом разговора, а Kamailio — без обрыва.

Мой вывод такой. Во FreeBSD здесь всё делается руками, осознанно и с пониманием. Это не «поставил и заработало», а «разобрался — и теперь работает так, как нужно именно тебе». Такой подход требует времени, но зато даёт полную прозрачность и контроль.

Продолжаю изучать FreeBSD. Смотрю учебный курс по FreeBSD 2011 года. Прошло 14 лет, а FreeBSD не поменялась от слова «совсем». Есть изменения, но они не радикальные. Если брать Linux даже 5-летней давности, разница сильно видна, а здесь как в болоте — всё тихо и спокойно. Не знаю, в чём причина, возможно, FreeBSD живёт на грантах, а Linux на сообществе. Но выглядит это печально.

На работе получил задание наклеить стикеры с номерами на сетевые розетки и патч-панель, вспомнил молодость, когда бегал с перфоратором и тянул витую пару. Сильно устал, физподготовка никакая. Заодно выяснил, часть розеток на патч-панели расшита как попало, часть вообще на плане не отражена, они «лишние». Как монтажники делали работу и как у них её принимали — вопрос открытый. Но задачу закрыл.

Продолжил изучать Kamailio — SIP-прокси сервер. По этому списку статей https://blog.ipcalls24.com/sip-register-in-kamailio/. Я всё думал, почему Kamailio такой мощный, а потому что-то низкоуровневый. Там все методы SIP-протокола реализовать самому, а это большой кусок АТС. А во время реализации можно вмешаться и настроить так, как удобно. Kamailio — это мощно, но сложно.

Решил сделать лабораторку из плейлиста «Построение IT-инфраструктуры» https://www.youtube.com/playlist?list=PL148XRxlt8SjX804Fkvn5N5KR9IeaGEz_ от «Сисадмин Михалыч». Автор прекрасно знает матчасть и даёт реальный кейс построения серверной части для небольшой компании. Он даже контроллер домена поднимает на SAMBA под Linux, как и DNS- и DHCP-сервера. Но вот инструменты для управления использует от Windows. То, что реализовано под Linux, смотреть без слёз невозможно, автор даже сам нужный софт. Притом, что всю инфраструктуру он реализует на AltLinux https://www.basealt.ru/. Я выполнял за ним, и AltLinux от российских разработчиков мне понравился. По крайней мере, управление сетью достаточно логичное. Что не понравилось, на рабочей станции в оболочке Gnome по умолчанию кнопки заголовка окна «Свернуть» и «Развернуть» отключены, надо включать вручную. Первичный контроллер домена на SAMBA я пробовал поднять лет 10 назад, но не получилось. OpenSource — это, конечно, здорово, но тогда проект SAMBA делали 2 человека на голом энтузиазме. Потом пришёл MS и стал «дружить» с Linux, а до этого пытался его «убить». Сейчас создание домена прошло с полпинка. «Сисадмин Михалыч» настроил выход локальной сети через роутер, а как мне пройти этот роутер и достучаться до машины за роутером? Помогла команда ssh -J root@192.168.1.144 root@10.10.10.10. Я эту команду ещё ни разу не использовал. Чисто моё мнение, контроллер домена для компьютеров с Windows лучше поднимать на Windows, т. к. разработка на Linux всегда будет отстающей. А как лабораторка этот плейлист очень неплоха.

Продолжая погружаться в администрирование, понимаю: решения с открытым исходным кодом дают гибкость, но требуют опыта и терпения. Однако в боевых условиях критичные сервисы, такие как контроллер домена для Windows-клиентов, я бы доверил самой Windows. А всё остальное — отличное поле для экспериментов и роста.

Продолжаю разбираться с Asterisk. Попробовал на работе обновить FreeBSD с 13.1 до 13.5. Казалось бы, минорное обновление — что тут может пойти не так? Но хорошо, что начал экспериментировать на виртуальной машине, а не на реальной АТС. Перед началом обновления я посмотрел видео, где один человек рассказывал, как он обновился с версии 13.1 до 14.2 по следующему алгоритму: сначала 13.1 → 13.5, 13.5 → 14.0, потом 14.0 → 14.2. Мне понравился его совет: если хотите обновляться до мажорной версии, начинайте в пятницу вечером, поскольку понедельник утром придут пользователи и за два дня можно успеть обновиться. Но ведь у меня минорное обновление.

Когда я начал обновляться, обнаружил, что предыдущий администратор установил систему с версии 12.2 до 13.1 путём ручной сборки из исходников. Для перехода на новую версию подключил возможность установки пакетов через бинарники. После нескольких попыток наконец обновил ядро. Затем приступил к обновлению встроенных утилит в FreeBSD и столкнулся с неприятностью: выяснилось, что Asterisk 16 несовместим с новейшими версиями библиотек, поэтому система предлагала удалить его целиком. Решив сохранить Asterisk, заблокировал его удаление, однако даже после завершения обновления заметил странности: Asterisk стал вести себя нестабильно, перестали вестись логи, а информация о звонках перестала записываться в базу данных. Оценив ситуацию, я принял решение временно остаться на старой версии FreeBSD 13.1.

Прочитал серию статей про SIP-прокси Kamailio (https://blog.ipcalls24.com/). Стало ясно, как организовать балансировку между двумя серверами Asterisk. Всё основывается на глубоком понимании протокола SIP, который довольно сложен.

Неожиданно перестали проходить звонки через мини-АТС после переезда на новую версию API. Перерыли всю документацию по АТС — всё нормально. Оказалось, проблема была в Docker-контейнере: в исходных кодах были жёстко прописаны пути («hardcoded»). Создал задачу программистам на создание .env-файлов для различных сред.

На FreeBSD перешел с csh на bash — стало гораздо удобнее. Csh — настоящее испытание для администратора: не работает клавиша «Delete» в командной строке, внутренний язык программирования крайне специфичен. Bash значительно удобнее. Во время перехода обнаружил, что кто-то из предыдущих администраторов установил fish (https://fishshell.com/), этот шелл оказался ещё более необычным.

Во FreeBSD отсутствует поддержка Docker, но есть jails (https://docs.freebsd.org/en/books/handbook/jails/) — нечто вроде контейнеризации собственной разработки системы. Прочитав руководство (handbook), понял, насколько низкоуровневыми бывают операции с jails: начиная от выделения тома на ZFS до ручного копирования конфигурационных файлов. Коллеги подтвердили, что большинство операций выполняют через специальную систему управления jails — CBSD (https://www.bsdstore.ru/en/docs.html).

Сейчас складывается впечатление, будто FreeBSD специально создана для мучений системного администратора. Кому-то нравится эта операционная система, но я не отношусь к таким людям. Постоянно возникают проблемы, о существовании которых раньше и не подозревал, например, сложности с csh.

Купил книгу Брюса Э. Тейта «Семь языков за семь недель». Автор рассказывает о семи языках программирования, основанных на разных парадигмах. Каждому языку посвящена одна неделя.

Первым языком является Ruby (https://www.ruby-lang.org/ru/). Сам автор активно программирует на нём и восхваляет его достоинства: композиции вместо интерфейсов, динамическую типизацию вместо статической. Субъективно Ruby привлек внимание благодаря фреймворку Ruby on Rails (https://rubyonrails.org/), который был революционным в своё время, хотя теперь многие его идеи уже повторили. Лично мне динамическая типизация не нравится: в функцию может попасть абсолютно любой объект — будь то число, строка или функция, массив и прочее. Это приходится учитывать и обрабатывать отдельно. Интерпретатор справляется лишь с простыми случаями.

Следующая глава посвящена языку Io (https://iolanguage.org) — языку, основанному исключительно на прототипах.

На досуге составил себе дорожную карту профессионального роста (см. файл). Взглянул на неё и немного расстроился: путь до квалифицированного специалиста предстоит долгий.

Ну вот и опять набрался опыта! Проблемы, конечно, были, но именно такие ситуации делают нас сильнее и умнее.

Досмотрел курс по FreeBSD и в конце научился собирать приложение из исходников. Пообщался с коллегой: хотя исходники есть и они находятся в реестре FreeBSD, чтобы собрать что-то крупнее тетриса, придется постараться. Поэтому буду ставить из бинарников.

Поигрался с Jail во FreeBSD при помощи CBSD (https://www.bsdstore.ru/en/about.html). Jail — это виртуальные машины на базе ядра FreeBSD. Создал виртуальную машину, поменял параметры, удалил её. Интересный опыт, особенно учитывая, что по умолчанию для неё почти всё запрещено. Приходилось открывать дополнительные опции, чтобы виртуальная машина заработала.

Почти всю неделю разбирался с проблемой, почему не проходят звонки из мобильного приложения. Все скрипты, участвующие в этом процессе, я подробно логировал, однако они попросту не выполнялись. Выяснилось, что я проверял работу скриптов от имени пользователя root, тогда как само приложение запускается другим пользователем, которому не хватает прав. После исправления коллеги всё заработало. Составил четырёхстраничный мануал, объясняющий процесс звонка из мобильного приложения. Если бы у меня был такой документ заранее, сэкономил бы 3–5 рабочих дней.

Начали проходить курс по Zabbix (https://www.zabbix.com/ru). Zabbix — это свободно распространяемое ПО для мониторинга серверов, сетевого оборудования и приложений в режиме реального времени. Оно оказалось значительно проще Asterisk.

В книге «7 языков за 7 недель» прочёл главу про Io (https://iolanguage.org/). Это компактный язык программирования, построенный на принципах прототипного наследования и позволяющий изменять собственный синтаксис. Хотя сам язык любопытный, углубляться в изучение не стал, поскольку прототипное наследование хорошо освоил на примере JavaScript.

Следующим изучаемым языком стал Prolog (https://www.swi-prolog.org/). Очень интересный язык логического программирования. Он декларативный как SQL. Работа с языком программирования Prolog включает два ключевых шага. Во-первых, формируется база знаний — набор логических правил и фактов, характеризующих изучаемую область. Далее эта база обрабатывается, и начинается этап постановки вопросов относительно интересующей темы. Запросы бывают разных форматов: одни представляют собой утверждения, на которые система даёт однозначные ответы («yes») либо отрицательные («no»). Вторые содержат переменные, и задача Prolog заключается в поиске значений, позволяющих подтвердить истинность задаваемых условий. Задачи ханойские башни или 8 ферзей на доске решаются очень просто, описывая правила игры и запросом на поиск решения. Однако, исходя из личного опыта, далеко не каждая проблема сводится к формализованной логике. Тем не менее, как инструмент, Prolog показался мне привлекательным.

Завершил годовой курс английского языка на уровне B1+, сдав итоговый экзамен на 82 балла из 100. Решил пока приостановить занятия английским, так как впереди много материалов по системному администрированию и DevOps.

В результате, за прошедшую неделю успешно разобрался с основными аспектами сборки приложений во FreeBSD, освоил виртуализации типа jail, решил критичную проблему авторизации в мобильной платформе и начал знакомиться с инструментами мониторинга, такими как Zabbix. Дополнительно ознакомился с особенностями языков Io и Prolog, расширив кругозор в языках программирования. Завершив курс английского на уровне B1+, планирую сосредоточиться на изучении системного администрирования и DevOps-технологий.

На работе получил первую настоящую DevOps-задачу. Напомню, DevOps — это сисадмин, который умеет программировать.

Наша основная система переезжает с одного сервера на другой, поэтому решили разгрести непонятный мусор. Необходимо было сконвертировать задания для cron в bash-файлах в ini-файлы для docker-планировщика Ofelia https://github.com/mcuadros/ofelia. Всё хорошо, но запланированных заданий сотни в каждом файле, и файлов около десятка. Коллеги где-то неделю побились и плюнули, перевели задачу на меня. Задача осложняется ещё тем, что они что-то уже добавили, а что-то нет. Вот и надо синхронизировать и слить воедино две системы.

Я решил использовать инженерный подход. Всё, что мне устно объяснил главный сисадмин, я перевёл в ТЗ. Т. к. есть пословица «без ТЗ результат ХЗ». Поработал заодно бизнес-аналитиком. Оказалось, если всё расписать, что было рассказано за 15 минут, ТЗ получилось на 4 страницы текста.

Проект стал реализовывать на Typescript. Для парсинга bash-файлов использовал библиотеку web-tree-sitter и tree-sitter-bash. Она из bash-файла создаёт AST (абстрактное синтаксическое дерево). Я учил алгоритмы и думал, ну когда же мне пригодятся деревья в производстве. Вот и пригодилось, после парсинга получилось сильно ветвящееся дерево. Обошёл его в глубину, выделил в нём функции, команды, комментарии и сохранил в хеш-таблицу. В программе одна рекурсия погоняет другой.

Коллеги хотели эту задачу реализовать на bash. Не то чтобы это невозможно, но помучились они бы сильно. Просто кроме bash они никакого другого языка программирования не знают. Но bash он хорош для простых скриптов, данная задача для него сложновата.

Пока я сделал только парсинг bash-файлов, те, кто их создавал, оказались с большой фантазией. То имена функций с ошибками напишут. Или напишут большую функцию, которая нигде не вызывается. Комментарии то на русском, то на английском. И на каждую их «фантазию» приходилось писать обработчик и тестировать.

Вишенкой на торте задача из ТЗ: все задания, связанные с RabbitMQ, вынести в отдельный конфиг-файл. А они равномерно «размазаны» по всем конфигам. На следующей неделе продолжу. Лунная призма, дай мне силы завершить этот проект.

Дома у меня в очередной раз «умер» Youtube. Я использую Amnezia в связке с nfqws. Первая создаёт шифрованный канал, вторая «делает» из IP-пакетов «винегрет». Я использовал хостинг Linode с оплатой криптой. Всё хорошо, только дорого, и оплата криптой занимает ну минимум полчаса. Пока деньги сконвертируешь, пока крипта дойдёт, уходит уйма времени.

Я решил купить русский хостинг у компании Aeza. Но компания Aeza на этой неделе попала под санкции, т. к. американцы уверенны, что именно там живут все русские хакеры. Вместе с русскими хакерами и мой VPS был утерян. По деньгам где-то 600 руб., но всё равно неприятно. Затем поднял VPS у Beget. У него мой хостинг живёт уже несколько лет. Купил сервер в Латвии, подключил, настроил. Youtube ожил и показывает рекламу для Великобритании.

В итоге задача получилась не просто DevOps, а полноценный инженерный квест: с анализом, парсингом AST и кучей граничных случаев. Почувствовал себя и программистом, и аналитиком, и даже детективом. Одновременно воевал с чужим кодом и санкциями. Но несмотря ни на что, Youtube снова работает, а проект движется — медленно, но с пониманием, что всё не зря.

В пятницу завершил создание программы, которая конвертирует задания из bash-файлов в ini-файлы для Ofelia. Задача оказалась на рекурсию и регулярки. Мало bash-файл через рекурсию спарсить, его ещё нужно корректно обработать. Ребята, которые эти файлы, оказались людьми творческими. Мы можем и так, и вот так. Всё хорошо, но программу на каждом их «выверте» клинит, и приходилось писать обработчик. 

Простой пример, есть команда «timeout». Она задаёт максимальное время выполнения программы. И у ней есть параметры, так вот эти параметры можно задавать через пробел, через группу пробелов, через табуляцию. Я сначала наивно разбивал строку через split(" "), а потом смотрю, что у меня уйма непонятных значений, стал разбивать строку через регулярку split(/\s+/). Больше всего добила большая и сложная функция, которая нигде не вызывается, она просто описана. Раньше я думал, что поля формы сложно валидировать, как я ошибался. Или имя задания, состоящее из цифр. Например, задача под именем «1».
Но программа написана, она обрабатывает около 600 заданий. Вручную их перелопать сильно трудоёмко, вот почему коллеги решили всё это автоматизировать.

Самое интересное произошло при деплое скрипта. Я его установил на боевой сервер и перед установкой NodeJS решил обновить систему. Обновился docker и сразу умер. Т. к. версия 28 что-то делает не то в firewall. Коллега показал, как откатиться на 27-ю версию и «заморозить» версию docker. На основе вот этой статьи https://docs.docker.com/engine/install/debian/. Основные команды следующие.

apt-mark hold docker-buildx-plugin docker-ce-cli docker-ce-rootless-extras docker-ce docker-compose-plugin containerd.io

apt-mark showhold

Почему этот функционал нельзя реализовать в apt мне непонятно.
Прошло 3 месяца испытательного срока на этой работе. У меня был начальник, который любил сообщать об увольнении именно в последний день срока. Здесь такого нет. Чисто субъективно коллектив адекватный, хотя во многих бизнес-процессах я ещё не разобрался до конца. Но зарплата не радует.

Начал проходить курс «Ansible для начинающих + практический опыт» https://stepik.org/course/123806/syllabus?search=7292598390. Попробую автоматизировать простые задачи с серверами.

От себя скажу написание конвертора: это был отличный вызов, который показал, насколько важно учитывать все крайние случаи и нестандарты. Работа с такими скриптами — как археология: никогда не знаешь, что откопаешь. Но теперь процесс автоматизирован, ошибок меньше, а времени на ручную проверку — больше не тратим. Теперь есть надёжный инструмент, который обрабатывает сотни заданий, а я могу сосредоточиться на улучшении процессов и прокачке в DevOps через Ansible.