Интересно наблюдать, как компании-динозавры, как oracle, хотят стать модными, и вот выпустили в opensource инструмент для деплоймента моделей машинного обучения https://oracle.github.io/graphpipe/

Я его не опробовал, поэтому не могу ничего сказать, на сколько это сделано хорошо. Но важно отметить, что ML всё больше проникает в разные бизнесы и появление подобных инструментов необходимо.

(обратите внимание как изменился мир: MS постоянно говорит про opensource и действительно много делает, oracle публикует библиотеки на GitHub... что дальше?)

#tool #oracle #deployment

Следующая информация может быть полезна, если вы хотите запустить jupyter notebook на сервере, сделать сервис публично доступным и сделать это правильно, https и запрятать за каким-нибудь прокси.

Всё кажется предельно просто, запускаем jupyter (лучше в контейнере конечно), настраиваем https на вашем любимом сервере, например apache и настраиваете прокси на ваш jupyter. И всё действительно просто, но не совсем. Jupyter использует прекрасную технологию WebSocket для того, чтобы всё было максимально интерактивно и без WebSocket никак, если вы не пропишите правильно инструкции для прокси, вебсокеты у вас отвалятся, jupyter не будет работать и вообще всё плохо, вы резко перестаёте любить новые технологии.

Но всё не так печально, есть большой стрим обсуждений на github, и там у вас есть всё что надо.

https://github.com/jupyterhub/jupyterhub/issues/219

ProxyPreserveHost On
ProxyRequests off

ProxyPass / http://localhost:8000/
ProxyPassReverse / http://localhost:8000/

ProxyPass /api/kernels/ ws://127.0.0.1:8888/api/kernels/
ProxyPassReverse /api/kernels/ https://127.0.0.1:8888/api/kernels/

<Location ~ "/(user/[^/]*)/(api/kernels/[^/]+/channels|terminals/websocket)/?">
    ProxyPass ws://localhost:8000
    ProxyPassReverse ws://localhost:8000
</Location>

Возможно, нужно понадобится добавить ещё эти строчки, перед <Location ... :

Header edit Origin {external address} localhost:8000
RequestHeader edit Origin {external address} localhost:8000

Header edit Referer {external address} localhost:8000
RequestHeader edit Referer {external address} localhost:8000

Ещё нужно сконфигурировать сам jupyter, см. настройки в документации. В файле jupyter_notebook_config.json можно добавить следующее.

{
  "NotebookApp": {
    "ip": "*",
    "allow_origin": "*",
    "open_browser": false,
    "password": "sha1:yourpass hash",
    "trust_xheaders": true
}
}

#jupyter #deployment #web #issues