Scla/Java knihovna není instalace o výkonu Databricks Notebook

0

Otázka

V práci mám Scala Databricks Notebook, který používá mnoho knihoven dovoz, a to jak z Maven a z některých JAR soubory. Problém mám, je, že když mám v plánu pracovních míst na tomto Notebooku, je někdy selže (zcela náhodně, ale většinou 1 čas nad 10 běží), protože to spustí buňky před všechny knihovny jsou nainstalovány. Tedy úloha se nezdaří a musím ji spustit ručně. Takové chování z tohoto Databricks "produktu", je daleko od bytí profesionální, jako já, nemůže ji používat ve výrobě, protože to někdy selže.

Snažil jsem se dát Thread.Sleep() 1 minutu nebo tak předtím, než všechny moje dovoz, ale to nic nemění. Pro Python existuje dbutils.library.installPyPI("library-name") ale není tam žádná taková věc pro Scala v Dbutils dokumentace.

Takže máte někdo měl stejný problém a pokud ano, jak jste to vyřešili ?

Děkuji!!!

azure-databricks databricks import jobs
2021-11-23 08:17:20
1

Nejlepší odpověď

1

Jednoduše řečeno pro prod naplánované úlohy použít New Job Cluster a vyhnout se All Purpose Cluster.

New Job Clusters jsou určeny shluky vytvořeny a začal při spuštění úloh a ukončit okamžitě po dokončení úlohy. Ve výrobě, Databricks doporučuje použití nových klastrů tak, že každá úloha se spustí v plně izolovaném prostředí.

V UI, při nastavování notebooku práci vybrat New Job Cluster a potom přidat všechny závislé knihovny do práce.

Ceny jsou různé pro New Job Cluster. Já bych řekl, že to skončí levnější.

Poznámka: Použití Databricks bazény snížit clusteru start a auto-škálování krát (pokud se jedná o problém začít s).

2021-11-24 15:19:31

V jiných jazycích

Tato stránka je v jiných jazycích

Русский
..................................................................................................................
Italiano
..................................................................................................................
Polski
..................................................................................................................
Română
..................................................................................................................
한국어
..................................................................................................................
हिन्दी
..................................................................................................................
Français
..................................................................................................................
Türk
..................................................................................................................
Português
..................................................................................................................
ไทย
..................................................................................................................
中文
..................................................................................................................
Español
..................................................................................................................
Slovenský
..................................................................................................................