Sql dotaz pyspark datovém funkce

0

Otázka

Chci, aby replikovat níže kód pomocí pyspark Datovém funkce namísto SQL dotazu.

spark.sql("select date from walmart_stock order by high desc limit 1").show()

Odkaz z dataset

apache-spark pyspark
2021-11-23 13:54:30
1

Nejlepší odpověď

0

Zde je kód, pokud začnete z spojené CSV souboru. Byste měli rozpoznat SQL funkce. Všimněte si, že používáme inferSchema možnost, aby se přímo analyzovat čísla do čtyřhry a získat správné objednání (to nebude fungovat, jak se očekávalo, s výchozí typ řetězec). Další způsob, jak by bylo obsazení sloupce po přečtení CSV.

spark.read
    .option("header", "true")
    .option("inferSchema", "true")
    .csv("walmart_stock.csv")
    .orderBy(f.col("High"), desc=True)
    .limit(1)
    .select("Date")
    .show()

což dává

+----------+
|      Date|
+----------+
|2015-11-13|
+----------+
2021-11-23 14:21:37

Vytvořil jsem tabulku s názvem walmart_stock a práci s ním. Jo, z kódu jsem dostal odpověď. Děkuji.
BEing MECHon

V jiných jazycích

Tato stránka je v jiných jazycích

Русский
..................................................................................................................
Italiano
..................................................................................................................
Polski
..................................................................................................................
Română
..................................................................................................................
한국어
..................................................................................................................
हिन्दी
..................................................................................................................
Français
..................................................................................................................
Türk
..................................................................................................................
Português
..................................................................................................................
ไทย
..................................................................................................................
中文
..................................................................................................................
Español
..................................................................................................................
Slovenský
..................................................................................................................