Jak se dostat na seznam společných přátel mezi jakoukoli dvojici přátel v síti pomocí pyspark

Question 1

Mám tři desky, jako je tato [('a1', ['b1', 'c1', 'd1', 'e1']), ('a2', ['b1', 'c2', 'd2', 'e1']),('a3', ['b1', 'c2', 'd1', 'e2'])] obsahuje id pro key jako seznam hodnot pro každý klíč.

Chci se dostat na celkový počet hodnot v seznamu pro každý klíč v pyspark.
Jak mohu získat seznam společných přátel mezi jakoukoli dvojici zloduchů v pyspark.

Question 2

1 Jednoduše použít size funkce.

df = df.withColumn('num_friends', F.expr('size(friends)'))

2 Pomocí array_intersect funkce k získání průsečíku polí.

cp_df = df.toDF('key_pair', 'friends_pair')
cross_df = df.crossJoin(cp_df).filter('key!=key_pair')
cross_df = cross_df.select(F.create_map('key', 'key_pair').alias('key_pair'),
                           F.array_intersect('friends', 'friends_pair').alias('common_friends'))
cross_df.show(truncate=False)

过过招 · Answer 1 · 2021-11-24T02:39:00

1 Jednoduše použít size funkce.

df = df.withColumn('num_friends', F.expr('size(friends)'))

2 Pomocí array_intersect funkce k získání průsečíku polí.

cp_df = df.toDF('key_pair', 'friends_pair')
cross_df = df.crossJoin(cp_df).filter('key!=key_pair')
cross_df = cross_df.select(F.create_map('key', 'key_pair').alias('key_pair'),
                           F.array_intersect('friends', 'friends_pair').alias('common_friends'))
cross_df.show(truncate=False)

Jak se dostat na seznam společných přátel mezi jakoukoli dvojici přátel v síti pomocí pyspark

Otázka

Nejlepší odpověď

V jiných jazycích

Tato stránka je v jiných jazycích

Populární v této kategorii

Oblíbené položky v této kategorii