Pertanyaan tentang topik tersebut 'spark-streaming'
Pertanyaan Desain Spark Streaming
Saya baru dalam percikan. Saya ingin melakukan pengaturan streaming percikan untuk mengambil pasangan nilai kunci dari file berformat di bawah ini:
berkas: info1
Catatan: Setiap file info akan memiliki sekitar 1000 catatan ini. Dan...
80 dilihat
schedule
18.01.2024
Spark Streaming + Kinesis : Penerima MaxRate dilanggar
Saya memanggil spark-submit dengan meneruskan maxRate, saya memiliki satu penerima kinesis, dan kumpulan 1 detik
spark-submit --conf spark.streaming.receiver.maxRate=10 ....
namun satu batch bisa jauh melebihi maxRate yang ditetapkan. yaitu:...
479 dilihat
schedule
21.11.2023
Kapan blok Spark RDD dibuat dan dihancurkan/dihapus?
Ada kolom bernama RDD blok di Spark UI di tab pelaksana. Salah satu pengamatan yang dilakukan adalah jumlah RDD blok terus meningkat untuk tugas streaming tertentu yang mana pesan dialirkan dari Kafka.
Pelaksana tertentu dihapus secara...
1680 dilihat
schedule
03.12.2023