Pertanyaan tentang topik tersebut 'spark-streaming'

Pertanyaan Desain Spark Streaming
Saya baru dalam percikan. Saya ingin melakukan pengaturan streaming percikan untuk mengambil pasangan nilai kunci dari file berformat di bawah ini: berkas: info1 Catatan: Setiap file info akan memiliki sekitar 1000 catatan ini. Dan...
80 dilihat
schedule 18.01.2024

Spark Streaming + Kinesis : Penerima MaxRate dilanggar
Saya memanggil spark-submit dengan meneruskan maxRate, saya memiliki satu penerima kinesis, dan kumpulan 1 detik spark-submit --conf spark.streaming.receiver.maxRate=10 .... namun satu batch bisa jauh melebihi maxRate yang ditetapkan. yaitu:...
479 dilihat

Kapan blok Spark RDD dibuat dan dihancurkan/dihapus?
Ada kolom bernama RDD blok di Spark UI di tab pelaksana. Salah satu pengamatan yang dilakukan adalah jumlah RDD blok terus meningkat untuk tugas streaming tertentu yang mana pesan dialirkan dari Kafka. Pelaksana tertentu dihapus secara...
1680 dilihat
schedule 03.12.2023