Вопросы по теме 'spark-streaming'

Вопрос о дизайне Spark Streaming
Я новичок в искре. Я хотел выполнить настройку потоковой передачи искры, чтобы получить пары значений ключа из файлов формата ниже: файл: информация1 Примечание. Каждый информационный файл будет содержать около 1000 таких записей. И...
80 просмотров
schedule 18.01.2024

Spark Streaming + Kinesis: нарушена максимальная скорость приемника
Я вызываю spark-submit, передавая maxRate, у меня есть один приемник kinesis и пакеты из 1 с. spark-submit --conf spark.streaming.receiver.maxRate=10 .... однако одна партия может значительно превышать установленную максимальную скорость. то...
479 просмотров

Когда создаются и уничтожаются / удаляются блоки Spark RDD?
В пользовательском интерфейсе Spark на вкладке исполнителей есть столбец с названием RDD блоки. Было сделано одно наблюдение: количество блоков RDD продолжает увеличиваться для конкретного задания потоковой передачи, когда сообщения передаются из...
1680 просмотров
schedule 03.12.2023