คำถามในหัวข้อ 'apache-kafka'

ปัญหา PySpark สตรีมมิ่งจาก Kafka
ฉันพยายามเชื่อมต่อกับสตรีม kafka(0.9.0) ผ่าน pyspark สำหรับหนึ่งในแอปพลิเคชันของฉัน ประสบปัญหาดังต่อไปนี้: ขั้นตอนที่ดำเนินการ เริ่มคาฟคาโดยใช้คำสั่งต่อไปนี้ bin/zookeeper-server-start.sh config/zookeeper.properties...
465 มุมมอง

Spring Cloud Streams ไม่ได้ตั้งค่าคีย์ kafka ในข้อความใช่ไหม
เรื่องราวก็เป็นเช่นนี้ ฉันมีนายหน้าคาฟคาและวัตถุเฉพาะ (ซึ่งฉัน jsonify ส่งผ่านหัวข้อของฉัน) ซึ่งมี ID ที่ฉันต้องการใช้เป็นกุญแจ ขณะนี้ฉันกำลังใช้การกำหนดค่า 'partitionKeyExtractorClass' เพื่อตั้งค่าคลาสที่จะแยก ID และส่งคืนเป็นคีย์...
2222 มุมมอง

Spring Cloud Stream Kafka รองรับส่วนหัวแบบฝังหรือไม่
ตามหัวข้อนี้: Kafka Spring Integration: Headers not มาสำหรับผู้บริโภคคาฟคา - นี่ไม่ใช่การสนับสนุนส่วนหัวสำหรับคาฟคา แต่ เอกสารประกอบ พูดว่า: spring.cloud.stream.kafka.binder.headers รายการส่วนหัวแบบกำหนดเองที่จะถูกส่งโดย Binder...
3949 มุมมอง

เป็นเรื่องปกติที่จะมีหัวข้อคาฟคาต่อชั่วโมงหรือต่อวัน?
ฉันกำลังบันทึกการเข้าชมหน้าและคำค้นหา (การวิเคราะห์สตรีมการคลิกบางประเภท) ไปที่คาฟคา ฉันตั้งใจที่จะประมวลผลพวกมันเป็นชุดเป็นระยะ เช่น ต่อชั่วโมงหรือต่อวัน จากนั้นจึงเขียนผลลัพธ์แบบรวมไปยัง ElasticSearch หากไม่ได้เขียนลงใน kafka...
1163 มุมมอง
schedule 06.11.2023

วิธีรับทราบค่าชดเชยปัจจุบันใน spring kafka สำหรับการคอมมิตแบบแมนนวล
ฉันใช้ Spring Kafka ครั้งแรกและฉันไม่สามารถใช้เมธอด Acknowledgement.acknowledge() สำหรับการคอมมิตด้วยตนเองในโค้ดผู้บริโภคของฉันได้ โปรดแจ้งให้เราทราบหากมีสิ่งใดขาดหายไปในการกำหนดค่าผู้บริโภคหรือรหัสผู้ฟังของฉัน...
36531 มุมมอง
schedule 19.12.2023

Kafka Stream Topology ในหลายอินสแตนซ์
เรามีโทโพโลยีสตรีมที่จะทำงานกับเครื่องหลายเครื่อง เรากำลังจัดเก็บผลลัพธ์การรวมกลุ่มที่มีกรอบเวลาไว้ในร้านค้าของรัฐ เนื่องจากร้านค้าของรัฐกำลังจัดเก็บข้อมูลในเครื่อง การรวมจึงควรดำเนินการในหัวข้ออื่นสำหรับการรวมโดยรวม ฉันคิดว่า...
673 มุมมอง

ไม่สามารถสร้างข้อความคาฟคาจากคลัสเตอร์ AWS Kafka ภายนอกได้
ฉันมีปัญหาดังต่อไปนี้: ฉันตั้งค่าแพลตฟอร์มที่ไหลมารวมกันขั้นพื้นฐานที่สุดเท่าที่จะเป็นไปได้บน aws โดยใช้เพียง 1 ตัวทำงานและโหนดนายหน้า เมื่อฉันพยายามสร้างข้อความไปยังหัวข้อ kafka ของฉันจากภายนอก vpc ฉันได้รับข้อความแสดงข้อผิดพลาดต่อไปนี้:...
157 มุมมอง

ไม่สามารถกำหนดพาร์ติชันหัวข้อคาฟคาใหม่ได้
เวอร์ชันของ kafka คือ kafka_2.12-2.2.0 ส่วนผู้ดูแลสัตว์คือ 3.5.4-เบต้า 1.เริ่มต้นนายหน้า 0 ./bin/kafka-server-start.sh -daemon config/server.properties 2.สร้างหัวข้อชื่อ test ./bin/kafka-topics.sh --zookeeper 192.168.18.128:2181/kafka...
1133 มุมมอง
schedule 13.11.2023

คาฟคาจะเกิดอะไรขึ้นกับข้อความหากสมาชิกกลุ่มผู้บริโภคล่ม?
สมมติว่าเรามีหัวข้อชื่อ Topic และกลุ่มผู้บริโภค CG ที่มีผู้บริโภคสามคน ออฟเซ็ตกลุ่มเท่ากับ 0 ผู้บริโภคเริ่มอ่านข้อความ ลำดับการอ่าน: ผู้บริโภค 1 อ่านข้อความ 1 ผู้บริโภค 2 อ่านข้อความ 2 ผู้บริโภค 3 อ่านข้อความ 3 ผู้บริโภค 2...
551 มุมมอง
schedule 28.10.2023

Java Spring boot kafka ลบข้อความออกจากหัวข้อพร้อมออฟเซ็ต
ฉันกำลังพยายามสร้างแอพ spring boot (java) ที่ต้องสามารถลบข้อความออกจากหัวข้อคาฟคาโดยให้หมายเลขออฟเซ็ตและพาร์ติชัน ฉันเคยค้นคว้าคลาสแพ็คเกจ java หรือ spring boot ที่สามารถทำได้ แต่ฉันพบบางอย่างเช่นนี้: ลบข้อความจากหัวข้อใน Apache Kafka มีไคลเอ็นต์...
901 มุมมอง
schedule 24.11.2023

SpringBoot Kafka: ไม่ได้โหลดวิธี Bean 'kafkaTemplate' ใน 'KafkaAutoConfiguration'
ฉันใช้ springboot และพยายามเขียน KafkaProducer เพื่อส่งข้อความในคิว Kafka ฉันได้สร้างวิธีการเหล่านี้ในคลาส @Configuration @Bean public KafkaTemplate<String, String> kafkaTemplate(){ return new KafkaTemplate<>(producerFactory()); }...
1398 มุมมอง

Quarkus Kafka - ผู้ใช้ข้อความแบบกลุ่ม/จำนวนมาก
ฉันต้องการประมวลผลเป็นชุด ในกรณีการใช้งานของฉัน ข้อความ send kafka Producer จะถูกส่งไปทีละข้อความ ฉันต้องการอ่านเป็นรายการในแอปพลิเคชันสำหรับผู้บริโภค ฉันสามารถทำได้ที่ห้องสมุด Spring Kafka ผู้ฟังแบบแบตช์ Spring Kafka...
452 มุมมอง