คำถามในหัวข้อ 'apache-kafka'
ปัญหา PySpark สตรีมมิ่งจาก Kafka
ฉันพยายามเชื่อมต่อกับสตรีม kafka(0.9.0) ผ่าน pyspark สำหรับหนึ่งในแอปพลิเคชันของฉัน ประสบปัญหาดังต่อไปนี้:
ขั้นตอนที่ดำเนินการ
เริ่มคาฟคาโดยใช้คำสั่งต่อไปนี้
bin/zookeeper-server-start.sh config/zookeeper.properties...
465 มุมมอง
schedule
04.11.2023
Spring Cloud Streams ไม่ได้ตั้งค่าคีย์ kafka ในข้อความใช่ไหม
เรื่องราวก็เป็นเช่นนี้ ฉันมีนายหน้าคาฟคาและวัตถุเฉพาะ (ซึ่งฉัน jsonify ส่งผ่านหัวข้อของฉัน) ซึ่งมี ID ที่ฉันต้องการใช้เป็นกุญแจ
ขณะนี้ฉันกำลังใช้การกำหนดค่า 'partitionKeyExtractorClass' เพื่อตั้งค่าคลาสที่จะแยก ID และส่งคืนเป็นคีย์...
2222 มุมมอง
schedule
22.12.2023
Spring Cloud Stream Kafka รองรับส่วนหัวแบบฝังหรือไม่
ตามหัวข้อนี้: Kafka Spring Integration: Headers not มาสำหรับผู้บริโภคคาฟคา - นี่ไม่ใช่การสนับสนุนส่วนหัวสำหรับคาฟคา
แต่ เอกสารประกอบ พูดว่า:
spring.cloud.stream.kafka.binder.headers รายการส่วนหัวแบบกำหนดเองที่จะถูกส่งโดย Binder...
3949 มุมมอง
schedule
20.11.2023
เป็นเรื่องปกติที่จะมีหัวข้อคาฟคาต่อชั่วโมงหรือต่อวัน?
ฉันกำลังบันทึกการเข้าชมหน้าและคำค้นหา (การวิเคราะห์สตรีมการคลิกบางประเภท) ไปที่คาฟคา ฉันตั้งใจที่จะประมวลผลพวกมันเป็นชุดเป็นระยะ เช่น ต่อชั่วโมงหรือต่อวัน จากนั้นจึงเขียนผลลัพธ์แบบรวมไปยัง ElasticSearch
หากไม่ได้เขียนลงใน kafka...
1163 มุมมอง
schedule
06.11.2023
วิธีรับทราบค่าชดเชยปัจจุบันใน spring kafka สำหรับการคอมมิตแบบแมนนวล
ฉันใช้ Spring Kafka ครั้งแรกและฉันไม่สามารถใช้เมธอด Acknowledgement.acknowledge() สำหรับการคอมมิตด้วยตนเองในโค้ดผู้บริโภคของฉันได้ โปรดแจ้งให้เราทราบหากมีสิ่งใดขาดหายไปในการกำหนดค่าผู้บริโภคหรือรหัสผู้ฟังของฉัน...
36531 มุมมอง
schedule
19.12.2023
Kafka Stream Topology ในหลายอินสแตนซ์
เรามีโทโพโลยีสตรีมที่จะทำงานกับเครื่องหลายเครื่อง เรากำลังจัดเก็บผลลัพธ์การรวมกลุ่มที่มีกรอบเวลาไว้ในร้านค้าของรัฐ เนื่องจากร้านค้าของรัฐกำลังจัดเก็บข้อมูลในเครื่อง การรวมจึงควรดำเนินการในหัวข้ออื่นสำหรับการรวมโดยรวม ฉันคิดว่า...
673 มุมมอง
schedule
06.12.2023
ไม่สามารถสร้างข้อความคาฟคาจากคลัสเตอร์ AWS Kafka ภายนอกได้
ฉันมีปัญหาดังต่อไปนี้:
ฉันตั้งค่าแพลตฟอร์มที่ไหลมารวมกันขั้นพื้นฐานที่สุดเท่าที่จะเป็นไปได้บน aws โดยใช้เพียง 1 ตัวทำงานและโหนดนายหน้า
เมื่อฉันพยายามสร้างข้อความไปยังหัวข้อ kafka ของฉันจากภายนอก vpc ฉันได้รับข้อความแสดงข้อผิดพลาดต่อไปนี้:...
157 มุมมอง
schedule
15.12.2023
ไม่สามารถกำหนดพาร์ติชันหัวข้อคาฟคาใหม่ได้
เวอร์ชันของ kafka คือ kafka_2.12-2.2.0 ส่วนผู้ดูแลสัตว์คือ 3.5.4-เบต้า
1.เริ่มต้นนายหน้า 0
./bin/kafka-server-start.sh -daemon config/server.properties
2.สร้างหัวข้อชื่อ test
./bin/kafka-topics.sh --zookeeper 192.168.18.128:2181/kafka...
1133 มุมมอง
schedule
13.11.2023
คาฟคาจะเกิดอะไรขึ้นกับข้อความหากสมาชิกกลุ่มผู้บริโภคล่ม?
สมมติว่าเรามีหัวข้อชื่อ Topic และกลุ่มผู้บริโภค CG ที่มีผู้บริโภคสามคน ออฟเซ็ตกลุ่มเท่ากับ 0
ผู้บริโภคเริ่มอ่านข้อความ
ลำดับการอ่าน:
ผู้บริโภค 1 อ่านข้อความ 1
ผู้บริโภค 2 อ่านข้อความ 2
ผู้บริโภค 3 อ่านข้อความ 3
ผู้บริโภค 2...
551 มุมมอง
schedule
28.10.2023
Java Spring boot kafka ลบข้อความออกจากหัวข้อพร้อมออฟเซ็ต
ฉันกำลังพยายามสร้างแอพ spring boot (java) ที่ต้องสามารถลบข้อความออกจากหัวข้อคาฟคาโดยให้หมายเลขออฟเซ็ตและพาร์ติชัน ฉันเคยค้นคว้าคลาสแพ็คเกจ java หรือ spring boot ที่สามารถทำได้ แต่ฉันพบบางอย่างเช่นนี้: ลบข้อความจากหัวข้อใน Apache Kafka มีไคลเอ็นต์...
901 มุมมอง
schedule
24.11.2023
SpringBoot Kafka: ไม่ได้โหลดวิธี Bean 'kafkaTemplate' ใน 'KafkaAutoConfiguration'
ฉันใช้ springboot และพยายามเขียน KafkaProducer เพื่อส่งข้อความในคิว Kafka ฉันได้สร้างวิธีการเหล่านี้ในคลาส @Configuration
@Bean
public KafkaTemplate<String, String> kafkaTemplate(){
return new KafkaTemplate<>(producerFactory());
}...
1398 มุมมอง
schedule
07.01.2024
Quarkus Kafka - ผู้ใช้ข้อความแบบกลุ่ม/จำนวนมาก
ฉันต้องการประมวลผลเป็นชุด ในกรณีการใช้งานของฉัน ข้อความ send kafka Producer จะถูกส่งไปทีละข้อความ ฉันต้องการอ่านเป็นรายการในแอปพลิเคชันสำหรับผู้บริโภค ฉันสามารถทำได้ที่ห้องสมุด Spring Kafka ผู้ฟังแบบแบตช์ Spring Kafka...
452 มุมมอง
schedule
04.12.2023