Вопросы по теме 'apache-kafka'

PySpark Проблемы с потоковой передачей из Kafka
Я пытался подключиться к потоку kafka (0.9.0) через pyspark для одного из моих приложений. Столкнулся со следующей проблемой: Предпринятые шаги Запустил кафку, используя следующие команды bin/zookeeper-server-start.sh...
465 просмотров

Spring Cloud Streams не устанавливает ключ kafka в сообщении?
История такая. У меня есть брокер kafka и конкретный объект (который я jsonify для отправки через мои темы), у которого есть идентификатор, который я хочу использовать в качестве ключа. В настоящее время я использую конфигурацию...
2222 просмотров

Поддерживает ли Spring Cloud Stream Kafka встроенные заголовки?
Согласно этой теме: Интеграция Kafka Spring: заголовки не идет для потребителя kafka - это не поддержка заголовков для Kafka Но документация говорит: spring.cloud.stream.kafka.binder.headers Список настраиваемых заголовков, которые...
3949 просмотров

Типично ли иметь тему кафки в час или в день?
Я регистрирую посещения страниц и поисковые запросы (какой-то анализ потока кликов) в kafka. Я намерен периодически обрабатывать их в пакетном режиме, скажем, в час или в день, а затем записывать агрегированные результаты в elasticsearch. Если он...
1163 просмотров
schedule 06.11.2023

Как подтвердить текущее смещение в Spring Kafka для ручной фиксации
Я впервые использую Spring Kafka, и я не могу использовать метод Acknowledgement.acknowledge () для ручной фиксации в моем пользовательском коде. пожалуйста, дайте мне знать, если что-то отсутствует в моей конфигурации потребителя или коде слушателя....
36531 просмотров
schedule 19.12.2023

Топология потока Kafka на нескольких экземплярах
У нас есть топология потоков, которая будет работать на нескольких машинах. Мы сохраняем результаты агрегирования с временным окном в хранилище состояний. Поскольку хранилища состояний хранят локальные данные, я думаю, что агрегирование должно...
673 просмотров

Невозможно создавать kafka-сообщения из-за пределов кластера AWS Kafka
У меня следующая проблема: Я настроил как можно более простую конфлюентную платформу на aws, используя только 1 рабочий и брокерский узел. Когда я пытаюсь создать сообщения в моей теме kafka извне моего vpc, я получаю следующее сообщение об...
157 просмотров

Невозможно переназначить раздел темы кафки
Версия kafka — kafka_2.12-2.2.0, zookeeper — 3.5.4-beta. 1.стартовый брокер 0 ./bin/kafka-server-start.sh -daemon config/server.properties 2.создайте тему под названием test ./bin/kafka-topics.sh --zookeeper 192.168.18.128:2181/kafka...
1133 просмотров
schedule 13.11.2023

Кафка, что будет с сообщением, если член группы потребителей выйдет из строя?
Предположим, у нас есть тема с именем Topic и группа потребителей CG с тремя потребителями. Смещение группы равно 0. Потребители начинают читать сообщения. Последовательность чтения: Потребитель 1 читает сообщение 1. Потребитель 2...
551 просмотров
schedule 28.10.2023

Java Spring boot kafka удалить сообщение из темы со смещением
Я пытаюсь создать приложение для весенней загрузки (java), которое должно иметь возможность удалять сообщение из темы kafka, указав его номер смещения и раздел. Я исследовал классы загрузочного пакета java или spring, которые могут это сделать, но я...
901 просмотров
schedule 24.11.2023

SpringBoot Kafka: метод компонента 'kafkaTemplate' в 'KafkaAutoConfiguration' не загружен
Я использую springboot и пытаюсь написать KafkaProducer для отправки сообщений в очередь Kafka. Я создал эти методы в классе @Configuration. @Bean public KafkaTemplate<String, String> kafkaTemplate(){ return new...
1398 просмотров

Quarkus Kafka - потребитель пакетных / массовых сообщений
Я хочу пакетный процесс. В моем случае отправки сообщения производителя kafka отправляются одно за другим. Я хочу прочитать их как список в потребительском приложении. Я могу сделать это в библиотеке Spring Kafka. пакетный прослушиватель Spring...
452 просмотров