Вопросы по теме 'apache-kafka'
PySpark Проблемы с потоковой передачей из Kafka
Я пытался подключиться к потоку kafka (0.9.0) через pyspark для одного из моих приложений. Столкнулся со следующей проблемой:
Предпринятые шаги
Запустил кафку, используя следующие команды
bin/zookeeper-server-start.sh...
465 просмотров
schedule
04.11.2023
Spring Cloud Streams не устанавливает ключ kafka в сообщении?
История такая. У меня есть брокер kafka и конкретный объект (который я jsonify для отправки через мои темы), у которого есть идентификатор, который я хочу использовать в качестве ключа.
В настоящее время я использую конфигурацию...
2222 просмотров
schedule
22.12.2023
Поддерживает ли Spring Cloud Stream Kafka встроенные заголовки?
Согласно этой теме: Интеграция Kafka Spring: заголовки не идет для потребителя kafka - это не поддержка заголовков для Kafka
Но документация говорит:
spring.cloud.stream.kafka.binder.headers Список настраиваемых заголовков, которые...
3949 просмотров
schedule
20.11.2023
Типично ли иметь тему кафки в час или в день?
Я регистрирую посещения страниц и поисковые запросы (какой-то анализ потока кликов) в kafka. Я намерен периодически обрабатывать их в пакетном режиме, скажем, в час или в день, а затем записывать агрегированные результаты в elasticsearch.
Если он...
1163 просмотров
schedule
06.11.2023
Как подтвердить текущее смещение в Spring Kafka для ручной фиксации
Я впервые использую Spring Kafka, и я не могу использовать метод Acknowledgement.acknowledge () для ручной фиксации в моем пользовательском коде. пожалуйста, дайте мне знать, если что-то отсутствует в моей конфигурации потребителя или коде слушателя....
36531 просмотров
schedule
19.12.2023
Топология потока Kafka на нескольких экземплярах
У нас есть топология потоков, которая будет работать на нескольких машинах. Мы сохраняем результаты агрегирования с временным окном в хранилище состояний. Поскольку хранилища состояний хранят локальные данные, я думаю, что агрегирование должно...
673 просмотров
schedule
06.12.2023
Невозможно создавать kafka-сообщения из-за пределов кластера AWS Kafka
У меня следующая проблема:
Я настроил как можно более простую конфлюентную платформу на aws, используя только 1 рабочий и брокерский узел.
Когда я пытаюсь создать сообщения в моей теме kafka извне моего vpc, я получаю следующее сообщение об...
157 просмотров
schedule
15.12.2023
Невозможно переназначить раздел темы кафки
Версия kafka — kafka_2.12-2.2.0, zookeeper — 3.5.4-beta.
1.стартовый брокер 0
./bin/kafka-server-start.sh -daemon config/server.properties
2.создайте тему под названием test
./bin/kafka-topics.sh --zookeeper 192.168.18.128:2181/kafka...
1133 просмотров
schedule
13.11.2023
Кафка, что будет с сообщением, если член группы потребителей выйдет из строя?
Предположим, у нас есть тема с именем Topic и группа потребителей CG с тремя потребителями. Смещение группы равно 0.
Потребители начинают читать сообщения.
Последовательность чтения:
Потребитель 1 читает сообщение 1.
Потребитель 2...
551 просмотров
schedule
28.10.2023
Java Spring boot kafka удалить сообщение из темы со смещением
Я пытаюсь создать приложение для весенней загрузки (java), которое должно иметь возможность удалять сообщение из темы kafka, указав его номер смещения и раздел. Я исследовал классы загрузочного пакета java или spring, которые могут это сделать, но я...
901 просмотров
schedule
24.11.2023
SpringBoot Kafka: метод компонента 'kafkaTemplate' в 'KafkaAutoConfiguration' не загружен
Я использую springboot и пытаюсь написать KafkaProducer для отправки сообщений в очередь Kafka. Я создал эти методы в классе @Configuration.
@Bean
public KafkaTemplate<String, String> kafkaTemplate(){
return new...
1398 просмотров
schedule
07.01.2024
Quarkus Kafka - потребитель пакетных / массовых сообщений
Я хочу пакетный процесс. В моем случае отправки сообщения производителя kafka отправляются одно за другим. Я хочу прочитать их как список в потребительском приложении. Я могу сделать это в библиотеке Spring Kafka. пакетный прослушиватель Spring...
452 просмотров
schedule
04.12.2023