Вопросы по теме 'hdfs'

В чем разница между Foreman и Hue для Hadoop?
При исследовании различных платформ администрирования я хотел бы знать разницу между тем, когда использовать Foreman и Hue для Hadoop/HDFS? Спасибо.
157 просмотров
schedule 26.11.2023

Данные hdfs были повреждены. поврежденная папка не может быть удалена, так как в ней нет такого файла или каталога
Мои данные hdfs были повреждены. при выполнении fsck я получил следующий результат. / siva: блок CORRUPT blk_-1910702044505537827 / siva: блок CORRUPT blk_6483992593913191763 / siva: MISSING 2 блока общим размером 82009995 B.Status: CORRUPT...
559 просмотров
schedule 19.01.2024

Конфигурация CDH 5.9 dfs.datanode.data.dir
Я установил CDH 5.9 с помощью Cloudera Manager Installer, где указал каталоги для метаданных HDFS (/dfs/nn) и фактических данных (/dfs/dn). После установки HDFS работает корректно и сохраняет метаданные и данные в местах, определенных в Claudera...
257 просмотров
schedule 30.10.2023

Импорт sqoop не идентифицирует таблицы mysql, показывая ошибку ClassNotFountException
У меня есть таблица mysql «клиенты», и я попытался импортировать данные из mysql в местоположение hdfs, используя импорт sqoop. Ниже приведены версии, которые я установил на свой компьютер: версия sqoop: 1.4.6 версия hive: 2.3.0 версия Hadoop: 2.8.1...
411 просмотров
schedule 06.12.2023

Как загрузить файлы Hadoop (на HDFS) через FTP?
Я хотел бы реализовать задание SSIS, которое может загружать большие файлы CSV, расположенные в удаленном кластере Hadoop. Конечно, наличие обычного FTP-сервера в системе Hadoop не раскрывает файлы HDFS, поскольку он использует локальную файловую...
710 просмотров
schedule 26.11.2023

Файлы каталогов не копируются в HDFS с помощью команды «hadoop fs -put ‹мой локальный путь› ‹путь hdfs›
Я копирую обработанный файл свиньи в локальной системе в путь HDFS (который связан с таблицей HIVE), указав команду ниже, но это не копирование. Шаг 1: данные находятся на моем локальном пути [root@quickstart plantoutput]# ll total 4...
346 просмотров
schedule 27.12.2023

Задание структурированной потоковой передачи Spark завершено без уведомления
У меня есть задание структурированной потоковой передачи Spark, которое незаметно завершилось без явных сообщений об ошибках в журналах приложений. Он работал нормально около 10 часов, а затем начал выдавать несколько нефатальных сообщений об...
602 просмотров

В чем разница между озером данных с HDFS или S3 в AWS?
Мне нужно создать озеро данных на AWS, но я не знаю, чем именно S3 отличается от HDFS. Я нашел несколько ответов в Интернете, но я до сих пор не понимаю реальной разницы. Мне также нужно знать, есть ли у кого-то архитектура озера данных HDFS и S3...
1226 просмотров
schedule 13.11.2023

Команда копирования Hadoop fs?
Извините, если это довольно простой вопрос, но я ничего не нашел в Интернете, и мне просто нужен был быстрый ответ. Я пытаюсь скопировать файлы из одного каталога HDFS в новый каталог, чтобы сделать резервную копию. Мне дали что-то вроде этого:...
27 просмотров
schedule 08.11.2023