Skip to main content
Edit this page

Настройки MergeTree таблиц

Значения настроек всех MergeTree таблиц собраны в таблице system.merge_tree_settings. Их можно переопределить в разделе merge_tree файла config.xml или задать в секции SETTINGS каждой таблицы.

Пример переопределения в config.xml:

<merge_tree>
    <max_suspicious_broken_parts>5</max_suspicious_broken_parts>
</merge_tree>

Пример установки SETTINGS для конкретной таблицы:

CREATE TABLE foo
(
    `A` Int64
)
ENGINE = MergeTree
ORDER BY tuple()
SETTINGS max_suspicious_broken_parts = 500;

Пример изменения настроек для конкретной таблицы при помощи команды ALTER TABLE ... MODIFY SETTING:

ALTER TABLE foo
    MODIFY SETTING max_suspicious_broken_parts = 100;

parts_to_throw_insert​

Eсли число активных кусков в партиции больше значения parts_to_throw_insert, то INSERT прерывается с исключением: Too many parts (N). Merges are processing significantly slower than inserts.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 300.

Чтобы производительность запросов SELECT стала максимальной, необходимо минимизировать количество обрабатываемых кусков, см. Дизайн MergeTree.

Можно установить значение больше — 600 (1200) кусков. Тогда ошибка Too many parts будет появляться реже, но при этом могут возникнуть проблемы с фоновыми слияниями и производительностью SELECT-запросов.

parts_to_delay_insert​

Eсли число кусков в партиции больше значения parts_to_delay_insert, то INSERT искусственно замедляется.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 150.

ClickHouse искусственно выполняет INSERT дольше (добавляет ‘sleep’) так, чтобы куски сливались в фоновом процессе быстрее, чем добавляются.

inactive_parts_to_throw_insert​

Если число неактивных кусков в партиции больше значения inactive_parts_to_throw_insert, то INSERT прерывается с исключением Too many inactive parts (N). Parts cleaning are processing significantly slower than inserts.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 0 (без ограничений).

inactive_parts_to_delay_insert​

Если число неактивных кусков в партиции больше или равно значению inactive_parts_to_delay_insert, то INSERT искусственно замедляется. Это помогает, когда сервер не может быстро очистить неактивные куски.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 0 (без ограничений).

max_delay_to_insert​

Величина в секундах, которая используется для расчета задержки INSERT в случаях, когда число кусков в партиции больше значения parts_to_delay_insert.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 1.

Величина задержки (в миллисекундах) для INSERT вычисляется по формуле:

max_k = parts_to_throw_insert - parts_to_delay_insert
k = 1 + parts_count_in_partition - parts_to_delay_insert
delay_milliseconds = pow(max_delay_to_insert * 1000, k / max_k)

Т.е. если в партиции уже 299 кусков и parts_to_throw_insert = 300, parts_to_delay_insert = 150, а max_delay_to_insert = 1, то INSERT замедлится на pow( 1 * 1000, (1 + 299 - 150) / (300 - 150) ) = 1000 миллисекунд.

max_parts_in_total​

Eсли суммарное число активных кусков во всех партициях таблицы больше значения max_parts_in_total, то INSERT прерывается с исключением Too many parts (N).

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 100000.

С большим числом кусков в таблице производительность запросов ClickHouse снижается, а время старта ClickHouse — увеличивается. Чаще всего это следствие неправильного дизайна (ошибки выбора стратегии партиционирования, например, слишком мелкие партиции).

replicated_deduplication_window​

Количество хеш-сумм последних вставленных блоков, которые хранятся в Zookeeper.

Возможные значения:

  • Положительное целое число.
  • 0 (без ограничений).

Значение по умолчанию: 1000.

Команда Insert создает один или несколько блоков (кусков). При вставке в Replicated таблицы ClickHouse для дедупликации вставок записывает в Zookeeper хеш-суммы созданных кусков. Но хранятся только последние replicated_deduplication_window хеш-сумм. Самые старые хеш-суммы удаляются из Zookeeper. Большое значение replicated_deduplication_window замедляет Insert, так как приходится сравнивать большее количество хеш-сумм. Хеш-сумма рассчитывается по названиям и типам полей, а также по данным вставленного куска (потока байт).

non_replicated_deduplication_window​

Количество последних вставленных блоков в нереплицированной MergeTree таблице, для которых хранятся хеш-суммы для проверки дубликатов.

Возможные значения:

  • Положительное целое число.
  • 0 (дедупликация отключена).

Значение по умолчанию: 0.

Используется механизм дедупликации, аналогичный реплицированным таблицам (см. описание настройки replicated_deduplication_window). Хеш-суммы вставленных кусков записываются в локальный файл на диске.

replicated_deduplication_window_seconds​

Время хранения (в секундах) хеш-сумм вставленных блоков в Zookeeper. По истечении этого времени хеш-суммы удаляются.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 604800 (1 неделя).

Аналогично replicated_deduplication_window, настройка replicated_deduplication_window_seconds задает время хранения хеш-сумм блоков для дедупликции Insert. Хеш-суммы старше значения replicated_deduplication_window_seconds удаляются из Zookeeper, даже если количество оставшихся хеш-сумм станет меньше чем replicated_deduplication_window.

old_parts_lifetime​

Время (в секундах) хранения неактивных кусков для защиты от потери данных при спонтанной перезагрузке сервера.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 480.

После объединения нескольких кусков в один новый ClickHouse помечает исходные куски как неактивные и удаляет их по прошествии old_parts_lifetime секунд. Неактивные куски удаляются, если они не нужны для текущих запросов, т.е. если счетчик ссылок куска refcount имеет нулевое значение.

При записи нового куска fsync не вызывается, поэтому неактивные куски удаляются позже. Это значит, что некоторое время новый кусок находится только в оперативной памяти сервера (кеш ОС). Если сервер перезагрузится спонтанно, новый слитый кусок может испортиться или потеряться.

Во время запуска сервер ClickHouse проверяет целостность кусков. Если новый (слитый) кусок поврежден, ClickHouse возвращает неактивные куски в список активных и позже снова выполняет слияние. В этом случае испорченный кусок получает новое имя (добавляется префикс broken_) и попадает в каталог detached. Если проверка целостности не выявляет проблем в слитом куске, то исходные неактивные куски переименовываются (добавляется префикс ignored_) и перемещаются в каталог detached.

Стандартное для Linux значение dirty_expire_centisecs — 30 секунд. Это максимальное время, в течение которого записанные данные хранятся только в оперативной памяти. Если нагрузка на дисковую систему большая, то данные записываются намного позже. Значение 480 секунд подобрали экспериментальным путем — это время, за которое новый кусок гарантированно запишется на диск.

replicated_fetches_http_connection_timeout​

Тайм-аут HTTP-соединения (в секундах) для запросов на скачивание кусков. Наследуется из профиля по умолчанию http_connection_timeout, если не задан явно.

Возможные значения:

  • 0 - используется значение http_connection_timeout.
  • Любое положительное целое число.

Значение по умолчанию: 0.

replicated_fetches_http_send_timeout​

Тайм-аут (в секундах) для отправки HTTP-запросов на скачивание кусков. Наследуется из профиля по умолчанию http_send_timeout, если не задан явно.

Возможные значения:

  • 0 - используется значение http_send_timeout.
  • Любое положительное целое число.

Значение по умолчанию: 0.

replicated_fetches_http_receive_timeout​

Тайм-аут (в секундах) для получения HTTP-запросов на скачивание кусков. Наследуется из профиля по умолчанию http_receive_timeout, если не задан явно.

Возможные значения:

  • 0 - используется значение http_receive_timeout.
  • Любое положительное целое число.

Значение по умолчанию: 0.

max_replicated_fetches_network_bandwidth​

Ограничивает максимальную скорость скачивания данных в сети (в байтах в секунду) для синхронизаций между репликами. Настройка применяется к конкретной таблице, в отличие от max_replicated_fetches_network_bandwidth_for_server, которая применяется к серверу.

Можно ограничить скорость обмена данными как для всего сервера, так и для конкретной таблицы, но для этого значение табличной настройки должно быть меньше серверной. Иначе сервер будет учитывать только настройку max_replicated_fetches_network_bandwidth_for_server.

Настройка соблюдается неточно.

Возможные значения:

  • Любое целое положительное число.
  • 0 — Скорость не ограничена.

Значение по умолчанию: 0.

Использование

Может быть использована для ограничения скорости передачи данных при репликации данных для добавления или замены новых узлов.

max_replicated_sends_network_bandwidth​

Ограничивает максимальную скорость отправки данных по сети (в байтах в секунду) для синхронизации между репликами. Настройка применяется к конкретной таблице, в отличие от max_replicated_sends_network_bandwidth_for_server, которая применяется к серверу.

Можно ограничить скорость обмена данными как для всего сервера, так и для конкретной таблицы, но для этого значение табличной настройки должно быть меньше серверной. Иначе сервер будет учитывать только настройку max_replicated_sends_network_bandwidth_for_server.

Настройка следуется неточно.

Возможные значения:

  • Любое целое положительное число.
  • 0 — Скорость не ограничена.

Значение по умолчанию: 0.

Использование

Может быть использована для ограничения скорости сети при репликации данных для добавления или замены новых узлов.

max_bytes_to_merge_at_max_space_in_pool​

Максимальный суммарный размер кусков (в байтах) в одном слиянии, если есть свободные ресурсы в фоновом пуле. max_bytes_to_merge_at_max_space_in_pool примерно соответствует максимально возможному размеру куска, созданного автоматическим фоновым слиянием.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 161061273600 (150ГБ).

Планировщик слияний периодически анализирует размер и количество кусков в партициях, и если в пуле хватает ресурсов, то начинает фоновое слияние. Слияния выполняются до тех пор, пока суммарный размер входных кусков не достигнет max_bytes_to_merge_at_max_space_in_pool.

Слияния, начатые по OPTIMIZE FINAL, не учитывают max_bytes_to_merge_at_max_space_in_pool и объединяют куски пока есть доступные ресурсы (свободное дисковое пространство) до тех пор, пока в партиции не останется один кусок.

max_bytes_to_merge_at_min_space_in_pool​

Максимальный суммарный размер кусков (в байтах) в одном слиянии при минимуме свободных ресурсов в фоновом пуле.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 1048576 (1 МБ).

max_bytes_to_merge_at_min_space_in_pool задает максимальный суммарный размер кусков, которые можно объединить несмотря на нехватку свободных ресурсов (дискового пространства) в фоновом пуле. Это нужно, чтобы уменьшить количество маленьких кусков и снизить вероятность ошибки Too many parts.

Слияния резервируют дисковое пространство, удваивая суммарный размер кусков в слиянии. Поэтому при малом объеме свободного места на диске может сложиться ситуация, когда свободное место есть, но оно уже зарезервировано текущими слияниями. Из-за этого другие слияния не начинаются, и количество маленьких кусков в партиции растет с каждым запросом INSERT.

merge_max_block_size​

Количество строк в блоках, которые читаются из объединяемых кусков.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 8192

Слияние читает строки из кусков блоками по merge_max_block_size строк, производит слияние и записывает результат в новый кусок. Читаемый блок помещается в оперативную память, т.е. merge_max_block_size влияет на размер оперативной памяти, необходимой для слияния. Таким образом, слияния могут потреблять большое количество оперативной памяти для таблиц, хранящих очень большие строки (если средний размер строки 100кб, то при слиянии 10 кусков будет использовано (100кб 10 8192) =~ 8ГБ оперативной памяти). Уменьшив merge_max_block_size, можно сократить размер оперативной памяти, необходимой для слияния, но при этом процесс слияния замедлится.

max_part_loading_threads​

Максимальное количество потоков, которые читают куски при старте ClickHouse.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: определяется автоматически (по количеству ядер процессора).

На старте ClickHouse читает все куски из всех таблиц (читает файлы с метаданными кусков), чтобы построить в оперативной памяти список всех кусков. В некоторых системах с большим количеством кусков этот процесс может занимать длительное время. Это время можно сократить, увеличив max_part_loading_threads (если при этом хватает ресурсов процессора и диска).

max_partitions_to_read​

Ограничивает максимальное число партиций для чтения в одном запросе.

Указанное при создании таблицы значение настройки может быть переназначено настройкой на уровне запроса.

Возможные значения:

  • Любое положительное целое число.

Значение по умолчанию: -1 (неограниченно).

allow_floating_point_partition_key​

Позволяет использовать число с плавающей запятой в качестве ключа партиционирования.

Возможные значения:

  • 0 — Ключ партиционирования с плавающей запятой не разрешен.
  • 1 — Ключ партиционирования с плавающей запятой разрешен.

Значение по умолчанию: 0.

check_sample_column_is_correct​

Разрешает проверку того, что тип данных столбца для сэмплирования или выражения сэмплирования при создании таблицы верный. Тип данных должен соответствовать одному из беззнаковых целочисленных типов: UInt8, UInt16, UInt32, UInt64.

Возможные значения:

  • true — проверка включена.
  • false — проверка при создании таблицы не проводится.

Значение по умолчанию: true.

По умолчанию сервер ClickHouse при создании таблицы проверяет тип данных столбца для сэмплирования или выражения сэмплирования. Если уже существуют таблицы с некорректным выражением сэмплирования, то чтобы не возникало исключение при запуске сервера, установите check_sample_column_is_correct в значение false.

min_bytes_to_rebalance_partition_over_jbod​

Устанавливает минимальное количество байтов для обеспечения балансировки при распределении новых больших кусков данных по дискам тома JBOD.

Возможные значения:

  • Положительное целое число.
  • 0 — балансировка отключена.

Значение по умолчанию: 0.

Использование

Значение настройки min_bytes_to_rebalance_partition_over_jbod должно быть не меньше значения настройки max_bytes_to_merge_at_max_space_in_pool / 1024. Иначе ClickHouse сгенерирует исключение.

detach_not_byte_identical_parts​

Настраивает отключение куска данных после выполнения слияния или мутации, если на одной реплике его содержимое побайтно не совпадает с кусками на других репликах. Если настройка отключена, то кусок удаляется. Активируйте это поведение, если хотите анализировать такие куски позже.

Эта настройка применяется к таблицам MergeTree с включенной репликацией данных.

Возможные значения:

  • 0 — куски данных удаляются.
  • 1 — куски данных открепляются.

Значение по умолчанию: 0.

merge_tree_clear_old_temporary_directories_interval_seconds​

Задает интервал в секундах для удаления старых временных каталогов на сервере ClickHouse.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 60 секунд.

merge_tree_clear_old_parts_interval_seconds​

Задает интервал в секундах для удаления старых кусков данных, журналов предзаписи (WAL) и мутаций на сервере ClickHouse.

Возможные значения:

  • Положительное целое число.

Значение по умолчанию: 1 секунда.