오프라인 재색인화를 사용하여 업그레이드 중 다운타임 감소

소개

Adobe Experience Manager 업그레이드의 주요 문제 중 하나는 즉석 업그레이드가 수행될 때 작성 환경과 연결된 다운타임입니다. 컨텐츠 작성자는 업그레이드 중에 환경에 액세스할 수 없습니다. 따라서 업그레이드를 수행하는 데 걸리는 시간을 최소화하는 것이 좋습니다. 대형 저장소, 특히 일반적으로 큰 데이터 스토어와 시간당 높은 수준의 자산 업로드가 있는 AEM Assets 프로젝트의 경우 Oak 인덱스의 재색인화는 업그레이드 시간의 상당한 백분율이 필요합니다.

이 섹션에서는 Oak-run 도구를 사용하여 업그레이드를 수행하기 전에 리포지토리를 다시 색인화하는 방법을 설명합니다. 따라서 실제 업그레이드 중에 다운타임이 줄어듭니다. 제공된 단계는 AEM 6.4 이상 버전의 Lucene 인덱스에 적용할 수 있습니다.

개요

AEM의 새 버전에서는 기능 세트가 확장되면 Oak 색인 정의에 변경 사항이 적용됩니다. Oak 인덱스를 변경하면 AEM 인스턴스를 업그레이드할 때 강제로 다시 색인화가 수행됩니다. 재색인화는 자산의 텍스트(예: pdf 파일의 텍스트)가 추출되고 색인화되므로 자산 배포에 비용이 많이 듭니다. MongoMK 리포지토리를 사용하면 데이터가 네트워크를 통해 유지되므로 재색인화하는 데 걸리는 시간이 더 늘어납니다.

업그레이드 과정에서 대부분의 고객이 직면하는 문제는 다운타임 기간을 줄이는 것입니다. 업그레이드 중에 skip​재인덱싱 활동을 수행하는 것이 해결되었습니다. 이 작업은 업그레이드를 수행하는 동안 새 indeces 이전​을 작성한 다음 가져오는 방법으로 수행할 수 있습니다.

접근 방법

offline-reindexing-upgrade-text-extraction

업그레이드 전에 Oak-run 도구를 사용하여 target AEM 버전의 색인 정의에 대해 인덱스를 만드는 것이 좋습니다. 위의 다이어그램은 오프라인 재인덱싱 방법을 보여줍니다.

또한 방법에 설명된 단계 순서입니다.

  1. 바이너리의 텍스트가 먼저 추출됩니다
  2. Target 인덱스 정의가 만들어집니다
  3. 오프라인 인덱스가 만들어집니다
  4. 그런 다음 업그레이드 프로세스 중에 인덱스를 가져옵니다

텍스트 추출

AEM에서 전체 색인을 활성화하기 위해 PDF와 같은 바이너리의 텍스트가 추출되어 인덱스에 추가됩니다. 이는 일반적으로 색인 생성 프로세스에서 값비싼 단계입니다. 텍스트 추출은 많은 바이너리를 저장하므로 자산 리포지토리를 재색인화하는 데 특히 도움이 되는 최적화 단계입니다.

offline-reindexing-upgrade-text-extraction

tika 라이브러리와 함께 oak-run 도구를 사용하여 시스템에 저장된 바이너리의 텍스트를 추출할 수 있습니다. 업그레이드 전에 운영 시스템의 클론을 가져와 이 텍스트 추출 프로세스에 사용할 수 있습니다. 그런 다음 다음 다음 단계를 수행하여 텍스트 저장소를 만듭니다.

1. 리포지토리를 트래버스하고 바이너리 세부 정보 수집

이 단계에서는 경로 및 Blob ID가 포함된 이진 파일이 포함된 CSV 파일을 생성합니다.

인덱스를 만들 디렉토리에서 아래 명령을 실행합니다. 아래 예에서는 저장소 홈 디렉토리를 가정합니다.

java java -jar oak-run.jar tika <nodestore path> --fds-path <datastore path> --data-file text-extraction/oak-binary-stats.csv --generate

여기서 nodestore pathmongo_ur 또는 crx-quickstart/repository/segmentstore/입니다.

–fds-path 대신 --fake-ds-path=temp 매개 변수를 사용하여 프로세스를 가속화합니다.

2. 기존 인덱스​에서 사용할 수 있는 이진 텍스트 저장소를 다시 사용합니다.

기존 시스템에서 인덱스 데이터를 덤프하고 텍스트 저장소를 추출합니다.

다음 명령을 사용하여 기존 인덱스 데이터를 덤프할 수 있습니다.

java -jar oak-run.jar index <nodestore path> --fds-path=<datastore path> --index-dump

여기서 nodestore pathmongo_ur 또는 crx-quickstart/repository/segmentstore/입니다.

그런 다음 위의 인덱스 덤프를 사용하여 스토어를 채웁니다.

java -jar oak-run.jar tika --data-file text-extraction/oak-binary-stats.csv --store-path text-extraction/store --index-dir ./indexing-result/index-dumps/<oak-index-name>/data populate

여기서 oak-index-name은 전체 텍스트 인덱스의 이름입니다(예: "lucene").

3. 위의 단계에서 누락된 바이너리에 대한 tika 라이브러리를 사용하여 텍스트 추출 프로세스를 실행합니다

java -cp oak-run.jar:tika-app-1.21.jar org.apache.jackrabbit.oak.run.Main tika --data-file text-extraction/oak-binary-stats.csv --store-path text-extraction/store --fds-path <datastore path> extract

여기서 datastore path은 이진 데이터 저장소의 경로입니다.

생성된 텍스트 저장소는 나중에 다시 색인화하는 시나리오에 대해 업데이트 및 재사용할 수 있습니다.

텍스트 추출 프로세스에 대한 자세한 내용은 Oak-run 설명서를 참조하십시오.

오프라인 재인덱싱

offline-reindexing-upgrade-offline-reindexing

업그레이드 전에 Lucene 인덱스를 오프라인으로 만듭니다. MongoMK를 사용하는 경우, 네트워크 오버헤드가 발생하지 않으므로 MongoMk 노드 중 하나에서 직접 실행하는 것이 좋습니다.

인덱스를 오프라인으로 만들려면 아래 단계를 수행하십시오.

1. target AEM 버전​에 대한 Oak Lucene 인덱스 정의를 생성합니다.

기존 인덱스 정의를 덤프합니다. 대상 AEM 버전 및 oak-run의 Adobe Granite 저장소 번들을 사용하여 변경된 색인 정의를 생성했습니다.

source AEM 인스턴스에서 인덱스 정의를 덤프하려면 다음 명령을 실행하십시오.

노트

인덱스 정의 덤프에 대한 자세한 내용은 Oak 설명서를 참조하십시오.

java -jar oak-run.jar index --fds-path <datastore path> <nodestore path> --index-definitions

여기서 datastore pathnodestore pathsource AEM 인스턴스에서 가져옵니다.

그런 다음 대상 버전의 Granite 저장소 번들을 사용하여 target AEM 버전에서 인덱스 정의를 생성합니다.

java -cp oak-run.jar:bundle-com.adobe.granite.repository.jar org.apache.jackrabbit.oak.index.IndexDefinitionUpdater --in indexing-definitions_source.json --out merge-index-definitions_target.json --initializer com.adobe.granite.repository.impl.GraniteContent
노트

위의 인덱스 정의 생성 프로세스는 oak-run-1.12.0 버전에서만 지원됩니다. 타깃팅은 Granite 저장소 번들 com.adobe.granite.repository-x.x.xx.jar을 사용하여 수행됩니다.

위의 단계에서는 인덱스 정의인 merge-index-definitions_target.json 이라는 JSON 파일을 만듭니다.

2. 저장소에서 체크포인트 만들기

긴 라이프타임으로 프로덕션 source AEM 인스턴스에서 체크포인트를 만듭니다. 이 작업은 리포지토리를 복제하기 전에 수행해야 합니다.

http://serveraddress:serverport/system/console/jmx에 있는 JMX 콘솔을 통해 CheckpointMBean 로 이동하여 라이프타임이 긴 체크포인트를 만듭니다(예: 200일). 이를 위해 17280000000을 사용하여 CheckpointMBean#createCheckpoint을 라이프타임 기간(밀리초)의 인수로 호출합니다.

이 작업이 완료되면 새로 만든 체크포인트 ID를 복사하고 JMX CheckpointMBean#listCheckpoints을 사용하여 라이프타임의 유효성을 확인합니다.

노트

이 체크포인트는 인덱스를 나중에 가져올 때 삭제됩니다.

자세한 내용은 Oak 설명서에서 체크포인트 작성을 참조하십시오.

생성된 인덱스 정의에 대해 오프라인 색인을 수행합니다

Lucene 재색인화는 oak-run을 사용하여 오프라인으로 수행할 수 있습니다. 이 프로세스는 indexing-result/indexes 아래의 디스크에 인덱스 데이터를 만듭니다. 저장소에 쓰기​가 없으므로 실행 중인 AEM 인스턴스를 중지할 필요가 없습니다. 생성된 텍스트 저장소를 이 프로세스에 가져옵니다.

java -Doak.indexer.memLimitInMB=500 -jar oak-run.jar index <nodestore path> --reindex --doc-traversal-mode --checkpoint <checkpoint> --fds-path <datastore path> --index-definitions-file merge-index-definitions_target.json --pre-extracted-text-dir text-extraction/store

Sample <checkpoint> looks like r16c85700008-0-8
—fds-path: path to data store.
--pre-extracted-text-dir: Directory of pre-extracted text.
merge-index-definitions_target: JSON file having merged definitions for the target AEM instance. indexes in this file will be re-indexed.

저장소 컨텐츠를 로컬 플랫 파일로 스풀링하여 재색인화 시간을 크게 향상시킬 수 있으므로 --doc-traversal-mode 매개 변수를 사용하면 MongoMK 설치에 유용합니다. 그러나 저장소 크기의 두 배의 추가 디스크 공간이 필요합니다.

MongoMK의 경우, 이 단계가 MongoDB 인스턴스에 가까운 인스턴스에서 실행되는 경우 이 프로세스를 가속화할 수 있습니다. 동일한 컴퓨터에서 실행되는 경우 네트워크 오버헤드를 방지할 수 있습니다.

추가적인 기술 세부 사항은 oak-run 색인화에 대한 설명서에서 찾을 수 있습니다.

인덱스을(를) 가져오는 중

AEM 6.4 이상 버전을 사용하는 AEM에는 시작 시퀀스에서 디스크에서 인덱스를 가져오는 기능이 내장되어 있습니다. 시작 중에 인덱스 데이터가 있는지 확인하기 위해 <repository>/indexing-result/indexes 폴더를 관찰합니다. target AEM jar의 새 버전으로 시작하기 전에 업그레이드 프로세스 중에 미리 만든 인덱스를 위의 위치로 복사할 수 있습니다. AEM은 이를 저장소로 가져오고 시스템에서 해당 체크포인트를 제거합니다. 따라서 재색인은 완전히 피된다.

추가 팁 및 문제 해결

다음은 몇 가지 유용한 팁과 문제 해결 지침입니다.

라이브 프로덕션 시스템에 미치는 영향 감소

운영 시스템을 복제하고 클론을 사용하여 오프라인 인덱스를 생성하는 것이 좋습니다. 따라서 운영 시스템에 미치는 잠재적 영향을 모두 제거합니다. 그러나 인덱스를 가져오는 데 필요한 체크포인트가 프로덕션 시스템에 있어야 합니다. 따라서 클론을 생성하기 전에 체크포인트를 생성하는 것이 중요합니다.

Runbook 및 평가판 실행 준비

프로덕션에서 업그레이드를 실행하기 전에 Runbook을 준비하고 몇 가지 시도를 수행하는 것이 좋습니다.

오프라인 색인화가 있는 문서 순회 모드

오프라인 색인화를 사용하려면 전체 리포지토리의 여러 순번이 필요합니다. MongoMK 설치를 통해 저장소에는 인덱싱 프로세스의 성능에 영향을 주는 네트워크를 통해 액세스할 수 있습니다. 한 가지 옵션은 MongoDB 복제본 자체에서 오프라인 인덱싱 프로세스를 실행하여 네트워크 오버헤드를 제거하는 것입니다. 또 다른 옵션은 문서 순회 모드 사용입니다.

오프라인 인덱싱을 위해 명령줄 매개 변수 —doc-traversal을 oak-run 명령에 추가하여 문서 순회 모드를 적용할 수 있습니다. 이 모드에서는 로컬 디스크에 있는 전체 리포지토리의 복사본을 플랫 파일로 저장하고 이를 사용하여 색인을 실행합니다.

이 페이지에서는