Uso de la reindexación sin conexión para reducir el tiempo de inactividad durante una actualización

Introducción

Uno de los desafíos clave para actualizar Adobe Experience Manager es el tiempo de inactividad asociado con el entorno de creación cuando se realiza una actualización in situ. Los autores de contenido no podrán acceder al entorno durante una actualización. Por lo tanto, es deseable minimizar la cantidad de tiempo que se tarda en realizar la actualización. Para repositorios grandes, especialmente proyectos de AEM Assets, que generalmente tienen grandes almacenes de datos y un alto nivel de cargas de recursos por hora, la reindexación de los índices de Oak toma un porcentaje significativo del tiempo de actualización.

Esta sección describe cómo usar la herramienta Oak-run para reindexar el repositorio before realizar la actualización, reduciendo así la cantidad de tiempo de inactividad durante la actualización real. Los pasos presentados se pueden aplicar a Lucene índices para versiones AEM 6.4 y posteriores.

Información general

Las nuevas versiones de la AEM introducen cambios en las definiciones de índices de Oak a medida que se expande el conjunto de funciones. Los cambios en los índices de Oak obligan a la reindexación al actualizar la instancia de AEM. La reindexación es costosa para las implementaciones de recursos, ya que el texto de los recursos (por ejemplo, texto en un archivo pdf) se extrae e e indexa. Con los repositorios MongoMK, los datos se mantienen en la red, lo que aumenta aún más la cantidad de tiempo que se tarda en reindexar.

El problema que la mayoría de los clientes enfrentan durante una actualización es reducir el tiempo de inactividad. La solución es skip la actividad de reindexación durante la actualización. Esto se puede lograr creando los nuevos índices previous para realizar la actualización, simplemente impórtelos durante la actualización.

Enfoque

offline-reindexing-upgrade-text-extraction

La idea es crear el índice antes de la actualización, en comparación con las definiciones de índice de la versión de AEM de destino usando la variable Oak-run herramienta. El diagrama anterior muestra el método de reindexación sin conexión.

Además, este es el orden de los pasos descritos en el enfoque:

  1. El texto de los binarios se extrae primero
  2. Se crean definiciones de índice de Target
  3. Se crean índices sin conexión
  4. Los índices se importan durante el proceso de actualización

Extracción de texto

Para habilitar la indexación completa en AEM, el texto de los binarios como PDF se extrae y se agrega al índice. Normalmente, este es un paso costoso en el proceso de indexación. La extracción de texto es un paso de optimización que se recomienda especialmente para reindexar repositorios de recursos, ya que almacenan un gran número de binarios.

offline-reindexing-upgrade-text-extraction

El texto de los binarios almacenados en el sistema se puede extraer utilizando la herramienta oak-run con la biblioteca tika. Un clon de los sistemas de producción se puede tomar antes de la actualización y se puede utilizar para este proceso de extracción de texto. A continuación, este proceso crea el almacén de texto siguiendo estos pasos:

1. Recorra el repositorio y recopila los detalles de los binarios

Este paso genera un archivo CSV que contiene un tuplo de binarios, con una ruta y un id. de blob.

Ejecute el siguiente comando desde el directorio desde el que desea crear el índice. El ejemplo siguiente asume el directorio raíz del repositorio.

java java -jar oak-run.jar tika <nodestore path> --fds-path <datastore path> --data-file text-extraction/oak-binary-stats.csv --generate

Donde nodestore path es la variable mongo_ur o crx-quickstart/repository/segmentstore/

Utilice la variable --fake-ds-path=temp en lugar de –fds-path para acelerar el proceso.

2. Reutilizar el almacén de texto binario disponible en el índice existente

Descargue los datos de índice del sistema existente y extraiga el almacén de texto.

Puede volcar los datos de índice existentes mediante el siguiente comando:

java -jar oak-run.jar index <nodestore path> --fds-path=<datastore path> --index-dump

Donde nodestore path es la variable mongo_ur o crx-quickstart/repository/segmentstore/

A continuación, utilice el volcado de índice anterior para rellenar el almacén:

java -jar oak-run.jar tika --data-file text-extraction/oak-binary-stats.csv --store-path text-extraction/store --index-dir ./indexing-result/index-dumps/<oak-index-name>/data populate

Donde oak-index-name es el nombre del índice de texto completo, por ejemplo "lucene".

3. Ejecute el proceso de extracción de texto utilizando la biblioteca tika para los binarios omitidos en el paso anterior

java -cp oak-run.jar:tika-app-1.21.jar org.apache.jackrabbit.oak.run.Main tika --data-file text-extraction/oak-binary-stats.csv --store-path text-extraction/store --fds-path <datastore path> extract

Donde datastore path es la ruta al almacén de datos binario.

El almacén de texto creado se puede actualizar y reutilizar para reindexar escenarios en el futuro.

Para obtener más información sobre el proceso de extracción de texto, consulte la Documentación de Oak-run.

Reindexación sin conexión

offline-reindexing-upgrade-offline-reindexxing

Cree el índice de Lucene sin conexión antes de la actualización. Si utiliza MongoMK, se recomienda ejecutarlo directamente en uno de los nodos MongoMk, ya que esto evita sobrecargas de red.

Para crear el índice sin conexión, siga los siguientes pasos:

1. Generar definiciones de índice Oak Lucene para la versión de AEM de destino

Volcar las definiciones de índice existentes. Las definiciones de índice que sufrieron cambios se generaron usando el paquete de repositorios de Adobe Granite de la versión de AEM de destino y oak-run.

Para volcar la definición de índice desde la variable source AEM instancia, ejecute este comando:

NOTA

Para obtener más información sobre las definiciones del índice de dumping, consulte la Documentación de Oak.

java -jar oak-run.jar index --fds-path <datastore path> <nodestore path> --index-definitions

Donde datastore path y nodestore path son de source AEM instancia.

A continuación, genere definiciones de índice a partir de la variable target AEM versión utilizando el paquete de repositorios Granite de la versión de destino.

java -cp oak-run.jar:bundle-com.adobe.granite.repository.jar org.apache.jackrabbit.oak.index.IndexDefinitionUpdater --in indexing-definitions_source.json --out merge-index-definitions_target.json --initializer com.adobe.granite.repository.impl.GraniteContent
NOTA

El proceso de creación de la definición del índice anterior solo se puede usar desde el oak-run-1.12.0 versiones posteriores. La segmentación se realiza utilizando el paquete de repositorios Granite com.adobe.granite.repository-x.x.xx.jar.

Los pasos anteriores crean un archivo JSON llamado merge-index-definitions_target.json que es la definición de índice.

2. Crear un punto de comprobación en el repositorio

Crear un punto de comprobación en la producción source AEM instancia con una larga duración. Esto debe hacerse antes de clonar el repositorio.

A través de la consola JMX ubicada en http://serveraddress:serverport/system/console/jmx, vaya a CheckpointMBean y crear un punto de comprobación con una duración suficiente (por ejemplo, 200 días). Para esto, invoque CheckpointMBean#createCheckpoint con 17280000000 como argumento para la duración de duración en milisegundos.

Una vez hecho esto, copie el ID del punto de comprobación recién creado y valide la duración utilizando JMX CheckpointMBean#listCheckpoints.

NOTA

Este punto de comprobación se eliminará cuando el índice se importe más adelante.

Para obtener más información, consulte creación de puntos de comprobación de la documentación de Oak.

Realizar la indexación sin conexión para las definiciones de índice generadas

La reindexación de Lucene se puede realizar sin conexión usando oak-run. Este proceso crea datos de índice en el disco debajo de indexing-result/indexes. Sí not escribir en el repositorio y, por lo tanto, no requiere detener la ejecución de AEM instancia. El almacén de texto creado se alimenta de este proceso:

java -Doak.indexer.memLimitInMB=500 -jar oak-run.jar index <nodestore path> --reindex --doc-traversal-mode --checkpoint <checkpoint> --fds-path <datastore path> --index-definitions-file merge-index-definitions_target.json --pre-extracted-text-dir text-extraction/store

Sample <checkpoint> looks like r16c85700008-0-8
—fds-path: path to data store.
--pre-extracted-text-dir: Directory of pre-extracted text.
merge-index-definitions_target: JSON file having merged definitions for the target AEM instance. indexes in this file will be re-indexed.

Uso de la variable --doc-traversal-mode es útil con las instalaciones de MongoMK, ya que mejora significativamente el tiempo de reindexación al colocar en cola el contenido del repositorio en un archivo plano local. Sin embargo, requiere un espacio de disco adicional del doble del tamaño del repositorio.

En el caso de MongoMK, este proceso se puede acelerar si este paso se ejecuta en una instancia más cercana a la instancia de MongoDB. Si se ejecuta en el mismo equipo, se puede evitar la sobrecarga de red.

Encontrará más detalles técnicos en la documentación de oak-run para la indexación.

Importación de índices

Con AEM 6.4 y versiones más recientes, AEM tiene la capacidad incorporada para importar índices desde disco en la secuencia de inicio. La carpeta <repository>/indexing-result/indexes se observa la presencia de datos de índice durante el inicio. Puede copiar el índice precreado en la ubicación anterior durante el proceso de actualización antes de empezar con la nueva versión de la target AEM jar. AEM lo importa en el repositorio y elimina el punto de comprobación correspondiente del sistema. Por lo tanto, se evita completamente un reíndice.

Sugerencias y resolución de problemas adicionales

A continuación encontrará algunas sugerencias útiles e instrucciones para la resolución de problemas.

Reducir el impacto en el sistema de producción en directo

Se recomienda clonar el sistema de producción y crear el índice sin conexión mediante el clon. Esto elimina cualquier impacto potencial en el sistema de producción. Sin embargo, el punto de comprobación necesario para importar el índice debe estar presente en el sistema de producción. Por lo tanto, es fundamental crear un punto de comprobación antes de tomar el clon.

Preparación de un Runbook y una ejecución de prueba

Se recomienda preparar un runbook y realizar algunas pruebas antes de ejecutar la actualización en producción.

Modo Transversal Doc Con Indexación Sin Conexión

La indexación sin conexión requiere múltiples transmisiones de todo el repositorio. Con las instalaciones de MongoMK, se accede al repositorio a través de la red que afecta el rendimiento del proceso de indexación. Una opción es ejecutar el proceso de indexación sin conexión en la propia réplica de MongoDB, que eliminará la sobrecarga de red. Otra opción es el uso del modo doc-transversal.

El modo de travesía del documento se puede aplicar añadiendo el parámetro de línea de comandos —doc-traversal al comando oak-run para la indexación sin conexión. Este modo estropea una copia de todo el repositorio en el disco local como un archivo plano y lo utiliza para ejecutar la indexación.

En esta página