Come posso risolvere i problemi di spazio di archiviazione insufficiente nel mio dominio del servizio OpenSearch?

Breve descrizione

Il tuo dominio per il servizio OpenSearch richiede spazio di archiviazione per l'elaborazione dei carichi di lavoro. L'errore ClusterBlockException potrebbe verificarsi perché il tuo dominio del servizio OpenSearch ha esaurito lo spazio di archiviazione. Ad esempio, quando si alloca lo spazio di archiviazione a un nodo del cluster, fino al 20% di tale spazio (20 GB) è spazio riservato. Inoltre, i sistemi operativi come Linux riservano il 5% del file system per supportare eventuali processi critici eseguiti dall'utente root. Per ulteriori informazioni sui requisiti di spazio di archiviazione del servizio OpenSearch, consulta la pagina Calcolo dei requisiti dell’archiviazione.

Per risolvere i problemi di spazio di archiviazione insufficiente, completa i seguenti passaggi:

• Aggiorna la tua strategia di partizionamento del cluster in modo che le partizioni siano distribuite uniformemente su tutti i nodi.
• Aumenta le dimensioni dei volumi Amazon Elastic Block Store (Amazon EBS) del dominio. Puoi anche aggiungere altri nodi cluster al dominio per il servizio OpenSearch.
• Riduci la quantità dei dati archiviati nel tuo dominio. Puoi eliminare i file non necessari, ottimizzare i vecchi indici o ridurre il numero di repliche del dominio. Assicurati di acquisire prima un’istantanea manuale.
  **Nota:**La riduzione del numero di repliche del dominio può ridurre la tolleranza agli errori. È consigliabile configurare almeno una replica per ogni indice.
• Usa Index State Management (ISM) per gestire lo spazio di archiviazione insufficiente.
• Usa le metriche di Amazon CloudWatch per sorvegliare lo spazio di archiviazione disponibile nel tuo cluster.

Risoluzione

Aggiornamento delle impostazioni di configurazione dell’archiviazione

**Importante:**Prima di aggiornare le impostazioni di configurazione, verifica le modifiche alla configurazione che possono avviare un’implementazione blu/verde. Inoltre, assicurati che il tipo di nodo primario dedicato sia il tipo di nodo consigliato.

Usa il comando cat allocation (dal sito Web Elastic) per verificare la quantità di spazio di archiviazione disponibile per ogni nodo del cluster:

curl -XGET "es_endpoint/_cat/allocation?v"

Per aggiornare le impostazioni di configurazione del dominio per il servizio OpenSearch, completa i seguenti passaggi:

1.     Apri la console del servizio OpenSearch.

2.     Dal pannello di navigazione, in Cluster gestiti, scegli Domini.

3.     Scegli il dominio a cui vuoi aggiungere spazio di archiviazione.

4.    Aggiorna le impostazioni del tuo dominio.

**Nota:**Se utilizzi un volume Amazon EBS per l’archiviazione, aggiorna le impostazioni di configurazione dell’archiviazione. Oppure puoi aggiornare il numero di nodi di dati.

5.    Scegli Invia.

Se il tuo dominio utilizza volumi EBS per l'archiviazione di dati

Se il tuo dominio utilizza volumi EBS per l'archiviazione, esegui una delle seguenti azioni:

• Aumenta le dimensioni dei volumi EBS. La dimensione massima del volume dipende dal tipo di istanza del nodo o dalla versione di Elasticsearch. Ad esempio, 512 GiB è la dimensione massima del volume per Elasticsearch versione 1.5.
• Se non riesci ad aumentare le dimensioni dei volumi EBS, aggiungi nodi o espandi il tuo dominio e scegli un nuovo limite EBS. Per ulteriori informazioni sui volumi EBS, consulte le Quote delle dimensioni dei volumi EBS.
• Crea un backup degli indici indesiderati nel tuo bucket Amazon Simple Storage Service (Amazon S3). Quindi, elimina gli indici dal cluster del servizio OpenSearch per liberare spazio su disco. Oppure, puoi usare Curator per ruotare i dati nel servizio OpenSearch (dal sito web Python Package Index). È inoltre possibile utilizzare ISM per ruotare gli indici nel servizio OpenSearch.
  **Nota:**È necessario disporre di un archivio di istantanee manuali per creare qualsiasi backup.

Se un dominio utilizza istanze Amazon Elastic Compute Cloud (Amazon EC2) I3 per l'archiviazione dei dati

Se utilizzi istanze Amazon EC2 I3 per l'archiviazione dei dati, esegui una delle seguenti azioni:

• Aggiungi altri nodi al cluster del servizio OpenSearch.
• Passa a un tipo di istanza di maggiori dimensioni per ottenere più spazio di archiviazione.
• Elimina tutti gli indici indesiderati dal cluster del servizio OpenSearch.

Elimina indici obsoleti o non utilizzati

Puoi controllare la data di creazione degli indici con il seguente comando:

GET _cat/indices?h=h,s,i,id,p,r,dc,dd,ss,creation.date.string&s=creation.date.string:desc

Per eliminare singoli indici, esegui il seguente comando:

DELETE <index-name>

Per eliminare più indici, esegui il seguente comando:

DELETE cwl-index-*

Utilizzo di ISM per gestire uno spazio di archiviazione insufficiente

ISM consente di automatizzare le attività di routine e quindi applicarle a indici e modelli di indice nel servizio OpenSearch. Con ISM, è possibile definire policy personalizzate che consentono di gestire problemi come uno spazio su disco insufficiente. Ad esempio, puoi utilizzare un'operazione di rollover e una policy ISM per automatizzare l'eliminazione dei vecchi indici in base a condizioni come la dimensione dell'indice. L'operazione di rollover esegue il rollover di una destinazione in un nuovo indice quando un indice esistente soddisfa la condizione definita.

Il seguente esempio di policy ISM elimina gli indici dopo 50 minuti:

PUT _plugins/_ism/policies/delete_ism_policy
{
    "policy": {
        "policy_id": "delete_ism_policy",
        "description": "A simple default policy that deletes old unused indices“,
        "last_updated_time": 1658834661281,
        "schema_version": 13,
        "error_notification": null,
        "default_state": "example_hot_state",        #Default state
        "states": [
            {
                "name": "example_hot_state",
                "actions": [],
                "transitions": [
                    {
                        "state_name": "delete",
                        "conditions": {
                            "min_index_age": “50m”   #Note that after 50 minutes index will transit from hot_state to delete state
                        }
                    }
                ]
            },
            {
                "name": "delete",                    #Indices moved to delete state
                "actions": [
                    {
                        "delete": {}
                    }
                ],
                "transitions": []
            }
        ],
        "ism_template": [
            {
                "index_patterns": [                  #This ISM policy attaches to all indices for the index pattern and you can mention your index pattern here
                    "sample*"
                ],
                "priority": 100,                     #Priority can be set from 0 to 100
                "last_updated_time": 1658834436349
            }
        ]
    }
}

Utilizza la seguente chiamata API per allegare manualmente la policy ISM all'indice:

POST _plugins/_ism/add/your-index-*
{
     "policy_id": "<policy_id>"
}

Per ulteriori informazioni, consulta la pagina Come faccio a usare ISM per gestire lo spazio di archiviazione insufficiente nel servizio OpenSearch di Amazon?

Utilizzo degli allarmi CloudWatch per monitorare lo spazio di archiviazione

Puoi utilizzare la metrica di CloudWatch FreeStorageSpace per monitorare la quantità di spazio di archiviazione disponibile nel tuo cluster. Per ricevere notifiche ogni volta che lo spazio di archiviazione è insufficiente, configura gli allarmi CloudWatch.

Per ulteriori informazioni, consulta Monitoraggio dei parametri del cluster OpenSearch con Amazon CloudWatch.

Informazioni correlate

Best practice operative per il servizio OpenSearch di Amazon

Come posso aumentare la tolleranza ai guasti di un dominio del servizio OpenSearch di Amazon?

Perché lo stato del cluster del servizio OpenSearch di Amazon è rosso o giallo?