Como criar configuração de inventário no balde S3

Como criar configuração de inventário no balde S3
O Amazon S3 Inventory é um recurso fornecido pelo AWS S3 para ajudá -lo a gerenciar seu armazenamento de balde S3. O Inventário Amazon S3 pode gerar diferentes tipos de arquivos de saída como CSV, ORC e ​​Apache Parquet que incluem objetos S3 e seus metadados. Pode ser configurado para gerar relatórios diariamente ou semanalmente. Se o inventário da Amazon S3 estiver configurado para gerar os relatórios semanalmente, ele gerará o relatório todos os domingos após o relatório inicial.

O Inventário Amazon S3 pode ser configurado para gerar relatórios para objetos S3 específicos, especificando o prefixo. O inventário pode ser enviado para o balde de destino na mesma conta ou em uma conta diferente. Vários inventários S3 também podem ser configurados para o mesmo balde S3 com diferentes prefixos de objetos S3, baldes de destino e tipos de arquivos de saída. Além disso, você pode especificar se o arquivo de inventário será criptografado ou não.

Este blog verá como o inventário pode ser configurado no balde S3 usando o console de gerenciamento da AWS.

Criando configuração de inventário

Primeiro, faça login no console de gerenciamento da AWS e vá para o serviço S3.

Do console S3, vá para o balde para o qual você deseja configurar o inventário.

Dentro do balde, vá para o gerenciamento aba.

Role para baixo e vá para o Configuração do inventário seção. Clique no Crie configuração de inventário botão para criar a configuração do inventário.

Ele abrirá uma página de configuração para configurar o inventário. Primeiro, adicione o nome de configuração do inventário que deve ser único dentro do balde S3. Em seguida, forneça o prefixo do objeto S3 se você deseja limitar o inventário a objetos S3 específicos. Para cobrir todos os objetos no balde S3, deixe o prefixo campo vazio.

Para esta demonstração, limitaremos o escopo do inventário ao objeto com prefixo Logs de servidores.

Além disso, a configuração do inventário pode ser limitada à versão atual, ou o anterior também pode ser coberto pelo inventário. Para esta demonstração, limitaremos o escopo do inventário apenas à versão atual.

Depois de especificar o escopo do inventário, agora ele solicitará os detalhes do relatório. O relatório pode ser salvo no balde de destino S3 dentro ou através da conta. Primeiro, selecione se deseja salvar os relatórios de inventário no balde S3 na mesma conta ou em uma conta diferente. Em seguida, insira o nome do balde de destino ou navegue com baldes S3 do console.

Uma política de balde é adicionada automaticamente ao balde de destino, o que permite ao balde de origem escrever dados no balde de destino. A política de balde a seguir será adicionada ao balde de destino S3 para esta demonstração.

Depois de especificar o balde de destino S3 para o relatório de inventário, agora forneça o período de tempo em que o relatório de inventário será gerado. O balde AWS S3 pode ser configurado para gerar relatórios de inventário diário ou semanal. Para esta demonstração, selecionaremos a opção de geração de relatórios diários.

A opção de formação de saída especifica em que formato o arquivo de inventário será gerado. AWS S3 suporta os três formatos de saída a seguir para inventário.

  • CSV
  • Apache Orc
  • Apache Parquet

Para esta demonstração, selecionaremos o formato de saída CSV. O Status Opções define o status da configuração do inventário. Se você deseja ativar a configuração do inventário S3 logo após criá -lo, defina esta opção para Habilitar.

Os relatórios de inventário gerados podem ser criptografados no lado do servidor, permitindo o criptografia do lado do servidor opção. Você precisa selecionar a tecla KMS ou a chave gerenciada pelo cliente se ativada. Para esta demonstração, não habilitaremos a criptografia do lado do servidor.

Você também pode personalizar o relatório de inventário gerado adicionando campos adicionais ao relatório. O AWS S3 Inventory fornece a configuração para adicionar metadados adicionais aos relatórios de inventário. Debaixo de Campos adicionais Seção, selecione os campos que você deseja adicionar ao relatório de inventário. Para esta demonstração, não selecionaremos campos adicionais.

Agora clique no criar Botão na parte inferior da página de configuração para criar a configuração de inventário para o balde S3. Ele criará a configuração do inventário e adicionará uma política de balde ao balde de destino. Vá para o balde de destino clicando no URL do balde de destino.

No balde de destino S3, vá para o permissões aba.

Role para baixo até o Política de balde Seção, e haverá uma política de balde S3 que permita ao balde de origem S3 passar relatórios de inventário para o balde de destino S3.

Agora vá para o balde de origem S3 e crie um Logs de servidores diretório. Carregue um arquivo para o diretório usando o console AWS S3.

Depois de enviar o arquivo para o balde de origem S3, pode levar até 48 horas para gerar o primeiro relatório de inventário. Após o relatório inicial, o próximo relatório será gerado pelo período especificado por você na configuração do inventário.

Leitura de inventário do balde de destino S3

Após 48 horas de configuração do inventário para o balde S3, vá para o balde de destino S3 e o relatório de inventário será gerado para o balde S3.

Os relatórios para o inventário são gerados em uma estrutura de diretório específica no balde de destino S3. Para ver a estrutura do diretório, faça o download do diretório de relatórios e execute o árvore comando dentro do diretório do relatório.

ubuntu@ubuntu: ~ $ cd linuxhint-democump-bucket
ubuntu@ubuntu: ~ $ árvore .

O Demo-Inventory-Config diretório (nomeado após o nome da configuração do inventário) dentro do Linuxhint-democump-bucket (Nomeado após o nome do balde da fonte S3) contém todos os dados relacionados ao relatório de inventário.

O dados O diretório inclui os arquivos CSV compactados em formato GZIP. Descompactar um arquivo e cat It no terminal.

ubuntu@ubuntu: ~ $ gunzip
ubuntu@ubuntu: ~ $ cat

Os diretórios dentro do diretório de Config-Config, nomeados após a data em que são criados, incluem os metadados dos relatórios de inventário. Use o gato comando para ler o manifesto.arquivo json.

ubuntu@ubuntu: ~ $ cat 2022-02-17t00-00z/manifesto.JSON

Da mesma forma, o Hive O diretório inclui arquivos que apontam para o relatório de inventário de uma data específica. Use o gato comando para ler qualquer um dos symblink.arquivos txt.

ubuntu@ubuntu: ~ $ CAT Hive/dt \ = 2022-02-17-00-00/symlink.TXT

Conclusão

O AWS S3 fornece configuração de inventário para gerenciar o armazenamento e gerar relatórios de auditoria. O inventário S3 pode ser configurado para objetos S3 específicos especificados pelo prefixo do objeto S3. Além disso, várias configurações de inventário podem ser criadas para um único balde S3. Este blog descreve o procedimento detalhado para criar configurações de inventário S3 e ler os relatórios de inventário do balde de destino S3.