Parquet ファイルのアンロード

Parquet ファイルのアンロード

構文:

COPY INTO {internalStage | externalStage | externalLocation}
FROM { [<database_name>.]<table_name> | ( <query> ) }
FILE_FORMAT = (TYPE = PARQUET)
[MAX_FILE_SIZE = <num>]
[DETAILED_OUTPUT = true | false]

• Parquet のその他のオプションについては、Parquet ファイル形式オプション を参照してください
• 複数ファイルへのアンロードには、MAX_FILE_SIZE コピーオプション を使用します
• 構文の詳細については、COPY INTO location を参照してください

チュートリアル

ステップ 1. 外部 stage を作成する

CREATE STAGE parquet_unload_stage
URL = 's3://unload/parquet/'
CONNECTION = (
    ACCESS_KEY_ID = '<your-access-key-id>'
    SECRET_ACCESS_KEY = '<your-secret-access-key>'
);

ステップ 2. カスタム Parquet ファイル形式を作成する

CREATE FILE FORMAT parquet_unload_format
    TYPE = PARQUET
    ;

ステップ 3. Parquet ファイルにアンロードする

COPY INTO @parquet_unload_stage
FROM (
    SELECT *
    FROM generate_series(1, 100)
)
FILE_FORMAT = (FORMAT_NAME = 'parquet_unload_format')
DETAILED_OUTPUT = true;

結果:

┌───────────────────────────────────────────────────────────────────────────────────────────┐
│                             file_name                             │ file_size │ row_count │
│                               String                              │   UInt64  │   UInt64  │
├───────────────────────────────────────────────────────────────────┼───────────┼───────────┤
│   data_a3760513-78a8-4a89-8f92-b1a17e0a61b6_0000_00000000.parquet │       445 │       100 │
└───────────────────────────────────────────────────────────────────────────────────────────┘

ステップ 4. アンロードした Parquet ファイルを確認する

SELECT COUNT($1)
FROM @parquet_unload_stage
(
    FILE_FORMAT => 'parquet_unload_format',
    PATTERN => '.*[.]parquet'
);

結果:

┌───────────┐
│ count($1) │
├───────────┤
│       100 │
└───────────┘