使用SQL导入MaxCompute的数据至Hologres

一、简介

当MaxCompute业务数据规模超过200 GB，且查询复杂度较高、对响应时间要求达到秒级时，Hologres支持将这些数据直接导入内部表进行查询，相较于通过外部表查询方式，该方式可以设置索引，且数据查询效率更高。本文为您介绍不同场景的数据导入操作以及常见问题。
注意事项
通过SQL导入MaxCompute数据至Hologres时，您需要注意如下内容：

• MaxCompute的分区与Hologres无强映射关系，MaxCompute的分区字段映射至Hologres为普通字段，因此支持MaxCompute分区数据导入Hologres非分区或者分区。
• Hologres仅支持一级分区，MaxCompute多级分区导入Hologres分区表时，只需要映射一个分区，其余分区映射成Hologres的普通字段。
• 如果导入数据时需要更新覆盖原有数据，您需要使用INSERT ON CONFLICT(UPSERT)语法。
• MaxCompute与Hologres的数据类型映射，请参见数据类型汇总。
• MaxCompute的表数据更新之后，在Hologres存在缓存延迟（一般为10分钟内），建议在导入数据前使用IMPORT FOREIGN SCHEMA语法更新外部表以获取最新数据。
• 导入MaxCompute数据至Hologres时，建议使用SQL导入，不建议使用数据集成导入，因为使用SQL导入性能表现更优。

二、导入MaxCompute的非分区表数据至Hologres并查询

1、准备MaxCompute的非分区表数据。

在MaxCompute中创建一张非分区源数据表，或直接选用已创建的非分区表。

示例选取MaxCompute公共数据集public_data的customer表，其表DDL以及数据如下。

-- MaxCompute公共数据集的表DDLCREATETABLEIFNOTEXISTSpublic_data.customer(c_customer_skBIGINT,c_customer_id STRING,c_current_cdemo_skBIGINT,c_current_hdemo_skBIGINT,c_current_addr_skBIGINT,c_first_shipto_date_skBIGINT,c_first_sales_date_skBIGINT,c_salutation STRING,c_first_name STRING,c_last_name STRING,c_preferred_cust_flag STRING,c_birth_dayBIGINT,c_birth_monthBIGINT,c_birth_yearBIGINT,c_birth_country STRING,c_login STRING,c_email_address STRING,c_last_review_date STRING,useless STRING);-- 在MaxCompute中查询表是否有数据SELECT*FROMpublic_data.customer;

部分数据内容显示如下图所示。

2、在Hologres中创建外部表。

在Hologres中创建一张用于映射MaxCompute源数据表的外部表。

CREATEFOREIGNTABLEforeign_customer("c_customer_sk"int8,"c_customer_id"text,"c_current_cdemo_sk"int8,"c_current_hdemo_sk"int8,"c_current_addr_sk"int8,"c_first_shipto_date_sk"int8,"c_first_sales_date_sk"int8,"c_salutation"text,"c_first_name"text,"c_last_name"text,"c_preferred_cust_flag"text,"c_birth_day"int8,"c_birth_month"int8,"c_birth_year"int8,"c_birth_country"text,"c_login"text,"c_email_address"text,"c_last_review_date"text,"useless"text)SERVER odps_server OPTIONS(project_name'public_data',table_name'customer');

外部表字段的数据类型与MaxCompute表字段的数据类型保持一致。

3、在Hologres中创建存储表。

在Hologres中创建一张用于接收MaxCompute源表数据的存储表。

-- 示例建一张列存表BEGIN;CREATETABLEpublic.holo_customer("c_customer_sk"int8,"c_customer_id"text,"c_current_cdemo_sk"int8,"c_current_hdemo_sk"int8,"c_current_addr_sk"int8,"c_first_shipto_date_sk"int8,"c_first_sales_date_sk"int8,"c_salutation"text,"c_first_name"text,"c_last_name"text,"c_preferred_cust_flag"text,"c_birth_day"int8,"c_birth_month"int8,"c_birth_year"int8,"c_birth_country"text,"c_login"text,"c_email_address"text,"c_last_review_date"text,"useless"text);CALLSET_TABLE_PROPERTY('public.holo_customer','orientation','column');CALLSET_TABLE_PROPERTY('public.holo_customer','bitmap_columns','c_customer_id,c_salutation,c_first_name,c_last_name,c_preferred_cust_flag,c_birth_country,c_login,c_email_address,c_last_review_date,useless');CALLSET_TABLE_PROPERTY('public.holo_customer','dictionary_encoding_columns','c_customer_id:auto,c_salutation:auto,c_first_name:auto,c_last_name:auto,c_preferred_cust_flag:auto,c_birth_country:auto,c_login:auto,c_email_address:auto,c_last_review_date:auto,useless:auto');CALLSET_TABLE_PROPERTY('public.holo_customer','time_to_live_in_seconds','3153600000');CALLSET_TABLE_PROPERTY('public.holo_customer','storage_format','segment');COMMIT;

4、导入数据至Hologres。

使用INSERT语句将MaxCompute源头表中的数据导入至Hologres，您可以选择部分字段导入（字段顺序需要一一对应），也可以选择全部字段导入，示例DDL如下。

-- （可选）推荐使用Serverless Computing执行大数据量离线导入和ETL作业SEThg_computing_resource='serverless';--部分字段数据导入INSERTINTOholo_customer(c_customer_sk,c_customer_id,c_email_address,c_last_review_date,useless)SELECTc_customer_sk,c_customer_id,c_email_address,c_last_review_date,uselessFROMforeign_customer;--全部字段数据导入INSERTINTOholo_customerSELECT*FROMforeign_customer;-- 重置配置，保证非必要的SQL不会使用serverless资源。RESET hg_computing_resource;

5、Hologres查询MaxCompute表数据。

在Hologres中查询导入的MaxCompute表数据。示例SQL语句如下。

SELECT*FROMholo_customer;