编写gpfdist配置

编写gpfdist配置

gpfdist配置是一个YAML 1.1文档。它指定在装载或者抽取数据时gpfdist用来选择一种转换并应用的规则。

这个gpfdist配置的例子包含下列项:

  • 定义TRANSFORMATIONSconfig.yaml文件
  • config.yaml文件中引用的input_transform.sh包装器脚本
  • input_transform.sh中调用的joost转换input_transform.stx

除普通的YAML规则(如文档用三个破折号开始(---))之外,gpfdist配置必须符合下列限制:

  1. VERSION设置必须出现并且值为1.0.0.1
  2. TRANSFORMATIONS设置必须出现并且包含一个或者更多个映射。
  3. TRANSFORMATION中的每一个映射必须包含:
    • 一个值为'input'或者'output'的TYPE
    • 一个表明转换如何运行的COMMAND
  4. TRANSFORMATION中的每一个映射可以包含可选的CONTENTSAFE以及STDERR设置。

下面这个称为config.YAMLgpfdist配置适用于prices的例子。每一行开始的缩进是有意义的,它们反映了该说明的层级性。下面例子中的名称prices_input将在后面用SQL创建该表时引用。

---
VERSION: 1.0.0.1
TRANSFORMATIONS:
  prices_input:
    TYPE:     input
    COMMAND:  /bin/bash input_transform.sh %filename%

COMMAND设置使用了一个名为input_transform.sh的包装器脚本,它带有一个%filename%占位符。当gpfdist运行该prices_input转换时,它用/bin/bash调用input_transform.sh,并且将%filename%占位符替换为要转换的输入文件的路径。名为input_transform.sh的包装器脚本包含调用STX转换并返回其输出的逻辑。

如果使用了Joost,则必须安装Joost STX引擎。

#!/bin/bash
# input_transform.sh - sample input transformation, 
# demonstrating use of Java and Joost STX to convert XML into
# text to load into Greenplum Database.
# java arguments:
#   -jar joost.jar         joost STX engine
#   -nodecl                  don't generate a <?xml?> declaration
#   $1                        filename to process
#   input_transform.stx    the STX transformation
#
# the AWK step eliminates a blank line joost emits at the end
java \
    -jar joost.jar \
    -nodecl \
    $1 \
    input_transform.stx \
 | awk 'NF>0

input_transform.sh文件使用带有AWK解释器的Joost STX引擎。下面的图表展示了gpfdist运行该转换的处理流程。