Docs 菜单
Docs 主页
/ /
Atlas
/ /

atlas dataLakePipelines create

在此页面上

  • 语法
  • 参数
  • 选项
  • 继承选项
  • 举例

创建新的data lake管道。

要使用此命令,您必须使用具有项目所有者角色的用户帐户或 API 密钥进行身份验证。

命令语法
atlas dataLakePipelines create <pipelineName> [options]
名称
类型
必需
说明
pipelineName
字符串
true
标识管道的标签
名称
类型
必需
说明
-f, --file
字符串
false

要使用的 JSON data lake 管道配置文件的名称。

与 --sinkType、--sinkMetadataProvider、--sinkMetadataRegion、--sinkPartitionField、--sourceType、--sourceClusterName、--sourceCollectionName、--sourceDatabaseName、--sourcePolicyItemId、--transform 互斥。

-h,--help
false
创建帮助
-o, --output
字符串
false
输出格式。 有效值为 json、json-path、go-template 或 go-template-file。 要查看完整输出,请使用 -o json 选项。
--projectId
字符串
false
标识要使用的项目的十六进制字符串。 此选项会覆盖配置文件或环境变量中的设置。
--sinkMetadataProvider
字符串
false

此data lake管道的目标云提供商。

与 --文件 互斥。

--sinkMetadataRegion
字符串
false

此数据湖管道的目标云提供商区域。

与 --文件 互斥。

--sinkPartitionField
字符串
false

用于物理组织目标中数据的有序字段。

与 --文件 互斥。

--sinkType
字符串
false

此Data Lake管道的摄取目标类型。

与 --文件 互斥。

--sourceClusterName
字符串
false

用于标识源集群的人类可读标签。

与 --文件 互斥。

--sourceCollectionName
字符串
false

用于标识源collection的人类可读标签。

与 --文件 互斥。

--sourceDatabaseName
字符串
false

用于标识源数据库的人类可读标签。

与 --文件 互斥。

--sourcePolicyItemId
字符串
false

用于标识策略项的人类可读标签。

与 --文件 互斥。

--sourceType
字符串
false

此Data Lake管道的摄取源类型。

与 --文件 互斥。

--transform
字符串
false

要为此数据湖管道排除的字段。

与 --文件 互斥。

名称
类型
必需
说明
-P, --profile
字符串
false
# create data lake pipeline:
atlas dataLakePipelines create Pipeline1 --sinkType CPS --sinkMetadataProvider AWS --sinkMetadataRegion us-east-1 --sinkPartitionField name:0,summary:1 --sourceType PERIODIC_CPS --sourceClusterName Cluster1 --sourceDatabaseName sample_airbnb --sourceCollectionName listingsAndReviews --sourcePolicyItemId 507f1f77bcf86cd799439011 --transform EXCLUDE:space,EXCLUDE:notes

后退

名单

来年

数据集