DorisWrite组件
组件说明
往Doris存储写入数据。
计算引擎
flink
组件分组
doris
端口
Inport:默认端口
outport:默认端口
组件属性
名称 | 展示名称 | 默认值 | 允许值 | 是否必填 | 描述 | 例子 |
---|---|---|---|---|---|---|
fenodes | Fenodes | “” | 无 | 是 | Doris FE http地址, 支持多个地址,使用逗号分隔。 | 127.0.0.1:8030 |
benodes | Benodes | “” | 无 | 否 | Doris BE http地址, 支持多个地址,使用逗号分隔。 | |
username | Username | “” | 无 | 是 | 访问Doris的用户名。 | root |
password | Password | “” | 无 | 是 | 访问Doris的密码。 | 123456 |
tableIdentifier | TableIdentifier | “” | 无 | 是 | Doris表名。 | db.tbl |
jdbcUrl | JdbcUrl | “” | 无 | 否 | jdbc连接信息。 | jdbc:mysql://127.0.0.1:9030 |
sinkLabelPrefix | SinkLabelPrefix | “” | 无 | 是 | Stream load导入使用的label前缀。2pc场景下要求全局唯一 ,用来保证Flink的EOS语义。 | sink-label-demo |
tableDefinition | TableDefinition | “” | 无 | 是 | Flink table定义。 | |
properties | PROPERTIES | “” | 无 | 否 | 连接器其他配置。 |
DorisWrite示例配置
{"flow": {"name": "DorisWriteTest","uuid": "1234","stops": [{"uuid": "1111","name": "DataGen1","bundle": "cn.piflow.bundle.flink.common.DataGen","properties": {"schema": "[{\"filedName\":\"id\",\"filedType\":\"INT\",\"kind\":\"sequence\",\"start\":1,\"end\":10000},{\"filedName\":\"name\",\"filedType\":\"STRING\",\"kind\":\"random\",\"length\":15},{\"filedName\":\"age\",\"filedType\":\"INT\",\"kind\":\"random\",\"max\":100,\"min\":1}]","count": "100","ratio": "50"}},{"uuid": "2222","name": "DorisWrite1","bundle": "cn.piflow.bundle.flink.doris.DorisWrite","properties": {"fenodes": "192.168.186.102:8030","username": "root","password": "","sinkLabelPrefix": "doris_label2","tableIdentifier": "demo.test","tableDefinition": "{\"catalogName\":null,\"dbname\":null,\"tableName\":\"\",\"ifNotExists\":true,\"physicalColumnDefinition\":[{\"columnName\":\"id\",\"columnType\":\"INT\",\"comment\":\"id\"},{\"columnName\":\"name\",\"columnType\":\"STRING\",\"comment\":\"name\"},{\"columnName\":\"age\",\"columnType\":\"INT\"}],\"metadataColumnDefinition\":null,\"computedColumnDefinition\":null,\"watermarkDefinition\":null}","properties": "{}"}},{"uuid": "3333","name": "DorisRead1","bundle": "cn.piflow.bundle.flink.doris.DorisRead","properties": {"fenodes": "192.168.186.102:8030","username": "root","password": "","tableIdentifier": "demo.test","tableDefinition": "{\"catalogName\":null,\"dbname\":null,\"tableName\":\"\",\"ifNotExists\":true,\"physicalColumnDefinition\":[{\"columnName\":\"id\",\"columnType\":\"INT\",\"comment\":\"id\"},{\"columnName\":\"name\",\"columnType\":\"STRING\",\"comment\":\"name\"},{\"columnName\":\"age\",\"columnType\":\"INT\"}],\"metadataColumnDefinition\":null,\"computedColumnDefinition\":null,\"watermarkDefinition\":null}","properties": "{}"}},{"uuid": "4444","name": "ShowData1","bundle": "cn.piflow.bundle.flink.common.ShowData","properties": {"showNumber": "100"}}],"paths": [{"from": "DataGen1","outport": "","inport": "","to": "DorisWrite1"},{"from": "DorisWrite1","outport": "","inport": "","to": "DorisRead1"},{"from": "DorisRead1","outport": "","inport": "","to": "ShowData1"}]}
}
DorisWrite示例说明
本示例演示了通过DataGen
生成100条测试数据,然后使用DorisWrite组件写入doris,然后使用DorisRead组件将数据从doris中读取,最后通过showData
组件打印到控制台。
演示DEMO
PiflowX-Droris读写组件