全量转增量配置文件参数详解
GBase RTSync 同步工具手册
- 82 -
南大通用数据技术股份有限公司
本配置文件config_full_increment.properties,主要是在oracle 到
GBase8a 的全量转增量,详细参数说明如下:
参数名
说明
[common]参数说明
null_pks_batch_size
默认值500
kafka_8a_consumer_timeout
8a consumer 超时时间,默认值60
kafka.consumer.enable.auto.
create
Consumer 自动创建,默认值false
kafka.consumer.id
8a consumer 名称,有多个consumer 需要每
个consumer 名称以逗号隔开
[export]参数说明:orato8a 导出相关参数
export.type
导出的类型,默认为ORATO8A,不要修改
export.file.path
Orato8a 导出数据文件的存放路径
export.threadNum
Orato8a 导出文件的并发数
orato8a.host
Oato8a 工具所在服务的ip 地址
orato8a.port
Orato8a 所在服务的ssh 端口号
orato8a.user
Orato8a 工具的安装系统用户
orato8a.password
Orato8a 工具的安装系用户的密码
orato8a.path
Orato8a 工具安装路径
orato8a.use.query
Orato8a 是否使用query,默认值false
orato8a.parameters
orato8a 工具的字段分隔符、
数据格式、
行分隔符、
并
行度、字段包围符等参数配置,例如:
orato8a.parameters=--field="@@@" --format=3
--line_separator='*|*' --parallel='4'
GBase RTSync 同步工具手册
南大通用数据技术股份有限公司
- 83 -
参数名
说明
--null_value="nullnull"
--string_qualifier="\\x08"
orato8a.environment
.variables
Orato8a 的环境变量配置,例如:
orato8a.environment.variables=LD_LIBRARY_PATH=
$ORACLE_HOME/lib:/lib:/usr/lib:/usr/local/lib:
/home/oracle/output
[import]参数说明:加载数据入GBase8a 数据库参数说明
import.type
导入数据类型,默认值为GCLUSTER
import.delimiter
字段分隔符,
与[export]里orato8a设置的参数—field
参数值保持一致。
import.isErrorExit
加载数据文件过程报错是否退出,默认值true
import.threadNum
导入数据并行度
import.file.Path
需要导入数据文件的路径,
一般主要是配置ftp、
http、
sftp 服务地址,例如:
http://oracle:oracle@192.168.7.122
import.encode
导入数据的字符集,默认值为gbk
gcluster.parameters
导入数据字段分隔符、数据格式、行分隔符、并行度、
字段包围符等参数配置,
与orato8a.parameters 对应
的参数值保持一致
配置文件模板如下:
GBase RTSync 同步工具手册
- 84 -
南大通用数据技术股份有限公司
[common]
#when pk contains null,batch insert,delete numbers.
null_pks_batch_size=500
#check 8a consumer maxoffset and commitoffset diff value,add timeout check.
kafka_8a_consumer_timeout=60
#8a consumer
kafka.consumer.enable.auto.create=false
#default = topic.name
kafka.consumer.id=
[export]
export.type=ORATO8A
export.file.path=/var/www/html
export.threadNum=1
orato8a.host=192.168.7.122
orato8a.port=22
orato8a.user=oracle
orato8a.password=oracle
orato8a.path=/home/oracle/output
orato8a.use.query=false
orato8a.parameters=--field="@@@" --format=3 --line_separator='*|*' --parallel='4'
--null_value="nullnull" --string_qualifier="\\x08"
orato8a.environment.variables=LD_LIBRARY_PATH=$ORACLE_HOME/lib:/lib:/usr/lib:/u
sr/local/lib:/home/oracle/output
[import]
import.type=GCLUSTER
import.delimiter=@@@
import.isErrorExit=true
import.threadNum=1
#import.file.Path=/home/
import.file.Path=http://oracle:oracle@192.168.7.122
import.encode=gbk
gcluster.parameters= DATA_FORMAT 3 FIELDS ENCLOSED BY '\\x08' NULL_VALUE 'nullnull'
LINES TERMINATED BY '*|*' DATETIME FORMAT '%Y-%m-%d %H:%i:%s.%f'
GBase RTSync 同步工具手册
南大通用数据技术股份有限公司
- 85 -