OGG-Postgres实时同步到Kafka

（一）数据同步信息

postgreSQL数据库配置：

vi postgresql.conf

wal_level = logical     # minimal, replica, or logical

                        # (change requires restart)

max_wal_senders = 10    # max number of walsender processes

                        # (change requires restart)

max_replication_slots = 10  # max number of replication slots

                            # (change requires restart)

修改后需要重启数据库。 

（二）OGG安装信息

（三）前提准备

1．安装Java1.8及以上版本

2．设置环境变量

编辑变量：

vi  /etc/profile

export LD_LIBRARY_PATH=/data/ogg_pg/lib:/data/ogg_mysql/lib:/data/ogg_bigdata/lib:$LD_LIBRARY_PATH

alias pg_ggsci='cd /data/ogg_pg; ./ggsci'

alias mysql_ggsci='cd /data/ogg_mysql; ./ggsci'

alias bigdata_ggsci='cd /data/ogg_bigdata; ./ggsci'

使环境变量生效

source  /etc/profile

3．在PostgreSQL中创建库表

--创建数据库testpdb

create  database  testpdb ;

--进入testpdb数据库

\c  testpdb

--创建表tb01

create table tb01(id int not null, name varchar(16), ts timestamp , primary key(id) );

4．在Kafka中创建Topic

cd  /usr/local/kafka/bin

--创建一个名称为oggtb01的Topic，4个分区，并且复制因子为3:

./kafka-topics.sh --create --zookeeper hadoop01:2181,hadoop02:2181,hadoop03:2181 --replication-factor 3 --partitions 3 --topic  oggtb01

--查看所有的topic

./kafka-topics.sh --describe --zookeeper hadoop01:2181,hadoop02:2181,hadoop03:2181

（四）OGG源端配置

1．启动PG的ggsci

pg_ggsci

2．PG 创建目录

create subdirs

3．配置并启动MGR

--编辑MGR

edit  param  mgr

port 2031

dynamicportlist 2032-2040

purgeoldextracts ./dirdat/*, usecheckpoints,minkeephours 24

AUTORESTART ER *, RETRIES 3, WAITMINUTES 2,RESETMINUTES 10

--查看MGR配置参数

view  params  mgr

--启动MGR

start  mgr

--查看MGR状态

Info  mgr

4．登录PG数据库

cd  /data/ogg_pg/

编辑 odbc.ini

[ODBC Data Sources]

PGDSN=DataDirect 12.4 PostgreSQL Wire Protocol

postgres=DataDirect 12.4 PostgreSQL Wire Protocol

scott=DataDirect 12.4 PostgreSQL Wire Protocol

[ODBC]

IANAAppCodePage=106

InstallDir=/data/ogg_pg

[TESTPDB]

Driver=/data/ogg_pg/lib/GGpsql25.so

Description=DataDirect 12.4 PostgreSQL Wire Protocol

Database=testpdb

HostName=20.2.127.23

PortNumber=5432

LogonID=ogguser

Password=ogguserP2021

TransactionErrorBehavior=2

--查看odbc.ini配置

shell  cat  odbc.ini

将如下一行添加到/etc/profile

export ODBCINI=/data/ogg_pg/odbc.ini

使环境变量生效

source  /etc/profile

--登录

dblogin sourcedb testpdb, userid ogguser, password ogguserP2021

如果登录时报错，说明ODBCINI变量没有配置或者没有生效。

5．配置抽取进程

--注册抽取

register extract pgext2

--增加抽取进程日志

add ext pgext2, tranlog , begin now

add exttrail ./dirdat/g1, ext pgext2

--编辑抽取参数

edit param pgext2

extract pgext2

setenv(PGCLIENTENCODING = "UTF8")

setenv(ODBCINI="/data/ogg_pg/odbc.ini" )

sourcedb testpdb, userid ogguser, password ogguserP2021

exttrail ./dirdat/g1

discardfile ./dirrpt/pgext2.dsc

cachemgr  cachesize  1G

container  mem_limit  8G

table public.tb01;

--查看抽取参数

view param pgext2

--启动抽取进程

start  pgext2

--查看进程状态

info  pgext2  

6．配置投递进程

--编辑投递参数

edit  param  pgpump2

extract pgpump2

rmthost 20.2.125.52, mgrport 6809

rmttrail ./dirdat/g1

passthru

cachemgr  cachesize 1G

container  mem_limit 8G

table public.tb01;

--查看配置投递参数

view  param  pgpump2

--添加投递进程日志

add extract pgpump2, exttrailsource ./dirdat/g1

add rmttrail  ./dirdat/g1, extract  pgpump2 

--启动投递进程

start  pgpump2  

--查看投递进程状态

Info  pgpump2

7．测试抽取和投递进程

（1）登录PG数据库，插入数据

--创建sequence

create sequence seq01 increment by 1 start 1;

--以下语句手动执行，可以多执行几次。

insert into tb01

select

nextval('seq01'),

array_to_string(array(select substring('0123456789ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz' FROM (ceil(random()*62))::int FOR 1) FROM generate_series(1, 16)), ''),

now();

（2）登录源端OGG，查看抽取和投递统计信息

--OGG查看统计信息

stats pgext2, total

--查看投递统计信息

stats  pgpump2,total

（五）OGG目标端配置

1．启动Bigdata的ggsci

bigdata_ggsci

2．创建目录

create subdirs

3．配置kafka相关参数

1) 配置custom_kafka_producer.properties

在dirprm目录下编辑文件custom_kafka_producer.properties，如果没有可以新建一个。

bootstrap.servers=hadoop01:9092,hadoop02:9092,hadoop03:9092

acks=1

compression.type=gzip

reconnect.backoff.ms=1000

value.serializer=org.apache.kafka.common.serialization.ByteArraySerializer

key.serializer=org.apache.kafka.common.serialization.ByteArraySerializer

batch.size=102400

linger.ms=10000

2) 配置kafka.props

kafka.props用户配置写入Kafka的topic、数据格式、日志打印等等。这里只给出一个可用的简单示例，更多配置可参考OGG for bigdata 官方文档。

在dirrpm目录下编辑文件kafka.props，如果没有可以新建一个。

gg.handlerlist=kafkahandler

gg.handler.kafkahandler.type=kafka

gg.handler.kafkahandler.KafkaProducerConfigFile=custom_kafka_producer.properties

#gg.handler.kafkahandler.TopicName=oggtb01

gg.handler.kafkahandler.topicMappingTemplate=oggtb01

gg.handler.kafkahandler.format=avro_op

gg.handler.kafkahandler.format=delimitedtext

gg.handler.kafkahandler.format.fieldDelimiter=|

gg.handler.kafkahandler.SchemaTopicName=oggtb01

gg.handler.kafkahandler.BlockingSend=false

gg.handler.kafkahandler.includeTokens=false

gg.handler.kafkahandler.mode=op

goldengate.userexit.timestamp=utc

goldengate.userexit.writers=javawriter

javawriter.stats.display=TRUE

javawriter.stats.full=TRUE

gg.log=log4j

gg.log.level=INFO

gg.report.time=30sec

gg.classpath=/usr/local/kafka/libs/*

javawriter.bootoptions=-Xmx512m -Xms32m -Djava.class.path=ggjava/ggjava.jar

4．配置并启动MGR

edit  param  mgr

PORT 6809

DYNAMICPORTLIST 6810-6909

AUTORESTART EXTRACT *,RETRIES 5,WAITMINUTES 3

PURGEOLDEXTRACTS ./dirdat/*,USECHECKPOINTS, MINKEEPDAYS 3

--查看MGR参数配置

view  param  mgr

--启动MGR

start  mgr  

--查看MGR状态

Info  mgr

5．回放(Replicat)进程配置

--添加/编辑回放进程配置文件

edit params mqkafka2

这里mqkafka为replicat进程名称，用户可任意定义。

REPLICAT mqkafka2

TARGETDB LIBFILE libggjava.so SET property=dirprm/kafka.props

REPORTCOUNT EVERY 1 MINUTES, RATE

GROUPTRANSOPS 10000

cachemgr  cachesize  1G 

##container  mem_limit  8G    

MAP public.tb01, TARGET  public.tb01;

--添加进程

add replicat mqkafka2, exttrail ./dirdat/g1

--启动mqkafka2

start  mqkafka2

--查看回放进程信息

Info  mqkafka2

--查看回放进程统计信息

 stats   mqkafka2,total 

（六）测试验证

（1）PostgreSQL中插入数据

--登录PostgreSQL数据库

psql

--进入testpdb数据库

\c  testpdb

--插入数据

insert into tb01 values(2001,'lgb',now()),(2002,'tom',now()),(2003,'alice',now());

（2）PostgreSQL中更新数据

--更新tb01表中的时间

update  tb01  set  ts = now()  where id < 2000 ;

--查询变更后的时间

select  *  from  tb01  ;

（3）PostgreSQL中删除数据

--删除表中数据

delete  from  tb01  where  id > 2001;

--查询表中数据

select  *  from  tb01  ;

（4）Kafka查看消费消息

--启动Consumer，并订阅我们上面创建的Topic中生产的消息：

./kafka-console-consumer.sh  --bootstrap-server hadoop03:9092  --topic  oggtb01 ;

（七）常用命令总结

--查看所有OGG进程

info  all

--查看某个OGG进程

info  进程名

info  进程名  detail

--管理OGG进程

start/stop/delete  进程名

--查看进程日志报告

view  report  进程名

--修改进程参数

edit  params  进程名  

--修改全局参数

edit  params  ./GLOBAL

--查看统计信息,列出处理的所有记录数

stats  进程名，total  

--查看详细处理过的事务记录

info  进程名 showch

--查看进程中最长的10个交易

send  extract  进程名 ,showtrans  thread 1 count 10

--查看当前GoldenGate环境信息

show

--历史命令

history

--执行本地shell

shell  ls  

--查看告警日志信息

view  ggsevt

--查看延时，以及文件抽取应用情况

lag  进程名

本栏目推荐文章
• 第二章 Spring Boot 整合 Kafka消息队列 生产者
• ClickHouse(21)ClickHouse集成Kafka表引擎详细解析
• org.springframework.kafka.listener.ListenerExecutionFailedException: Listener method could not be invoked with the incoming message
• 实时数据流无忧：用 SpringBoot 和 SSE 打造动态前端更新的终极指南
• 一段简单的jquery代码，抓取抖音直播间的实时弹幕
• MD-LIVE 3.4 (Windows) - 移动取证实时提取和分析
• ogg-kafka
• PostgreSQL从小白到高手教程 - 第41讲：postgres表空间备份与恢复
• kafka 服务开机自启动
• 加速下载体验：C#多线程分块下载文件与实时进度展示

OGG-Postgres 实时 Postgres Kafka OGGogg-postgres实时postgres kafka ogg-postgres ogg-postgres postgres mysql ogg ogg-kafka ogg-kafka kafka ogg 实时debezium postgres数据 kafka-stream springboot实时stream elasticsearch实时 功能kafka ogg ogg_linux_x