GoldenGate安装配置手册V11.docx

1、GoldenGate安装配置手册V11XXXX平台 GoldenGate安装配置手册（版本号 1.0）xxxxxxx有限公司二一二年八月更改履历版本号修改编号更改时间更改的图表和章节号更改简要描述更改人批准人注：更改人除形成初稿，以后每次修改在未批准确认前均需采用修订的方式进行修改。1 项目背景 12 GoldenGate简要说明 12.1 Golden Gate技术结构 12.2 Golden Gate拓扑结构 33 单机单机复制配置 43.1 环境简介 43.2 源端安装GoldenGate 43.3 目标端安装GoldenGate 53.4 配置源端数据库 53.5 配置源端进程组 63

2、.6 配置目标数据库 83.7 配置目标端进程组 93.8 启动进程进行数据同步 104 RAC单机复制配置 114.1 环境简介 114.2 源端安装OCFS2集群文件系统 114.3 源端安装GoldenGate 124.4 目标端安装GoldenGate 134.5 配置源端数据库 134.6 配置源端进程组 144.7 配置目标数据库 154.8 配置目标端进程组 164.9 启动进程进行数据同步 165 RAC单机下的HA配置 175.1 节点故障的手工处理方式 175.2 GoldenGate的HA配置 176 常见错误及解决方法 226.1 OGG-00446 226.2 OGG

3、-01223 236.3 OGG-01224 236.4 OGG-01031 236.5 OGG-01154 241 项目背景2 GoldenGate简要说明GoldenGate现在是业内成熟的数据容灾与复制产品，经过多年的发展与完善，现在已经成为业内事实上的标准之一。GoldenGate软件是一种基于日志的结构化数据复制软件，它通过解析源数据库在线日志或归档日志获得数据的增删改变化，再将这些变化应用到目标数据库，实现源数据库与目标数据库同步。2.1 Golden Gate技术结构GoldenGate软件的技术结构如图1.1所示：图1.1 GoldenGate技术架构图从图中可以看到：Gold

4、enGate主要包含Manager进程、Extract进程、Pump进程、Replicat进程，下面对其一一说明：Manager进程是GoldenGate的控制进程，它主要作用有以下几个方面：启动、监控、重启GoldenGate的其他进程，报告错误及时间，分配数据存储空间，发布阀值报告等。Extract进程运行在数据库源端，负责从源端数据表或日志中捕获数据。Extract进程利用其内在的checkpoint机制，周期性地检查并记录其读写的位置，通常是写入到本地的trail文件。这种机制是为了保证如果Extract进程终止或者操作系统宕机，我们重启Extract进程后，GoldenGate能够恢

5、复到以前的状态，从上一个断点处继续往下运行，而不会有任何数据损失。Pump进程运行在数据库源端，其作用非常简单。如果源端使用了本地trail文件，那么Pump进程就会把Trail文件以数据块的形式通过TCP/IP协议发送到目标端，我们下面的配置都是这种方式。Pump进程本质是Extract进程的一种特殊形式，如果不使用Trail文件，那么Extract进程在抽取完数据后，直接投递到目标端。与Pump进程相对应的叫Server Collector进程，这个进程不需要引起我们关注，因为在实际操作过程中无需对其进行任何配置，它运行在目标端，任务就是把Extract/Pump进程投递过来的数据块重新组

6、装成Trail文件。Replicat进程运行在目标端，是数据投递的最后一站，负责读取目标端Trail文件中的内容，并将解析其解析为DML或DDL语句，然后应用到目标数据库中。2.2 Golden Gate拓扑结构GoldenGate提供了灵活的应用方案，基于其先进、灵活的技术架构可以根据用户需求组成各种拓扑结构，如图1.2所示：图1.2 GoldenGate应用方案示意图根据实际需求情况，我们需要进行的是一对一复制，且只是复制部分表数据，所以这里仅探讨一对一复制的安装配置，而且对于DDL复制的支持这里也不做研究。3 单机单机复制配置3.1 环境简介性质IP系统ORACLE版本源端10.122.

7、0.110AIX 5.310.2.0.1目标端10.122.0.113WINDOWS 200310.2.0.13.2 源端安装GoldenGate创建GoldenGate安装目录并解压安装文件unzip ogg112101_ggs_AIX_ppc_ora10.2_64bit.ziptar xf ggs_AIX_ppc_ora10.2_64bit.tar注意：使用的安装包一定要与平台一致设置环境变量在用户参数文件中添加以下内容：export GGATE_HOME=/u01/oracle/oracle/oggexport LIBPATH=$GGATE_HOME:$ORACLE_HOME/lib注意

8、：添加后需使参数文件生效HP及LINUX平台下用LD_LIBRARY_PATH替换LIBPATH安装GoldenGate进入OGG控制台创建OGG工作目录然后在安装目录下执行 ./ggsci 进入OGG控制台执行命令 create subdirs创建工作目录，显示如下：GGSCI (NDSCDB1) 1 create subdirsCreating subdirectories under current directory /u01/oracle/oracle/oggParameter files /u01/oracle/oracle/ogg/dirprm: already existsRe

9、port files /u01/oracle/oracle/ogg/dirrpt: createdCheckpoint files /u01/oracle/oracle/ogg/dirchk: createdProcess status files /u01/oracle/oracle/ogg/dirpcs: createdSQL script files /u01/oracle/oracle/ogg/dirsql: createdDatabase definitions files /u01/oracle/oracle/ogg/dirdef: createdExtract data file

10、s /u01/oracle/oracle/ogg/dirdat: createdTemporary files /u01/oracle/oracle/ogg/dirtmp: createdStdout files /u01/oracle/oracle/ogg/dirout: created3.3 目标端安装GoldenGate建立OGG安装目录，然后将压缩包解压到目录中，进入cmd控制台，创建工作目录,操作步骤显示如下：3.4 配置源端数据库数据库模式配置源端数据库必须开启归档模式Alter database archivelog;开启最小附加日志Alter database add supp

11、lemental log data;使用SELECT SUPPLEMENTAL_LOG_DATA_MIN FROM V$DATABASE;可查看是否开启了最小附加日志；源端数据库创建GoldenGate数据库用户并授权：（我们这里以ogg为例，使用其他亦可）create user ogg identified by oracle default tablespace DATA_OL;grant connect,resource,unlimited tablespace to ogg;grant execute on utl_file to ogg;grant select any dictio

12、nary,select any table to ogg;grant alter any table to ogg;grant flashback any table to ogg;grant execute on DBMS_FLASHBACK to ogg;添加表级transdataGGSCI (NDSCDB1) 2 dblogin userid ogg,password oracleSuccessfully logged into database.GGSCI (NDSCDB1) 3 add trandata olive.ol$_objectsLogging of supplemental

13、 redo data enabled for table OLIVE.OL$_OBJECTS.3.5 配置源端进程组配置管理进程mgr：GGSCI (NDSCDB1) 1 edit param mgr（粘贴下面这段配置）PORT 7839DYNAMICPORTLIST 7840-7939-AUTOSTART ER *AUTORESTART EXTRACT *,RETRIES 5,WAITMINUTES 3PURGEOLDEXTRACTS ./dirdat/*,usecheckpoints, minkeepdays 3LAGREPORTHOURS 1LAGINFOMINUTES 30LAGCRI

14、TICALMINUTES 45MANAGER进程参数配置说明：PORT：指定服务监听端口；这里以7839为例，默认端口为7809DYNAMICPORTLIST：动态端口：可以制定最大256个可用端口的动态列表，当指定的端口不可用时，管理进程将会从列表中选择一个可用的端口，源端和目标段的Collector、Replicat、GGSCI进程通信也会使用这些端口；COMMENT：注释行，也可以用-来代替;AUTOSTART：指定在管理进程启动时自动启动哪些进程；AUTORESTART：自动重启参数设置：本处设置表示每3分钟尝试重新启动所有EXTRACT进程，共尝试5次；PURGEOLDEXTRACT

15、S：定期清理trail文件设置：本处设置表示对于超过3天的trail文件进行删除。LAGREPORT、LAGINFO、LAGCRITICAL：定义数据延迟的预警机制：本处设置表示MGR进程每隔1小时检查EXTRACT的延迟情况，如果超过了30分钟就把延迟作为信息记录到错误日志中，如果延迟超过了45分钟，则把它作为警告写到错误日志中。启动管理进程：GGSCI (NDSCDB1) 2 start mgrManager started.查看进程状态可发现 MANAGER 状态为 RUNNING：GGSCI (NDSCDB1) 3 info allProgram Status Group Lag at

16、 Chkpt Time Since ChkptMANAGER RUNNING配置抽取进程：GGSCI (NDSCDB1) 12 add extract extnd,tranlog,begin nowEXTRACT added.GGSCI (NDSCDB1) 14 add exttrail ./dirdat/nd,extract extnd,megabytes 100EXTTRAIL added.Megabytes:指定队列大小，本处设置表示100M。GGSCI (NDSCDB1) 15 edit params extnd（粘贴下面这段配置）EXTRACT extndsetenv (NLS_LA

17、NG = AMERICAN_AMERICA.UTF8)SETENV (ORACLE_HOME = /u01/oracle/oracle/product/10.2.0/db_1)SETENV (ORACLE_SID = ndtest)USERID ogg, PASSWORD oracle-GETTRUNCATESREPORTCOUNT EVERY 1 MINUTES, RATEDISCARDFILE ./dirrpt/extnd.dsc,APPEND,MEGABYTES 1024-THREADOPTIONS MAXCOMMITPROPAGATIONDELAY 60000 IOLATENS 600

18、00DBOPTIONS ALLOWUNUSEDCOLUMNWARNLONGTRANS 2h,CHECKINTERVAL 3mEXTTRAIL ./dirdat/nd-TRANLOGOPTIONS EXCLUDEUSER USERNAMEFETCHOPTIONS NOUSESNAPSHOTTRANLOGOPTIONS CONVERTUCS2CLOBSTABLE olive.ol$_objects添加传输进程，配置参数GGSCI (NDSCDB1) 2 add extract dpend,exttrailsource ./dirdat/ndEXTRACT added.GGSCI (NDSCDB1)

19、 3 add rmttrail F:oggdirdatnd, EXTRACT DPENDRMTTRAIL added.GGSCI (NDSCDB1) 4 edit params dpend（粘贴下面这段配置）EXTRACT dpendSETENV (NLS_LANG = AMERICAN_AMERICA.UTF8)USERID ogg, PASSWORD oraclePASSTHRURMTHOST 10.122.0.113, MGRPORT 7839, compressRMTTRAIL F:oggdirdatndTABLE olive.ol$_objects;抽取进程和传输进程其实都是EXTR

20、ACT进程，也可以配置在一个进程完成这两个功能，但是当网络传输有问题时，这样抽取也就不能继续运行了，所以推荐分开配置为两个进程；EXTRACT进程参数配置说明：SETENV：配置系统环境变量USERID/ PASSWORD： 指定OGG连接数据库的用户名和密码，这里使用3.4部分中创建的数据库用户OGG;COMMENT：注释行，也可以用-来代替;TABLE：定义需复制的表，后面需以；结尾TABLEEXCLUDE：定义需要排除的表，如果在TABLE参数中使用了通配符，可以使用该参数指定排除掉得表。GETUPDATEAFTERS|IGNOREUPDATEAFTERS：是否在队列中写入后影像，缺省复

21、制GETUPDATEBEFORES| IGNOREUPDATEBEFORES：是否在队列中写入前影像，缺省不复制GETUPDATES|IGNOREUPDATES：是否复制UPDATE操作，缺省复制GETDELETES|IGNOREDELETES：是否复制DELETE操作，缺省复制GETINSERTS|IGNOREINSERTS：是否复制INSERT操作，缺省复制GETTRUNCATES|IGNORETRUNDATES：是否复制TRUNCATE操作，缺省不复制；RMTHOST：指定目标系统及其Goldengate Manager进程的端口号，还用于定义是否使用压缩进行传输，本例中的compres

22、s为压缩传输；RMTTRAIL：指定写入到目标断的哪个队列；EXTTRAIL：指定写入到本地的哪个队列；SQLEXEC：在extract进程运行时首先运行一个SQL语句；PASSTHRU：禁止extract进程与数据库交互，适用于Data Pump传输进程；REPORT：定义自动定时报告；STATOPTIONS：定义每次使用stat时统计数字是否需要重置；REPORTCOUNT：报告已经处理的记录条数统计数字；TLTRACE：打开对于数据库日志的跟踪日志；DISCARDFILE：定义discardfile文件位置，如果处理中油记录出错会写入到此文件中；DBOPTIONS：指定对于某种特定数据库

23、所需要的特殊参数；TRANLOGOPTIONS：指定在解析数据库日志时所需要的特殊参数，例如：对于裸设备，可能需要加入以下参数 rawdeviceoggset 0WARNLONGTRANS：指定对于超过一定时间的长交易可以在gsserr.log里面写入警告信息，本处配置为每隔3分钟检查一次场交易，对于超过2小时的进行警告；3.6 配置目标数据库目标库创建GoldenGate数据库用户并授权：create user ogg identified by oracle default tablespace DATA_OL;grant connect,resource,unlimited tables

24、pace to ogg;grant execute on utl_file to ogg;grant select any dictionary,select any table to ogg;grant alter any table to ogg;grant flashback any table to ogg;grant execute on DBMS_FLASHBACK to ogg;grant insert any table to ogg;grant delete any table to ogg;grant update any table to ogg;添加checkpoint

25、表然后在参数文件中输入GGSCHEMA oggCHECKPOINTTABLE ogg.checkpoint3.7 配置目标端进程组配置管理进程配置复制进程REPLICAT进程参数配置说明：ASSUMETARGETDEFS：假定两端数据结构一致使用此参数；SOURCEDEFS：假定两端数据结构不一致，使用此参数指定源端的数据结构定义文件，该文件需要由GlodenGate工具产生。MAP:用于指定源端与目标端表的映射关系；MAPEXCLUDE：用于使用在MAP中使用*匹配时排除掉指定的表；REPERROR：定义出错以后进程的响应，一般可以定义为两种：ABEND，即一旦出现错误即停止复制，此为缺省配

26、置；DISCARD，出现错误后继续复制，只是把错误的数据放到discard文件中。DISCARDFILE：定义discardfile文件位置，如果处理中油记录出错会写入到此文件中；SQLEXEC：在进程运行时首先运行一个SQL语句；GROUPTRANSOPS：将小交易合并成一个大的交易进行提交，减少提交次数，降低系统IO消耗。MAXTRANSOPS：将大交易拆分，每XX条记录提交一次。3.8 启动进程进行数据同步启动源端进程组启动抽取进程和传输进程：start extndstart dpend启动后使用info all查看进程状态，正常status应该RUNNING，显示如下：GGSCI (N

27、DSCDB1) 11 info allProgram Status Group Lag at Chkpt Time Since ChkptMANAGER RUNNING EXTRACT RUNNING DPEND 00:00:00 00:15:32EXTRACT RUNNING EXTND 00:00:00 00:00:04启动目标端进程start repnd显示如下：到此OGG的安装配置就完成了，可以进行数据同步测试了。4 RAC单机复制配置4.1 环境简介性质IP系统ORACLE版本源端10.123.112.201/10.123.112.202LINUX rhel5 64位10.2.0.1

28、目标端10.123.112.235LINUX rhel5 32位10.2.0.14.2 源端安装OCFS2集群文件系统RAC环境中为了实现高可用性，需将OGG安装在集群文件系统中，这样OGG可以访问RAC中的所有节点，我们这里测试采用OCFS2文件系统。从下载与LINUX内核相符的OCFS2 RPM包LINUX下执行uname r查看系统内核版本 eg：oraclenode2 ocfs$ uname -r2.6.18-92.el5使用ROOT用户安装OCFS2的RPM包rootnode1 ocfs# rpm -ivh ocfs2-tools-1.2.7-1.el5.x86_64.rpm ocf

29、s2console-1.2.7-1.el5.x86_64.rpm ocfs2-2.6.18-92.el5-1.2.9-1.el5.x86_64.rpm进入OCFS2控制台界面rootnode1 # ocfs2console在出现的窗体中选择Clucster-Configure Nodes在Node Configuration对话框中，输入2个专用互连的节点名、IP 地址、端口号后，选择 Clucster-Propagate Cluster Configuration ，提示Finished。配置后的信息显示如下：在集群中的所有节点上以 root 用户帐户的身份运行以下命令 export PATH=$PATH:/sbin:/usr/sbin /etc/init.d/o2cb enable创建ocfs2文件系统，其中-N选项用于指明最多允许多少个节点同时使用此文件系统：# mkfs -t ocfs2 -N 2 /dev/sdh1挂载分区：# mount /dev/sdh1 /ggate配置启动自动载入（所有节点）： export PATH=$PATH:/sbin:/usr/sbin chkconfig -add o2cb /etc/init.d/o2c