HAIP异常导致RAC节点无法启动的解决方案Word下载.docx
《HAIP异常导致RAC节点无法启动的解决方案Word下载.docx》由会员分享，可在线阅读，更多相关《HAIP异常导致RAC节点无法启动的解决方案Word下载.docx（9页珍藏版）》请在冰豆网上搜索。
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958158,LATS1518248002,lastSeqNo255958155,uniqueness1406064021,timestamp1407565306/1501758190
47.421:
afterCmInfoStateval3,eval1waited0
48.042:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958160,LATS1518248993,lastSeqNo255958157,uniqueness1406064021,timestamp1407565307/1501759080
48.052:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958161,LATS1518249002,lastSeqNo255958158,uniqueness1406064021,timestamp1407565307/1501759191
48.421:
49.043:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958163,LATS1518249993,lastSeqNo255958160,uniqueness1406064021,timestamp1407565308/1501760082
49.056:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958164,LATS1518250007,lastSeqNo255958161,uniqueness1406064021,timestamp1407565308/1501760193
49.421:
50.044:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958166,LATS1518250994,lastSeqNo255958163,uniqueness1406064021,timestamp1407565309/1501761090
50.057:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958167,LATS1518251007,lastSeqNo255958164,uniqueness1406064021,timestamp1407565309/1501761195
50.421:
51.046:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958169,LATS1518251996,lastSeqNo255958166,uniqueness1406064021,timestamp1407565310/1501762100
51.057:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958170,LATS1518252008,lastSeqNo255958167,uniqueness1406064021,timestamp1407565310/1501762205
51.102:
sendingjoinmsgtoallnodes
sent5joinmsgstoallnodes
51.421:
52.050:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958172,LATS1518253000,lastSeqNo255958169,uniqueness1406064021,timestamp1407565311/1501763110
52.058:
node1,rac01,hasadiskHB,butnonetworkHB,DHBhasrcfg217016033,wrtcnt,255958173,LATS1518253008,lastSeqNo255958170,uniqueness1406064021,timestamp1407565311/1501763230
52.089:
[CSSD][5671]clssnmRcfgMgrThread:
LocalJoin
[CSSD][5671]clssnmLocalJoinEvent:
beginonnode
（2）,waittime193000
setcurtime（1518253039）formynode
scanning32nodes
Noderac01,number1,isinanexistingclusterwithdiskstate3
52.090:
takeoverabortedduetoclustermembernodefoundondisk
52.431:
从上面的信息，很容易给人感觉是心跳的问题。
这么理解也不错，只是这里的心跳不是指的我们说理解的传统的心跳网络。
我让他在crs正常的一个节点查询如下信息，我们就知道原因了，如下：
SQL>
select
name,ip_address
from
v$cluster_interconnects;
NAME
IP_ADDRESS
---------------
----------------
en0
169.254.116.242
大家可以看到，这里心跳IP为什么是169网段呢？
很明显跟我们的/etc/hosts设置不匹配啊？
why？
这里我们要介绍下Oracle11gR2引入的HAIP特性，Oracle引入该特性的目的是为了通过自身的技术来实现心跳网络的冗余，而不再依赖于第三方技术，比如Linux的bond等等。
在Oracle11.2.0.2版本之前，如果使用了OS级别的心跳网卡绑定，那么Oracle仍然以OS绑定的为准。
从11.2.0.2开始，如果没有在OS层面进行心跳冗余的配置，那么Oracle自己的HAIP就启用了。
所以你虽然设置的192.168.1.100，然而实际上Oracle使用是169.254这个网段。
关于这一点，大家可以去看下alertlog，从该日志都能看出来，这里不多说。
我们可以看到，正常节点能看到如下的169网段的ip，问题节点确实看不到这个169的网段IP：
OracleMOS提供了一种解决方案，如下：
crsctlstartresora.cluster_interconnect.haip-init
经过测试，使用root进行操作，也是不行的。
针对HAIP的无法启动，OracleMOS文档说通常是如下几种情况：
1）心跳网卡异常
2）
多播工作机制异常
3）防火墙等原因
4）Oraclebug
对于心跳网卡异常，如果只有一块心跳网卡，那么ping其他的ip就可以进行验证了，这一点很容易排除。
对于多播的问题，可以通过Oracle提供的mcasttest.pl脚本进行检测（请参考GridInfrastructureStartupDuringPatching,InstallorUpgradeMayFailDuetoMulticastingRequirement（ID1212703.1），我这里的检查结果如下：
$./mcasttest.pl-nrac02,rac01-ien0
###########Setupfornoderac02##########
Checkingnodeaccess'
rac02'
Checkingnodelogin'
Checking/CreatingDirectory/tmp/mcasttestforbinaryonnode'
Distributingmcast2binarytonode'
###########Setupfornoderac01##########
rac01'
###########testingMulticastonallnodes##########
TestforMulticastaddress230.0.1.0
Aug1121:
39:
39|MulticastFailedforen0usingaddress230.0.1.0:
42000
TestforMulticastaddress224.0.0.251
40:
09|MulticastFailedforen0usingaddress224.0.0.251:
42001
$
虽然这里通过脚本检查，发现对于230和224网段都是不通的，然而这不见得一定说明是多播的问题导致的。
虽然我们查看ocssd.log，通过搜索mcast关键可以看到相关的信息。
实际上，我在自己的11.2.0.3LinuxRAC环境中测试，即使mcasttest.pl测试不通，也可以正常启动CRS的。
由于网友这里是AIX，应该我就排除防火墙的问题了。
因此最后怀疑Bug9974223的可能性比较大。
实际上，如果你去查询HAIP的相关信息，你会发现该特性其实存在不少的Oraclebug。
其中forknownsHAIPissuesin11gR2/12cGridInfrastructure（1640865.1）就记录12个HAIP相关的bug。
由于这里他的第1个节点无法操作，为了安全，是不能有太多的操作的。
对于HAIP，如果没有使用多心跳网卡的情况下，我觉得完全是可以禁止掉的。
但是昨天查MOS文档，具体说不能disabled。
最后测试发现其实是可以禁止掉的。
如下是我的测试过程：
[root@rac1bin]#./crsctlmodifyresora.cluster_interconnect.haip-attr"
ENABLED=0"
-init
[root@rac1bin]#./crsctlstopcrs
CRS-2791:
StartingshutdownofOracleHighAvailabilityServices-managedresourceson'
rac1'
CRS-2673:
Attemptingtostop'
ora.crsd'
on'
CRS-2790:
StartingshutdownofClusterReadyServices-managedresourceson'
ora.oc4j'
ora.cvu'
ora.LISTENER_SCAN1.lsnr'
ora.GRID.dg'
ora.registry.acfs'
ora.rac1.vip'
CRS-2677:
Stopof'
succeeded
CRS-2672:
Attemptingtostart'
rac2'
ora.scan1.vip'
CRS-2676:
Startof'
ora.asm'
ora.ons'
work'
CRS-2792:
ShutdownofClusterReadyServices-managedresourceson'
hascompleted
ora.drivers.acfs'
ora.ctssd'
ora.evmd'
ora.mdnsd'
ora.cluster_interconnect.haip'
ora.cssd'
ora.crf'
ora.gipcd'
ora.gpnpd'
CRS-2793:
ShutdownofOracleHighAvailabilityServices-managedresourceson'
CR
升级会员 