Activemq中的KahaDB消息日志的恢复机制

KahaDB支持多种机制在系统异常关闭后重启并恢复。包括检测数据文件丢失和还原损坏的metadata。这些特性并不能完全保证系统异常关闭不造成消息丢失。如果需要保证系统的高可靠性,建议部署到容灾系统上。例如RAID磁盘阵列中。

当broker正常关闭时,KahaDBmessagestore会将所有的缓存数据刷到文件系统中。尤其是这些数据:

1、所有未处理的日志数据

2、所有缓存的metadata

最后metastore中的信息与journal数据文件中的数据保持一致性。

正常情况下,在系统恢复时优先读取journal中的数据。因为metacache中的索引信息是周期性的更新到metastore中的。当系统异常关闭时,可能journal中有的数据metastore中并没有不存在索引。但是KahaDB在恢复时会先读取metastore中的数据,然后再读取journal有但是metastore不存在的数据(因为KahaDB根据metastore中的索引信息快速定位到metastore没有但是journal文件中包含的数据,然后根据这些数据重新在metastore中建立索引信息)

KahaDB会在更新metadatastore之前,保存更新操作的概要信息到重做日志(db.redo)中。减少系统异常关闭时的风险。因为重做日志非常小,所以在系统异常关闭时能快速写入。当系统恢复时会判断重做日志中的信息是否需要更新到metadata中。

如果metadatastore已被不可挽回的损坏了,可以删除metadatastore文件(db.data)来强制恢复;只不过这个时候,broker会读取所有的journal文件来重建metadatastore,需要一段比较长的时间。

KahaDB可以检测是否有journal文件丢失,如果有丢失,默认将会抛出一个异常然后关闭。便于管理员调查丢失的journal文件,并手动还原。可以通过设置ignoreMissingJournalfiles为true,让broker在启动时忽略这些丢失的journal文件。

KahaDB同样可以检测journal文件的完整性。不过这些特性需要明确的配置来启用。

<persistenceAdapter>
  <kahaDB directory="activemq-data"
          journalMaxFileLength="32mb"
          checksumJournalFiles="true"
          checkForCorruptJournalFiles="true"
          />
</persistenceAdapter>

KahaDB的各个可配置属性:

属性默认值描述directoryactivemq-data保存messagestore数据文件的目录indexWriteBatchSize1000批量更新索引的阀值,当要更新的索引到达这个索引时,批量更新到metadatastore中indexCacheSize10000指定metadatacache的大小enableIndexWriteAsyncfalse写入索引文件到metadatastore中的方式是否采用异步写入journalMaxFileLength32mb消息持久数据文件的大小enableJournalDiskSyncstrue如果为true,保证使用同步写入的方式持久化消息到journal文件中cleanupInterval30000清除(清除或归档)不再使用的journal文件的时间周期(毫秒)。checkpointInterval5000写入索引信息到metadatastore中的时间周期(毫秒)ignoreMissingJournalfilesfalse是否忽略丢失的journal文件。如果为false,当丢失了journal文件时,broker启动时会抛异常并关闭checkForCorruptJournalFilesfalse如果为true,broker在启动的时候会检测journal文件是否损坏,若损坏便尝试恢复它。checksumJournalFilesfalse如果为true。KahaDB为journal文件生产一个checksum,以便能够检测journal文件是否损坏。archiveDataLogsfalse如果为true,当达到cleanupInterval周期时,会归档journal文件而不是删除directoryArchivenull指定归档journal文件存放的路径databaseLockedWaitDelay10000在使用主从数据库备份时,等待获取DB上的lock的延迟时间。maxAsyncJobs10000等待写入journal文件的任务队列的最大数量。应该大于或等于最大并发producer的数量。配合并行存储转发属性使用。concurrentStoreAndDispatchTransactionsfalse如果为true,转发消息的时候同时提交事务concurrentStoreAndDispatchTopicsfalse如果为true,转发Topic消息的时候同时存储消息的messagestore中。concurrentStoreAndDispatchQueuestrue如果为true,转发Queue消息的时候同时存储消息到messagestore中。

相关推荐