作者:風(fēng)未起時(shí) 來(lái)源:中國站長(cháng)學(xué)院 發(fā)布時(shí)間:2005-4-5 10:11:47 發(fā)布人:admin
增大字體
一、如何分析即LogMiner解釋
從目前來(lái)看,分析Oracle日志的唯一方法就是使用Oracle公司提供的LogMiner來(lái)進(jìn)行, Oracle數據庫的所有更改都記錄在日志中,但是原始的日志信息我們根本無(wú)法看懂,而LogMiner就是讓我們看懂日志信息的工具。從這一點(diǎn)上看,它和tkprof差不多,一個(gè)是用來(lái)分析日志信息,一個(gè)則是格式化跟蹤文件。通過(guò)對日志的分析我們可以實(shí)現下面的目的:
1、查明數據庫的邏輯更改;
2、偵察并更正用戶(hù)的誤操作;
3、執行事后審計;
4、執行變化分析。
不僅如此,日志中記錄的信息還包括:數據庫的更改歷史、更改類(lèi)型(INSERT、UPDATE、DELETE、DDL等)、更改對應的SCN號、以及執行這些操作的用戶(hù)信息等,LogMiner在分析日志時(shí),將重構等價(jià)的SQL語(yǔ)句和UNDO語(yǔ)句(分別記錄在V$LOGMNR_CONTENTS視圖的SQL_REDO和SQL_UNDO中)。這里需要注意的是等價(jià)語(yǔ)句,而并非原始SQL語(yǔ)句,例如:我們最初執行的是“delete a where c1 <>‘cyx‘;”,而LogMiner重構的是等價(jià)的6條DELETE語(yǔ)句。所以我們應該意識到V$LOGMNR_CONTENTS視圖中顯示的并非是原版的現實(shí),從數據庫角度來(lái)講這是很容易理解的,它記錄的是元操作,因為同樣是“delete a where c1 <>‘cyx‘;”語(yǔ)句,在不同的環(huán)境中,實(shí)際刪除的記錄數可能各不相同,因此記錄這樣的語(yǔ)句實(shí)際上并沒(méi)有什么實(shí)際意義,LogMiner重構的是在實(shí)際情況下轉化成元操作的多個(gè)單條語(yǔ)句。
另外由于Oracle重做日志中記錄的并非原始的對象(如表以及其中的列)名稱(chēng),而只是它們在Oracle數據庫中的內部編號(對于表來(lái)說(shuō)是它們在數據庫中的對象ID,而對于表中的列來(lái)說(shuō),對應的則是該列在表中的排列序號:COL 1, COL 2 等),因此為了使LogMiner重構出的SQL語(yǔ)句易于識別,我們需要將這些編號轉化成相應的名稱(chēng),這就需要用到數據字典(也就說(shuō)LogMiner本身是可以不用數據字典的,詳見(jiàn)下面的分析過(guò)程),LogMiner利用DBMS_LOGMNR_D.BUILD()過(guò)程來(lái)提取數據字典信息。
LogMiner包含兩個(gè)PL/SQL包和幾個(gè)視圖:
1、dbms_logmnr_d包,這個(gè)包只包括一個(gè)用于提取數據字典信息的過(guò)程,即dbms_logmnr_d.build()過(guò)程。
2、dbms_logmnr包,它有三個(gè)過(guò)程:
add_logfile(name varchar2, options number) - 用來(lái)添加/刪除用于分析的日志文件;
start_logmnr(start_scn number, end_scn number, start_time number,end_time number, dictfilename varchar2, options number) - 用來(lái)開(kāi)啟日志分析,同時(shí)確定分析的時(shí)間/SCN窗口以及確認是否使用提取出來(lái)的數據字典信息。
end_logmnr() - 用來(lái)終止分析會(huì )話(huà),它將回收LogMiner所占用的內存。
與LogMiner相關(guān)的數據字典。
1、v$logmnr_dictionary,LogMiner可能使用的數據字典信息,因logmnr可以有多個(gè)字典文件,該視圖用于顯示這方面信息。
2、v$logmnr_parameters,當前LogMiner所設定的參數信息。
3、v$logmnr_logs,當前用于分析的日志列表。
4、v$logmnr_contents,日志分析結果。
二、Oracle9i LogMiner的增強:
1、支持更多數據/存儲類(lèi)型:鏈接/遷移行、CLUSTER表操作、DIRECT PATH插入以及DDL操作。在V$LOGMNR_CONTENTS的SQL_REDO中可以看到DDL操作的原句(CREATE USER除外,其中的密碼將以加密的形式出現,而不是原始密碼)。如果TX_AUDITING初始化參數設為T(mén)RUE,則所有操作的數據庫賬號將被記錄。
2、提取和使用數據字典的選項:現在數據字典不僅可以提取到一個(gè)外部文件中,還可以直接提取到重做日志流中,它在日志流中提供了操作當時(shí)的數據字典快照,這樣就可以實(shí)現離線(xiàn)分析。
3、允許對DML操作按事務(wù)進(jìn)行分組:可以在START_LOGMNR()中設置COMMITTED_DATA_ONLY選項,實(shí)現對DML操作的分組,這樣將按SCN的順序返回已經(jīng)提交的事務(wù)。
4、支持SCHEMA的變化:在數據庫打開(kāi)的狀態(tài)下,如果使用了LogMiner的DDL_DICT_TRACKING選項,Oracle9i的LogMiner將自動(dòng)對比最初的日志流和當前系統的數據字典,并返回正確的DDL語(yǔ)句,并且會(huì )自動(dòng)偵察并標記當前數據字典和最初日志流之間的差別,這樣即使最初日志流中所涉及的表已經(jīng)被更改或者根本已經(jīng)不存在,LogMiner同樣會(huì )返回正確的DDL語(yǔ)句。
5、在日志中記錄更多列信息的能力:例如對于UPDATE操作不僅會(huì )記錄被更新行的情況,還可以捕捉更多前影信息。
6、支持基于數值的查詢(xún):Oracle9i LogMiner在支持原有基于元數據(操作、對象等)查詢(xún)的基礎上,開(kāi)始支持基于實(shí)際涉及到的數據的查詢(xún)。例如涉及一個(gè)工資表,現在我們可以很容易地查出員工工資由1000變成2000的原始更新語(yǔ)句,而在之前我們只能選出所有的更新語(yǔ)句。
三、Oracle8i/9i的日志分析過(guò)程
LogMiner只要在實(shí)例起來(lái)的情況下都可以運行,LogMiner使用一個(gè)字典文件來(lái)實(shí)現Oracle內部對象名稱(chēng)的轉換,如果沒(méi)有這個(gè)字典文件,則直接顯示內部對象編號,例如我們執行下面的語(yǔ)句:
delete from "C"."A" where "C1" = ‘gototop’ and ROWID = ‘AAABg1AAFAAABQaAAH‘;如果沒(méi)有字典文件,LogMiner分析出來(lái)的結果將是:delete from "UNKNOWN"."OBJ# 6197" where "COL 1" = HEXTORAW(‘d6a7d4ae‘) and ROWID = ‘AAABg1AAFAAABQaAAH‘;
如果想要使用字典文件,數據庫至少應該出于MOUNT狀態(tài)。然后執行dbms_logmnr_d.build過(guò)程將數據字典信息提取到一個(gè)外部文件中。下面是具體分析步驟:
1、確認設置了初始化參數:UTL_FILE_DIR,并確認Oracle對改目錄擁有讀寫(xiě)權限,然后啟動(dòng)實(shí)例。示例中UTL_FILE_DIR參數如下:
SQL> show parameter utlNAME TYPE VALUE------------------------ ----------- ------------------------------utl_file_dir string /data6/cyx/logmnr
這個(gè)目錄主要用于存放dbms_logmnr_d.build過(guò)程所產(chǎn)生的字典信息文件,如果不用這個(gè),則可以不設,也就跳過(guò)下面一步。
2、生成字典信息文件:
exec dbms_logmnr_d.build(dictionary_filename =>‘dic.ora‘,dictionary_location => ‘/data6/cyx/logmnr‘);
其中dictionary_location指的是字典信息文件的存放位置,它必須完全匹配UTL_FILE_DIR的值,例如:假設UTL_FILE_DIR=/data6/cyx/logmnr/,則上面這條語(yǔ)句會(huì )出錯,只因為UTL_FILE_DIR后面多了一個(gè)“/”,而在很多其它地方對這一“/”是不敏感的。
dictionary_filename指的是放于字典信息文件的名字,可以任意取。當然我們也可以不明確寫(xiě)出這兩個(gè)選項,即寫(xiě)成:
exec dbms_logmnr_d.build(‘dic.ora‘,‘/data6/cyx/logmnr‘);
如果你第一步的參數沒(méi)有設,而直接開(kāi)始這一步,Oracle會(huì )報下面的錯誤:
ERROR at line 1:ORA-01308: initialization parameter utl_file_dir is not setORA-06512: at "SYS.DBMS_LOGMNR_D", line 923ORA-06512: at "SYS.DBMS_LOGMNR_D", line 1938ORA-06512: at line 1
需要注意的是,在oracle817 for Windows版中會(huì )出現以下錯誤:
14:26:05 SQL> execute dbms_logmnr_d.build(‘oradict.ora‘,‘c:\oracle\admin\ora\log‘);BEGIN dbms_logmnr_d.build(‘oradict.ora‘,‘c:\oracle\admin\ora\log‘); END;*ERROR at line 1:ORA-06532: Subscript outside of limitORA-06512: at "SYS.DBMS_LOGMNR_D", line 793ORA-06512: at line 1
解決辦法:
編輯"$ORACLE_HOME/rdbms/admindbmslmd.sql"文件,把其中的TYPE col_desc_array IS VARRAY(513) OF col_description;改成:TYPE col_desc_array IS VARRAY(700) OF col_description;
保存文件,然后執行一遍這個(gè)腳本:
15:09:06 SQL> @c:\oracle\ora81\rdbms\admin\dbmslmd.sqlPackage created.Package body created.No errors.Grant succeeded.
然后重新編譯DBMS_LOGMNR_D包:
15:09:51 SQL> alter package DBMS_LOGMNR_D compile body;Package body altered.之后重新執行dbms_logmnr_d.build即可:15:10:06 SQL> execute dbms_logmnr_d.build(‘oradict.ora‘,‘c:\oracle\admin\ora\log‘);PL/SQL procedure successfully completed.
3、添加需要分析的日志文件
SQL>exec dbms_logmnr.add_logfile( logfilename=>‘/data6/cyx/rac1arch/arch_1_197.arc‘, options=>dbms_logmnr.new);PL/SQL procedure successfully completed.
這里的options選項有三個(gè)參數可以用:
NEW - 表示創(chuàng )建一個(gè)新的日志文件列表
ADDFILE - 表示向這個(gè)列表中添加日志文件,如下面的例子
REMOVEFILE - 和addfile相反。
SQL> exec dbms_logmnr.add_logfile( logfilename=>‘/data6/cyx/rac1arch/arch_2_86.arc‘, options=>dbms_logmnr.addfile);PL/SQL procedure successfully completed.
4、當你添加了需要分析的日志文件后,我們就可以讓LogMiner開(kāi)始分析了:
SQL> exec dbms_logmnr.start_logmnr(dictfilename=>‘/data6/cyx/logmnr/dic.ora‘);PL/SQL procedure successfully completed.
如果你沒(méi)有使用字典信息文件(此時(shí)我們只需要啟動(dòng)實(shí)例就可以了),那么就不需要跟dictfilename參數:
SQL> exec dbms_logmnr.start_logmnr();PL/SQL procedure successfully completed.
當然dbms_logmnr.start_logmnr()過(guò)程還有其它幾個(gè)用于定義分析日志時(shí)間/SCN窗口的參數,它們分別是:
STARTSCN / ENDSCN - 定義分析的起始/結束SCN號,
STARTTIME / ENDTIME - 定義分析的起始/結束時(shí)間。
例如下面的過(guò)程將只分析從 ‘2003-09-21 09:39:00‘到‘2003-09-21 09:45:00‘這段時(shí)間的日志:
SQL> exec dbms_logmnr.start_logmnr(dictfilename=>‘/data6/cyx/logmnr/dic.ora‘ , -starttime => ‘2003-09-21 09:39:00‘,endtime => ‘2003-09-21 09:45:00‘);PL/SQL procedure successfully completed.
上面過(guò)程第一行結尾的“-”表示轉行,如果你在同一行,則不需要。我們可以看到有效日志的時(shí)間戳:
SQL> select distinct timestamp from v$logmnr_contents;TIMESTAMP-------------------2003-09-21 09:40:022003-09-21 09:42:39
這里需要注意的是,因為我之前已經(jīng)設置NLS_DATE_FORMAT環(huán)境變量,所以上面的日期可以直接按這個(gè)格式寫(xiě)就行了,如果你沒(méi)有設,則需要使用to_date函數來(lái)轉換一下。
SQL> !env grep NLSNLS_LANG=american_america.zhs16cgb231280NLS_DATE_FORMAT=YYYY-MM-DD HH24:MI:SSORA_NLS33=/oracle/oracle9/app/oracle/product/9.2.0/oco
mmon/nls/admin/data使用to_date的格式如下:exec dbms_logmnr.start_logmnr(dictfilename=>‘/data6/cyx/logmnr/dic.ora‘,-starttime => to_date(‘2003-09-21 09:39:00‘,‘YYYY-MM-DD HH24:MI:SS‘),-endtime => to_date(‘2003-09-21 09:45:00‘,‘YYYY-MM-DD HH24:MI:SS‘));
STARTSCN 和ENDSCN參數使用方法類(lèi)似。
5、好了,在上面的過(guò)程執行結束之后,我們就可以通過(guò)訪(fǎng)問(wèn)與LogMiner相關(guān)的幾個(gè)視圖來(lái)提取我們需要的信息了。其中在v$logmnr_logs中可以看到我們當前分析的日志列表,如果數據庫有兩個(gè)實(shí)例(即OPS/RAC),在v$logmnr_logs中會(huì )有兩個(gè)不同的THREAD_ID。
而真正的分析結果是放在v$logmnr_contents中,這里面有很多信息,我們可以根據需要追蹤我們感興趣的信息。后面我將單獨列出來(lái)講常見(jiàn)的追蹤情形。
6、全部結束之后,我們可以執行dbms_logmnr.end_logmnr過(guò)程退出LogMiner分析過(guò)程,你也可以直接退出SQL*PLUS,它會(huì )自動(dòng)終止。
=====================
四、如何利用LogMiner分析Oracle8的日志文件
雖然說(shuō)LogMiner是Oracle8i才推出來(lái),但我們同樣可以用它來(lái)分析Oracle8的日志文件,只不過(guò)稍微麻煩了一點(diǎn),并且有一定的限制,下面是具體做法:
我們首先復制Oracle8i的$ORACLE_HOME/rdbms/admin/dbmslmd.sql腳本到Oracle8數據庫所在主機的同樣目錄;這個(gè)腳本用于創(chuàng )建dbms_logmnr_d包(注意,Oracle9i中還將創(chuàng )建dbms_logmnr包),如果是8.1.5腳本名字為dbmslogmnrd.sql。然后在Oracle8的數據庫上運行這個(gè)腳本,之后使用dbms_logmnr_d.build過(guò)程創(chuàng )建字典信息文件?,F在我們就可以把Oracle8的歸檔日志連同這個(gè)字典信息文件復制到Oracle8i數據庫所在的主機上,之后在Oracle8i數據庫中從上面分析過(guò)程的第三步開(kāi)始分析Oracle8的日志,不過(guò)
dbms_logmnr.start_logmnr()中使用的是Oracle8的字典信息文件。
按照我前面所說(shuō)的那樣,如果不是字典文件,我們則可以直接將Oracle8的歸檔日志復制到Oracle8i數據庫所在主機,然后對它進(jìn)行分析。
其實(shí)這里涉及到了一個(gè)跨平臺使用LogMiner的問(wèn)題,筆者做過(guò)試驗,也可以在Oracle9i中來(lái)分析Oracle8i的日志。但這些都是有所限制的,主要表現在:
1、LogMiner所使用的字典文件必須和所分析的日志文件是同一個(gè)數據庫所產(chǎn)生的,并且該數據庫的字符集應和執行LogMiner數據庫的相同。這很好理解,如果不是同一個(gè)數據庫所產(chǎn)生就不存在對應關(guān)系了。
2、生成日志的數據庫硬件平臺和執行LogMiner數據庫的硬件平臺要求一致,操作系統版本可以不一致。筆者做試驗時(shí)(如果讀者有興趣可以到我網(wǎng)站http://www.ncn.cn上下載試驗全過(guò)程,因為太長(cháng)就不放在這里了),所用的兩個(gè)數據庫操作系統都是Tru64 UNIX,但一個(gè)是 V5.1A,另一個(gè)則是V4.0F。如果操作系統不一致則會(huì )出現下面的錯誤:
ORA-01284: file /data6/cyx/logmnr/arch_1_163570.arc cannot be openedORA-00308: cannot open archived log ‘/data6/cyx/logmnr/arch_1_163570.arc‘ORA-27048: skgfifi: file header information is invalidORA-06512: at "SYS.DBMS_LOGMNR", line 63ORA-06512: at line 1
五、分析v$logmnr_contents
前面我們已經(jīng)知道了LogMiner的分析結果是放在v$logmnr_contents中,這里面有很多信息,我們可以根據需要追蹤我們感興趣的信息。那么我們通常感興趣的有哪些呢?
1、追蹤數據庫結構變化情況,即DDL操作,如前所述,這個(gè)只有Oracle9i才支持:
SQL> select timestamp,sql_redo from v$logmnr_contents2 where upper(sql_redo) like ‘%CREATE%‘;TIMESTAMP-------------------SQL_REDO-------------------------2003-09-21 10:01:55create table t (c1 number);
2、追蹤用戶(hù)誤操作或惡意操作:
例如我們現實(shí)中有這樣需求,有一次我們發(fā)現一位員工通過(guò)程序修改了業(yè)務(wù)數據庫信息,把部分電話(huà)的收費類(lèi)型改成免費了,現在就要求我們從數據庫中查出到底是誰(shuí)干的這件事?怎么查?LogMiner提供了我們分析日志文件的手段,其中v$logmnr_contents的SESSION_INFO列包含了下面的信息:
login_username=NEW_97 client_info= OS_username=oracle8 Machine_name=phoenix1 OS_terminal=ttyp3 OS_process_id=8004 OS_program name=sqlplus@phoenix1 (TNS V1-V3)
雖然其中信息已經(jīng)很多了,但在我們的業(yè)務(wù)數據庫中,程序是通過(guò)相同的login_username登錄數據庫的,這樣單從上面的信息是很難判斷的。
不過(guò)我們注意到,因為公司應用服務(wù)器不是每個(gè)人都有權限在上面寫(xiě)程序的,一般惡意程序都是直接通過(guò)他自己的PC連到數據庫的,這就需要一個(gè)準確的定位。IP追蹤是我們首先想到的,并且也滿(mǎn)足我們的實(shí)際要求,因為公司內部IP地址分配是統一管理的,能追蹤到IP地址我們就可以準確定位了。但從面的SESSION_INFO中我們并不能直接看到IP,不過(guò)我們還是有辦法的,因為這個(gè)SESSION_INFO里面的內容其實(shí)是日志從V$SESSION視圖里提取的,我們可以在生產(chǎn)數據庫中創(chuàng )建一個(gè)追蹤客戶(hù)端IP地址的觸發(fā)器:
create or replace trigger on_logon_triggerafter logon on databasebegin dbms_application_info.set_client_info(sys_context(‘userenv‘, ‘ip_address‘));end;/
現在,我們就可以在V$SESSION視圖的CLIENT_INFO列中看到新登錄的客戶(hù)端IP地址了。那么上面的提出的問(wèn)題就可以迎刃而解了。假如被更新的表名為HMLX,我們就可以通過(guò)下面的SQL來(lái)找到所需信息:
SQL > select session_info ,sql_redo from v$logmnr_contents 2 where upper(operation) = ‘UPDATE‘ and upper(sql_redo) like ‘%HMLX%‘3 /SESSION_INFO-----------------------------------------SQL_REDO-----------------------------------------login_username=C client_info=10.16.98.26 OS_username=sz-xjs-chengyx Machine_name=GDTEL\SZ-XJS-CHENGYXupdate "C"."HMLX" set "NAME" = ‘free‘ where "NAME" = ‘ncn.cn‘ and ROWID = ‘AAABhTAAFAAABRaAAE‘;