運行hadoop程序時,有時候會報以下錯誤:
org.apache.hadoop.dfs.SafeModeException: Cannot delete /user/hadoop/input. Name node is in safe mode
這個錯誤應該還滿常見的吧(至少我運行的時候是這樣的)
那我們來分析下這個錯誤,從字面上來理解:
Name node is in safe mode
說明Hadoop的NameNode處在安全模式下。
那什么是Hadoop的安全模式呢?
在分布式文件系統啟動的時候,開始的時候會有安全模式,當分布式文件系統處于安全模式的情況下,文件系統中的內容不允許修改也不允許刪除,直到安全模式結束。安全模式主要是為了系統啟動的時候檢查各個DataNode上數據塊的有效性,同時根據策略必要的復制或者刪除部分數據塊。運行期通過命令也可以進入安全模式。在實踐過程中,系統啟動的時候去修改和刪除文件也會有安全模式不允許修改的出錯提示,只需要等待一會兒即可。
現在就清楚了,那現在要解決這個問題,我想讓Hadoop不處在safe mode 模式下,能不能不用等,直接解決呢?
答案是可以的,只要在Hadoop的目錄下輸入:
bin/hadoop dfsadmin -safemode leave
也就是關閉Hadoop的安全模式,這樣問題就解決了。
之前在hadoop執行過程中使用了"ctrl+c"操作
再次使用hadoop時出現“Name node is in safe mode”提示:
root@v-jiwan-ubuntu-0:~/hadoop/hadoop-0.20.2# bin/hadoop fs -put conf input
put: org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot create directory /user/root/input/conf. Name node is in safe mode.
-----------------------------
最近在測試hadoop,但是沒想到在reduce時卡點,
沒辦法只好Ctrl+c,但是問題也就跟著來了XD
先將hadoop停止後,再啟動hadoop
然後要刪除DFS裡的資料時,
就出現name node is in safe mode,就沒辦法刪除資料啦!
找了好久才找到答案,
bin/hadoopdfsadmin-safemodeleave就可以把safemode解除,為了這個問題煩惱了好久Orz-----------------------------safemode模式NameNode在啟動的時候首先進入安全模式,如果datanode丟失的block達到一定的比例(1-dfs.safemode.threshold.pct),則系統會一直處于安全模式狀態即只讀狀態。dfs.safemode.threshold.pct(缺省值0.999f)表示HDFS啟動的時候,如果DataNode上報的block個數達到了元數據記錄的block個數的0.999倍才可以離開安全模式,否則一直是這種只讀模式。如果設為1則HDFS永遠是處于SafeMode。下面這行摘錄自NameNode啟動時的日志(block上報比例1達到了閥值0.9990)Theratioofreportedblocks1.0000hasreachedthethreshold0.9990.Safemodewillbeturnedoffautomaticallyin18seconds.hadoopdfsadmin-safemodeleave有兩個方法離開這種安全模式1.修改dfs.safemode.threshold.pct為一個比較小的值,缺省是0.999。2.hadoopdfsadmin-safemodeleave命令強制離開http://bbs.hadoopor.com/viewthread.php?tid=61&extra=page%3D1-----------------------------Safemodeisexitedwhentheminimalreplicationconditionisreached,plusanextensiontimeof30seconds.Theminimalreplicationconditioniswhen99.9%oftheblocksinthewholefilesystemmeettheirminimumreplicationlevel(whichdefaultstoone,andissetbydfs.replication.min).安全模式的退出前提-整個文件系統中的99.9%(默認是99.9%,可以通過dfs.safemode.threshold.pct設置)的Blocks達到最小備份級別(默認是1,可以通過dfs.replication.min設置)。dfs.safemode.threshold.pctfloat0.999Theproportionofblocksinthesystemthatmustmeettheminimumreplicationleveldefinedbydfs.replication.minbeforethenamenodewillexitsafemode.Settingthisvalueto0orlessforcesthename-nodenottostartinsafemode.Settingthisvaluetomorethan1meansthenamenodeneverexitssafemode.-----------------------------用戶可以通過dfsadmin-safemodevalue來操作安全模式,參數value的說明如下:enter-進入安全模式leave-強制NameNode離開安全模式get-返回安全模式是否開啟的信息wait-等待,一直到安全模式結束。
“Hadoop怎么解除Name node is in safe mode”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注本站網站,小編將為大家輸出更多高質量的實用文章!
本文由 貴州做網站公司 整理發布,部分圖文來源于互聯網,如有侵權,請聯系我們刪除,謝謝!
c語言中正確的字符常量是用一對單引號將一個字符括起表示合法的字符常量。例如‘a’。數值包括整型、浮點型。整型可用十進制,八進制,十六進制。八進制前面要加0,后面...
2022年天津專場考試原定于3月19日舉行,受疫情影響確定延期,但目前延期后的考試時間推遲。 符合報名條件的考生,須在規定時間登錄招考資訊網(www.zha...
:喜歡聽,樂意看。指很受歡迎?!巴卣官Y料”喜聞樂見:[ xǐ wén lè jiàn ]詳細解釋1. 【解釋】:喜歡聽,樂意看。指很受歡迎。2. 【示例】:這是...
北京時間今天凌晨,布林肯表態了。報道稱,布林肯在紐約參加聯合國有關《不擴散核武器條約》審議大會結束后宣稱,“如果議長決定訪問臺灣,而中國試圖制造某種危機或以其他方式加劇緊張局勢,那將完全是北京的責任”。這種言論把“我去你家里挑釁你但你可不要動怒升級”的強盜邏輯表現得淋漓盡致。布林肯還補充說,“如果佩洛西決定訪問,我們希望他們(中國)采取負...
余額寶轉出到賬時間是多久?余額寶轉出分為兩種情況,分別是快速到賬和普通到賬,具體情況如下:【1】快速到賬:當日轉出,當日到賬,預計是在2小時內到賬的,最快可以實現實時到賬。但是這種轉出方式下單日單戶限額1萬元?!?】普通到賬:這種情況是沒有轉出額度限制的,T日轉出,T+1日24:00前到賬,T日一般就是指基金交易日。而基金交易日一般就是指非節假日的周一到周五,如果碰上了節假日那么資金的到賬時間就會...
以租代購是什么意思?以租代購,顧名思義,是指以租借的形式,來替代采購。以租代購是一種通過租賃來達到財務目標的商業模式。租車購車是一種以商品交易為形式的汽車消費金融業務。它是一種以客戶常租車輛及二手車車輛處置為一體的打包業務為手段,實現客戶分期買車目的的一種汽車消費形式。汽車采用長期租賃模式,每月按月繳納一次租金,租期滿時,汽車產權轉移到顧客名下。以租代購無力償還怎么辦?如果是不能一次還清的話,可以...