亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

python 操作CDH的HDFS

系統(tǒng) 1839 0

環(huán)境:安裝了pyenv,pip
pyenv global 3.6.8

pip install hdfs
pip install ipython ?(個(gè)人喜歡使用pyenv的自動(dòng)補(bǔ)全功能)
安裝完hdfs后建議重啟,測試過程出現(xiàn)了hdfs模塊找不到的情況
注意:客戶端分為Client和InsecureClient,Client需要驗(yàn)證權(quán)限

            
              In [1]: from hdfs import InsecureClient ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
In [2]: client_hdfs = InsecureClient('http://192.168.4.86:9870',user='hdfs') ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
In [3]: client_hdfs.list('/') ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
Out[3]: ['dongsc', 'hbase', 'tmp', 'user']
In [4]: client_hdfs.makedirs('/dongsc2') ?
In [6]: client_hdfs.delete('/dongsc',recursive='true') ? ? ? --recursive:是否允許遞歸刪除 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
Out[6]: True
            
          


假如想使用Client添加對權(quán)限的認(rèn)證,需要修改授權(quán),將root用戶添加進(jìn)ACLs中
Client模塊下,盡管當(dāng)前用戶是root,但是hadoop 里的hdfs是另外一套文件系統(tǒng)了,root在里面是沒有權(quán)限的。
上傳文件時(shí)需要注意:
客戶端(運(yùn)行python的機(jī)器)必須要有NameNode和DataNode的解析,可以是DNS,也可以是/etc/hosts,否則會出現(xiàn):

            
              。。。。。。。。。。。。。。。省略,下面是報(bào)錯(cuò)的最后一句。。。。
/usr/local/lib/python3.6/site-packages/urllib3/connection.py in _new_conn(self)
? ? 167 ? ? ? ? except SocketError as e:
? ? 168 ? ? ? ? ? ? raise NewConnectionError(
--> 169 ? ? ? ? ? ? ? ? self, "Failed to establish a new connection: %s" % e)
? ? 170?
? ? 171 ? ? ? ? return conn
NewConnectionError: 
              
                : Failed to establish a new connection: [Errno -2] Name or service not known
              
            
          

?


更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯(lián)系: 360901061

您的支持是博主寫作最大的動(dòng)力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長非常感激您!手機(jī)微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動(dòng)力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發(fā)表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 免费观看大片bbb | 日韩二区 | 国产精品亚洲国产三区 | 久久久久久综合七次郎 | 一级毛片免费观看久 | 中文字幕欧美在线观看 | 国产一级黄色录像 | 青青热久久久久综合精品 | 一类毛片 | 中文字幕 二区 三区 搜查官 | 国产国拍亚洲精品永久不卡 | 天天躁狠狠躁夜躁2021 | 亚洲男人的天堂久久香蕉 | 在线观看欧洲成人免费视频 | 日本一区二区三区四区在线观看 | 草草福利影院 | 狠狠综合久久久久尤物丿 | 国产最新网站 | 玖玖国产精品 | 免费看一毛一级毛片视频 | 日本最猛黑人xxxx猛交 | a级毛片免费完整视频 | 欧美最大成人毛片视频网站 | 欧美日韩国产成人高清视频 | 国产欧美国产精品第二区 | 亚洲国产精品婷婷久久 | 久久免费视频3 | 婷婷在线视频国产综合 | 好看的中文字幕在线 | 看看的在线视频国产 | 美女久久久久久久久久久 | 成人精品免费视频 | 91精品国产综合久久久久 | 狠狠色噜噜狠狠狠狠狠色综合久久 | 久久99欧美 | 日韩精品一区二区三区在线观看l | 久久久综合色 | 久久久久久久综合狠狠综合 | 2019精品国产品免费观看 | 免费一级特黄视频 | 亚洲国产精品不卡毛片a在线 |