亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

Python批量刪除mysql中千萬級大量數據

系統 2060 0

場景描述

線上 mysql 數據庫里面有張表保存有每天的統計結果,每天有1千多萬條,這是我們意想不到的,統計結果咋有這么多。運維找過來,磁盤占了 200G ,最后問了運營,可以只保留最近3天的,前面的數據,只能刪了。刪,怎么刪?
因為這是線上數據庫,里面存放有很多其它數據表,如果直接刪除這張表的數據,肯定不行,可能會對其它表有影響。嘗試每次只刪除一天的數據,還是卡頓的厲害,沒辦法,寫個Python腳本批量刪除吧。
具體思路是:

  1. 每次只刪除一天的數據;
  2. 刪除一天的數據,每次刪除50000條;
  3. 一天的數據刪除完,開始刪除下一天的數據;

Python代碼

          
            # -*-coding:utf-8 -*-

import sys

# 這是我們內部封裝的Python Module
sys.path.append('/var/lib/hadoop-hdfs/scripts/python_module2')
import keguang.commons as commons
import keguang.timedef as timedef
import keguang.sql.mysqlclient as mysql


def run(starttime, endtime, regx):
    tb_name = 'statistic_ad_image_final_count'
    days = timedef.getDays(starttime,endtime,regx)
    # 遍歷刪除所有天的數據
    for day in days:
        print '%s 數據刪除開始'%(day)
        mclient = getConn()
        sql = '''
        select 1 from %s where date = '%s' limit 1
        '''%(tb_name, day)
        print sql
        result = mclient.query(sql)
        # 如果查詢到了這一天的數據,繼續刪除
        while result is not ():
            sql = 'delete from %s where date = "%s" limit 50000'%(tb_name, day)
            print sql
            mclient.execute(sql)
            sql = '''
            select 1 from %s where date = '%s' limit 1
            '''%(tb_name, day)
            print sql
            result = mclient.query(sql)
        print '%s 數據刪除完成'%(day)
        mclient.close()


# 返回mysql 連接
def getConn():
    return mysql.MysqlClient(host = '0.0.0.0', user = 'test', passwd = 'test', db= 'statistic')

if __name__ == '__main__':
    regx = '%Y-%m-%d'
    yesday = timedef.getYes(regx, -1)
    starttime = '2019-08-17'
    endtime ='2019-08-30'
    run(starttime, endtime, regx)
          
        

循環判斷數據,如果有,繼續刪除當天 50000 條數據;否則,開始刪除下一天的數據。花了半個小時,終于刪除完了。


歡迎關注我的微信公眾號
Python批量刪除mysql中千萬級大量數據_第1張圖片


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 久久久久无码国产精品一区 | 欧美香蕉视频在线观看 | 中文字幕国产精品 | 国产成人啪精品视频免费网 | 久久久99视频 | 亚洲视频一区二区在线观看 | 欧美午夜在线观看 | 亚洲日本va中文字幕婷婷 | 国产色综合网 | 国产日韩欧美亚洲综合在线 | 国产成人精品免费久久久久 | 真实国产乱子伦精品免费 | 一级片视频网站 | 久久午夜伦理 | 五月花精品视频在线观看 | 久久精品店| 四虎影片 | 国产一级特黄一级毛片 | 国产一区二区三区欧美 | 日本不卡视频在线播放 | 在线视频欧美日韩 | 久久久久99精品成人片三人毛片 | 黄色一级网| 日韩中文一区 | 精品a视频| 日韩中文字幕视频在线观看 | 91亚洲国产在人线播放午夜 | 韩国日本一级毛片免费视频 | 日本精品久久久久中文字幕8 | 国产精品视屏 | 四虎一区 | 日本伦理中文字幕 | 欧美另类网站 | 欧美色黄视频 | 欧美另类亚洲一区二区 | 久久成人精品 | 精品国产成人a在线观看 | 91免费福利视频 | 97国产在线视频公开免费 | 99热国产这里只有精品9九 | 欧美日韩国产亚洲一区二区三区 |