python模块之ftplib

接上面两篇:
python操作hdfs模块上传文件到HDFS
python脚本---上传本机文件到远端(接上文)
由于与客户为未正式沟通,所以脚本再次发生变化,再次。。。(不能再客户机器安装东西,不能在客户机器跑脚本。。。)。随之,第三个脚本诞生。
此次脚本无需安装任何三方库,对方机器只需要开启ftp服务就可以。
背景:对方windwos server每天会在对应的三个文件夹内各产生一个文件,每天凌晨1点以后需要同步今天以前的日志到linux server。
应用:所以该脚本每天被定时启动一次,每次过滤掉当天的文件,增量同步之前的日志文件,因为日志文件只要上传到linux,flume就会去读取,未拷贝结束的就会报错,所以增加了拷贝中名字以.tmp结尾,拷贝完成以源文件名命名。

1. 脚本文件
syncfile.py

# -*- coding: utf-8 -*-
__author__ = 'hand'

import settings
import os
import subprocess
import logging
from ftplib import FTP
from datetime import datetime

class Filesync(object):

    def __init__(self):
        self.f = open("exitsfile.log", "a+")
        self.remotehost = settings.REMOTE_HOST
        self.remoteport = settings.REMOTE_PORT
        self.username = settings.REMOTE_USER
        self.password = settings.REMOTE_PWD
        self.remotepath = settings.REMOTE_PATH
        self.localpath = settings.LOCAL_PATH
        self.ftppath = settings.FTP_PATH

        self.ftp = FTP()  # 实例化一个ftp对象
        self.ftp.connect(self.remotehost, self.remoteport)
        self.ftp.login(self.username, self.password)

    @staticmethod
    def mylogger():
        logger = logging.getLogger("test")
        logger.setLevel(logging.DEBUG)

        # 增加文件日志输出
        myhandler = logging.FileHandler("downloadinfo.log", "a")
        myhandler.setLevel(logging.DEBUG)  # 设置日志文件级别为INFO

        # 增加控制台日志输出
        console = logging.StreamHandler()
        console.setLevel(logging.DEBUG)  # 将控制台级别设置为DEBUG

        formatter = logging.Formatter('%(asctime)s - %(name)s - %(levelname)s - %(message)s')

        myhandler.setFormatter(formatter)
        console.setFormatter(formatter)

        logger.addHandler(myhandler)
        logger.addHandler(console)
        return logger

    def get_upload_files(self, now):
        """获取待上传的所有文件"""
        file_transfered_set =set()  # 用于存储已经上传过的文件
        root_dir = settings.REMOTE_PATH.replace(settings.FTP_PATH, '')  #待上传文件夹的父文件夹
        self.ftp.cwd(root_dir)
        total_list = []
        now_str = now.strftime('%Y%m%d')  # 不获取当天生成的日志
        for num, dir in enumerate(self.ftp.nlst()):
            if num == 0:
                self.ftp.cwd(dir)
                file_list = ["\\"+dir+"\\"+i for i in self.ftp.nlst() if now_str not in i]
            else:
                self.ftp.cwd("..\\" + dir)
                file_list = ["\\"+dir+"\\"+j for j in self.ftp.nlst() if now_str not in j]
            total_list.extend(file_list)

        total_list = [self.remotepath+k for k in total_list]  # 所有远程文件的列表
        remote_path_set = set(total_list)  # 用于存储远程文件

        self.f.seek(0,0)  # 将记录文件指针放在文件头,用于读文件

        for line in self.f.readlines():
            file_transfered = line.split("#")[-1].strip()
            file_transfered_set.add(file_transfered)
        #print remote_path_set
        # print "----"
        # print file_transfered_set
        ready_download_set = remote_path_set ^ file_transfered_set  # 待上传的文件
        return list(ready_download_set)

    def download_files(self):
        logger = self.mylogger()
        now = datetime.now()
        # print "进入 downloadfiles"
        ready_downfiles_list = self.get_upload_files(now)
        # print ready_downfiles_list
        if ready_downfiles_list:
            for file_name in ready_downfiles_list:
                self.ftp.cwd('..')  # 由于self.ftp为全局,所以要跳转回上一级
                file_need = file_name.replace(self.remotepath, '').replace('\\', '/')  # 文件名的上级文件夹+文件名
                # print file_need
                fath_dir = os.path.split(file_need)[0]  # 待上传文件上一级目录
                real_file = os.path.split(file_need)[1]  # 待上传文件名
                self.ftp.cwd('%s' % fath_dir[1:])  # 跳转到待上传文件所在文件夹内
                # 目录不存在则递归创建
                if not os.path.exists(self.localpath+fath_dir):
                    os.makedirs(self.localpath+fath_dir)
                # 打开一个本地文件,用于写入下载到的信息
                local_filename = self.localpath+file_need+'.tmp'
                local_file = open(local_filename, "wb")
                logger.info("%s 开始下载!" % file_name)
                # 下载文件, 路径必须为self.ftp所停留的路径下
                sucess = self.ftp.retrbinary('RETR %s' % real_file, local_file.write)
                self.f.write(now.strftime('%Y/%m/%d %H:%M:%S %A ') + ' #  ' + file_name + '\n')


                if sucess.endswith('complete.'):
                    # 去掉sessionlog文件夹下的第一行
                    local_file.close()
                    if fath_dir[1:] == 'sessionlog':
                        with open(local_filename, 'r') as f1:
                            lines = f1.readlines()
                        with open(local_filename, 'w') as f2:
                            for n,line in enumerate(lines):
                                if n == 0:
                                    continue
                                f2.write(line)

                    src_name = local_filename
                    dst_name = src_name[:-4]
                    os.renames(src_name, dst_name)
                logger.info("%s 下载完成!" % file_name)

        else:
            print "没有新文件需要下载!"

        self.ftp.quit()
        self.f.close()

if __name__ == "__main__":
    fs = Filesync()
    fs.download_files()

2. 配置文件

settings.py

# ftp地址
REMOTE_HOST = 'XX.XX.XX.XX'
# 端口
REMOTE_PORT = 21
# 电脑用户
REMOTE_USER = 'hand'
# 用户密码
REMOTE_PWD = '123456'
# ftp根目录
FTP_PATH = 'C:\\'
# 文件路径
REMOTE_PATH = 'C:\\test'
# 上传到的路径
LOCAL_PATH = '/storage/'

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,651评论 18 139
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 172,072评论 25 707
  • Python 面向对象Python从设计之初就已经是一门面向对象的语言,正因为如此,在Python中创建一个类和对...
    顺毛阅读 4,215评论 4 16
  • 在知乎上潜水了很久,突然昨天看到万万姐在知乎上提了这个问题,而看到下面的几个回答全部是关于国外航校的体验,...
    andy1999阅读 2,314评论 3 5
  • 从业数十年以来发现,内审经理及以上级别相对稳定(即使跳槽,多为职位升迁),反而那些让人羡慕的青春无敌小朋友们、外审...
    零点思亮阅读 1,996评论 1 8