.* “”“解析
代码如下:
p = re.compile(r”(%s) - - [(%s)/(%s)/(%s):(%s) [S]+] “(%s)?[s]?(%s)?.*?” (%s) (%s) “(%s)” “(%s).*?”“ %( ip, date, month, year, log_time, method, request, status, bodyBytesSent, refer, userAgent ), re.VERBOSE)
m = re.findall(p, logline)
这样,就可以得到日志条目中各个要素的原始数据,
格式及内容转化
得到日志原始数据之后,需要根据业务要求,对原始数据进行格式及内容转化。
这里需要处理的内容包括:时间,request,userAgent
时间格式转化
在日志信息原始数据中存在Dec这样的信息,利用Python的time模块可以方便的进行解析
import timedef parsetime(date, month, year, log_time): time_str = ‘%s%s%s %s‘ %(year, month, date, log_time) return time.strptime(time_str, ‘%Y%b%d %H:%M:%S‘)
解析request
在日志信息原始数据中得到的request的内容格式为:
/report?XXXXXX
这里只需要根据协议取出XXXXXX即可。
这里仍然采用Python的re模块
import redef parserequest(rqst): param = r”?P
.*“ p = re.compile(r”/report?(%s)“ %param, re.VERBOSE) return re.findall(p, rqst)
接下来需要根据业务协议解析参数内容。这里需要先利用base64模块解码,然后再利用struct模块解构内容:
import structimport base64def parseparam(param): decodeinfo = base64.b64decode(param) s = struct.Struct(‘!x‘ + bytes(len(decodeinfo) - (1 + 4 + 4 + 12)) + ‘xii12x‘) return s.unpack(decodeinfo)
解析userAgent
在日志信息原始数据中userAgent数据的格式为:
XXX; XXX; XXX; XXX
根据业务要求,只需要取出最后一项即可。
这里采用re模块来解析。
import redef parseuseragent(useragent): agent = r”?P.*“ p = re.compile(r”.*;.*;.*;(%s)“ %agent, re.VERBOSE) return re.findall(p, useragent)
至此,nginx日志文件解析基本完成。
剩下的工作就是根据业务需要,对获得的基本信息进行处理。
以上所述就是本文的全部内容了,希望大家能够喜欢。
篇5:Python读写文件方法总结
作者:adupt 字体:[增加 减小] 类型:
这篇文章主要介绍了Python读写文件方法,实例分析了Python读写文件常用的方法与使用技巧,需要的朋友可以参考下
本文实例总结了Python读写文件方法,分享给大家供大家参考。具体分析如下:
1.open
使用open打开文件后一定要记得调用文件对象的close方法。比如可以用try/finally语句来确保最后能关闭文件。
file_object = open(‘thefile.txt‘)try: all_the_text = file_object.read( )finally: file_object.close( )
注:不能把open语句放在try块里,因为当打开文件出现异常时,文件对象file_object无法执行close()方法。
2.读文件
读文本文件
input = open(‘data‘, ‘r‘)#第二个参数默认为rinput = open(‘data‘)
读二进制文件
代码如下:
input = open(‘data‘, ‘rb‘)
读取所有内容
file_object = open(‘thefile.txt‘)try: all_the_text = file_object.read( )finally: file_object.close( )
读固定字节
file_object = open(‘abinfile‘, ‘rb‘)try: while True: chunk = file_object.read(100) if not chunk:break do_something_with(chunk)finally: file_object.close( )
读每行
代码如下:
list_of_all_the_lines = file_object.readlines( )
如果文件是文本文件,还可以直接遍历文件对象获取每行:
for line in file_object: process line
3.写文件
写文本文件
代码如下:
utput = open(‘data‘, ‘w‘)
写二进制文件
代码如下:
utput = open(‘data‘, ‘wb‘)
追加写文件
代码如下:
utput = open(‘data‘, ‘w+‘)
写数据
file_object = open(‘thefile.txt‘, ‘w‘)file_object.write(all_the_text)file_object.close()
写入多行
代码如下:
file_object.writelines(list_of_text_strings)
注意,调用writelines写入多行在性能上会比使用write一次性写入要高。
在处理日志文件的时候,常常会遇到这样的情况:日志文件巨大,不可能一次性把整个文件读入到内存中进行处理,例如需要在一台物理内存为 2GB 的机器上处理一个 2GB 的日志文件,我们可能希望每次只处理其中 200MB 的内容。
在 Python 中,内置的 File 对象直接提供了一个 readlines(sizehint) 函数来完成这样的事情。以下面的代码为例:
file = open(‘test.log‘, ‘r‘)sizehint = 209715200 # 200Mposition = 0lines = file.readlines(sizehint)while not file.tell() - position < 0: position = file.tell() lines = file.readlines(sizehint)
每次调用 readlines(sizehint) 函数,会返回大约 200MB 的数据,而且所返回的必然都是完整的行数据,大多数情况下,返回的数据的字节数会稍微比 sizehint 指定的值大一点(除最后一次调用 readlines(sizehint) 函数的时候),
通常情况下,Python 会自动将用户指定的 sizehint 的值调整成内部缓存大小的整数倍。
file在python是一个特殊的类型,它用于在python程序中对外部的文件进行操作。在python中一切都是对象,file也不例外,file有file的方法和属性。下面先来看如何创建一个file对象:
file(name[, mode[, buffering]])
file()函数用于创建一个file对象,它有一个别名叫open(),可能更形象一些,它们是内置函数。来看看它的参数。它参数都是以字符串的形式传递的。name是文件的名字。
mode是打开的模式,可选的值为r w a U,分别代表读(默认) 写 添加支持各种换行符的模式。用w或a模式打开文件的话,如果文件不存在,那么就自动创建。此外,用w模式打开一个已经存在的文件时,原有文件的内容会被清空,因为一开始文件的操作的标记是在文件的开头的,这时候进行写操作,无疑会把原有的内容给抹掉。由于历史的原因,换行符在不同的系统中有不同模式,比如在 unix中是一个/n,而在windows中是‘/r/n‘,用U模式打开文件,就是支持所有的换行模式,也就说‘/r‘ ‘/n‘ ‘/r/n‘都可表示换行,会有一个tuple用来存贮这个文件中用到过的换行符。不过,虽说换行有多种模式,读到python中统一用/n代替。在模式字符的后面,还可以加上+ b t这两种标识,分别表示可以对文件同时进行读写操作和用二进制模式、文本模式(默认)打开文件。
buffering如果为0表示不进行缓冲;如果为1表示进行“行缓冲“;如果是一个大于1的数表示缓冲区的大小,应该是以字节为单位的。
file对象有自己的属性和方法。先来看看file的属性。
closed #标记文件是否已经关闭,由close()改写
encoding #文件编码
mode #打开模式
name #文件名
newlines #文件中用到的换行模式,是一个tuple
softspace #boolean型,一般为0,据说用于print
file的读写方法:
F.read([size]) #size为读取的长度,以byte为单位
F.readline([size])
#读一行,如果定义了size,有可能返回的只是一行的一部分
F.readlines([size])
#把文件每一行作为一个list的一个成员,并返回这个list。其实它的内部是通过循环调用readline()来实现的。如果提供size参数,size是表示读取内容的总长,也就是说可能只读到文件的一部分。
F.write(str)
#把str写到文件中,write()并不会在str后加上一个换行符
F.writelines(seq)
#把seq的内容全部写到文件中。这个函数也只是忠实地写入,不会在每行后面加上任何东西。
file的其他方法:
F.close()
#关闭文件。python会在一个文件不用后自动关闭文件,不过这一功能没有保证,最好还是养成自己关闭的习惯。如果一个文件在关闭后还对其进行操作会产生ValueError
F.flush()
#把缓冲区的内容写入硬盘
F.fileno()
#返回一个长整型的”文件标签“
F.isatty()
#文件是否是一个终端设备文件(unix系统中的)
F.tell()
#返回文件操作标记的当前位置,以文件的开头为原点
F.next()
#返回下一行,并将文件操作标记位移到下一行。把一个file用于for ... in file这样的语句时,就是调用next()函数来实现遍历的。
F.seek(offset[,whence])
#将文件打操作标记移到offset的位置。这个offset一般是相对于文件的开头来计算的,一般为正数。但如果提供了whence参数就不一定了,whence可以为0表示从头开始计算,1表示以当前位置为原点计算。2表示以文件末尾为原点进行计算。需要注意,如果文件以a或a+的模式打开,每次进行写操作时,文件操作标记会自动返回到文件末尾。
F.truncate([size])
#把文件裁成规定的大小,默认的是裁到当前文件操作标记的位置。如果size比文件的大小还要大,依据系统的不同可能是不改变文件,也可能是用0把文件补到相应的大小,也可能是以一些随机的内容加上去。
希望本文所述对大家的Python程序设计有所帮助。
篇6:python删除特定文件的方法
作者:技术芝麻点 字体:[增加 减小] 类型:转载
这篇文章主要介绍了python删除特定文件的方法,涉及Python文件查找及删除的相关技巧,需要的朋友可以参考下
本文实例讲述了python删除特定文件的方法,分享给大家供大家参考。具体如下:
#!/usr/bin/python# -*- coding: utf-8 -*-import osdef del_files(path): for root , dirs, files in os.walk(path): for name in files:if name.endswith(”.CR2“): os.remove(os.path.join(root, name)) print (”Delete File: “ + os.path.join(root, name))# testif __name__ == ”__main__“: path = ‘/Users/yjatt/Downloads/1104/‘ del_files(path)
希望本文所述对大家的Python程序设计有所帮助,
篇7:python引用DLL文件的方法
作者:像风一样的自由 字体:[增加 减小] 类型:
这篇文章主要介绍了python引用DLL文件的方法,涉及Python调用dll文件的相关技巧,需要的朋友可以参考下
本文实例讲述了python引用DLL文件的方法,分享给大家供大家参考。具体分析如下:
在python中调用dll文件中的接口比较简单,如我们有一个test.dll文件,内部定义如下:
extern ”C“ { int __stdcall test( void* p, int len) { return len; } }
在python中我们可以用以下两种方式载入
1.
import ctypesdll = ctypes.windll.LoadLibrary( ‘test.dll‘ )
2.
import ctypesdll = ctypes.WinDll( ‘test.dll‘ )
其中ctypes.windll为ctypes.WinDll类的一个对象,已经在ctypes模块中定义好的。在test.dll中有test接口,可直接用dll调用即可
nRst = dll.test( )print nRst
由于在test这个接口中需要传递两个参数,一个是void类型的指针,它指向一个缓冲区。一个是该缓冲区的长度,
因此我们要获取到python中的字符串的指针和长度
#方法一:sBuf = ‘aaaaaaaaaabbbbbbbbbbbbbb‘pStr = ctypes.c_char_p( )pStr.value = sBufpVoid = ctypes.cast( pStr, ctypes.c_void_p ).valuenRst = dll.test( pVoid, len( pStr.value) )
#方法二:test = dll.testtest.argtypes = [ctypes.c_char_p, ctypes.c_int]test.restypes = ctypes.c_intnRst = test(sBuf, len(sBuf))
如果修改test.dll中接口的定义如下:
extern ”C“ { int __cdecl test( void* p, int len) { return len; } }
由于接口中定义的是cdecl格式的调用,所以在python中也需要用相应的类型
1.
import ctypesdll = ctypes.cdll.LoadLibrary( ‘test.dll‘ )##注:一般在linux下为test.o文件,同样可以使用如下的方法: ##dll =ctypes.cdll.LoadLibrary(‘test.o‘)
2.
import ctypesdll = ctypes.CDll( ‘test.dll‘ )
希望本文所述对大家的Python程序设计有所帮助。
篇8:Python格式化css文件的方法
作者:Sephiroth 字体:[增加 减小] 类型:转载
import string, sysimport re, StringIOTAB=4def format(ss): f = open (ss, ”r") data = f.read() f.close() dlen = len(data) i = 0 buf = StringIO.StringIO() start = 0 while i < dlen: if data[i] == ‘{‘:buf.write(data[start:i] + ‘ { ‘)i = i + 1start = i elif data[i] == ‘}‘:last = string.strip(data[start:i])if last: buf.write(‘ ‘*TAB + last + ‘;‘)buf.write(‘ } ‘)i = i + 1start = i elif data[i] == ‘;‘:line = string.strip(data[start:i])buf.write(‘ ‘*TAB + line + ‘; ‘)i = i + 1start = i else:i = i + 1 buf.write(data[start:i+1]) return buf.getvalue()if __name__ == ‘__main__‘: if len(sys.argv) == 1: print ‘usage: cssformat.py filename‘ sys.exit() ret = format(sys.argv[1]) print ret
希望本文所述对大家的Python程序设计有所帮助,
★ 对联生成器
★ Python标准库urllib2的一些使用细节总结
★ word 怎么将doc转成pdf格式
★ 《递归算法的实现》教学设计
★ excel中如何自定义函数
★ shell问答16:批量修改文件名后缀Unix系统
★ 有关成长类型的作文
★ 参考文献类型及载体类型标识
★ 网数据库的代码集合
★ Shell编程之正则表达式详解
《python自定义解析简单xml格式文件的方法.doc》
将本文的Word文档下载到电脑,方便收藏和打印
【python自定义解析简单xml格式文件的方法(精选8篇)】相关文章:
Windows API 程序的组织结构.net2022-09-03
python基础教程之基本内置数据类型介绍2022-08-15
《几何画板》:绘制分段函数的图像2022-04-29
python基础教程之字典操作详解2023-04-25
Ubuntu编码问题2022-05-08
基于Client/Server 的课件系统的设计与实现2023-03-13
windows服务器防止asp木马详细教程Windows服务器操作系统2022-04-30
安卓实习心得感悟2023-08-22
WinZip解压缩之操作教学2023-06-29
python使用正则表达式检测密码强度源码2022-09-03