前言
logging 模块是 Python 内置的标准模块,用于输出代码日志。
环境
系统环境
Distributor ID: Ubuntu
Description: Ubuntu 18.04.4 LTS
Release: 18.04
Codename: bionic
Linux version : 5.3.0-46-generic ( buildd@lcy01-amd64-013 )
Gcc version: 7.5.0 ( Ubuntu 7.5.0-3ubuntu1~18.04 )
软件信息
version :
Python 3.7.0
正文
一、简介
在工作中,运行的代码量是非常大的,为了更方便的管理代码运行,监控代码运行的过程,需要在代码中添加一些必要的日志输出。
Python 内置了 logging 模块,在 Python 中,可以使用 logging 模块来实现与日志相关的功能。如输出运行日志到控制台,将运行日志写入文件,日志文件滚动存储等。
相对直接 print 打印运行信息而言,使用 logging 模块输出日志可以设置日志等级,指定输出位置,写入文件等,使用起来方便很多。在一个成熟的项目中,打印的日志量是非常大的,logging 模块还可以帮助我们管理日志,以便更好地维护项目和定位问题(非常重要,项目问题回溯。可以让你减少莫名其妙的背锅风险)。
logging 模块主要包含四个部分:
Loggers: 提供程序调用的接口,在代码中调用 api 来记录日志
Handlers: 对日志信息进行不同的处理,如记录日志的方式
Formatters: 定义日志的打印格式
Filters:对日志信息进行过滤, 自定义日志是否输出的判断
二、logging 模块的基本使用
# coding=utf-8
import logging
# 参考 Linux 系统日志
formatter = '%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s: %(message)s'
logging.basicConfig(format=formatter, level=logging.DEBUG)
logger = logging.getLogger(__name__)
logger.debug('test debug')
logger.info('test info')
logger.warning('test warning')
logger.error('test error')
logger.critical('test critical')
运行结果:
2020-06-12 14:27:08,857 postman_test.py[line:9] DEBUG: test debug
2020-06-12 14:27:08,857 postman_test.py[line:10] INFO: test info
2020-06-12 14:27:08,857 postman_test.py[line:11] WARNING: test warning
2020-06-12 14:27:08,857 postman_test.py[line:12] ERROR: test error
2020-06-12 14:27:08,857 postman_test.py[line:13] CRITICAL: test critical
上面的代码中,使用 logging 中的 basicConfig() 方法,传入日志的格式和输出日志的等级,然后通过 getLogger() 方法创建一个 logger 对象,就可以通过 logger 对象来输出日志了。basicConfig() 是 logging 中实现日志输出最简单和最基本的方法。
运行上面的代码,会在控制台打印代码的日志信息,因为 basicConfig() 默认是将日志信息打印到控制台。如果在 basicConfig() 中传入 filename 参数,指定日志输出的文件,则日志信息会写到文件中,不会在控制台打印。
logger 对象有 debug() 、info() 等5个基本的日志输出方法,分别对应了5个日志等级。除此之外还有几个方法,可以在 PyCharm 中点击 getLogger 进入源码查看。
三、basicConfig的参数说明
-
filename: 日志输出到文件的文件名
- filemode: 文件读写模式,r[+]、w[+]、a[+]
-
format: 日志输出的格式
-
datefat: 日志附带日期时间的格式
-
style:格式占位符,默认为 “%” 和 “{}”
-
level:设置日志输出级别
-
stream: 定义输出流,用来初始化 StreamHandler 对象,不能和 filename 参数一起使用,否则会 ValueError 异常
- handles: 定义处理器,用来创建 Handler 对象,不能和 filename 、stream 参数一起使用,否则也会抛出 ValueError 异常
四、logging 的日志级别 level
在 logging 中,日志主要有5个等级。
-
DEBUG: 对应数值10,打印调式信息。
-
INFO: 对应数值20,处理请求,状态变化等日常信息。
-
WARNING: 对应数值30,比较重要的提醒信息,警告信息。
-
ERROR: 对应数值40,程序发生了报错,如连接错误,编译错误。
-
CRITICAL: 对应数值50,特别严重的问题,如服务器故障等。
对于日志级别来说,对应的数值表示日志信息的重要程度,或问题的严重程度,数值越大,日志等级越高。
通常,日志级别越低,量越大,级别越高,量越少(天天有重大故障项目就不用做了),在日志的输出过程中,可以指定输出级别,来过滤掉低级别的日志信息。指定日志级别后,只会输出大于等于指定级别的日志,如指定 DEBUG 则会输出所有5个级别的日志,指定 INFO 则不再输出 DEBUG 级别的日志(参考上面代码)。
上面5个日志等级对应的日志输出方法分别为它们的小写。debug(),inifo(), … 除此之外,还有两个方法,exception() 和 fatal() 。exception() 对应的日志等级与 error() 相同,都是40,exception() 默认返回一个空值。fatal() 有对应的日志等级 FATAL ,fatal() 对应的日志等级与 critical() 相同,都是50,在源码中就是 fatal = critical,两个完全相同。
关于日志级别,我们也可以自定义,自定义日志等级时注意不要和默认的日志等级数值相同。设置日志输出等级的时候,也可以通过数值来指定,只有大于数值的日志等级会被输出(参考上面的代码)。
五、logging 日志的输出格式 format
-
asctime:日志的输出时间,默认为 YYYY-mm-DD HH:MM:SS,SSS,如: 2019-10-02 21:29:41,016,一直精确到毫秒。可以额外指定 datefmt 参数来指定该变量的格式
-
name: 日志对象的名称
-
filename: 不包含路径的文件名
-
pathname:包含路径的文件名(完整路径)
-
funcName: 日志记录所在的函数名
-
levelname: 日志的级别名称
-
message: 具体的日志信息
-
lineno: 日志记录的代码所在的行号
-
process: 当前进程ID
-
processName: 当前进程名称
-
thread: 当前线程ID
-
threadName: 当前线程名称
format = '%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s: %(message)s'
这些日志信息是可选的,需要哪些可以自定义,其中 asctime 和 message 是必须有的,不然就失去日志的意义了。常用的有 filename,lineno,levelname,其他的根据情况选用。
定义日志输出格式时,%() 是用来为实际的数据占位用的,后面的 s ,d 表示数据的类型,s 表示字符串, d 表示整数。
六、日志信息同时输出控制台和写入文件
import logging
file_name = 'logger.txt'
formatter = '%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s: %(message)s'
logging.basicConfig(filename=file_name, format=formatter, level=logging.DEBUG)
logger = logging.getLogger(__name__)
console = logging.StreamHandler()
# console.setLevel(logging.DEBUG)
console.setLevel(20)
console_formatter = logging.Formatter('%(asctime)s - %(filename)s - [line]:%(lineno)d - %(levelname)s - %(message)s')
console.setFormatter(console_formatter)
logger.addHandler(console)
logger.debug('debug->10')
logger.info('info->20')
logger.warning('warning->30')
logger.error('error->40')
logger.exception('exception->40')
logger.critical('critical->50')
logger.fatal('fatal->50')
运行结果:
2020-06-12 14:30:07,782 - postman_test.py - [line]:16 - INFO - info->20
2020-06-12 14:30:07,782 - postman_test.py - [line]:17 - WARNING - warning->30
2020-06-12 14:30:07,782 - postman_test.py - [line]:18 - ERROR - error->40
2020-06-12 14:30:07,782 - postman_test.py - [line]:19 - ERROR - exception->40
NoneType: None
2020-06-12 14:30:07,782 - postman_test.py - [line]:20 - CRITICAL - critical->50
2020-06-12 14:30:07,782 - postman_test.py - [line]:21 - CRITICAL - fatal->50
在使用 basicConfig() 方法实现日志输出时,如果不指定 filename 参数,则日志信息被输出在控制台,如果指定 filename 参数,则日志被写入文件中。
在实际开发中,通常是即需要写入文件,也需要控制台输出。
这时,可以再定义一个日志处理对象,一个对象写文件,一个对象输出控制台。如上面通过 logging 中的 StreamHandler() 创建一个 console 对象,然后通过 addHandler() 将 console 加入到 logger 对象中。console 可以设置与 basicConfig() 不一样的日志输出格式,可以设置不一样的日志输出等级,是互相独立的。
进阶
以上只是logging的基础用法,到项目长期运行,日志文件很大,或者很多,该如何处理呢? logging模块切分和轮转日志