小微企业违约特征再探索：基于SHAP解释方法的机器学习模型

doi:10.16381/j.cnki.issn1003-207x.2021.0027

摘要/Abstract

摘要：

机器学习方法已经被应用于小微企业贷款审批和监测过程，并且在违约识别方面取得了良好效果，但是机器学习系统决策过程的不可见性导致其在违约特征识别领域未能得到进一步实际应用。基于某银行的小微企业贷款微观数据，在机器学习模型基础上加入SHAP（SHapley Additive exPlanations）解释方法对小微企业的违约特征进行研究比较，研究兼顾了实际情境中判别准确性和指标可解释的要求。研究发现，除传统的贷款信息与企业财务指标外，违约的核心特征中企业年龄、被告案件数量以及客户经理评价“软信息”等非财务指标对于识别小微企业违约具有重要价值。本文从可解释性的角度探讨机器学习方法在小微企业违约特征识别的应用，创新性地引入SHAP解释方法研究评级中的重要指标，同时所挖掘的关键指标对贷款业务开展具有指导意义。

关键词: 小微企业, 违约特征, 非财务信息, SHAP解释方法, 机器学习

Abstract:

Machine learning methods have been applied to the small and micro enterprises’ loan approval and monitoring process， and have achieved good results in default identification. Considering the higher recognition accuracy of machine learning methods， its use of indicator information should be better than traditional models. Therefore， it hopes to dig out the important factors in the judgment of default from the perspective of machine learning in this paper.SHAP is a machine learning interpretation method based on the Shapley value of game theory， which can identify the importance of indicators in the model from the perspective of results. Based on the small and micro enterprise loan account of a bank， SHAP （SHapley Additive exPlanations） is added to machine learning models to find important default characteristics of small and micro enterprises.It is found that， in addition to traditional loan information and corporate financial indicators， non-financial indicators such as the age of the company， the number of law cases， and the “soft information” evaluated by the customer manager play significant role in identifying defaults of small and micro enterprises.From the perspective of interpretability， the application of machine learning methods is discussed in the identification of default characteristics of small and micro enterprises， and innovatively the SHAP interpretation method is introduced to study important indicators in rating. At the same time， the key indicators mined have guiding significance for the development of loan business.

Key words: small and micro enterprises, default characteristics, non-financial information, SHAP, machine learning

中图分类号:

F832.59

雷欣南,林乐凡,肖斌卿,俞红海. 小微企业违约特征再探索：基于SHAP解释方法的机器学习模型[J]. 中国管理科学, 2024, 32(5): 1-12.

Xinnan Lei,Lefan Lin,Binqing Xiao,Honghai Yu. Re-exploration of Small and Micro Enterprises' Default Characteristics Based on Machine Learning Models with SHAP[J]. Chinese Journal of Management Science, 2024, 32(5): 1-12.

图/表 15

表1

建模指标体系及说明"

指标类别	指标名称	说明	指标变量类型
违约情况	贷款二项分类	1=逾期贷款，0=正常贷款	指标变量类型
贷款信息	贷款笔数	企业当前贷款笔数	连续型变量
	贷款总额	企业收到的总贷款金额	连续型变量
	贷款利率	对于单笔贷款企业为该笔贷款年化利率，对于多笔贷款企业计算各笔贷款平均年化利率	连续型变量
	抵押贷款	1=抵押贷款，0=其他	类别型变量
	承兑汇票	1=承兑汇票贷款，0=无承兑汇票	类别型变量
	投向门类	指借款人将贷款投向的行业分类,包含农林牧渔业、采矿业、制造业、电业燃气及水的生产和供应业、建筑业、批发和零售业、交通运输仓储和邮政业、住宿和餐饮业、信息传输计算机服务和软件业、金融业、房地产业、租赁和商务服务业、科学研究和技术服务业、水利环境和公共设施管理业、居民服务修理业、教育、卫生和社会工作、文化体育和娱乐业、社会保障与社会组织	类别型变量
	自主支付	1=自主支付，0=受托支付	类别型变量
	经营用途	1=经营用途，0=固定资产用途	类别型变量
企业财务信息	资产总额	企业当前总资产	连续型变量
	营业收入	本年度企业总收入	连续型变量
	注册资本	企业成立时注册资本	连续型变量
企业非财务基本信息	企业年龄	从成立时刻起到贷款时刻的时长	连续型变量
	行业门类	指借款人所处的行业分类,包含农林牧渔业、采矿业、制造业、电业燃气及水的生产和供应业、建筑业、批发和零售业、交通运输仓储和邮政业、住宿和餐饮业、信息传输计算机服务和软件业、金融业、房地产业、租赁和商务服务业、科学研究和技术服务业、水利环境和公共设施管理业、居民服务修理业、教育、卫生和社会工作、文化体育和娱乐业、社会保障与社会组织	类别型变量
	企业类型	指借款人所属的组织形式，包含个体、有限责任、股份和其他	类别型变量
	控股主体	1=国有或集体控股，0=私人控股	类别型变量
	控股性质	1=绝对控股，0=非绝对控股	类别型变量
	所属区域	1=城镇企业，0=乡村企业	类别型变量
	从业人数	企业当前员工总数	连续型变量
企业非财务行为信息	被告案件数量	涉及法律诉讼中企业作为被告次数	连续型变量
企业非财务行为信息	原告案件数量	涉及法律诉讼中企业作为原告次数	连续型变量
企业评级软信息	客户经理对客户信用的主观评价	客户经理主观评价是指企业借贷时客户经理对借款企业当前经济效益、履约能力和商业信誉等要素的主观判断,包含优秀、较好、一般、不佳、恶化、关停	类别型变量

表1

表2

图1

表3

图2

表4

表5

图3

图4

图5

图6

图7

图8

表6

表7

参考文献 39

1	中国人民银行，中国银行保险监督管理委员会. 中国小微企业金融服务报告［M］.北京：中国金融出版社，2019.
	The People's Bank of China， China Banking and Insurance Regulatory Commission. Financial services report for China's small and micro enterprises［M］. Beijing： China Financial Publishing House， 2019.
2	Altman E I. Financial ratios， discriminant analysis and the prediction of corporate bankruptcy［J］. The Journal of Finance， 1968， 23（4）： 589-609.
3	Minnis M， Sutherland A. Financial statements as monitoring mechanisms： Evidence from small commercial loans［J］. Journal of Accounting Research， 2017， 55（1）： 197-233.
4	Pederzoli C， Torricelli C. A parsimonious default prediction model for Italian SMEs［R］. Working Paper， 2010.
5	迟国泰，李鸿禧. 基于逐步判别分析的小企业债信评级模型及实证［J］.管理工程学报，2019，33（4）：205-215.
	Chi G T， Li H X.Small enterprise credit rating model and empirical evidence based on stepwise discriminant analysis［J］. Journal of Industrial Engineering and Engineering Management，2019，33（4）： 205-215.
6	Van Laere E， Baesens B. The development of a simple and intuitive rating system under Solvency II［J］.Insurance： Mathematics and Economics， 2010， 46（3）： 500-510.
7	Altman E I， Sabato G， Wilson N. The value of non-financial information in small and medium-sized enterprise risk management［J］. Journal of Credit Risk， 2012， 6（2）：95-127.
8	石宝峰，王静. 基于ELECTRE III的农户小额贷款信用评级模型［J］.系统管理学报，2018，27（5）：854-862.
	Shi B F， Wang J. The credit rating model of rural households' small loans based on ELECTRE III［J］. Journal of Systems & Management，2018，27（5）：854-862.
9	Moro A， Fink M. Loan managers’ trust and credit access for SMEs［J］. Journal of Banking & Finance， 2013， 37（3）： 927-936.
10	Berger A N， Klapper L F， Udell G F. The ability of banks to lend to informationally opaque small businesses［J］. Journal of Banking & Finance， 2001， 25（12）： 2127-2167.
11	Berger A N， Udell G F. Small business credit availability and relationship lending： The importance of bank organisational structure［J］. The Economic Journal， 2002， 112（477）： F32-F53.
12	于善丽，迟国泰，姜欣.基于指标体系违约鉴别能力最大的小企业债信评级体系及实证［J］.中国管理科学，2020，28（6）：38-50.
	Yu S L， Chi G T， Jiang X. Small enterprise credit rating system and its empirical evidence based on the indicator system's default identification ability［J］. Chinese Journal of Management Science，2020，28（6）：38-50.
13	Li B， Xiao B， Yang Y. Strengthen credit scoring system of small and micro businesses with soft information： Analysis and comparison based on neural network models［J］. Journal of Intelligent and Fuzzy Systems， 2021（40）：4257-4274.
14	熊熊，马佳，赵文杰，等. 供应链金融模式下的信用风险评价［J］. 南开管理评论，2009，12（4）： 92 - 98.
	Xiong X， Ma J， Zhao W J， et al. Credit risk evaluation under the supply chain finance model ［J］. Nankai Business Review， 2009， 12（4）： 92-98.
15	Saygili E， Saygili A T， Gokhan I. An analysis of factors affecting credit scoring performance in SMEs［J］. Ege Academic Review， 2019， 19（2）： 159-171.
16	肖斌卿，杨旸，余哲，等. 小微企业信用评级模型及比较研究［J］.系统工程学报，2016，31（6）：798-807+830.
	Xiao B Q， Yang Y， Yu Z， et al. Small and micro enterprise credit rating models and comparative research［J］. Journal of Systems Engineering， 2016，31（6）： 798-807+830.
17	肖斌卿，杨旸，李心丹，等. 基于模糊神经网络的小微企业信用评级研究［J］.管理科学学报，2016，19 （11）：114-126.
	Xiao B Q， Yang Y， Li X D， et al. Study on the credit rating of small and micro enterprises based on fuzzy neural network［J］. Journal of Management Sciences in China，2016，19（11）：114-126.
18	Teles G， Rodrigues J J P C， Saleem K， et al. Machine learning and decision support system on credit scoring［J］. Neural Computing and Applications， 2020， 32（14）： 9809-9826.
19	杨莲，石宝峰. 基于Focal Loss修正交叉熵损失函数的信用风险评价模型及实证［J］.中国管理科学，2022，30（5）：65-75.
	Yang L， Shi B F. Credit risk evaluation model and empirical evidence based on Focal Loss modified cross-entropy loss function［J］. Chinese Journal of Management Science，2022，30（5）：65-75.
20	衣柏衡，朱建军，李杰. 基于改进SMOTE的小额贷款公司客户信用风险非均衡SVM分类［J］.中国管理科学， 2016， 24（3）：24-30.
	Yi B H， Zhu J J， Li J. SVM classification of unbalanced customer credit risk of microfinance companies based on improved SMOTE［J］. Chinese Journal of Management Science， 2016， 24（3）： 24-30.
21	Bao W， Lianju N， Yue K. Integration of unsupervised and supervised machine learning algorithms for credit risk assessment［J］. Expert Systems with Applications， 2019， 128： 301-315.
22	Gulsoy N， Kulluk S. A data mining application in credit scoring processes of small and medium enterprises commercial corporate customers［J］. Wiley Interdisciplinary Reviews： Data Mining and Knowledge Discovery， 2019， 9（3）： e1299.
23	Pławiak P， Abdar M， Pławiak J， et al. DGHNL： A new deep genetic hierarchical network of learners for prediction of credit scoring［J］. Information Sciences， 2020， 516： 401-418.
24	Breiman L. Statistical modeling： The two cultures （with comments and a rejoinder by the author）［J］. Statistical Science， 2001， 16（3）： 199-231.
25	高俊光，刘旭，朱辰辰. 小微企业信用评估的数据挖掘方法综述［J］.金融理论与实践，2015（10）：98-101.
	Gao J G， Liu X， Zhu C C. Summary of data mining methods for credit evaluation of small and micro enterprises［J］.Financial Theory & Practice， 2015（10）：98-101.
26	孔祥维，唐鑫泽，王子明. 人工智能决策可解释性的研究综述［J］.系统工程理论与实践，2021，41（2）：524-536.
	Kong X W， Tang X Z， Wang Z M. A survey of research on the explainability of artificial intelligence decision-making［J］. System Engineering Theory and Practice， 2021，41（2）：524-536.
27	陆瑶，张叶青，黎波，等. 高管个人特征与公司业绩——基于机器学习的经验证据［J］.管理科学学报，2020，23（2）：120-140.
	Lu Y， Zhang Y Q， Li B， et al. Personal characteristics of executives and company performance： Empirical evidence based on machine learning［J］. Journal of Management Sciences in China，2020，23（2）：120-140.
28	Gu S， Kelly B， Xiu D. Empirical asset pricing via machine learning［J］. The Review of Financial Studies， 2020， 33（5）： 2223-2273.
29	周矍铄. 大型互联网企业进入金融领域的潜在风险与监管［N］.金融时报，2020-11-01（观点·实践）.
	Zhou J S. Potential risks and supervision of large Internet companies entering the financial field［N］. Financial News， 2020-11-01 （View·Practice）.
30	Chen T， Guestrin C. Xgboost： A scalable tree boosting system［C］//Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining， San Francisco， USA，13-17 August， ACM， 2016： 785-794.
31	Lundberg S M， Lee S I. A unified approach to interpreting model predictions［C］//Proceedings of the 31st International Conference on Neural Information Processing Systems， Long Beach， USA， 4-9 December， NeurIPS， 2017：4768-4777.
32	Shapley L S. A value for n-person games［J］. Contributions to the Theory of Games， 1953，2（28）： 307-317.
33	Maschler M， Peleg B， Shapley L S. The kernel and bargaining set for convex games［J］. International Journal of Game Theory， 1971， 1（1）： 73-93.
34	Lundberg S M， Erion G， Chen H， et al. From local explanations to global understanding with explainable AI for trees［J］. Nature Machine Intelligence， 2020， 2（1）： 56-67.
35	Liberti J M， Petersen M A. Information： Hard and soft［J］. Review of Corporate Finance Studies， 2019， 8（1）： 1-41.
36	满向昱，张天毅，汪川，等.我国中小微企业信用风险因素识别及测度研究［J］.中央财经大学学报，2018（9）：46-58.
	Man X Y， Zhang T Y， Wang C， et al. Research on the identification and measurement of credit risk factors of China's small， medium and micro enterprises［J］. Journal of Central University of Finance & Economics，2018（9）：46-58.
37	Blanco A， Pino-Mejías R， Lara J， et al. Credit scoring models for the microfinance industry using neural networks： Evidence from peru［J］. Expert Systems with Applications， 2013， 40（1）： 356-364.
38	Hastie T， Tibshirani R， Friedman J H， et al. The elements of statistical learning： Data mining， inference， and prediction［M］. New York： Springer， 2009.
39	Thomas L C. A survey of credit and behavioral scoring： Forecasting financial risk of lending to consumers［J］. International Journal of Forecasting， 2000， 16（2）： 149-172.

模型名称	逻辑回归	XGBoost
AUC	0.761	0.849
Accuracy	0.898	0.921
Precision	0.381	0.523
Recall	0.363	0.500
F1 Score	0.372	0.512

指标排序	训练集	mean \|SHAP value\|	测试集	mean \|SHAP value\|
1	企业年龄	0.911	企业年龄	0.923
2	营业收入	0.721	营业收入	0.740
3	自主支付	0.719	自主支付	0.739
4	还款利率	0.664	还款利率	0.707
5	借款总额	0.650	借款总额	0.658
6	被告案件数量	0.641	被告案件数量	0.632
7	注册资本	0.564	注册资本	0.574
8	从业人数	0.477	从业人数	0.439
9	资产总额	0.425	资产总额	0.407
10	客户经理对客户信用的主观评价	0.168	客户经理对客户信用的主观评价	0.161

指标	系数	指标	系数
国有集体控股	-0.212	抵押贷款	-0.438
是否绝对控股	-0.499	承兑汇票	-3.182^***
是否城镇企业	-0.006	经营用途	0.499
企业年龄	-0.001^***	自主支付	1.53^***
注册资本	-2.2e-9	原告案件数量	-0.675
从业人数	-0.006^*	被告案件数量	0.648^***
资产总额	-6.9e-8	客户经理对客户信用的主观评价	-0.012
营业收入	4.9e-8^***	客户经理对客户信用的主观评价	-0.012
贷款笔数	0.196^***	企业类型（类别）	控制
借款总额	7.2e-8^**	行业门类（类别）	控制
还款利率	0.311^*	投向门类（类别）	控制
Pseudo R2	0.223	Prob>chi2	0.000

指标	逻辑回归系数	mean \|SHAP value\|	SHAP排名
企业年龄	-0.001^***	0.911	1
营业收入	4.9e-8^***	0.721	2
自主支付	1.53^***	0.719	3
还款利率	0.311^*	0.664	4
借款总额	7.2e-8^**	0.650	5
被告案件数	0.648^***	0.641	6
从业人数	-0.006^*	0.477	8
贷款笔数	0.196^***	0.138	11
承兑汇票	-3.182^***	0.071	14

指标名称	统计量	模型名称
指标名称	统计量	逻辑回归	XGBoost	LightGBM	随机森林	Adaboost	GBDT
AUC	均值	0.7268	0.8075	0.8161	0.8084	0.8015	0.7925
AUC	标准差	0.0687	0.0442	0.0419	0.0420	0.0504	0.0466
Accuracy	均值	0.8891	0.9075	0.9083	0.9015	0.9063	0.9045
Accuracy	标准差	0.0188	0.0137	0.0153	0.0112	0.0107	0.0090
Precision	均值	0.3214	0.4381	0.4428	0.4000	0.4309	0.4190
Precision	标准差	0.1195	0.0868	0.0966	0.0714	0.0681	0.0590
Recall	均值	0.3068	0.4181	0.4227	0.3818	0.4113	0.4000
Recall	标准差	0.1141	0.0829	0.0922	0.0682	0.0651	0.0563
F1 Score	均值	0.3139	0.4279	0.4325	0.3906	0.4209	0.4093
F1 Score	标准差	0.1167	0.0848	0.0944	0.0698	0.0665	0.0576