導(dǎo)語：機(jī)器學(xué)習(xí)信貸逾期檢測模型研究一文來源于網(wǎng)友上傳，不代表本站觀點(diǎn)，若需要原創(chuàng)文章可咨詢客服老師，歡迎參考。

摘要：基于某信貸機(jī)構(gòu)歷史業(yè)務(wù)原始數(shù)據(jù)，經(jīng)過數(shù)據(jù)預(yù)處理后，分別建立決策樹、邏輯斯蒂、BP神經(jīng)網(wǎng)絡(luò)和隨機(jī)森林預(yù)測模型，得到的準(zhǔn)確率不超過90%。再對原始數(shù)據(jù)進(jìn)行特征分箱后，通過XGBoost算法建立模型，準(zhǔn)確率提高為91.2%。最后，基于Cook距離的多元模型檢測到的離群點(diǎn)與逾期客戶有顯著關(guān)系，模型準(zhǔn)確率為96.7%，召回率為99.3%。

關(guān)鍵詞：逾期檢測；特征分箱；機(jī)器學(xué)習(xí)；Cook距離

1引言

隨著互聯(lián)網(wǎng)金融行業(yè)的興起，銀行和貸款機(jī)構(gòu)通過互聯(lián)網(wǎng)為有貸款需求的客戶提供線上金融服務(wù)。在帶來更好服務(wù)體驗(yàn)的同時，也存在著諸多信用風(fēng)險(xiǎn)問題，急需建立信貸風(fēng)險(xiǎn)檢測模型提高風(fēng)控水平。根據(jù)信貸客戶還款的具體情況，將客戶分為正常和逾期兩種類型。以三個月的時間作為觀察窗口，還款連續(xù)逾期三個月的，判定為逾期客戶；其余正常還款情況的，為正?？蛻?。通過采用機(jī)器學(xué)習(xí)和統(tǒng)計(jì)方法得出的信用檢測模型，能夠較為準(zhǔn)確地預(yù)測個人未來的信用表現(xiàn)，估計(jì)每筆信貸是否逾期，方便銀行提前預(yù)知可能存在的風(fēng)險(xiǎn)。

2數(shù)據(jù)預(yù)處理

分析來自某貸款機(jī)構(gòu)的歷史業(yè)務(wù)數(shù)據(jù)，包含貸款基本表、報(bào)告主表、貸款記錄、貸記卡記錄、信用提示、未銷戶貸記卡和未結(jié)清貸款信息匯總、逾期信息匯總、查詢記錄匯總、信貸審批查詢記錄明細(xì)、貸款特殊交易、透支記錄、詐騙記錄等12個數(shù)據(jù)集，涉及3萬名客戶和100多個特征，數(shù)據(jù)預(yù)處理較復(fù)雜，需盡量減少信息損失。為了獲得更好的訓(xùn)練數(shù)據(jù)特征，通過特征工程將原始數(shù)據(jù)轉(zhuǎn)換成模型訓(xùn)練數(shù)據(jù)，使得機(jī)器學(xué)習(xí)模型逼近這個上限，提高模型性能。主要運(yùn)用了特征構(gòu)建和特征選擇。例如針對“數(shù)據(jù)集：信貸審批查詢記錄明細(xì)表”，利用日期函數(shù)計(jì)算查詢間隔月份數(shù)，通過總查詢次數(shù)除以查詢間隔月份數(shù)構(gòu)建出新屬性“月查詢次數(shù)”。例如針對“數(shù)據(jù)集：貸款記錄”，由ID將貸款狀態(tài)拆分成“呆賬、結(jié)清和正?！比悓傩缘臄?shù)據(jù)。最終從100多個指標(biāo)中初步構(gòu)建了42個特征。接著，利用R語言“informationvalue”函數(shù)計(jì)算各定性指標(biāo)的IV值，選擇有高預(yù)測性能的前兩個顯著特征“工資”和“教育”；再通過廣義交叉驗(yàn)證法得到10個顯著性指標(biāo)，主要包括信用狀況、償還歷史和逾期行為3個維度的指標(biāo)，結(jié)合Boruta算法得出變量對逾期狀態(tài)影響的顯著性，根據(jù)變量間相關(guān)性圖和現(xiàn)實(shí)意義，篩選出“信用使用年限”和“貸款賬戶數(shù)”；最終，經(jīng)過定性指標(biāo)和定量指標(biāo)的篩選，從42個初選特征中選擇了重要程度前14的特征。特征選擇結(jié)果如表1所示。處理完缺失值后，采用無放回隨機(jī)抽樣方式，將總體以7∶3的比例拆分成訓(xùn)練集和測試集，數(shù)據(jù)基本情況如表2所示。

3初步建立逾期檢測模型

分別通過“gbm”函數(shù)建立決策樹逾期檢測模型（GBDT）、“glm”函數(shù)建立邏輯斯蒂回歸模型，并通過逐步回歸剔除非顯著變量、“nnet”包所得BP神經(jīng)網(wǎng)絡(luò)模型、“randomForest”函數(shù)建立隨機(jī)森林逾期檢測模型，結(jié)果如表3所示。四種模型的AUC值均低于0.8，預(yù)測準(zhǔn)確性不是很高，離想要檢測逾期客戶的目標(biāo)還有一定差距。其中表現(xiàn)較好的模型為邏輯斯蒂和BP神經(jīng)網(wǎng)絡(luò)，AUC值為0.71。

4特征分箱

通過特征分箱離散化連續(xù)變量，同時將離散變量合并成少狀態(tài)。經(jīng)特征分箱后的數(shù)據(jù)，具有更易于模型快速迭代和降低模型過擬合風(fēng)險(xiǎn)等優(yōu)勢。基于“smbinning”包對各特征進(jìn)行最優(yōu)分段，通過分段結(jié)果對數(shù)據(jù)進(jìn)行封閉性分箱和轉(zhuǎn)換，如特征“信用使用年限”的分段結(jié)果如表4所示。

5逾期檢測模型探索和優(yōu)化

5.1基于XGBoost的集成學(xué)習(xí)模型

前面幾種機(jī)器學(xué)習(xí)模型的預(yù)測精度相對不高，嘗試基于XGBoost算法的集成學(xué)習(xí)模型以提高預(yù)測模型的精度。同時，將分別對原數(shù)據(jù)和特征分箱變換后的數(shù)據(jù)進(jìn)行預(yù)測，以觀察特征分箱是否提升了模型的表達(dá)能力和擬合度。XGBoost模型結(jié)果如表5所示。通過R語言“xgboost”函數(shù)建立模型，經(jīng)參數(shù)調(diào)試后對原數(shù)據(jù)進(jìn)行預(yù)測，得到預(yù)測準(zhǔn)確率為84.5%，召回率為37%，AUC值為0.72。對特征分箱后數(shù)據(jù)進(jìn)行預(yù)測，預(yù)測準(zhǔn)確率為91.2%，召回率為52.7%，AUC值為0.82。將“xgboost”函數(shù)的目標(biāo)設(shè)為邏輯斯蒂模型，由于邏輯斯蒂為廣義線性模型，表達(dá)能力有限，而特征分箱后每個變量有了權(quán)重，即引入了非線性到模型中，顯著提升了模型的表達(dá)能力和擬合效果。

5.2基于CooK距離的多元模型

通過統(tǒng)計(jì)學(xué)方法分析得到離群點(diǎn)，觀察離群點(diǎn)與逾期客戶是否有顯著的關(guān)系。一般如果觀測樣本的Cook距離比平均距離大4倍，則該數(shù)據(jù)點(diǎn)被判定為離群點(diǎn)。通過Cook平均距離的4和24倍分別進(jìn)行離群值檢測，其中顯著離群點(diǎn)和全部離群點(diǎn)如圖1所示。經(jīng)匹配樣本號發(fā)現(xiàn)，基于Cook距離的多元模型檢測法所得出的離群點(diǎn)基本為逾期客戶，該模型表現(xiàn)出了較高的檢測準(zhǔn)確率和召回率。當(dāng)Cook距離為4倍時，99.3%的逾期客戶被檢測出來，而此時模型的準(zhǔn)確率仍非常高，為96.7%。具體如表6所示。

6結(jié)論

進(jìn)行分析的目的是檢測出可能存在逾期行為的客戶，基于這個業(yè)務(wù)背景，主要從模型的準(zhǔn)確率、召回率和AUC值來評價模型的優(yōu)劣。四種機(jī)器學(xué)習(xí)模型的AUC值均低于0.8，預(yù)測準(zhǔn)確性不是很高。模型優(yōu)化上，通過XGBoost集成學(xué)習(xí)模型對原數(shù)據(jù)和分箱后數(shù)據(jù)分別建立模型，AUC分別提高到0.72和0.82，說明集成學(xué)習(xí)模型和特征分箱均有優(yōu)勢，且經(jīng)特征分箱后的XGBoost模型預(yù)測準(zhǔn)確率達(dá)到91.2%，召回率達(dá)到51.7%，模型有很好的預(yù)測效果。模型探索上，由于逾期客戶均在數(shù)據(jù)的某些特征取值上較為極端，故通過統(tǒng)計(jì)學(xué)方法，基于Cook距離的多元模型檢測出來的離群點(diǎn)，與逾期客戶有著顯著的關(guān)系。當(dāng)Cook距離為4倍時，99.3%的逾期客戶被檢測出來，而此時模型的準(zhǔn)確率仍非常高，為96.7%，該模型表現(xiàn)出了非常高的分類效果。

參考文獻(xiàn)：

［1］中國人民征信中心.個人征信系統(tǒng)新版信用報(bào)告概述［DB/OL］.［2021-04-15］paper/94313836.html.

［2］高祖康.基于數(shù)據(jù)挖掘的商業(yè)銀行貸款信用評級［D］.南京：南京理工大學(xué)，2013.

［3］何曉群.多元統(tǒng)計(jì)分析［M］.4版.北京：中國人民大學(xué)出版社，2004.

［4］董媛香，程鑫.大數(shù)據(jù)背景下個人信用評價體系構(gòu)建［J］.現(xiàn)代工業(yè)經(jīng)濟(jì)和信息化，2017，7（5）：106-108.

［5］石澄賢，陳雪交.P2P網(wǎng)貸個人信用評價指標(biāo)體系的構(gòu)建［J］.常州大學(xué)學(xué)報(bào)（社會科學(xué)版），2016，17（1）：80-85.

［6］李佳.網(wǎng)絡(luò)銀行個人客戶信用風(fēng)險(xiǎn)評價研究［J］.中國市場，2016（14）：91-92.

［7］劉揚(yáng)，劉偉江.特征選擇方法在信用評估指標(biāo)選取中的應(yīng)用［J］.數(shù)理統(tǒng)計(jì)與管理，2006（6）：667-674.

［8］張道宏，張璇，尹成果.基于BP神經(jīng)網(wǎng)絡(luò)的個人信用評估模型［J］.情報(bào)雜志，2006，25（3）：68-70.

［9］張國政，陳維煌，劉呈輝.基于logistic模型的商業(yè)銀行個人消費(fèi)信貸風(fēng)險(xiǎn)評估研究［J］.金融理論與實(shí)踐，2015（3）：53-57.

作者：侯浩鑫 趙志紅 單位：北京理工大學(xué)珠海學(xué)院