数据分享|WEKA信贷违约预测报告：用决策树、随机森林、支持向量机SVM、朴素贝叶斯、逻辑回归...

原创 于 2023-10-30 17:02:34 发布 · 225 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#数据挖掘 #决策树 #随机森林 #支持向量机 #逻辑回归

本文基于WEKA工具，使用决策树、随机森林、支持向量机SVM和逻辑回归等算法预测P2P信贷用户的违约风险。通过数据预处理、特征选择和模型优化，分析了不同算法的预测性能，并展示了如何通过成本敏感学习调整模型以优化ROI。结果显示，随机森林和SVM在预测效果上表现较好。

完整报告链接：http://tecdat.cn/?p=28579

作者：Nuo Liu

数据变得越来越重要，其核心应用“预测”也成为互联网行业以及产业变革的重要力量。近年来网络 P2P借贷发展形势迅猛，一方面普通用户可以更加灵活、便快捷地获得中小额度的贷款，另一方面由于相当多数量用户出现违约问题而给 P2P信贷平台以及借贷双方带来诸多纠纷，因此根据用户历史款情况准确预测潜在是否还会发生违约就非常有必要（点击文末“阅读原文”获取完整报告数据）。

相关视频

解决方案

任务/目标

对于用户贷款数据（查看文末了解数据免费获取方式）是否违约的预测，结果解释。

数据源准备

删除属性

删除数据集中与建立决策树无关的属性IDX、Listinginfo，此类属性作为用户标记/日期标记作用，与借款人信贷违约明显无关。

删除数据集中distinct为1的属性webloginfo\_10、Education\_info7、webloginfo_49，此类属性仅存在同一个数值，对分类结果无影响。

dba5713fb3d27135b603120c550b1b6f.png

webloginfo_10属性描述，其他属性类似

缺失值处理

缺失值情况如下表，按缺失值比例由大到小排列

10f54b6153ad2c086676156ad5678f0d.png

对于属性webloginfo\_3、webloginfo\_1，由于缺失值比例过大，直接删除两属性。操作步骤为预处理界面勾选两属性，点击Remove。

9203bbbff85ac6fef8b157a5379612f0.png

对于属性Userinfo\_21、Userinfo\_22、Userinfo\_23、Education\_info8、webloginfo\_23-48、Userinfo\_4，由于缺失值比例较小，不足1%。webloginfo\_2、webloginfo\_4、webloginfo\_5、webloginfo\_6缺失值比例为5%。因此直接删除缺失值对应instance，以删除Userinfo_21中的缺失值为例，操作步骤如下：

e603ed07c5dd494905ffce6b03114766.png

删除后，剩余19200条实例如下，数据集损失的实例数不足5%，认为对后续决策树建立没有影响。

3688d39483220c05bb9006ef9ada0777.png

对于其他缺失值属性，若为Numeric属性，用平均值代替缺失值，若为Nominal属性，用它的众数来代替缺失值。选择 weka中“ReplaceMissingValues"过滤器进行实现

785237de4a41c6cda361456dc948b623.png

处理后检查不存在缺失值，至此缺失值处理完成。

Numeric 属性离散化处理

使用“NumerictoNominal”过滤器实现Numeric属性的离散化，为方便处理使用MultiFilter对所有Numeric属性进行操作。

fc086dc492db05260fa47e175bd0b913.png

处理后如图，所有Numeric属性均已变为Nominal属性。

特征转换

特征理解

该数据集数据来源于中国一家著名的P2P公司的借款记录。数据集中包括借款人的ID、日期、借款人特征（地点、婚姻状态等信息）、网络行为、学历以及第三方数据等全面信息。

Weblog Info_:Info网络行为字段描述使用网络次数多少，:使用第三方数据时间N字段描述第三方数据时间长短。观察发现ThirdParty_ Info\_PeriodN\_属性数据不同维度上的特征的尺度不一致，需要进行标准化处理

dc9a8815b8c1624bdeefcad29bfb9b75.png

特征提升

按照第一次方法，对数据集进行缺失值删补，步骤省略。

将ThirdParty字段属性标准化，在预处理界面选用unsupervised. attribute. Standardize，标准化给定数据集中所有数值属性的值到一个0均值和单位方差的正态分布。

1673e286be60c7c44d712ba608c01a95.png

特征选择

原数据集包含属性较多，为方便后续操作先对数据集进行特征选择处理。

删除数据集中与建立决策树无关的属性IDX、Listinginfo，此类属性作为用户标记/日期标记作用，与借款人信贷违约明显无关。删除数据集中distinct为1的属性webloginfo\_10、Education\_info7、webloginfo_49，此类属性仅存在同一个数值，对分类结果无影响。

在预处理界面选择AttributeSelection过滤器，选择CfsSubsetEval评估器，选择BestFirst 搜索方法。最终得到除target之外

最低0.47元/天 解锁文章

新学期VIP享超值加赠
博客
Python房价数据预测：StackingCVRegressor集成学习、Lasso、XGBoost、LightGBM模型
09-04 680
在最终模型评估中，多个模型在交叉验证下表现如下：Lasso 和 ElasticNet 均达到了约 0.111 的 RMSLE，Kernel Ridge 回归约为 0.115，Gradient Boost 和 XGBoost 分别为 0.117 和 0.116，LightGBM 约为 0.115，而融合模型 StackingCV 和加权平均模型分别达到了 0.108 和 0.109。为了进一步改善特征的分布，我们计算了每个数值变量的偏度，对于偏度大于0.75的变量，使用 Box-Cox 变换进行了修正。
博客
2025医美与护肤行业趋势洞察报告|附90+份报告PDF、数据仪表盘汇总下载
09-03 73
更值得注意的是男性医美需求的爆发——2024年男性医美市场规模同比增43%，去皱（如抬头纹注射）、面部微调（鼻基底填充）是主要需求，品牌通过“男性微调思路”内容（如“自然少年感轮廓打造”）种草，成功打开男性市场，2024年男性医美客单价达3800元，接近女性水平（4200元）。女性为何为“无创抗衰”一掷千金？例如，植物医生在门店设置“肌肤检测区”，免费为消费者检测角质层厚度、经皮水分流失率，再推荐“人参系列（抗衰）”“黄芪系列（修护）”定制方案，2024年门店客单价达420元，较线上高30%。
博客
Python-Flask企业网页平台深度Q网络DQN强化学习推荐系统设计与实现：结合用户行为动态优化推荐策略
09-02 590
未来，我们将进一步优化模型结构和训练算法，提高推荐系统的性能和稳定性，同时拓展平台的功能，为企业提供更全面的推荐解决方案。其中，s为状态（包括用户的购买、点击、浏览、加购物车等行为序列），a为动作（表示对当前用户推荐某个商品），r为奖励（表示用户的反馈行为映射成分值），γ为折扣因子，Q为推荐商品a得到的未来可能得到的回报值，E()为期望。测试的推荐结果显示，每十次训练测试一次，最后的推荐覆盖率能够达到0.65，也就是说推荐4个商品，能够满足用户65%的需求，即预测出该用户将要查看的商品。
博客
专题：2025全球新能源汽车供应链核心领域研究报告|附300+份报告PDF、数据仪表盘汇总下载
09-01 183
从布局区域看，泰国成为首选，中国车企在此布局8家工厂，投资额达56亿美元，年产能突破50万辆，主要生产右舵车型适配东南亚市场，比如比亚迪泰国工厂生产的ATTO 3车型，2024年在东南亚销量突破8万辆；：固态电池预计2030年量产，能量密度达500Wh/kg，是当前液态电池的1.5倍，当前投入的液态电池产能可能面临技术过时风险，企业需预留10%-15%的产能用于技术改造，比如宁德时代已在研发固态电池生产线，计划2028年试点投产。值得注意的是，材料成本下降不只是规模效应，更源于技术创新。
博客
【视频讲解】R语言海七鳃鳗性别比分析：JAGS贝叶斯分层逻辑回归MCMC采样模型应用
08-29 625
核心提示：这组数据的价值，就在于把“生境类型（Type）-成熟年数（Years）-性别（Male）”绑在了一起——我们想验证“生长速度影响性别决定”，其实就是看“不同生境下，成熟年数变化会不会带动雄性比例变”，数据刚好能支撑这个分析逻辑。”直接把论文打回修改？：把“地点”当“小弟”，“生境类型”当“大哥”——比如静水下面有3个地点，每个地点的参数（比如基础雄性概率）可以围绕“静水总体参数”波动，这样小样本地点能借“大哥”的信息，估计更准；下次再遇到“样本少没法分析”的情况，别慌，先想“能不能用分层模型？
博客
Python国内电影票房预测模型研究——贝叶斯岭回归Ridge、决策树、Adaboost、KNN分析猫眼豆瓣数据
08-27 772
电影行业向来是“高投入高风险”，但现在的问题是，很多片方还在用“经验判断”做决策：凭感觉选档期、靠人脉定宣发预算，结果就是《阿修罗》这样的项目——投资7.5亿，上映3天票房才5000万，最后撤档亏损近7亿。然后删掉有缺失值、异常值的数据——比如有的电影没写首日票房，这种数据要是留着，会让后面的预测不准，所以直接删掉。我们的研究，简单说就是“用数据帮电影行业做决策”：基于2011-2025年的多平台数据，用Python处理好数据，找出影响票房的5个关键因素，建了4种模型，最后发现决策树最准。
博客
2025机器人技术产业化研究|附130+份报告PDF、数据仪表盘汇总下载
08-26 680
但短短几年，局面就被“国产化替代+技术创新”改写：2023年传统工业机器人占比降至60%，协作机器人占30%，而带有力控传感器、能适配不同工件的自适应机器人，虽仅占10%却成了增速最快的“黑马”。如果说工业机器人是“稳步前行的成熟选手”，人形机器人就是“即将冲刺的潜力新星”——最明显的信号是，头部企业纷纷亮出2025年量产时间表：M2具身智能研究院数据显示，特斯拉计划量产5000台，Figure AI目标2000台，优必选也定下1000台的目标。还有电商仓库的分拣机器人，效率比人工高3倍。
博客
Stata智慧城市建设对经济高质量发展的影响面板数据分析：超效率SBM模型引入中介变量及空间杜宾模型SDM
08-26 377
基于此，本研究选取2013-2022年我国30个省份（不含西藏、港澳台地区）的面板数据，采用超效率SBM模型测度经济高质量发展水平，通过固定效应模型、中介效应模型及空间杜宾模型（SDM），层层验证智慧城市建设的经济效应、作用机制与空间溢出特征。：我国智慧城市经历“数字城市→智慧城市→新型智慧城市”两次升级，2015年后“新型智慧城市”强调以大数据、云计算等技术构建现代化城市体系，契合“创新、协调、绿色、开放、共享”发展理念。W为地理距离权重矩阵（Wij=1/dij，dij为省份i与j的直线距离）；
博客
专题：2025旅游业AI革命与全球化发展洞察报告|附60+份报告PDF、原数据表汇总下载
08-25 89
与此同时，研学旅游市场规模从2023年的1473亿元，预计增长至2026年的2422亿元（数据来源：中博文旅研究院《2024年研学旅游洞察研究报告》），这种增长不是“昙花一现”——新东方文旅将研学与非遗体验结合，推出的“景德镇陶瓷研学营”，复购率达到35%，远高于传统旅游产品的5%。如今，94%的商业领袖将AI视为企业成功的核心要素，73%的旅游公司计划加码技术投资，而头部在线旅游平台已占据85%的市场份额，这种“头部集中+技术普惠”的格局，正推动旅游业从“规模增长”向“价值增长”转型。
博客
专题：2025人工智能2.0智能体驱动ERP、生成式AI经济现状落地报告|附400+份报告PDF、原数据表汇总下载
08-25 177
2024年的时候，美国前沿AI模型的智能指数还比中国高5分（按Artificial Analysis的评测标准），但到2025年，这个差距完全消失了——中国的DeepSeek R1和阿里Qwen3 235B模型，分数都冲到了68分，和美国的OpenAI o3、Google Gemini 2.5 Pro站在了同一水平。从医疗领域AI处理81%患者咨询的高效，到AI企业仅用11.5个月达成100万美元营收的速度，这些变化背后，是AI从“辅助工具”向“核心生产力”的转变。
博客
Python中国证券成分股波动率量化：ARIMA-随机森林预测、MPT投资组合优化、四维评价体系与动态仓位策略
08-25 1051
擅长 MySQL、SPSS、Python 等工具，在学校竞赛项目的数据分析工作中，具备扎实的数据采集、数据分析与模型建立能力，能够运用 MySQL 进行数据管理、SPSS 开展统计分析、Python 实现数据处理与建模，为项目中从数据获取到分析建模的全流程工作提供支持，有效助力了研究中数据相关环节的推进与成果落地。上图中，红色点代表“需减仓”（RSI>70或波动率>4%），绿色点代表“需加仓”（RSI<30或波动率<2%），当前点（RSI=39.54，波动率=3%）为绿色，建议维持80%仓位。
博客
专题：2025医药创新与数字化转型报告|附100+份报告PDF、原数据表汇总下载
08-22 925
当中国创新药的“全球首创”与数字化的“全链条赋能”相遇，当本土企业与国际伙伴从“竞争”走向“协同”，医药产业的增长新引擎已蓄势待发。但到2024年，这一数字已增至40个，赛道覆盖度达40%，虽然仍落后于美国的53%，但已实现从“Me-too”（仿创）到“FIC/BIC”（全球首创/最优）的关键转身。2025年ASCO大会上，中国企业的双抗研究占比49%，ADC研究占比48.4%，康方生物的依沃西更是成为首个在Ⅲ期头对头研究中击败K药的双抗，这些数据印证了中国创新从“参与者”到“领跑者”的蜕变。
博客
Python基于ARIMA-LSTM模型的广州市新能源汽车销量预测
08-20 964
通过Seq2Seq架构结合多层LSTM预测用户签到轨迹，对比LSTM、Transformer等模型表现，Seq2Seq的RMSE最低（0.086），R²达0.354。纯LSTM：像个“机灵鬼”，能捕捉非线性关系，但容易“忘本”，单独用百度指数时误差16.01%，加了充电桩数据降到14.06%，可还是不如组合起来强。纯ARIMA：像个“老学究”，擅长抓整体增长趋势，但对充电桩突然变多、百度指数猛涨这些“意外”反应慢，预测误差18.35%；如需特定领域（如医疗、NLP）的LSTM应用案例，可进一步说明需求。
博客
Python电商用户复购预测：LightGBM模型与RFM分析在双十一数据应用及差异化运营策略
08-19 862
在电商行业流量红利见顶的当下，复购率每提升1%，企业利润可增长3-5%——这是行业共识，也是我们深耕电商数据研究的核心出发点。我们统计过，复购用户的年均GMV能达到新用户的3倍以上，但很多团队还在用“大水漫灌”的方式做营销——给所有用户发一样的券，结果是钱花了，真正想挽留的用户没触达，不想买的却被骚扰。：总交互次数、买东西的比例（购买率）、活跃了多少天——越活跃、买得越多的用户，复购潜力越高。：被多少人买过、被买的比例（被购买率）——越多人买、买的比例越高的商家，用户越可能回头。
博客
专题：2025母婴行业消费洞察与分龄营养趋势报告|附40+份报告PDF、交互图表数据汇总下载
08-19 240
这直接推动市场从“大锅饭”走向“定制化”——2010年还在分“奶粉/非奶粉”，2025年已经细分出“上学早餐奶”“户外能量包”，增速从3.7%飙到10.9%。但Babycare的“防红屁屁”高端款仍能涨12%——家长愿为“真痛点”掏钱，却反感“虚溢价”。从“一把奶粉喂到3岁”到“按月龄定制营养包”，从“进口就好”到“看专利数据下单”，现在的育儿战场，拼的是精准和懂行。天猫国际数据显示，跨境奶粉占70%高端市场，但国产奶粉靠技术逆袭：飞鹤的“益生菌专利”、伊利的“HMO配方”，让国产品牌增速达37%。
博客
视频讲解：CatBoost、梯度提升 (XGBoost、LightGBM)对心理健康数据、交通流量及股票价格预测研究
08-18 796
消费领域，助力“市场趋势预判”。延续“多场景+模型贯穿”主框架，替换“心理健康、股票”场景为“职场、城市运营、消费”，贴合目标公众号“泛行业数据应用”定位，保持“场景-模型-实践”的立体拆解逻辑，确保框架复用性。读取“公交客流数据”，转换“运营时间”字段为datetime类型，提取“小时、工作日标记”等时间特征，关联“天气、活动举办”等外部数据，丰富特征维度。：依据“职场、城市、消费”热点，重构数据基础（如职场社交数据、公交客流数据 ），保留“缺失值处理、特征工程、模型对比”核心环节，适配新场景需求。
博客
专题：2025AI技术应用与发展报告|附600+份报告PDF、数据仪表盘汇总下载
08-18 103
该报告深度剖析了全球及中国人工智能计算力的发展态势，重点解读了生成式 AI 对算力需求的影响，以及中国智能算力规模的快速增长（2023-2028 年复合增长率预计达 46.2%）。数据质量更直接，50%的项目延期都因它，就像用带沙的面粉揉不出好馒头，混乱的数据也训不出好用的AI。再看技术演进（见图4），AI这几年进步明显：2019年还在“死记硬背”的预训练时代，2022年靠SFT/RLHF技术懂了“人情世故”，2024年能自己拆任务，2025年眼看要学会自主决策。不过得说明白，AI不是万能的。
博客
专题：2025跨境电商市场布局、供应链与产业带赋能报告|附130+份报告PDF、原数据表汇总下载
08-15 292
Temu的无线鼠标卖36元，亚马逊3P要81元，价差55%！2025年，跨境圈的老板们集体焦虑：美国关税飙到145%，亚马逊封号潮卷土重来，而东南亚却悄悄涨了246%！聪明的卖家早转了海外仓——亚马逊FBA能做到“当日达”，成本压到1.8美元，武汉某灯具厂靠这个，欧洲站退货率降了40%。中山灯饰产业带靠亚马逊SPN服务商，把大件物流成本砍了50%，配送从30天缩到3天，这就是“服务商+产业带”的魔力。派安盈的数据显示，东南亚消费者对“400新元以下免税”政策超敏感，抓这点的卖家，转化率比同行高30%。
博客
Python金融市场的Catboost，BiLSTM，PSO预测模型实践​：电信数据，加密货币，股票数据预测
08-14 696
我们用Z-score标准化来解决，公式很简单：Zi=(xi-μ)/σ，其中xi是样本值，μ是均值，σ是标准差，这样所有特征都能站在同一“起跑线”上。随机欠采样，从正常用户里按4:1的比例抽样本，控制总量。我们用Catboost模型，重点在特征工程上做了优化：提取“交易小时”“周内第几天”这些时间特征，还把“资产ID”和“交易时段”组合成新特征，让模型捕捉到更多规律。未来，我们计划把这些方法用到更多领域，比如电商用户流失预测、工业设备故障预警等——毕竟，让机器学习真正帮到业务，才是我们做数据科学的初心。
博客
专题：2025银行业转型：AI、网点与支付创新报告|附380+份报告PDF、原数据表汇总下载
08-14 799
从核心系统的分布式转型，到AI技术的深度应用，从网点布局的下沉调整，到绿色金融与跨境支付的创新发展，每一个领域都彰显着行业拥抱变革的决心。：2025年分布式核心规模突破42万亿，其中国有大行以27.48万亿占比65%，股份制银行11.54万亿，城商行、农商行仅占7.6%。”——某政策性银行投行部总监。全球银行业展望报告（2025年第3季度）：布局科技金融赛道，提升服务实... 报告2025-07-28。中国银行中国经济金融展望报告（2025年）：增量政策加力显效，推动经济... 报告2025-01-05。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值