随机森林模型在分类与回归分析中的应用

随机森林(random forest)模型是由Breiman和Cutler在2001年提出的一种基于分类树的算法。它通过对大量分类树的汇总提高了模型的预测精度,是取代神经网络等传统机器学习方法的新的模型。随机森林的运算速度很快,在处理大数据时表现优异。随机森林不需要顾虑一般回归分析面临的多元共线性的问题,不用做变量选择。现有的随机森林软件包给出了所有变量的重要性。另外,随机森林便于计算变量的非线性作用,而且可以体现变量间的交互作用(interaction)。它对离群值也不敏感。本文通过3个案例,分别介绍了随机森林在昆虫种类的判别分析、有无数据的分析(取代逻辑斯蒂回归)和回归分析上的应用。案例的数据格式和R语言代码可为研究随机森林在分类与回归分析中的应用提供参考。     

随机森林算法基本思想及其在生态学中的应用——以云南松分布模拟为例

通常来讲,生态学者对于解释生态关系、描述格局和过程、进行空间或时间预测比较感兴趣。这些工作可以通过模拟输出值(响应)与一些特征值(即解释变量)的关系来实现。然而,生态数据模拟遇到了挑战,这是因为响应变量和预测变量可能是连续变量或离散变量。需要解释的生态关系通常是非线性的,并且解释变量之间具有复杂的相互作用关系。响应变量和解释变量存在缺失值并不是不常有的现象,奇异值也经常出现在生态数据中。此外,生态学者通常希望生态模型即要易于建立又易要于解释。通常是利用多种统计方法来分析处理各种各样情景中出现的独特的生态问题,这些模型包括(多元)逻辑回归、线性模型、生存模型、方差分析等等。随机森林是一个可以处理所有这些问题的有效方法。随机森林可以用来做分类、聚类、回归和生存分析、评估变量的重要性、检测数据中的奇异值、对缺失数据进行插补等。鉴于随机森林本身在算法上的优势,将就随机森林在生态学中的应用进行总结,对建模过程进行概述,并以云南松分布模拟研究为例,对其主要功能特点进行案例展示。通过对随机森林的一般术语、概念和建模思想进行介绍,有利于读者掌握本方法的应用本质,可以预见随机森林在生态学研究中将得到更多的应用和发展。     

基于随机森林回归的草场植被盖度反演模型研究——以新疆阿勒泰地区布尔津县为例

作为草地资源大国,我国正面临严峻的草场退化形势。掌握草场植被盖度的历史演变趋势,是草场退化驱动力识别及风险评估的基础。目前已有研究多以参数回归方法估算植被盖度,但并未充分考虑其苛刻的使用条件。利用Landsat系列卫星遥感影像及地面植被盖度监测资料建立非参数回归——随机森林回归模型,并与传统线性回归方法进行比较,在此基础上应用随机森林回归模型估算近10年来布尔津县草场植被盖度的变化趋势,并对结果的不确定性进行分析。结果显示:传统的线性回归方法很难满足其基本的统计学假设条件,而随机森林模型不但无需进行假设条件检验,而且预测的准确性也优于以往普遍应用的线性模型。基于Landsat ETM+标准数据得到的反演结果较之TM和OLI数据普遍偏小,地表反射率数据虽然可以大幅降低传感器不同对反演结果所造成的影响,但结果仍存在约±10%的不确定性。涉及的草场类型众多,为了提高反演精度,后续研究需要分别计算其植被指数,并尽量减低传感器差异带来的不确定性。     

联合星载ICESat-GLAS波形与多光谱Landsat-TM影像的森林郁闭度估测

森林郁闭度的空间分布是评价森林生产力和分解率的一个重要指标.本研究以吉林汪清林区为研究区,分别利用星载激光雷达ICESat-GLAS波形数据和多光谱遥感Landsat-TM影像对该区的森林郁闭度进行估测,然后采用多元线性回归和BP神经网络两种方法对GLAS数据和TM数据进行联合,共同估测了森林郁闭度.结果表明:单一遥感数据估测森林郁闭度时,GLAS数据的模型决定系数为0.762,TM数据的模型决定系数为0.598.将GLAS数据和TM数据联合后估测森林郁闭度时,多元线性回归模型的复决定系数为0.841,BP神经网络模型的仿真精度为0.851.表明ICESat-GLAS数据与Landsat-TM影像联合能够发挥多源遥感数据的优势,提高森林郁闭度的估测精度,并为后续的空间区域内森林郁闭度的连续制图提供可靠的方法.     

基于微波遥感技术探测森林地表土壤含水率

森林地表土壤含水率是森林生态系统中的重要参数,使用微波遥感技术快速准确地估算区域尺度上的森林地表土壤含水率,对于森林生态系统研究具有重要的现实意义.本文利用TDR-300土壤含水率速测仪测得黑龙江大兴安岭地区塔河林业局盘古林场内120块样地的森林地表土壤含水率作为因变量,利用C波段全极化SAR数据的极化分解参数作为自变量,构造多元线性回归统计模型和BP神经网络模型,定量估测森林地表土壤含水率,通过模型反演获得区域尺度上森林地表土壤含水率的空间分布.结果表明: 多元线性回归统计模型的精度为86.0%,均方差根误差(RMSE)为3.0%;BP神经网络模型的精度为89.4%,RMSE为2.7%.说明利用BP神经网络模型定量估测森林地表土壤含水率优于多元线性回归模型,将全极化SAR数据通过BP神经网络模型进行仿真,最终得到研究区域的森林地表土壤含水率空间分布图.     

利用线性混合效应模型模拟杉木人工林枝条生物量

基于福建省将乐林场45株人工杉木解析木的572组枝条生物量数据,采用线性混合效应模型方法,建立杉木人工林枝条总生物量和枝、叶生物量的预测模型,并利用独立样本数据对模型进行检验.结果表明： 线性混合效应模型比传统多元线性回归模型的拟合精度高.不同随机效应参数的组合,其混合模型的精度不同.考虑异方差结构的混合模型能够消除数据间的异方差性,其精度更高,其中,对于枝条总生物量和叶生物量模型,以指数函数作为异方差结构时的模型精度最高;对于枝生物量模型,以常数加幂函数作为异方差结构时的模型精度最高.模型检验结果表明：对于杉木人工林枝条生物量预测模型,考虑随机效应和异方差结构的线性混合模型的检验精度比传统多元线性回归模型的精度有明显提高.     

植被叶面积指数遥感监测模型

叶面积指数是植被定量遥感的重要参数,区域的时序列叶面积指数揭示了区域生态的演化过程,反演方法上主要是通过植被指数建立相关模型实现的,对于不同地区或不同气候带而言,模型的通用性以及各种植被指数在模型中的灵敏度都需做进一步的探讨。以江苏省宜兴市作为研究区,采用2002年8月22日获得的Landsat-5TM图像数据和2003年8月23～26日采用LAI-2000进行的野外实测植被叶面积指数(LAI)数据,分别探讨了植被指数(VI)与LAI的一元、多元线性回归模型和非线性回归模型,其中的非线性回归模型包括对数、指数、乘幂和多项式回归模型。结果表明,VI与LAI之间的最佳回归模型为多元线性回归模型,R2达0.864;采用逐步选择剔除法,遴选出了用于回归模型的植被指数为RVI、PVI、SAVIL=0.35、MSAVI、ARVIγ=1、ARVIγ=0.5和SARVI。经模型LAI=-ln((VI-VI∞)/(VIg-VI∞))/KVI检验,预测值(y)与实测值(x)的拟合度较好y=0.5345x 1.3304,R2为0.7379。RVI与LAI的三次多项式回归模型也较好,R2为0.7806。再次为RVI与LAI的一元线性回归模型,R2为0.7726,比值植被指数RVI在反演叶面积指数模型中具有较高的灵敏度。     

基于景观及微地形特征的丘陵区土壤属性预测

为探讨小流域尺度丘陵区的高分辨率数字土壤制图方法,通过对景观相分类的探索,配合应用不同尺度的Geomorphons(GM)微地形特征数据构成分类变量组参与高分辨率土壤pH、黏粒含量和阳离子交换量的预测制图,并与传统数字高程模型衍生变量和遥感变量进行组合与比较分析。此外,采用支持向量机、偏最小二乘回归和随机森林3种机器学习模型择优与残差回归克里金复合参与预测模型的构建与评价。结果表明: 景观及多尺度微地形分类变量组的应用分别提高小流域尺度丘陵地貌区pH、黏粒含量和阳离子交换量预测精度的18.8%、8.2%和8.7%。包含植被信息的景观相分类图相比土地利用数据有更高的模型贡献度;5 m分辨率的GM微地形分类图相比低分辨率的分类图更适宜高精度的预测制图。黏粒含量使用随机森林复合模型有最高的预测精度,而pH和阳离子交换量则不适宜在随机森林模型的基础上加入残差回归克里金模型。景观-多尺度微地形分类变量、数字高程模型衍生变量和遥感变量三者结合的模型预测表现最佳,表明多元变量在起伏地形区域相比单一数据源能够包含更多的土壤有效信息。由GM数据和地表景观数据组成的景观分类变量组作为主要变量能够解释小流域丘陵区部分土壤属性约40%的空间变异。在同类型土壤预测制图研究中,多分辨率GM及景观分类数据有潜力作为环境变量参与预测模型的构建。     

人工神经网络在糖尿病住院费用研究中的应用

目的 通过对糖尿病住院费用的主要影响因素进行分析，探寻有效分析方法，为合理控制糖尿病住院费用提供理论依据。方法 研究对象为北京市2011年13家三级甲等医院的全部2型糖尿病住院患者病案首页数据，诊断依据为出院主诊断（ICD编码为E11）。采用反向传播神经网络建模，并与多元线性回归模型相比较，分析糖尿病住院费用影响因素。结果 (1)反向传播神经网络预测误差比多元线性回归低，在数据拟合方面优于多元线性回归模型。(2)两模型结果显示，糖尿病住院费用影响因素中排前两位的是住院日和出院科别，单项费用中药品费、化验费、检查费占据前三位。结论 在对糖尿病住院费用分析时反向传播神经网络优于多元线性回归。     

东亚三族群SNP高分辨推断模型构建与效能评估

单核苷酸多态性（single nucleotide polymorphism,SNP）是法医遗传学个体识别和族群推断常用的遗传标记. 本研究集合文献和公共库中祖先信息SNP位点（ancestry informative SNPs,AISNPs）,应用softmax回归、支持向量机和随机森林3种算法,研究东亚北方的3个主体人群（中国北方汉族人、日本人和韩国人）的族群推断效果. 我们分析了来自千人基因组计划的103份中国北方汉族人样本、104份日本人样本和亚洲多样性计划的100份韩国人样本的428个AISNP位点分型,采用多元线性回归共线性诊断筛选出67个高信息量的AISNPs位点组合,构建了softmax回归和支持向量机算法的两种族群推断模型,采用随机森林平均降准分析筛选出42个高信息量的AISNPs位点组合,并构建了随机森林算法的族群推断模型,将softmax回归、支持向量机与随机森林3种模型用于北方汉族人、日本人、韩国人的族群推断,五次十折交叉验证（training∶testing=9∶1）测试3种模型的平均准确率分别为95.19%、95.77%、94.53%. 本研究建立的3种族群推断模型均可用于东亚北方三大人群的遗传推断,42 AISNPs组合的位点数目较少,更适于构建法医检测体系,具有较高的实际应用价值.     

基于地理加权回归克里格模型的帽儿山地区森林碳储量空间分布

森林碳储量对于全球气候变化具有重要影响,以往的模型估算未考虑到模型残差的空间相关性和碳储量数据的非平稳性,影响模型的预测精度.本研究基于东北林业大学帽儿山实验林场的ETM+遥感影像数据和193块固定样地,利用地理加权克里格回归(GWRK)建立森林碳储量与遥感和地形因子的回归模型,同时对比最小二乘模型(OLS)、地理加权回归模型(GWR)的预测精度.结果表明: 对于帽儿山地区的森林碳储量估算,GWRK的平均绝对误差(MAE)、均方根误差(RMSE)低于OLS模型和GWR模型,GWRK模型的平均误差(ME)低于GWR模型,与OLS模型相近.GWRK模型的预测精度为83.2%,较OLS模型(73.7%)和GWR模型(77.3%)分别提高6%和10%,拟合精度明显提高,说明GWRK模型是森林碳储量估算的有效方法.利用GWRK模型预测的研究区森林碳储量平均值为70.31 t·hm^-2,在海拔较高的地区,森林碳储量值相对较高,说明海拔对其有较大影响.     

Analysis of vegetation index changes and driving forces in inland arid areas based on random forest model: a case study of the middle part of northern slope of the north Tianshan Mountains

全球变化背景下的干旱区植被变化受气候变化和人类活动双重影响。定量评价植被变化特征及其驱动机制, 对监测干旱区区域生态环境变化, 促进区域可持续发展有重要意义。由于复杂多样的人类活动难以量化, 有关这方面的研究多局限于植被对气候变化的响应, 而对人类活动影响考虑不足, 导致关于这方面的认识存在较大的偏差和不确定性。该文首先提出与土地利用相关的人类活动量化表征方法; 然后运用多元线性回归模型和随机森林模型中的较优模型, 分析气候变化和具体的人类活动对北天山北坡中段归一化植被指数(NDVI)的影响。主要结果: (1) 2000-2015年期间北天山北坡中段年NDVI总体呈增加趋势; 基于随机森林构建的NDVI与气候因子和人类活动的模型拟合精度明显优于多元线性回归模型, 其决定系数(R²)至少提高了24%; (2)研究期内与耕地有关的人类活动对北天山北坡中段NDVI分布及时空变化的影响呈增加的特征, 在2000-2015年期间人类活动对NDVI变化的贡献率为0.59, 超过了气候因子。该项研究为气候变化和人类活动对植被的影响研究提供了新思路, 也为干旱区生态环境保护和恢复提供了科学依据。     

动物栖息地选择评估的常用统计方法

利用合适的统计学方法能够更准确地理解动物的栖息地选择。本文通过对2003~2012年期间,10个国际期刊所发表的177篇关于鸟类和兽类栖息地选择论文的30种统计学方法进行分析,简要概述了目前流行的栖息地选择统计学分析方法及特点,同时对同时期的中文文献也进行了简要分析。目前关于动物栖息地选择较为流行的分析方法主要有逻辑斯蒂回归、资源选择函数、成分分析、广义线性模型、多元方差分析、基于欧几里德距离的方法、广义线性混合模型、生态位因子分析、基于个体模型、典型相关分析、物种分布模型等。广义线性模型、逻辑斯蒂回归、多元方差分析和基于欧几里德距离这些方法可以很灵活地用来分析数据,但是缺乏一个有生态学意义的理论框架。资源选择函数和生态位因子分析各自为栖息地选择研究提供了一个统一的理论框架。基于个体的模型是一个自下而上的过程,很难在系统水平形成理论。232篇国内文章中使用较多的方法是主成分分析、Mann-Whitney U检验、t检验、卡方检验、判别分析、方差分析、Vanderloeg选择系数和Scavia选择指数、逻辑斯蒂回归、Kruskal-Wallis H检验和多元回归分析等。在实际研究中,应根据所要解决的研究问题,选择切实可行的分析方法。     

湿地翅碱蓬生物量遥感估算模型

以黄河三角洲HJ-1A CCD遥感数据和滨海湿地翅碱蓬生物量实测数据为数据源,通过对比分析参数回归模型（单变量线性和非线性回归模型,多元线性逐步回归模型）和人工神经网络模型（BP网络、RBF网络、GRNN网络）,构建黄河三角洲湿地翅碱蓬生长初期的生物量湿重遥感估算最优模型。研究表明：基于遥感信息变量能够建立生长初期翅碱蓬生物量湿重估算模型。尽管基于RDVI、MSAVI和PC2的3个变量的多元线性回归模型的拟合效果较优,但是以SAVI、MSAVI、RVI、DVI、RDVI和PC2等7个遥感信息变量构建的BP神经网络模型的精度更高,平均相对误差为12.73%,估算效果最优,能够满足较高精度的生物量湿重估算需求。翅碱蓬生长初期生物量湿重最优估算模型的建立,为滨海地区植被生物量监测、区域翅碱蓬生物量季节动态模拟以及黄河三角洲生态系统功能评价提供技术支持与基础。     

结合机载LiDAR和LANDSAT ETM+数据的温带森林郁闭度估测

森林郁闭度是森林资源调查中的一个重要因子,在森林生态系统管理中具有重要作用。研究如何有效地将激光雷达数据应用于森林郁闭度遥感估测具有重大意义。激光雷达数据的应用能够有效地弥补传统地面调查耗时、费力等不足,不仅可以快速、准确地获取郁闭度遥感估测的模型训练数据和验证数据,还有助于进一步推广应用于大区域的森林郁闭度反演,为林业资源调查提供有力的依据。该研究结合激光雷达数据和LANDSAT ETM+数据估测温带森林郁闭度。以高密度机载激光雷达(ALS)点云数据估算的郁闭度作为模型训练数据和验证数据,通过LANDSAT ETM+影像数据计算得到的8种植被指数作为自变量,使用多元逐步回归(MSR)、随机森林(RF)和Cubist 3种模型,对内蒙古大兴安岭根河林区森林郁闭度进行估测。经验证,Cubist模型的效果比较好(决定系数R2=0.722,均方根误差RMSE=0.126,相对均方根误差r RMSE=0.209,估计精度EA=79.883%)。结果表明,结合激光雷达数据和LANDSAT ETM+影像数据估算温带森林郁闭度非常有潜力。但要将其推广应用于更大区域尺度的森林郁闭度遥感估测,模型的预测能力还有待进一步改进和提高;自变量应尝试加入更多种类遥感数据和其他遥感因子参与建模,例如采用地形因子、高分辨率遥感影像提取纹理特征等,最大可能地减少光学影像、植被指数、地形阴影等带来的影响,提高反演精度;激光雷达数据计算得到的郁闭度的准确性和可靠性还需进一步验证。     

植冠下土壤类型差异对遥感估算冬小麦叶面积指数的影响

遥感是从田块到区域乃至全球范围无损探测叶面积指数(LAI)的有效方法。土壤背景是LAI遥感研究的重要制约因素之一,而土壤类型是组成土壤背景的主要部分,对植被冠层-土壤的光学性质有重要影响,但目前植冠下土壤类型背景对遥感LAI估算的影响尚不明确。该文通过分析归一化差异植被指数、修正型土壤调节植被指数、修正的叶绿素吸收比率指数、红边拐点、红边振幅、红边面积、红边对数指数和归一化差异光谱指数在不同土壤类型下对LAI的敏感性,挖掘最不敏感的光谱参数;通过比较两种回归模型(偏最小二乘回归和随机森林回归)在单一土壤类型和多种土壤类型区对LAI的预测精度,探究将单一土壤类型下发展的LAI估算模型应用到复杂土壤类型地区时可能出现的问题。结果表明:(1)虽然8种光谱指数对LAI的敏感性因土壤类型不同而差异明显,但红边拐点受植冠下土壤类型影响最小;"lambda-by-lambda"波段优选算法不仅可以提供对LAI最敏感的光谱区间,而且可在一定程度上为抵抗植冠下土壤类型差异影响的光谱指数构建提供可行思路;(2)回归模型的LAI预测精度因是否考虑土壤类型而不同,但在小区域尤其是田块尺度研究时,对变量的解释能力是选择模型的第一考虑,而偏最小二乘回归在此方面优于随机森林回归;在未知地表先验知识的前提下,随机森林回归对大区域LAI估算比偏最小二乘回归适合,但地表先验知识的获取对LAI遥感估算仍然十分必要。     

基于激光雷达数据的物种分布模拟: 以美国加州内华达山脉南部区域食鱼貂分布模拟为例

生态位模型通过拟合物种分布与环境变量之间的关系提供物种空间分布预测, 在生物多样性研究中有广泛应用。激光雷达(LiDAR)是一种新兴的主动遥感技术, 已被大量应用于森林三维结构信息的提取, 但其在物种分布模拟的应用研究比较缺乏。本研究以美国加州内华达山脉南部地区的食鱼貂(Martes pennanti)的分布模拟为例, 探索LiDAR技术在物种分布模拟中的有效性。生态位模型采用5种传统多类分类器, 包括神经网络、广义线性模型、广义可加模型、最大熵模型和多元自适应回归样条模型, 并使用正样本-背景学习(presence and background learning, PBL)算法进行模型校正; 同时对这5种模型使用加权平均进行模型集成, 作为第6个模型。此外, 一类最大熵模型也被用于模拟该物种的空间分布。模型的连续输出和二值输出分别使用AUC (area under the receiver operating characteristic curve)以及基于正样本-背景数据的评价指标F_pb进行评价。结果表明, 仅考虑气候因子(温度和降水)时, 7个模型的AUC和F_pb平均值分别为0.779和1.077; 当考虑LiDAR变量(冠层容重、枝下高、叶面积指数、高程、坡度等)后, AUC和F_pb分别为0.800和1.106。该研究表明, LiDAR数据能够提高食鱼貂空间分布的预测精度, 在物种分布模拟方面存在一定的应用价值。     

海州湾春季短蛸的栖息分布特征及其与环境因子的关系

近年来,我国近海多种重要渔业资源处于不同程度的衰退状态,而短蛸具有生命周期短、生长迅速的特点,在我国近海经济渔获产量中占重要地位。然而,有关短蛸的栖息分布特征及其与环境因子的关系尚缺乏研究,不利于更好地保护和利用其资源。本研究根据2011年和2013—2017年春季海州湾的渔业资源和环境因子调查数据,采用随机森林模型、人工神经网络模型和广义提升回归模型3种机器学习方法分析了短蛸的栖息分布特征及其与环境因子的关系。结果表明: 随机森林模型的拟合效果和预测能力在3种模型中优势较大,选择该模型进行分析表明,底层水温、水深和底层盐度对短蛸的栖息分布有较大影响。短蛸的相对资源密度随底层水温、水深和底层盐度的增加均呈先上升后下降趋势。根据FVCOM模型模拟的环境数据,应用随机森林模型预测了短蛸在海州湾海域的栖息分布,发现短蛸主要分布在34.5°—35.8° N、119.7°—121° E之间的海域。     

三种森林生物量估测模型的比较分析

森林生物量的定量估算为全球碳储量、碳循环研究提供了重要的参考依据。该研究采用黑龙江长白山地区的TM影像和133块森林资源一类清查样地的数据, 选取地学参数、遥感反演参数等71个自变量分别构建多元逐步回归模型、传统BP (back propagation)神经网络模型和基于高斯误差函数的BP神经网络改进模型(Gaussian error function, Erf-BP), 进而估算该地区的森林生物量, 并进行比较分析。结果表明, 多元逐步回归模型估测的森林生物量预测精度为75%, 均方根误差为26.87 t·m^-2; 传统BP神经网络模型估测森林生物量的预测精度为80.92%, 均方根误差为21.44 t·m^-2; Erf-BP估测森林生物量的预测精度为82.22%, 均方根误差为20.83 t·m^-2。可见, 改进后的Erf-BP能更好地模拟生物量与各个因子之间的关系, 估算精度更高。     

基于混合效应模型的人工红松节子属性

基于黑龙江省孟家岗林场60株人工红松1534个节子数据,利用SAS软件中的NLMIXED和GLIMMIX模块构建人工红松节子属性因子(基径、健全节长度、死亡年龄、角度)的混合效应预测模型.采用赤池信息准则(AIC)、贝叶斯信息准则(BIC)、对数似然值(-2LL)和似然比检验(LRT)评价指标对所构建模型的精度进行比较.结果表明:考虑树木效应的混合模型模拟精度均高于传统回归模型.含有b_1、b_2随机参数组合的节子基径模型是最优混合效应模型;含有b_1、b_3随机参数组合的节子健全节长度模型是最优混合效应模型;含有节子基径随机参数的广义线性混合模型为节子死亡年龄的最优模型;含有截距、节子基径、健全节长度3种随机效应参数组合的广义线性混合模型为节子角度的最优模型.混合效应模型比传统回归模型更能有效地描述节子属性.红松是东北主要的用材树种,利用节子属性预测模型结合合理的整枝方案可以提高木材质量.