3.4.4　集成樹

集成樹（Ensemble Tree）是樹類模型集成算法的統(tǒng)稱，例如Random Forest、AdaBoost、GBDT以及大名鼎鼎的XGBoost都屬于集成樹的范疇。顧名思義，集成樹將決策樹作為基學(xué)習(xí)器，利用集成學(xué)習(xí)的思想，以不同的方式疊加而形成。集成樹既具有決策樹本身解釋性好的優(yōu)點(diǎn)，又具有集成學(xué)習(xí)帶來的準(zhǔn)確性和區(qū)分度的提升，一些特殊的框架例如XGBoost，由于加入了正則化項(xiàng)，還保證了模型的穩(wěn)定性。集成樹算法相比于神經(jīng)網(wǎng)絡(luò)算法，對于數(shù)據(jù)量和數(shù)據(jù)維度的要求并不算高，通常數(shù)據(jù)量滿足5萬、數(shù)據(jù)維度大于100，就可以嘗試建模，因此被各大互聯(lián)網(wǎng)機(jī)構(gòu)應(yīng)用于申請?jiān)u分模型、行為評分模型、催收評分模型、價(jià)值模型的搭建工作中，是目前建模人員首選的機(jī)器學(xué)習(xí)算法。