1.1　基于類(lèi)別樹(shù)的深度學(xué)習(xí)模型

深度學(xué)習(xí)模型通過(guò)輸入數(shù)據(jù)和輸出數(shù)據(jù)對(duì)深度學(xué)習(xí)模型進(jìn)行訓(xùn)練^[1，2]。傳統(tǒng)的深度學(xué)習(xí)模型當(dāng)輸入項(xiàng)數(shù)和輸出類(lèi)別數(shù)過(guò)多時(shí)，就會(huì)導(dǎo)致輸入數(shù)據(jù)及輸出數(shù)據(jù)的量過(guò)大，從而使得深度學(xué)習(xí)模型的結(jié)構(gòu)過(guò)于復(fù)雜；深度學(xué)習(xí)模型在訓(xùn)練時(shí)計(jì)算量過(guò)于龐大，甚至無(wú)法收斂，從而影響訓(xùn)練的質(zhì)量，進(jìn)而導(dǎo)致應(yīng)用時(shí)的準(zhǔn)確度降低。

綜上所述，傳統(tǒng)的深度學(xué)習(xí)模型當(dāng)輸入項(xiàng)數(shù)和輸出類(lèi)別數(shù)過(guò)多時(shí)準(zhǔn)確度較低。

本節(jié)研究并給出了一種新的基于類(lèi)別樹(shù)的深度學(xué)習(xí)方法和神經(jīng)網(wǎng)絡(luò)系統(tǒng)，通過(guò)多級(jí)深度學(xué)習(xí)模型逐層訓(xùn)練和逐層應(yīng)用，降低了輸入項(xiàng)數(shù)和輸出類(lèi)別數(shù)，從而降低了各級(jí)深度學(xué)習(xí)模型的結(jié)構(gòu)復(fù)雜性及訓(xùn)練和應(yīng)用難度，降低了深度學(xué)習(xí)模型的計(jì)算復(fù)雜度，同時(shí)提高了深度學(xué)習(xí)模型的準(zhǔn)確率。

1.1.1　基于類(lèi)別樹(shù)的深度學(xué)習(xí)方法

1. 基于類(lèi)別樹(shù)深度學(xué)習(xí)的基本方法

圖1-1提供了一種基于類(lèi)別樹(shù)的深度學(xué)習(xí)方法，可包括以下步驟。

（1）步驟S1，獲取訓(xùn)練數(shù)據(jù)中輸出數(shù)據(jù)對(duì)應(yīng)的類(lèi)別樹(shù)。其中，獲取類(lèi)別樹(shù)的方式可以是自動(dòng)構(gòu)建。

例如，一個(gè)技術(shù)方案的類(lèi)別樹(shù)如圖1-2所示。輸出數(shù)據(jù)包括但不限于輸出標(biāo)簽。當(dāng)訓(xùn)練數(shù)據(jù)中輸出數(shù)據(jù)包括輸出標(biāo)簽“豬”“狗”“草”“樹(shù)”“藻”“男人”“女人”時(shí)，這些輸出數(shù)據(jù)對(duì)應(yīng)圖1-2中類(lèi)別樹(shù)的葉子節(jié)點(diǎn)。例如，類(lèi)別樹(shù)中生物類(lèi)別對(duì)應(yīng)的訓(xùn)練數(shù)據(jù)中輸出標(biāo)簽為“生物”；類(lèi)別樹(shù)中動(dòng)物類(lèi)別對(duì)應(yīng)的訓(xùn)練數(shù)據(jù)中輸出標(biāo)簽為“動(dòng)物”。

在自動(dòng)構(gòu)建類(lèi)別樹(shù)時(shí)，可以對(duì)訓(xùn)練數(shù)據(jù)中的輸出數(shù)據(jù)進(jìn)行語(yǔ)義分析，獲得對(duì)應(yīng)的類(lèi)別樹(shù)。具體步驟為：①獲取輸出標(biāo)簽集合，將輸出標(biāo)簽集合中每個(gè)輸出標(biāo)簽作為一個(gè)葉子節(jié)點(diǎn)；②從標(biāo)簽分類(lèi)知識(shí)庫(kù)中獲取輸出標(biāo)簽集合中每個(gè)輸出標(biāo)簽所屬的父類(lèi)標(biāo)簽；③將屬于同一個(gè)父類(lèi)標(biāo)簽的各輸出標(biāo)簽作為該父類(lèi)標(biāo)簽的子類(lèi)，并將該父類(lèi)標(biāo)簽作為屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽的父節(jié)點(diǎn)；④將父類(lèi)標(biāo)簽加入輸出標(biāo)簽集合，將屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽從輸出標(biāo)簽集合中刪去，并返回步驟③，直至輸出標(biāo)簽集合中只剩一個(gè)輸出標(biāo)簽；⑤將剩余的輸出標(biāo)簽作為類(lèi)別樹(shù)的根節(jié)點(diǎn)。

標(biāo)簽分類(lèi)知識(shí)庫(kù)是事先構(gòu)建好的。

標(biāo)簽分類(lèi)知識(shí)庫(kù)中包括輸出標(biāo)簽及其所屬的父類(lèi)標(biāo)簽。例如，輸出標(biāo)簽“男人”“女人”屬于父類(lèi)標(biāo)簽“人”的子類(lèi)；輸出標(biāo)簽“豬”“狗”屬于父類(lèi)標(biāo)簽“動(dòng)物”的子類(lèi)；輸出標(biāo)簽“草”“樹(shù)”“藻”屬于父類(lèi)標(biāo)簽“植物”的子類(lèi)。

標(biāo)簽分類(lèi)知識(shí)庫(kù)包括能區(qū)分父類(lèi)標(biāo)簽的所有直接子類(lèi)標(biāo)簽的特征變量集合。例如，能區(qū)分父類(lèi)標(biāo)簽“植物”的所有直接子類(lèi)標(biāo)簽“草”“樹(shù)”“藻”類(lèi)別的特征變量集合中包括特征變量“高度及顏色及紋理”；能區(qū)分父類(lèi)標(biāo)簽“人”的所有直接子類(lèi)標(biāo)簽“男人”“女人”類(lèi)別的特征變量集合中包括特征變量“胸部”“頭發(fā)”。

可以獲取輸出標(biāo)簽集合{豬，狗，草，樹(shù)，藻，男人，女人}，將輸出標(biāo)簽集合中每個(gè)輸出標(biāo)簽作為一個(gè)葉子節(jié)點(diǎn)。

然后，從標(biāo)簽分類(lèi)知識(shí)庫(kù)中獲取輸出標(biāo)簽集合{豬，狗，草，樹(shù)，藻，男人，女人}中每個(gè)輸出標(biāo)簽所屬的父類(lèi)標(biāo)簽，“男人”“女人”屬于“人”的子類(lèi)；“豬”“狗”屬于“動(dòng)物”的子類(lèi)；“草”“樹(shù)”“藻”屬于“植物”的子類(lèi)。

將該父類(lèi)標(biāo)簽“人”作為屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“男人”“女人”的父節(jié)點(diǎn)，將該父類(lèi)標(biāo)簽“人”加入輸出標(biāo)簽集合，將屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“男人”“女人”從輸出標(biāo)簽集合中刪去；將該父類(lèi)標(biāo)簽“動(dòng)物”作為屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“豬”“狗”的父節(jié)點(diǎn)，將該父類(lèi)標(biāo)簽“動(dòng)物”加入輸出標(biāo)簽集合，將屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“豬”“狗”從輸出標(biāo)簽集合中刪去；將該父類(lèi)標(biāo)簽“植物”作為屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“草”“樹(shù)”“藻”的父節(jié)點(diǎn)，將該父類(lèi)標(biāo)簽“植物”加入輸出標(biāo)簽集合，將屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“草”“樹(shù)”“藻”從輸出標(biāo)簽集合中刪去。得到新的輸出標(biāo)簽集合{動(dòng)物，植物，人}，然后重新從標(biāo)簽分類(lèi)知識(shí)庫(kù)中獲取輸出標(biāo)簽集合{動(dòng)物，植物，人}中每個(gè)輸出標(biāo)簽所屬的父類(lèi)標(biāo)簽，“動(dòng)物”“人”屬于“動(dòng)物”的子類(lèi)；“動(dòng)物”“植物”屬于“生物”的子類(lèi)。

將該父類(lèi)標(biāo)簽“動(dòng)物”作為屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“人”的父節(jié)點(diǎn)，將該父類(lèi)標(biāo)簽“動(dòng)物”加入輸出標(biāo)簽集合，將屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“人”從輸出標(biāo)簽集合中刪去，將該父類(lèi)標(biāo)簽“生物”作為屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“動(dòng)物”“植物”的父節(jié)點(diǎn)，將該父類(lèi)標(biāo)簽“生物”加入輸出標(biāo)簽集合，將屬于該父類(lèi)標(biāo)簽的各輸出標(biāo)簽“動(dòng)物”“植物”從輸出標(biāo)簽集合中刪去。得到新的輸出標(biāo)簽集合{生物}，此時(shí)輸出標(biāo)簽集合中只剩下一個(gè)輸出標(biāo)簽，則將該輸出標(biāo)簽{生物}作為類(lèi)別樹(shù)的根節(jié)點(diǎn)。

（2）步驟S2，根據(jù)類(lèi)別樹(shù)分別構(gòu)造各個(gè)非葉子節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型，深度學(xué)習(xí)模型以非葉子節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)類(lèi)別為輸出數(shù)據(jù)。

具體步驟為：①以根節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)；②對(duì)以當(dāng)前節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)類(lèi)別為輸出數(shù)據(jù)時(shí)輸出數(shù)據(jù)的格式為輸出格式、以當(dāng)前節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)類(lèi)別對(duì)應(yīng)的輸入數(shù)據(jù)的格式為輸入格式對(duì)深度學(xué)習(xí)模型進(jìn)行初始化，得到當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型；③分別將當(dāng)前節(jié)點(diǎn)的各個(gè)直接子節(jié)點(diǎn)作為當(dāng)前節(jié)點(diǎn)，并返回步驟②，直到當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn)為止。

其中，直接子節(jié)點(diǎn)指子節(jié)點(diǎn)自身，不包括子節(jié)點(diǎn)的子節(jié)點(diǎn)等更下一級(jí)子節(jié)點(diǎn)。例如，在圖1-2中，節(jié)點(diǎn)“生物”的直接子節(jié)點(diǎn)為節(jié)點(diǎn)“動(dòng)物”和節(jié)點(diǎn)“植物”，節(jié)點(diǎn)“動(dòng)物”的直接子節(jié)點(diǎn)為節(jié)點(diǎn)“人”、節(jié)點(diǎn)“豬”和節(jié)點(diǎn)“狗”。

通過(guò)分級(jí)構(gòu)造深度學(xué)習(xí)模型的方式，使得單個(gè)深度學(xué)習(xí)模型的輸出數(shù)據(jù)的類(lèi)別數(shù)量不會(huì)過(guò)多，從而降低了訓(xùn)練的復(fù)雜性，提高了應(yīng)用時(shí)輸出的準(zhǔn)確度。

仍以圖1-2所示的類(lèi)別樹(shù)為例，在本步驟中，可以先將“生物”節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)，當(dāng)當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，“生物”節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)包括“動(dòng)物”“植物”。對(duì)以當(dāng)前節(jié)點(diǎn)“生物”的所有直接子節(jié)點(diǎn)類(lèi)別“動(dòng)物”“植物”為輸出數(shù)據(jù)時(shí)輸出數(shù)據(jù)的格式為輸出格式、以當(dāng)前節(jié)點(diǎn)“生物”的所有直接子節(jié)點(diǎn)類(lèi)別“動(dòng)物”“植物”對(duì)應(yīng)的輸入數(shù)據(jù)的格式為輸入格式對(duì)深度學(xué)習(xí)模型進(jìn)行初始化，得到當(dāng)前節(jié)點(diǎn)“生物”對(duì)應(yīng)的深度學(xué)習(xí)模型。

（3）步驟S3，獲取各個(gè)深度學(xué)習(xí)模型的輸出數(shù)據(jù)對(duì)應(yīng)的訓(xùn)練的輸入數(shù)據(jù)，然后分別將各個(gè)深度學(xué)習(xí)模型的訓(xùn)練的輸入數(shù)據(jù)和對(duì)應(yīng)的輸出數(shù)據(jù)作為對(duì)應(yīng)深度學(xué)習(xí)模型的輸入和預(yù)期輸出，對(duì)深度學(xué)習(xí)模型進(jìn)行訓(xùn)練。

具體步驟為：①將以非葉子節(jié)點(diǎn)的每個(gè)直接子節(jié)點(diǎn)對(duì)應(yīng)的類(lèi)別作為對(duì)應(yīng)深度學(xué)習(xí)模型的訓(xùn)練數(shù)據(jù)中的輸出數(shù)據(jù)；②將非葉子節(jié)點(diǎn)的每個(gè)直接子節(jié)點(diǎn)類(lèi)別對(duì)應(yīng)的樣本數(shù)據(jù)作為非葉子節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型的訓(xùn)練數(shù)據(jù)時(shí)的初始輸入數(shù)據(jù)。通過(guò)分級(jí)使得級(jí)別越高（根節(jié)點(diǎn)的級(jí)別最低）的節(jié)點(diǎn)類(lèi)別對(duì)應(yīng)的訓(xùn)練數(shù)據(jù)越少，從而提高了訓(xùn)練的針對(duì)性，并能降低訓(xùn)練的復(fù)雜度。

例如，當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，“生物”節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)包括“動(dòng)物”“植物”。將以非葉子節(jié)點(diǎn)“生物”的每個(gè)直接子節(jié)點(diǎn)“動(dòng)物”“植物”對(duì)應(yīng)的類(lèi)別作為對(duì)應(yīng)深度學(xué)習(xí)模型的訓(xùn)練數(shù)據(jù)中的輸出數(shù)據(jù)；將非葉子節(jié)點(diǎn)“生物”的每個(gè)直接子節(jié)點(diǎn)“動(dòng)物”“植物”類(lèi)別對(duì)應(yīng)的樣本數(shù)據(jù)作為非葉子節(jié)點(diǎn)“生物”對(duì)應(yīng)的深度學(xué)習(xí)模型的訓(xùn)練數(shù)據(jù)的初始輸入數(shù)據(jù)。此時(shí)訓(xùn)練時(shí)輸入數(shù)據(jù)是動(dòng)物圖像，對(duì)應(yīng)的預(yù)期輸出是“動(dòng)物”標(biāo)簽；訓(xùn)練時(shí)輸入數(shù)據(jù)是植物圖像，對(duì)應(yīng)的預(yù)期輸出則是“植物”標(biāo)簽。

或者在本步驟中，可以通過(guò)標(biāo)簽分類(lèi)知識(shí)庫(kù)獲取能區(qū)分非葉子節(jié)點(diǎn)的各個(gè)直接子節(jié)點(diǎn)類(lèi)別對(duì)應(yīng)的各個(gè)直接子類(lèi)標(biāo)簽的特征變量集合；非葉子節(jié)點(diǎn)對(duì)應(yīng)父類(lèi)標(biāo)簽；從初始輸入數(shù)據(jù)中抽取特征變量集合對(duì)應(yīng)的輸入數(shù)據(jù)，作為對(duì)應(yīng)深度學(xué)習(xí)模型的訓(xùn)練時(shí)的輸入數(shù)據(jù)。

例如，當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，“生物”節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)包括“動(dòng)物”“植物”。從標(biāo)簽分類(lèi)知識(shí)庫(kù)中獲取能區(qū)分當(dāng)前節(jié)點(diǎn)“生物”的所有直接子節(jié)點(diǎn)“動(dòng)物”“植物”類(lèi)別的特征變量集合為{顏色及紋理}，從初始輸入數(shù)據(jù)動(dòng)物圖像和植物圖像中抽取特征變量集合{顏色及紋理}對(duì)應(yīng)的輸入數(shù)據(jù)動(dòng)物圖像和植物圖像，作為當(dāng)前節(jié)點(diǎn)“生物”的深度學(xué)習(xí)模型的訓(xùn)練時(shí)的輸入數(shù)據(jù)。

若標(biāo)簽分類(lèi)知識(shí)庫(kù)不包括能區(qū)分非葉子節(jié)點(diǎn)的各個(gè)直接子節(jié)點(diǎn)類(lèi)別對(duì)應(yīng)的各個(gè)直接子類(lèi)標(biāo)簽的特征變量集合，則對(duì)屬于非葉子節(jié)點(diǎn)的不同子節(jié)點(diǎn)類(lèi)別的樣本數(shù)據(jù)中各特征變量的數(shù)值進(jìn)行比較；從各特征變量中選出在不同子節(jié)點(diǎn)類(lèi)別對(duì)應(yīng)的樣本數(shù)據(jù)中數(shù)值差異大于預(yù)設(shè)閾值的特征變量集合，作為能區(qū)分當(dāng)前節(jié)點(diǎn)的所有子節(jié)點(diǎn)類(lèi)別的特征變量集合。本技術(shù)方案中的差異是指特征變量的數(shù)值的差別，例如，“草”頭像的特征，包括顏色特征、紋理特征等。

例如，當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，“生物”節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)包括“動(dòng)物”“植物”。對(duì)屬于當(dāng)前節(jié)點(diǎn)“生物”的所有直接子節(jié)點(diǎn)“動(dòng)物”“植物”類(lèi)別的輸入數(shù)據(jù)動(dòng)物圖像和植物圖像進(jìn)行比較，從中選出在不同子節(jié)點(diǎn)類(lèi)別“動(dòng)物”“植物”的樣本數(shù)據(jù)動(dòng)物圖像和植物圖像中各特征變量的數(shù)值進(jìn)行比較，從各特征變量中選出在不同子節(jié)點(diǎn)類(lèi)別“動(dòng)物”“植物”對(duì)應(yīng)的樣本數(shù)據(jù)動(dòng)物圖像和植物圖像中數(shù)值差異大于預(yù)設(shè)閾值的特征變量集合為{顏色及紋理}，作為能區(qū)分當(dāng)前節(jié)點(diǎn)“生物”的所有子節(jié)點(diǎn)類(lèi)別“動(dòng)物”“植物”的特征變量集合。

在對(duì)當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型進(jìn)行訓(xùn)練時(shí)，先利用訓(xùn)練數(shù)據(jù)中的輸入數(shù)據(jù)對(duì)當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型進(jìn)行無(wú)監(jiān)督訓(xùn)練，再利用訓(xùn)練數(shù)據(jù)中的輸入數(shù)據(jù)和對(duì)應(yīng)的輸出數(shù)據(jù)對(duì)當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型進(jìn)行有監(jiān)督訓(xùn)練。

例如，當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，將當(dāng)前節(jié)點(diǎn)“生物”對(duì)應(yīng)的深度學(xué)習(xí)模型的訓(xùn)練時(shí)的輸入數(shù)據(jù)動(dòng)物圖像和植物圖像以及輸出數(shù)據(jù)“動(dòng)物”標(biāo)簽、“植物”標(biāo)簽分別作為當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型的輸入和預(yù)期輸出，對(duì)當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型進(jìn)行訓(xùn)練。或?qū)?dāng)前節(jié)點(diǎn)“生物”對(duì)應(yīng)的深度學(xué)習(xí)模型的訓(xùn)練時(shí)的輸入數(shù)據(jù)動(dòng)物圖像顏色及紋理和植物圖像顏色及紋理和輸出數(shù)據(jù)“動(dòng)物”標(biāo)簽、“植物”標(biāo)簽分別作為當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型的輸入和預(yù)期輸出，對(duì)當(dāng)前節(jié)點(diǎn)“生物”對(duì)應(yīng)的深度學(xué)習(xí)模型進(jìn)行訓(xùn)練。

上述訓(xùn)練過(guò)程從根節(jié)點(diǎn)開(kāi)始，以根節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)，對(duì)當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型進(jìn)行訓(xùn)練，然后以根節(jié)點(diǎn)的各個(gè)直接子節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)，對(duì)當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型進(jìn)行訓(xùn)練；重復(fù)上述過(guò)程，直到當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn)為止。

例如，當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，“生物”節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)包括“動(dòng)物”“植物”，分別以當(dāng)前節(jié)點(diǎn)“生物”的每一個(gè)直接子節(jié)點(diǎn)“動(dòng)物”“植物”作為當(dāng)前節(jié)點(diǎn)重復(fù)上述訓(xùn)練過(guò)程，直至當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn)為止。

2. 基于類(lèi)別樹(shù)的深度學(xué)習(xí)的詳細(xì)方法

在一個(gè)技術(shù)方案中，訓(xùn)練出深度學(xué)習(xí)模型之后，本技術(shù)方案包括以下步驟：①獲取使用時(shí)的輸入數(shù)據(jù)；②以根節(jié)點(diǎn)作為當(dāng)前節(jié)點(diǎn)，以1作為當(dāng)前級(jí)別，獲取當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型；③獲取使用時(shí)的輸入數(shù)據(jù)對(duì)應(yīng)于當(dāng)前節(jié)點(diǎn)的深度學(xué)習(xí)模型的輸出數(shù)據(jù)；④如果深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別不是空標(biāo)簽，則繼續(xù)執(zhí)行以下兩個(gè)步驟（如果深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別是空標(biāo)簽，則不再執(zhí)行以下兩個(gè)步驟）：a. 將該類(lèi)別作為使用時(shí)的輸入數(shù)據(jù)在當(dāng)前級(jí)別上所屬的類(lèi)別并輸出，并且根據(jù)深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別從類(lèi)別樹(shù)中選擇該類(lèi)別對(duì)應(yīng)的節(jié)點(diǎn)；b. 以選擇的節(jié)點(diǎn)作為當(dāng)前節(jié)點(diǎn)，將當(dāng)前級(jí)別加1，并返回步驟②，直到當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn)為止。

其中，獲取使用時(shí)的輸入數(shù)據(jù)對(duì)應(yīng)于當(dāng)前節(jié)點(diǎn)的深度學(xué)習(xí)模型的輸出數(shù)據(jù)的步驟包括：將使用時(shí)的輸入數(shù)據(jù)作為當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型的輸入數(shù)據(jù)，通過(guò)深度學(xué)習(xí)得到輸出數(shù)據(jù)；或者獲取能區(qū)分當(dāng)前節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)類(lèi)別的輸入數(shù)據(jù)變量集合；將獲取的輸入數(shù)據(jù)變量集合對(duì)應(yīng)的輸入數(shù)據(jù)作為當(dāng)前節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型的輸入數(shù)據(jù)，通過(guò)深度學(xué)習(xí)得到輸出數(shù)據(jù)。

使用深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別作為使用時(shí)的輸入數(shù)據(jù)在當(dāng)前級(jí)別上所屬的類(lèi)別并輸出，使用時(shí)能夠獲得多個(gè)級(jí)別的類(lèi)別（對(duì)應(yīng)于各級(jí)非葉子節(jié)點(diǎn)和葉子節(jié)點(diǎn)），相對(duì)于現(xiàn)有技術(shù)使用時(shí)只能輸出一個(gè)級(jí)別的類(lèi)別（對(duì)應(yīng)于葉子節(jié)點(diǎn)）而言，輸出結(jié)果更為豐富。例如，使用時(shí)輸入數(shù)據(jù)為圖像A在第1級(jí)別上所屬的類(lèi)別為“生物”，在第1級(jí)別上所屬的類(lèi)別為“生物”，在第2級(jí)別上所屬的類(lèi)別為“動(dòng)物”，在第3級(jí)別上所屬的類(lèi)別為“人”，在第4級(jí)別上所屬的類(lèi)別為“男人”。

例如，可以獲取使用時(shí)的輸入數(shù)據(jù)為圖像A，初始時(shí)以根節(jié)點(diǎn)“生物”作為當(dāng)前節(jié)點(diǎn)。當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，獲取當(dāng)前節(jié)點(diǎn)“生物”對(duì)應(yīng)的深度學(xué)習(xí)模型。

當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，將輸入數(shù)據(jù)圖像A作為當(dāng)前節(jié)點(diǎn)“生物”對(duì)應(yīng)的深度學(xué)習(xí)模型的輸入數(shù)據(jù)，通過(guò)深度學(xué)習(xí)得到的輸出數(shù)據(jù)“動(dòng)物”標(biāo)簽或“植物”標(biāo)簽或空標(biāo)簽，如果通過(guò)深度學(xué)習(xí)得到輸出數(shù)據(jù)不是空標(biāo)簽，則將“動(dòng)物”類(lèi)別或“植物”類(lèi)別作為使用時(shí)的輸入數(shù)據(jù)圖像A在當(dāng)前級(jí)別上所屬的類(lèi)別并輸出，并且根據(jù)深度學(xué)習(xí)得到的輸出數(shù)據(jù)的“動(dòng)物”類(lèi)別或“植物”類(lèi)別從類(lèi)別樹(shù)中選擇該“動(dòng)物”類(lèi)別或“植物”類(lèi)別對(duì)應(yīng)的節(jié)點(diǎn)，以選擇的“動(dòng)物”類(lèi)別或“植物”類(lèi)別作為當(dāng)前節(jié)點(diǎn)，將當(dāng)前級(jí)別加1。

或者，當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)時(shí)，獲取能區(qū)分當(dāng)前節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)類(lèi)別“動(dòng)物”“植物”的輸入數(shù)據(jù)變量集合{顏色及紋理}對(duì)應(yīng)的輸入數(shù)據(jù)圖像A顏色及紋理作為當(dāng)前節(jié)點(diǎn)“生物”對(duì)應(yīng)的深度學(xué)習(xí)模型的輸入數(shù)據(jù)，通過(guò)深度學(xué)習(xí)得到輸出數(shù)據(jù)“動(dòng)物”標(biāo)簽或“植物”標(biāo)簽或空標(biāo)簽，如果通過(guò)深度學(xué)習(xí)得到輸出數(shù)據(jù)不是空標(biāo)簽，則將“動(dòng)物”類(lèi)別或“植物”類(lèi)別作為使用時(shí)輸入數(shù)據(jù)圖像A在當(dāng)前級(jí)別上所屬的類(lèi)別并輸出，并且根據(jù)深度學(xué)習(xí)得到的輸出數(shù)據(jù)的“動(dòng)物”類(lèi)別或“植物”類(lèi)別從類(lèi)別樹(shù)中選擇該“動(dòng)物”類(lèi)別或“植物”類(lèi)別對(duì)應(yīng)的節(jié)點(diǎn)，以選擇的“動(dòng)物”類(lèi)別或“植物”類(lèi)別作為當(dāng)前節(jié)點(diǎn)，將當(dāng)前級(jí)別加1。

本技術(shù)方案根據(jù)深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別來(lái)從類(lèi)別樹(shù)中選擇該類(lèi)別對(duì)應(yīng)的節(jié)點(diǎn)，然后以該節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)重復(fù)上述深度學(xué)習(xí)過(guò)程，直至當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn)為止。

例如，當(dāng)當(dāng)前節(jié)點(diǎn)為“生物”節(jié)點(diǎn)，深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別為“動(dòng)物”標(biāo)簽時(shí)，以類(lèi)別樹(shù)中“動(dòng)物”節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)重復(fù)上述深度學(xué)習(xí)過(guò)程，直至當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn)為止。

深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別為“植物”標(biāo)簽時(shí)，以類(lèi)別樹(shù)中“植物”節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)重復(fù)上述深度學(xué)習(xí)過(guò)程，直至當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn)或深度學(xué)習(xí)得到的輸出數(shù)據(jù)是空標(biāo)簽為止。

當(dāng)當(dāng)前節(jié)點(diǎn)為“動(dòng)物”節(jié)點(diǎn)，深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別為“人”標(biāo)簽時(shí)，以類(lèi)別樹(shù)中“人”節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)重復(fù)上述深度學(xué)習(xí)過(guò)程，直至當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn)為止。

深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別為“豬”標(biāo)簽時(shí)，以類(lèi)別樹(shù)中“豬”節(jié)點(diǎn)為當(dāng)前節(jié)點(diǎn)，當(dāng)前節(jié)點(diǎn)“豬”為葉子節(jié)點(diǎn)，則停止重復(fù)上述深度學(xué)習(xí)過(guò)程。

深度學(xué)習(xí)得到的輸出數(shù)據(jù)是空標(biāo)簽時(shí)，停止重復(fù)上述深度學(xué)習(xí)過(guò)程。

本技術(shù)方案還可以獲取使用時(shí)輸入數(shù)據(jù)對(duì)應(yīng)的預(yù)期輸出數(shù)據(jù)；如果預(yù)期輸出數(shù)據(jù)與輸入數(shù)據(jù)經(jīng)深度學(xué)習(xí)模型后得到的輸出數(shù)據(jù)不一致，以使用時(shí)輸入數(shù)據(jù)和預(yù)期輸出數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)，進(jìn)一步地對(duì)各個(gè)深度學(xué)習(xí)模型進(jìn)行訓(xùn)練。

例如，獲取輸入數(shù)據(jù)圖像A在現(xiàn)實(shí)中對(duì)應(yīng)的輸出數(shù)據(jù)為“女人”，該輸入數(shù)據(jù)圖像A輸入深度學(xué)習(xí)模型后通過(guò)深度學(xué)習(xí)得到的輸出數(shù)據(jù)為“男人”，則以輸入數(shù)據(jù)圖像A及真實(shí)輸出數(shù)據(jù)“女人”來(lái)作為訓(xùn)練數(shù)據(jù)對(duì)現(xiàn)有各深度學(xué)習(xí)模型采用上述同樣方法進(jìn)行訓(xùn)練。

上述基于類(lèi)別樹(shù)的深度學(xué)習(xí)方法，通過(guò)多級(jí)深度學(xué)習(xí)模型逐層訓(xùn)練和逐層應(yīng)用，降低了輸入項(xiàng)數(shù)和輸出類(lèi)別數(shù)，從而降低了各級(jí)深度學(xué)習(xí)模型的結(jié)構(gòu)復(fù)雜性及訓(xùn)練和應(yīng)用難度，降低了深度學(xué)習(xí)模型的計(jì)算復(fù)雜度，提高了深度學(xué)習(xí)模型的準(zhǔn)確率。同時(shí)，使用深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別作為使用時(shí)輸入數(shù)據(jù)在當(dāng)前級(jí)別上所屬的類(lèi)別并輸出，能夠獲得多個(gè)級(jí)別的類(lèi)別（對(duì)應(yīng)于各級(jí)非葉子節(jié)點(diǎn)和葉子節(jié)點(diǎn)），相對(duì)于現(xiàn)有技術(shù)使用時(shí)只能輸出一個(gè)級(jí)別的類(lèi)別（對(duì)應(yīng)于葉子節(jié)點(diǎn)）而言，輸出結(jié)果更為豐富。

1.1.2　基于類(lèi)別樹(shù)的深度學(xué)習(xí)系統(tǒng)

如圖1-3所示，本技術(shù)還提供一種深度學(xué)習(xí)系統(tǒng)，可包括：

（1）獲取模塊1用于獲取訓(xùn)練數(shù)據(jù)中輸出數(shù)據(jù)對(duì)應(yīng)的類(lèi)別樹(shù)。

（2）構(gòu)造模塊2用于根據(jù)類(lèi)別樹(shù)分別構(gòu)造各個(gè)非葉子節(jié)點(diǎn)對(duì)應(yīng)的深度學(xué)習(xí)模型，深度學(xué)習(xí)模型以非葉子節(jié)點(diǎn)的所有直接子節(jié)點(diǎn)類(lèi)別為輸出數(shù)據(jù)。

（3）訓(xùn)練模塊3用于獲取各個(gè)深度學(xué)習(xí)模型的輸出數(shù)據(jù)對(duì)應(yīng)的訓(xùn)練時(shí)輸入數(shù)據(jù)，然后分別將各個(gè)深度學(xué)習(xí)模型的訓(xùn)練時(shí)輸入數(shù)據(jù)和對(duì)應(yīng)的輸出數(shù)據(jù)作為對(duì)應(yīng)深度學(xué)習(xí)模型的輸入和預(yù)期輸出，對(duì)深度學(xué)習(xí)模型進(jìn)行訓(xùn)練。

上述深度學(xué)習(xí)系統(tǒng)，通過(guò)多級(jí)深度學(xué)習(xí)模型逐層訓(xùn)練和逐層應(yīng)用，降低了輸入項(xiàng)數(shù)和輸出類(lèi)別數(shù)，從而降低了各級(jí)深度學(xué)習(xí)模型的結(jié)構(gòu)復(fù)雜性及訓(xùn)練和應(yīng)用難度，降低了深度學(xué)習(xí)模型的計(jì)算復(fù)雜度，提高了深度學(xué)習(xí)模型的準(zhǔn)確率。同時(shí)，使用深度學(xué)習(xí)得到的輸出數(shù)據(jù)的類(lèi)別作為使用時(shí)輸入數(shù)據(jù)在當(dāng)前級(jí)別上所屬的類(lèi)別并輸出，能夠獲得多個(gè)級(jí)別的類(lèi)別（對(duì)應(yīng)于各級(jí)非葉子節(jié)點(diǎn)和葉子節(jié)點(diǎn)），相對(duì)于現(xiàn)有技術(shù)使用時(shí)只能輸出一個(gè)級(jí)別的類(lèi)別（對(duì)應(yīng)于葉子節(jié)點(diǎn)）而言，輸出結(jié)果更為豐富。