619弄閏二月十九日,隋王朝東都政府太尉王世充,攻擊唐王朝谷州(河南省新安縣)。王世充命秦叔寶當龍驤大將軍,程知節當將軍,待他們特別優厚。然而二人對王世充的詐偽,卻十分厭惡。程知節對秦叔寶說:“王公(王世充)氣量狹窄,見識膚淺,而又信口胡扯,動不動就發誓詛咒,不過一個老巫婆而已,豈是鏟除禍亂、恢復正義的英明領袖!”
王世充與唐軍在九曲(河南省宜陽縣北)會戰,秦叔寶、程知節分別率軍列陣,二人率領親信騎兵衛士,共數十人,突然間離開陣地,向西狂奔一百余步,下馬,回頭向王世充叩拜說:“我們受你的特殊禮遇,一直思量為你效力,作為回報??墒悄阈郧椴录?,喜愛聽信鯊魚群挑撥離間的讒言,不是我們托身的地方,如今不能再侍奉你,請準許我們從此告辭。”說罷,翻身上馬,飛奔唐軍陣地投降,王世充不敢追擊。李淵把秦叔寶、程知節配給秦王李世民。李世民早就知道二人的威名,對二人至為優待,命秦叔寶當騎兵總司令,程知節當左翼第三親軍指揮官。
當時,王世充所屬猛將中,又有征兵府司令武安人李君羨、征南將軍臨邑(山東省濟南市濟陽區西)人田留安,厭惡王世充的為人,也率領部眾,歸降唐政府。李世民把李君羨安置在自己左右,命田留安當右翼第四親軍指揮官(右四統軍)。