曲沃桓叔被分封時已經五十多歲，在民間和朝堂都很有威望。他到了曲沃后，廣施恩澤，表現出很有德行的樣子，所以獲得了人民的擁戴，史書記載“晉國之眾皆附焉”，很快，曲沃就成了晉國的第二個中心。這時，桓叔的野心開始暴露，不斷挑戰晉國的大宗的權威，妄圖取而代之。

昭侯七年，晉國大臣潘父殺了昭侯，想迎接曲沃桓叔進都城稱王。但是對經歷過殤叔之亂的晉國人來說，他們對這種王位爭奪的行為深惡痛絕，所以他們起兵反抗，將桓叔趕回曲沃，然后殺了潘父，立昭侯之子平為晉君，是為晉孝侯。

沒過多久，曲沃桓叔便在遺憾和不甘中死去，他的兒子鮮（亦名鱔）繼立，史稱曲沃莊伯。莊伯繼承父親的遺愿，繼續為取代晉侯而努力。他們這一代的斗爭不像前一代那樣默默較勁，而是擺在明面上更為激烈的爭奪。六年后，曲沃莊伯又派人在晉都城殺了晉孝侯，但是晉國人在荀國等諸侯的幫助下，擊退莊伯，又將他逼回曲沃。接著晉人立孝侯的弟弟郤為王，是為鄂侯。

又過了幾年，曲沃莊伯想到了個好方法：賄賂周王室，聯合鄭國、邢國一起討伐晉國大宗。這一戰，晉鄂侯失敗，只能逃往隨邑。不過后面曲沃莊伯又背叛了周王室，于是周王室調轉矛頭，派虢公帶兵幫助晉鄂侯討伐曲沃莊伯，莊伯再次失敗，返回曲沃。周王室立鄂侯兒子公子光為君，是為晉哀侯。這次，曲沃莊伯雖然失敗了，但是卻重挫了大宗的勢力。莊伯回曲沃沒多久，就心懷憂憤而死，他的兒子公子稱繼位，是為曲沃武公。

曲沃武公背負著父親和爺爺的希望，發誓一定要取代大宗，稱為晉國新的王。過了幾年，曲沃武公聯合被晉哀侯侵犯的陘廷一起攻打晉大宗。這場戰役大獲全勝，還成功俘虜并殺了晉哀侯。然而晉國人依舊不同意他繼位，擁立晉哀侯之子小子為君，是為小子侯。這一次，曲沃武公雖然失敗，但是在晉國國內已經掌握了主動權，并不再聽晉侯號令。

五年后，曲沃武公抓住一個時機，誘殺了晉小子侯，而這時的晉人已經沒有什么力量再抵抗武公了。然而，周桓王對于小宗滅殺大宗的行為很生氣，于是出兵幫助晉大宗，將曲沃武公趕回老家，立晉哀侯弟緡為新任晉侯。

曲沃武公在曲沃蟄伏二十八年后，又一次向大宗發起攻擊，取得勝利后，為了防止晉人反抗的事情發生，將晉侯緡及他的后裔全部殺害。并且，吸取了上次失敗的教訓，他用搶掠來的奇珍異寶賄賂周王室。這一次收了好處的周王室，不但沒有出兵幫助大宗，反而冊封曲沃武公為晉國國君，列為諸侯，故曲沃武公又曰晉武公。

曲沃一系歷時六十七年，祖孫三代，終于滅了大宗，代晉為諸侯。他的成功是天下諸侯擺脫周禮傳統宗法制度束縛的開端。