漢武帝用法嚴厲，性格剛毅，可太子劉據卻是寬厚待人，溫和謹慎。漸漸地，百官當中，為人寬厚的都聚在劉據身邊，而那些用法嚴苛的，則大多詆毀劉據。結果，在漢武帝身邊贊賞劉據的人少，故意詆毀的人反而多。公元前106年，太子的舅舅、為漢武帝戰勝匈奴立下赫赫戰功的大將軍衛青去世，與太子不睦的人認為，劉據和衛皇后已經沒有了外戚靠山，同時也害怕太子繼位后對自己不利，于是開始競相陷害太子劉據。而漢武帝發現自己寵愛的太子與自己在諸多方面存在著差異，加上缺乏思想交流和感情溝通，父子間的嫌隙也開始增大。

漢武帝晚年時期重用酷吏江充。這個江充原本也與劉據沒有什么瓜葛，然而有一次劉據派使者去甘泉宮向漢武帝奏報政務，使者因為政務緊急，乘著馬車行駛在馳道上，恰巧被跟隨漢武帝去甘泉宮的江充看見了。馳道為天子的御用通道，臣子百官沒有得到許可都不能在上面行駛。江充就把劉據的使者扣押。劉據得到消息之后，派人向江充道歉，告訴他：“都怪我對手下管教不嚴，此事實在不想讓父皇知道，能否高抬貴手寬恕一次。”狡猾奸詐的江充深知漢武帝異于常人的性格，故意義正詞嚴地向漢武帝匯報了此事。漢武帝果然大加贊賞說：“做臣子的就該如此剛正不阿。”江充因此更加受漢武帝的信任。但因為此事，太子與江充有了嫌隙，給未來埋下禍根。

漢武帝晚年，巫風大盛。曾有女巫幫助后宮女人用巫蠱之術加害他人，而這些女人又由于妒忌而相互告發，并聲稱對方是在詛咒皇上。什么是“巫蠱”呢？所謂“巫蠱”就是用木頭雕刻成仇人的形象，插刺鐵針，埋入地下，并用惡語詛咒，以為這樣能夠使對方蒙禍。漢武帝晚年因年邁而多病，追求長生的欲望十分強烈，他迷信方士神巫，懷疑有人詛咒自己，對巫蠱之風深惡痛絕。因此，那些與巫蠱有關的嬪妃及大臣都被處死，死者竟達數百人。

到了公元前92年，江充看到漢武帝年事已高，而自己的行事風格狠辣，與太子劉據的寬厚之風相悖，加之先前又和劉據有嫌隙，害怕漢武帝去世之后被劉據報復。他決心借助巫蠱之罪來陷害太子。江充先故意說漢武帝生病是因為巫蠱作祟，信以為真的漢武帝任命他為使者，專門典治巫蠱。江充廣為收捕巫覡。什么是巫覡呢？古代稱女巫為“巫”，男巫為“覡”，合稱就叫“巫覡”。江充對巫覡嚴刑逼供，強迫他們認罪。從京師長安到各郡、國，因此而死的先后有數萬人，鬧得人心惶惶。后來有一天，漢武帝游幸甘泉宮時生病，江充稱長安宮中有蠱氣。漢武帝立即派他追查，又派韓說、章贛、蘇文等宦官協助江充。早有預謀的江充便從后宮中不受寵幸的夫人開始查辦，再延及皇后衛子夫。

一年后，江充終于將鐵鍬挖到了太子的東宮，故意設局，“挖”出了桐木人偶。可把劉據嚇壞了，他想親自到遠離長安的甘泉宮向漢武帝表明清白，但是江充一直對他窮追不舍，使劉據無法脫身。劉據不得已被迫起兵，殺死江充，燒死胡巫。而江充的同伙，同樣奸詐的蘇文卻逃出長安，來到甘泉宮，向漢武帝誣告太子造反。

漢武帝聽到蘇文的匯報后，并不相信，說：“太子肯定是害怕了，又憤恨江充等人，所以發生這樣的變故。”此時的漢武帝還是很理解太子的心理，因而派使臣召劉據前來。可是，派去的使者不敢進入長安，為了復命而編造說：“太子已經造反，要殺我，我逃了回來。”這樣，漢武帝對太子謀反才信以為真，因而勃然大怒，下令剿滅太子及其勢力。太子兵敗出逃，不久自殺身亡。漢武帝得知太子起兵有衛皇后支持，下詔派人要收回用以幫助劉據起兵，象征皇后實權的璽綬。衛皇后為了證明自己的清白，在后宮自盡身亡。

這件牽扯數十萬人的事件，就是歷史上著名的“巫蠱之禍”。

見自己敬重信任了三十多年的皇后和精心培養幾十年的太子相繼自殺身亡，漢武帝始終難以釋懷。在冷靜一段時間后，有大臣向武帝反映了太子的冤屈，武帝于是下令徹查此事，終于查明太子是被人惡意陷害，蒙冤而死。憤怒的漢武帝嚴懲了陷害太子的蘇文等人，還修建了一座思子宮以寄思懷，又在太子自殺身亡的湖縣修建了一座歸來望思之臺。

公元前89年，漢武帝頒布歷史上赫赫有名的《輪臺罪己詔》，全面反思自己過去的所作所為，表示今后要努力發展生產，與民休息。

劉據死后，太子之位就空缺下來。

漢武帝的次子、漢昭帝劉弗陵的二哥是劉閎。劉閎是漢武帝與寵妃王夫人所生，封為齊王。因為王夫人得到漢武帝的寵愛，所以劉閎也尤其受漢武帝的喜歡。可惜劉閎英年早逝，也沒有留下子嗣，死后封國廢除。謚號為“懷”，即齊懷王。

漢武帝的第三個兒子、漢昭帝劉弗陵的三哥是燕王劉旦。劉旦是漢武帝與李姬所生。燕國地處北境邊陲，緊鄰匈奴，土地貧瘠，民風兇悍。漢武帝在封劉旦為燕王時，以策文詔諭劉旦，勉勵他鎮守邊陲，成為漢朝的藩籬輔翼。

漢武帝時期的郡國制度與漢初不同，諸侯王的封國已沒有太多的權力。而且漢朝皇位傳承遵從周制，基本上是立長。所以作為漢武帝第三子的劉旦，起初并不奢望有朝一日能夠榮登大位。太子劉據在世的時候，劉旦安心為王，將心思集中于各種學問。劉旦率性而學，經書、雜說來者不拒，特別喜歡星歷、數術、倡優、射獵。成年后的燕王“能言善辯，廣有謀略”，喜好廣攬游俠武士。

劉旦的二皇兄劉閎去世后，又發生了巫蠱之禍，導致太子劉據自殺。劉旦意識到漢武帝剩余諸子中自己年紀最長，按次序排下來，皇太子的位置應該歸屬自己，但不知何故，漢武帝一直沒有再立太子的意思。等了好幾年，還是沒信兒。劉旦著急了，他派使者來到長安，向漢武帝上疏，請求宿衛長安，以備不虞。意思就是提醒年紀已老的漢武帝，該立自己為太子了，一旦漢武帝有個不測，能提前有所準備。

劉旦自薦請立為太子的舉動，讓漢武帝感覺很不舒服。當時，晚年的漢武帝正對冤死的太子劉據思念不已，看了燕王劉旦的自薦立太子信以后勃然大怒，立斬來使。緊接著，又以燕王“藏匿亡命之徒、違反漢律”的罪名，削掉燕王封國三個縣邑，以示懲戒。之后，漢武帝感嘆“生子應置于齊魯之地，以感化其禮義；放在燕趙之地，果生爭權之心”，遂厭惡劉旦。然而，劉旦并沒有灰心，在漢武帝傳位給小兒子劉弗陵后，他曾兩度試圖造反，但都沒有成功，最后畏罪自縊而亡。

漢武帝的第四個兒子、漢昭帝劉弗陵的四哥是廣陵王劉胥。劉胥也是漢武帝與李姬所生，是燕王劉旦的親弟弟。劉胥身材高大，體魄壯健，喜好游樂，力能扛鼎，曾經空手與熊、野豬等猛獸搏斗。勇武斗狠的劉胥因為行為沒有法度，未能得到漢武帝的寵愛，漢武帝一直就沒有選立劉胥為太子的念頭。到了漢昭帝劉弗陵繼位后，劉胥覬覦帝位，曾兩次請來女巫李女須，下詛咒，咒漢昭帝暴斃。這次，正巧漢昭帝突然駕崩，劉胥認為是李女須的詛咒靈驗了，說她是位了不起的巫師，并殺牛慶祝。劉胥自信滿滿地認為，無論從哪方面看，自己都應該是皇位的繼承人。于是，廣陵王劉胥積極策動朝中大臣，鼓動眾人擁立自己為帝。