李鴻章在任蘇州巡撫期間，還與趙家締姻，完成了再婚這樁終身大事。他的原配夫人周氏生有二女，名曰鏡蓉、瓊芝，因膝下無子，其弟昭慶便把經方（李昭慶之子）過繼給他。1861年夏，李鴻章在重返曾幕路經萬年（江西饒州府）時，曾賦詩寄懷，詩云：

半生失計從軍易，四海為家行路難。

唯有嬌癡小兒女，幾時望月淚能干。

阿爺他日卸戎裝，圍坐燈前問字忙。

天使詩人臥泉石，端教道韞勝才郵。

他以生動的筆觸，抒發了投筆從戎、前路崎嶇的感慨和思念女兒的骨肉之情，反映了渴望早日結束戰亂、重享天倫之樂和嬌女成長為像東晉女詩人謝道韞那樣“詠絮才”的心聲，情真意切，凄楚動人。不料，是年9月周氏去世，兩個女兒失去了母親，愛妻去矣，嬌女孤，突如其來的打擊，使李鴻章肝腸憂煎，感傷不已。在此后的兩年多時間里，由于戎馬倥傯，使李鴻章無暇顧及個人婚事。1863年12月，李鴻章在奪取并移駐蘇州之后，認為蘇南戰事即將勝利結束，重建家庭的時機已經到來，因而便于1864年1月迎娶趙氏為繼室。

顧大局天京讓功

湘軍攻打天京許久了，一直沒有什么結果。清政府看到淮軍作戰有力，便讓李鴻章部前去協助。在解散“常勝軍”后，李鴻章本可以全力以赴會攻天京，而當時統軍攻打天京的湘軍大將，正是曾帥的胞弟曾國荃，他害怕因分功而得罪曾國藩，于是僅派遣淮軍劉士奇炮隊及劉銘傳等營援攻天京，他本人及淮軍主力卻駐防天京外圍一帶。說起曾國荃，他和李鴻章還有一點小過節。

早在李鴻章剛投奔曾國藩的時候，曾國藩派李鴻章去曾國荃處辦理營務。李鴻章為了對這位老師的弟弟表示尊重，特意拿出一把紙扇，請曾國荃題字留念。曾國荃居然得意洋洋地寫了“門多將相文中子，身系安危郭令公”十個字，而且字體欠佳，歪歪扭扭。李鴻章看了之后嗤之以鼻，心想你不過是個秀才，還敢自比郭子儀，真是大言不慚！所以沒待幾天他就告辭了。

李鴻章到上海后，曾國荃一再向李鴻章催促糧餉，弄得李鴻章很煩。再加上在幾次調用人才的事情上，和曾國藩兄弟意見不一致，李鴻章和他們鬧得不是很愉快。有這樣幾樁事情壓著底兒，可急壞了向來好大喜功的曾國荃。一方面，他擔心李鴻章來攻天京，會和自己搶功，這是他不能允許的；另一方面，他也清楚淮軍的力量已經今非昔比，可能會很快收復天京。這樣一來，自己這兩年多的苦戰不就白費了嗎？殊不知，這時的李鴻章并不想因此得罪曾氏兄弟。于是，李鴻章就裝起病來，在蘇州、常州按兵不動，寫信催促曾國荃快點行動。并說，自己準備掉頭南下去攻打浙江。結果這又惹惱了閩浙總督左宗棠。左宗棠認為李鴻章是有意越境和自己搶功，這樣，左、李二人之間又產生了矛盾。

李鴻章實在抵抗不住清政府的再三催促，于是寫信給清政府報告自己的攻城日期，然后告訴曾國藩讓他們早些行動，自己繼續觀望。李鴻章手下的將領不知道他的心思，個個摩拳擦掌，準備大干一場。大將劉銘傳對李鴻章說，“我們淮軍的大炮只要一開，不到三五天就一定能將天京拿下！”

1864年7月19日，就在李鴻章出兵的前一天，曾國荃部用地道埋炸藥，轟塌了城墻，一舉攻克天京。曾國荃終于拿到了夢寐以求的“首功”。事后，曾國藩拉著李鴻章的手說：“我弟弟的面子，是靠你給保住的，我們得謝謝你。”

李鴻章雖然沒有會攻天京，但卻對湘軍攻陷天京發揮了重要作用。事后清政府“論功行賞”晉封李鴻章為一等毅伯爵，并賞戴雙眼花翎。至此，李鴻章從一個懷才不遇的儒生，一個手中無兵無權的幕僚，踏著太平天國將士的鮮血，最終擠進了清王朝封建統治集團的核心，成為一個令朝野刮目相看的重要人物。

由此看出，李鴻章做事很有原則，他不愿意為了爭奪眼前的小利益，就去破壞已經存在的某種秩序或者關系，這也顯示出了他的高瞻遠矚和大將氣度。就這樣，曾經轟轟烈烈的太平天國農民運動終于被清政府鎮壓。然而，“內患”卻遠沒有消除。南方的太平軍余部，北方的捻軍，還有西北的少數民族起義還在繼續活動著。

講求洋器欲自強

還是在安慶的時候，李鴻章就開始接觸外國人的洋槍洋炮，還有那些威力無比的遠洋戰艦與船隊。到達上海之后，李鴻章不無驚異地發現，堂堂大清上海的防衛力量，竟是由英國人、印度人、法國人組成的三千人的洋人軍隊。這支軍隊是由上海商人和紳士出錢養著的外國雇傭軍。該軍1860年正式組建，由美國人華爾出任指揮。1862年，被清政府命名為“常勝軍”。這個華爾，后來還娶了楊坊的女兒，加入了中國籍。

“常勝軍”的武器都是西式的來復槍和榴彈炮，李鴻章看著這些硬邦邦、冷冰冰的“利器”，不禁驚嘆它們的神奇力量，并逐漸對這些“利器”產生了極其熱烈的向往。為此，他還化裝成百姓，親自到上海的外國軍艦上參觀。李鴻章在文章中寫道：我觀察我們中華民族和外國人的種種，包括歷史、制度和文字等等方面，外國人唯一比我們強的就是他們先進的武器裝備。如果我們中國人將來也有自己的先進武器，那我們就再也不用害怕外國人了。

由華爾所率領的“常勝軍”連連挫敗雄風依舊的太平軍這一事實，使李鴻章深深地感受到了洋槍洋炮的巨大威懾力，同時也不得不生出空前的危機感。李鴻章明確提出：大清現在的大患是太平軍，將來更長久的大患必是洋人無疑。所以他要求自己的軍隊不能依靠洋人，一定要“自強”，而最初的自強之道，就是所謂“講求洋器”。

在李鴻章著手以“洋器”裝備淮軍時，首先遭到曾國藩的反對。曾國藩一向認為，用兵在人不在器，而且懷疑洋槍洋炮的作用是否有李鴻章說得那么厲害。李鴻章不便強烈回駁自己的恩師和統帥，只是在回信中委婉地表示，我是想學習洋人的一點兒“密法”，希望能增強淮軍的戰斗力。

在1862年5月給曾國藩的信中，李鴻章談到世界歷史說，以前俄羅斯和日本因為不知道大炮的厲害，所以國力日益衰退，自從他們從英法學到武器的制造術后，便逐漸能和英法比高下。除此之外，李鴻章日益感到淮軍勢單力薄。他考慮到從老家招兵不方便，所以除了在當地招募了一些新兵之外，把淮軍主要來源放在改良以前的防軍上。他還收編了一大批太平軍的人馬，用以擴大和充實淮軍力量，而且收編的降軍力量遠遠超過改編的防軍。這是李鴻章有意采取的“以毒攻毒”之策。

此時李鴻章還開始組建自己的水師。最早的淮軍水師起建于安慶時期，那時候有五只大船。到達上海之后，李鴻章改編了上海舊的水師防軍和蘇嘉地區的部分船隊，還有其他一些零散的力量。他還統率著淮陽水師和太湖水師。這樣，李鴻章的淮軍便達到了水軍4萬人，陸軍7萬人的規模。

最初李鴻章訓練淮軍，基本上也是按照以前訓練湘軍的那一套辦法，特別是每天要帶領士兵唱“愛民歌”，這都是曾國藩的創意。湘軍雖然擁有洋槍洋炮，但是很少使用。李鴻章則請洋軍官進入淮軍大營，幫助實際操練，讓士兵學習洋槍洋炮的使用方法。從此以后，淮軍這支湘軍中最早的分支部隊，開始和湘軍有了諸多的差別。李鴻章就率領著這樣一支隊伍，開始了對太平軍更猛烈的進攻和更瘋狂的剿殺。

固我邊防建海軍

1840年，英國殖民者發動了侵略中國的鴉片戰爭。1842年8月29日，清朝政府在英國侵略軍的艦炮威逼下，接受了喪權辱國的《南京條約》，中國由此開始淪為半殖民地。清朝軍隊在鴉片戰爭中的屢次失敗和《南京條約》的嚴酷現實，促使清朝統治集團中的一些有識之士睜開雙眼，開始觀察外面的世界。

抗英名臣林則徐和思想家魏源大膽發出了“師夷長技以制夷”的吶喊，要學習西方國家“堅船利炮”等先進的科學技術以抵御外來侵略，并初次提出了創建近代海軍的草案。1856至1860年，英法兩國聯合發動第二次鴉片戰爭。英法聯軍的海軍艦隊在中國萬里海疆如入無人之境，清政府在又一次的“創巨痛深”的危局中，開始著手興辦近代海軍海防，但很快就因受到挫折而止步不前。

此一時期，我們的東鄰日本，正是“明治維新”之后，政治、經濟、文化、軍事逐漸發達強大起來的時期。當李鴻章還在江蘇的時候，日本就多次派員到淮軍軍營考察學習，李鴻章也曾受到日本積極學習西方軍事的啟發，發展洋務。同時，他又隨時關注著日本的不斷強大，感到日本對于中國是一個潛在的威脅，中國應該提高警惕。明治政權在不斷廢除不平等條約的同時，開始蓄謀向亞洲鄰國進行侵略擴張，對中國、朝鮮、琉球等國虎視眈眈。同治九年（1870年），羽翼尚未豐滿的日本看到列強紛紛在中國謀取利益，便派外務大臣柳原前光到中國來試探，李鴻章接見了這位外交使臣。

柳原前光只是試探性地提出請求兩國友好通商，李鴻章這時的心思是，中國近年來飽受西方列強的侵略，要是與日本建立合作關系，就可以聯手對付西方侵略者。

柳原前光回去之后，日本政府又派代表來中國與清政府談判，但是并沒有像李鴻章想象的那么簡單，日本提出要求中國給予片面最惠國待遇，在中國內地通商，與西方諸國一體利益均沾。李鴻章一看日本如此狂妄，氣不打一處來，堅決不理會日本的要求。這時的日本雖然野心勃勃，但是畢竟羽毛未豐，沒有實力對中國施加武力。最后雙方簽訂了《中日修好條規》和《通商章程》，除了在指定通商口岸貿易之外，還規定雙方不得侵犯“邦土”，遇有外敵侵略應該互相幫助。這一條約基本是按照李鴻章的設想簽訂的，打破了日本染指中國的幻想，還在表面上建立了中日聯合的東方陣線，一定程度上有利于抵御西方侵略。

不過日本政府對此非常不滿，隨后又派柳原前光來找李鴻章交涉，要求改簽條約，謀求更多的利益。李鴻章大為光火，將柳原大罵一頓，柳原見無隙可乘，只得灰溜溜地跑回國。但是日本并不甘心，暗地里伺機另找突破口。

機會終于來了，同治十一年（1872年）底，有琉球船只因遇臺風漂到臺灣，被臺灣高山族誤殺船民50多人。第二年初，日本小田縣四人漂到臺灣，也因被誤認為是外敵入侵而被島民所殺。琉球是中國的藩屬國，臺灣則是中國的領土，本來與日本無關，但日本卻趁機要挾中國，企圖進占臺灣。

日本政府派柳原來中國換約，柳原知道李鴻章的態度強硬，所以他沒有與李鴻章接觸，而是直接跑到總理衙門指責臺灣島民殺害琉球船民，并聲稱琉球不是中國的藩屬國，而是日本領土，并要求中國嚴懲臺灣兇手。柳原的這一無理要求遭到了總理衙門的駁斥。日本見無理要求沒有奏效，就開始尋求武力解決。一年后，在美國的幫助下，日本悍然出兵占領了臺灣東部的瑯嬌。

英國駐華公使見美國幫助日本插手侵略中國，大為不滿，一方面提出抗議，一方面將這一消息告知清政府。清政府在李鴻章的建議下，派福州船政大臣沈葆楨為欽差，率軍萬人前往臺灣彈壓，并帶淮軍劉銘傳及船政監督法國人日意格協助。

日本此時并無實力與中國正面交戰，于是又派柳原前光與清政府談判，企圖通過外交手段獲取利益。他們除了要求所謂懲兇之外，還索要軍費白銀200萬兩。結果又被李鴻章一頓臭罵，柳原再次灰溜溜跑回日本。

日本派內務卿大久保利通繼續與李鴻章談判，此時清政府與李鴻章也想盡快和平解決，加上西方列強為各自的利益也出面調停，最后雙方簽訂了《北京專條》：日本從臺灣撤兵，中國承認日本侵臺是“保民義舉”，給日本撫恤銀50萬兩。

《北京專條》的簽訂，除了讓日本試探到了清政府的底細之外，還留下了日本吞并琉球的隱患。因為條款當中，清政府并沒有明確中國與琉球的宗藩關系，而是承認了日本的“保民義舉”，同時也使得列強更加感到清政府的無能。

1874年，日本尋找借口出兵侵犯臺灣。此事雖以和議告終而未開啟更大戰端，卻在中國朝野上下引起更強烈的震動。由此，在內部引發了一場轟轟烈烈的“海防大討論”。1874年11月，總理衙門的文件中強調了海防的重要性和緊迫性，并提出“練兵”“簡器”“造船”“籌餉”“用人”“持久”等辦法。請沿海各省的督撫和將軍進行討論。

此時身任直隸總督兼北洋大臣的李鴻章，呈交了洋洋萬言的《籌議海防折》，陳述了海軍海防大業的重要戰略意義，要求大舉興辦近代化的海軍海防。李鴻章首先分析了中國所面臨的前所未有的嚴酷形勢：“歷代備邊，多在西北。其強弱之勢，客主之形，皆適相埒，且猶有中外界限。今則東南海疆萬余里，各國通商傳教，來往自如，麇集京師及各省腹地，陽托和好之名，陰懷吞噬之計，一國生事，萬國構煽，實為數千年未有之變局！輪船電報之速，瞬息千里；軍器機事之精，工力百倍。炮彈所到，無堅不摧；水陸關隘，不足限制，又實為數千年來未有之強敵！”李鴻章還痛切指出了處理國際關系的根本是在于國家之實力：“洋人論勢不論理，彼以兵勢相壓，我等欲以筆舌勝之，此必不得之數也”。他又指出歷史時機的緊迫性——“正值海防吃緊之際，不特為外人所竊笑，且機會一失，中國永無購鐵甲之日，即永無自強日！”