道光十三年（1833年）春，左宗棠來到北京參加癸巳科會試，在三場考試中的三篇四書文、一首五言八韻詩、五篇五經文、五道策問文雖被考官評為：“首警透，次、三妥暢，詩諧備”，“氣機清適，詩穩”，但最后還是名落孫山了。出闈后，左宗棠積所見聞，寫成《燕臺雜感》詩八首，用“報國空慚書劍在”、“誰將儒術策治安”等詩句，抒發了憂國憂民的情感。在歸家途中，他對沿路各地的“時務”作了考察，謂：“春榜既放，點檢南歸，睹時務之艱棘，莫如荒政及鹽、漕、河諸務。將求其書與其掌故講明而切究之，求副國家養士之意。”
左宗棠這次赴京趕考，雖然名落孫山，卻有幸結識了同鄉士子胡林翼。
胡林翼（1812—1861），字貺（kuàng）生，號潤之，湖南益陽人。左宗棠與胡林翼既是同鄉又是同年所生，而且二人的父親還是岳麓書院的同窗好友。不僅如此，左宗棠與胡林翼二人還先后受教于賀熙齡，算是同出一個師門，深受經世致用思潮的影響，胡林翼也喜歡探究山川地理、關隘要塞與兵政樞機。因此，兩人在北京第一次會面時，即一見如故，相得甚歡，常常徹夜暢談古今大政，論各朝各代的得失、原始要終，并引為知己。胡林翼曾在1831年親自參加益陽賑災，對富者為富不仁、從政者貪污腐敗的社會現實印象深刻，對小民流離失所、貧弱無助的景象痛心疾首，因此，他的目光常放在內政上；而左宗棠則比較熟悉邊疆輿地，對于列強環視中國更加關心。他們暢言無忌，興奮時，常常縱言闊步，豪情萬丈。從此以后，兩人的關系愈來愈密切。
道光十四年（1834年），左宗棠借用周夫人家的一間小屋，另立門戶，與妻妹夫張聲玠（jiè）僅隔一院。由于二人同試禮部，又一同落第歸來，因此常常一起切磋學問，評論文字，相處十分融洽。
道光十五年（1835年），左宗棠再度北上應試。這次會試，他被初步選取為第十五名，但臨揭榜時，考官發現湖南多中一名，竟取消了他的進士資格，僅給他一個“謄錄”的官職。左宗棠不甘心做一名為史館注籍的謄錄，毅然南返湘潭，在周夫人的協助下，潛心于地理學的研究，并“以圖為之本，以諸史為之證”。
這一時期，左宗棠開始致力于輿地之學，并計劃先作皇輿圖（清代統一的地圖），這個龐大的計劃不僅需要構思周密，而且工程浩繁。為此，他付出了很多時間和精力，也得到了妻子周詒端的大力協助。每作一圖，則讓周夫人幫助影繪，用了一年多的時間才完成。
受邀請入主書院
道光十六年（1836年），左宗棠應湖南巡撫吳榮光的邀請，主講醴陵淥江書院。
淥水，湘江的一條支流，蜿蜒百里，形似玉帶。醴陵縣城就像一顆明亮的珍珠，鑲嵌在這條玉帶上。淥江書院是醴陵縣一座小有名氣的學館，算起辦學歷史來，已有近百年了。但是，學館停停辦辦，冷冷熱熱，究其原因，主要是沒來幾個有真才實學而又善于管理學生的先生。就在左宗棠之前，有一位飽讀詩書，卻兩輪鄉試落榜的老生員主持淥江書院不得要領。調皮的富家子弟把書館當成逍遙玩耍場所，想來就在課堂上坐半天，心不在焉，搖頭晃腦，沒來的這天，就結伙在外尋釁鬧事，不想來就幾天不見人影，而一門心思想讀書的人也只好陪著耗時間。老先生今天點一句，明天點一節，之乎者也，難有收效。醴陵是魚米之鄉，富足之地，各式各樣的瓷品，如碗、杯、碟、瓶運銷各省及海外。五彩繽紛、形態各異的煙花爆竹生產于醴陵城鄉的家家戶戶，因此，有錢的人多，當官的也不少。這些人望子成龍心切，對培育子弟的唯一基地——淥江書院的教學現狀日漸不滿。不知是哪位為頭，串聯當地的有識之士聯名修書一封，直接呈送至巡撫衙門，懇請湖南巡撫吳榮光大人為他們物色高師主持淥江書院的教學。就這樣，左宗棠被吳榮光請了來。
書院“生童住齋者近60人，禮數均極周到”，但收入卻很微薄，“幾元以給朝夕”。40年后（光緒二年），左宗棠回憶這段教書生活時寫道：“每遇歲闌（lán）解館，出紙裹中物，還鹽米小債。”書院的生活雖很清苦，但他仍認真執教。
初來乍到，面對一個個頑劣弟子，面對學生懷疑而又期盼的目光，左宗棠決心從學規抓起，用現在的話來說，就是整頓學風學紀。他套用了朱熹所著《小學》之中的八條規定作為淥江書院的學規。不管其出身如何，家庭背景怎樣，一入書院，在學規面前人人平等。有位正七品武官李托總的兒子頑劣成性，不僅自己不讀書，還總是撩撥同學遲到、早退，他出入學堂如入無人之境，還經常影響他人研習功課。左宗棠見此情景，決心已下，抓住這位李公子一次遲到，罰他在講堂門口站了半天。這半天，課堂內在座的學生大氣不敢出，課堂外站著的不敢挪半步，左宗棠侃侃而談，安靜地上完了這堂課。第二天，懼于左先生的李公子沒有來。第三天，這位李公子在家人的帶領下來到學館，左宗棠搬出宣布不久的學規，以“不假未到”為由，直截了當地開除了這名學生。
左宗棠這一手，可謂殺雞給猴看，狠狠地壓住了以前管理疏松造成的頑劣之風。接著，左宗棠又發給每位前來就讀的學生一個筆記本，要求他們每天把所學功課及心得都記在本子上。日落時分，書院大門落鎖，左宗棠對學生的功課一一進行檢查，未完成或完成不好的，不準出門回家。每月初一、十五兩天，他還要將學生半個月的日記仔細考核，并對所授課業詳加解說，給學生以引導、勉勵和督促。如果發現有個別學生曠廢課業或虛辭掩飾、不照學規辦事，兩次以上就要受到處罰。這樣，不到幾個月，學生都漸漸能夠一心向學，不以為苦。他的這種從嚴要求、注意誘導的教學方法，不久就在當地廣為傳頌。
機緣巧合遇伯樂
正當左宗棠在淥江書院孜孜教學、自得其樂之際，醴陵縣令卻正為一件“大事”傷腦筋，原來，兩江總督陶澍要來醴陵了。
陶澍（1778—1839），字子霖，號云汀，湖南安化人。少年得志，功名順遂，25歲便中進士，以后歷任地方要職。在清嘉慶、道光年間，曾連任十幾年兩江總督。任職期內，在林則徐、賀長齡、魏源、包世臣等人協助之下，整頓漕運，興修水利，改革鹽政等，取得政績，頗負時譽。他還多次微服私訪民間，秉公處理案件，在湖南老家，士人對陶澍極為崇拜。有關他的傳說很多，左宗棠與陶澍雖未見過面，卻聽說過許多有關他的故事。“湘潭人尋布”就是其中之一。
據說湘潭有一位農民挑了一擔柴要進城去賣，離家之前，他老婆把織好的一匹白布放在他的柴擔上，囑咐他，進城去把這匹白布賣了，再買點棉花回來，然后再紡成紗織成布去賣，這樣可以多賺幾個錢。農民答應一定把這件事辦好。
農民挑著柴剛走進湘潭城，就被一個財主的老婆叫住，買下了他的柴。
這么快就把柴賣掉農民很高興，他收過柴錢，放下柴擔就往回走。走了約莫里把路遠，農民猛然想起那匹白布遺忘在財主家了，急忙轉頭去找。找到買柴的財主家，財主老婆不但不承認收了一匹布，還說農民誣賴撒潑，要扭他去見官，農民沒有辦法，只好自認倒霉。
農民低著頭，憋著氣，一邊走路一邊后悔，他不知道回家怎么跟老婆說這件事，起早摸黑幾個月的心血，讓自己一不小心就給弄丟了。走著走著，一不小心撞在一個人身上，那人責備道：
“大路朝天，各走一邊，你為何朝我身上撞呢？”
農民抬頭一看，原來是一位氣度不凡的男人，身后還跟著一個聽差模樣的年輕后生。農民連忙賠不是。
那男人仍然不肯罷休，進一步追問農民：“你有什么想不通的煩惱事，說與我聽聽。”
農民心想，“唉，算了吧，人家是有錢人，我說財主昧了我的布，誰會相信呢？”便嘆了口氣說：“不說了，不說了，我認倒霉算了。”
偏偏那男人纏著不放，逼問道：“你到底有什么事？不說清楚，我是不會讓你走的。”
農民見他糾纏不休，只好一五一十將賣柴丟布的事說了出來。那個被撞的人說：“就這么一點事喲，你放心，我幫你把布找回來就是了。”說過之后，硬拉著賣柴的農民走進了路邊的一個酒家。
這位被撞的人不是別人，正是當時的兩江總督陶澍。他將農民帶到酒樓之上，問明那財主家的住址后，便將他安置在隔壁房中休息，又派人拿著自己的名帖去把那財主請來。
財主見到名帖，連滾帶爬趕至酒樓。陶澍把他請進房中，品茶、閑談，并要過財主隨手帶來的一把折扇，反復把玩，說：“你這把扇子做工十分精巧，圖案雅致，我想找人仿制一把，不知可借我一用否？”
財主忙說：“大人喜歡，小人情愿相送，怎可言借。”
陶澍笑著說：“扇子只借一個時辰，定要相還。”說完將折扇交與下人，下人拿了出去，好一會還沒回來。此時的財主因為不知道這陶大人到底要做什么，心里暗自著急，走也不敢走，但他也不好問，只能坐著干等。
約莫過了一個時辰，下人回來了，將扇子交與陶澍，說：“事情辦妥了。”
陶澍將折扇交還財主說：“讓你久等了，你回家去吧。”
財主回到家里，卻見全家人正急得如同熱鍋上的螞蟻。他們一見財主平安回家，心上的石頭才落了地。
財主婆問道：“還好吧？太爺沒有為難你吧？”
財主丈二和尚摸不著頭腦，忙問老婆：“這是怎么一回事？我一點也弄不明白呀！”
財主婆說：“不是你以扇子為憑證，派人回來取那匹白布贖罪嗎？”
“什么白布？”財主不解地問。
“就是那個賣柴的農民不小心丟在我家的那匹白布呀。”財主婆提醒財主。
財主這才如夢方醒，責怪其婆娘：“你貪財差點害得我吃官司，虧得陶大人給我面子，以后切不可做這種昧良心的事了。”
下人把白布取回后，陶澍便叫來那個農民，讓他當場驗看。農民接過布來一看，正是自己老婆織的那匹布，連忙叩頭感謝，將布背到市場賣了。
這一次，兩江總督陶澍在江西閱兵，順便請假回鄉掃墓。從江西到湖南安化，途中必須經過醴陵。對于赫赫有名的封疆大吏，醴陵縣令自然要竭力招待，以示歡迎。為了準備下榻的館舍，縣太爺煞費苦心，挑選了一處新建的四合院。總督下榻的四合院坐落在淥江河畔，面對江中小島狀元洲，風景宜人，環境優雅。由于是新建房舍，四壁皆空，日用家什倒是容易準備，縣令想到陶澍是讀書人出身，不可無楹聯字畫。為此，縣令召來本縣文人騷客，為陶大人即將下榻之處撰聯作畫。左宗棠作為醴陵小有名氣的年輕教習，自然也在縣太爺的邀請之列。
開道的鑼聲、叱喝聲響過，兩江總督陶澍的轎子抬進了醴陵縣城。在縣令的陪同之下，他走進了粉飾輝煌的下榻館舍。只見大門、側門、廳堂、廂房內外，處處掛有新寫的對聯，懸著新裱的字畫。精于此道的陶澍停下腳步，一一欣賞起來。連看幾處，無外乎“春風大雅能容物，秋水文章不染塵”，“家學優長，天姿卓絕；文章爾雅，履蹈清真”之類，提不起多少興趣。突然，陶大人眼睛一閃，緊走幾步，身子停在正廳的右壁前，一副字體剛勁、筆力渾然的對聯映入眼簾：
春殿語從容，二十載家山印心石在。
大江流日夜，八州子弟翹首公歸。
這副對聯，既表達了故鄉人對陶澍的景仰和歡迎，又道出了陶澍一生最為得意的一段經歷：道光十五年十一月底，道光皇帝在乾清宮十四次召見陶澍，并親筆為其幼年讀書的“印心石屋”題匾。這件事，陶澍認為是曠代之榮。
陶澍看到這副楹聯后，“激賞之”，急忙詢問此聯的作者，經知縣引見，作為淥江書院主講的舉人左宗棠，終得與大名鼎鼎的陶澍會面，陶對左“一見目為奇才，縱論古今，為留一宿”。
醴陵城內，一隊隊公差衙役在巡視，他們保護的重點，就是淥水河畔的兩江總督陶大人的臨時下榻之處。這府第內燈火通明，坐在廳堂中的一老一少，正在促膝長談。老者就是陶澍，已是年近花甲的人了；少者，即左宗棠，年方26歲。陶大人注視著眼前的年輕后生，雙目炯炯有神，生機勃勃，身材不算十分高大，但體魄健壯，舉止得體，禮儀有度。左宗棠所論經邦濟世的學問，絕非那些尋章摘句、唯務雕蟲之輩可以比擬。陶澍非常欣賞左宗棠，而對陶澍早已仰慕的左宗棠，平日一腔立志報效國家的想法無處也無人傾訴，今日得此機會，便半是請教、半是顯示地倒了出來。從鹽政談到海運，從學問談到國事，這一老一少，一直談到東方天空泛白，雄雞報曉。
次日，陶澍周游醴陵，察視民情，又約左宗棠同行，邊游邊談，極為融洽。就因為結識了這樣一位忘年交，陶澍還將回鄉日期推遲了一天。陶澍認定：這個年輕人日后的前程定會超過自己，這是一匹千里馬，自己要做他的伯樂！
三試落第受托孤
道光十八年（1838年）初，左宗棠第三次上京參加會試。會試榜發，他仍然未能取中。歸途中，受陶澍再三邀請繞道去江寧（今南京）拜望了陶公。這時的陶澍已重病在身，見左宗棠來訪，十分高興，留他在節署之中住了10多天。一天晚上，自感不久于人世的陶澍撤退下人，與左宗棠單獨談心。說及各自的家小后人時，陶還為其子陶桄（音ɡuànɡ，字少云）求婚于左的長女左孝瑜。這表明陶澍對他這個會試落第而又具真才實學的舉人非常器重。左宗棠心想，無論是從名位、門第來看，還是從年齡、輩分來講，自己與陶公實在相差太遠，于是起身長揖，口稱：“實在不敢高攀。”陶澍說：“若說年齡，我倆的年齡相差甚遠，但兒女均為5歲，十分相當。若說地位，30年后，你的地位必在我之上。我宦游大半生，還沒見過超越你的人，請莫再推托。”
左宗棠欲言，陶澍咳嗽不已，左宗棠輕輕用手拍著陶澍的后肩，將枕頭墊在陶公的腰后，扶陶公半臥著繼續交談。陶澍說：“我已重病在身，自知不久于人世，我死后，桄兒便如同你的親生兒子，若能育之成材，不辱陶氏家風，我在九泉之下也就瞑目了。不單桄兒托付給你，因內子不敏，我的家事也全托付給你了。”
談到此處，陶澍握著左宗棠的手，老眼中盈著晶晶的淚。
左宗棠大為感動，一來是感激陶公的知遇之恩，二來是激起了自己經世濟民的雄心壯志，他似乎看到了充滿希望的未來。
左宗棠說：“中堂請放心，既然如此，我就依允了小女這門高攀而來的婚事。左宗棠今生當為教公子成才而竭盡心力。我已會試三次，看透了考場弊端，從此以后，再不赴京會試，將讀書課兒，躬耕農莊，以湘上農人終也。”
就這樣，堂堂兩江總督與會試落第舉人結為兒女親家。這種聯姻，不獨在當時罕見，就是翻遍中國幾千年的封建史，也可謂寥寥無幾。
左宗棠在三次會試失敗之后，決計不再參加科舉考試，誠如他所說：“比三次禮部不第，遂絕意進取。”他在家鄉不僅“于農書探討頗勤”，而且抄錄了十數冊的《畿（jī）輔通志》、《西域圖志》及各省通志，增長了地理學與軍事學等方面的知識。
道光十九年（1839年），左宗棠抵長沙，居次兄宗植家中。他倆常切磋學問，“或談國故，指列時事”。“每劇談竟夕，爭駁不已，家人乃溫酒解之。酒后或仍辯難，或遂釋然。”左宗棠為克服“氣質粗駁”的缺點，注意從“寡言，養靜二條實下功夫，強勉用力”。