曾國藩的起居日子十分儉樸。穿衣方面，曾國藩素常穿戴家人為其織的土布衣服，不着綢帛。一件天青緞馬褂是曾國藩最佳的衣服。這件衣服只在新年和嚴重慶典時才拿出來用，素常便放在衣櫥裏，因而用了三十年仍然猶如新衣。旁人提及此事，曾國藩道：“古語云，衣不如新，人不如故。然吾觀之，衣亦不如故也，試觀今天衣料，有如當年之精者乎？”曾國藩升任總督後，其鞋襪仍由夫人及兒媳女兒製造。
每晚總督府內，曾國藩夜閲公務，全家長幼女眷都在麻油燈下紡紗績麻。這在其時的督撫大員中可説是絕無僅有。就餐上，曾國藩亦不考究，簡略備至。通常他每頓飯只要一個菜，“決不多設，雖身為將相，而自奉之嗇，無殊寒素”。時人以曾國藩就餐簡略，每食僅菜一品，諧稱之為“一品宰相”。為發起節儉，教育家人，曾國藩於大堂上親書一聯：“惜食惜衣，不唯惜時兼惜福；求名求利，但知求己不求人。”
從寓居方面看，曾國藩對立大興土木，在家園建築巨宅。曾氏湘鄉舊宅已有百餘年前史，曾門朋友興隆後人丁日漸興隆，亦經常有客人登門拜訪，舊屋多少顯得有些不合時宜。1865年，曾國荃出資七千串銅錢將舊宅改造一新。曾國藩得知後十分生氣，認為九弟“奢侈若此”，新房入住則易，搬出卻難，此種作法沒有為後代後代做出好的典範，貽害無窮。“生當濁世，居家之道，不行有餘財，多財則終為患害。又不能夠過於安逸偷惰。如由新宅至老宅，必宜常常走路，不行坐轎騎馬。又常常登山，亦可操練筋骸。仕宦之家，不積蓄銀錢，使後輩自覺一無可恃，一日不勤，則有飢寒之患，則後輩逐漸勤勞，知謀所以自立矣”。一怒之下，他立誓絕不踏進新宅半步。曾國藩每次回鄉都住舊宅，平生從未進過新屋。曾國藩還對立家中置辦私田。他在日記中寫道：“餘生平以起屋買田為仕官惡習，誓不為之。”咸豐五年，歐陽夫人在衡陽孃家私自買田置地，曾國藩知曉後立行將土地轉讓出去，並在家信中表達了對立置田的情緒。
曾國藩日子儉樸，源於他出自亦耕亦讀的農人家庭，深受良好家風的薰陶。曾國藩爸爸曾麟書有意效法林則徐之父，將林父家訓中“粗衣淡飯好些茶，這個福老夫享了；齊家治國平天下，此等事由兒任之”的名聯略作改動，變為曾氏家訓：“有後代有田園家風半耕半讀，但以箕裘承祖澤；無官守無言責世事漠不關心，且將艱鉅付兒曹。”曾國藩成名後，承繼爸爸的治家經歷，亦將林則徐作為典範。他在寫給曾國荃的信中道：“昔年林文忠公有三個兒子，分家時各人僅得錢六千串。林公身膺督撫要職二十餘年，其家底清寒如此，高風勁節，實不行及。我輩朋友真實應向林公學習。”
曾國藩為官的過人之處一方面來自個人品高清涼，另一方面來自勤於任事。曾國藩中進士後任職京官七年，從未回過家園。他在“夢寐當中，不時牽掛堂上白叟”，“如堂上有望我回家之意，則弟信件於我，我概將家眷留在京師，我當即回家。如堂上白叟全沒有希望我歸省之意，則我亦不敢草率行事”。可見，曾國藩不回鄉自有不得已的苦衷。曾國藩歸結不能歸省有“三難”：“現在京寓欠帳五百多金，欲歸則無錢還帳，而交遊途費亦須四百金，甚難措辦，一難也；不帶家眷而歸，則恐我在家或有事留住，不能遽還京師，是兩頭牽扯，如帶家眷，則途費更多，家中又無房子，二難也；我一人回家，輕身快馬，不過半年能夠還京。第開缺以後，下一年恐尚不能補缺，又須在京閒住一年，三難也。”
從中不難看出，曾國藩所謂“三難”，均與其經濟窘迫有關。前兩難發愁的是旅費無從籌集，後者則是若賦閒京師則失去經濟來源。其時曾國藩已為翰林院侍講學士，四個月後又升授禮部侍郎，可算居京官高位。然他連回家探親的旅費都難以籌集，清涼程度可見一斑。清代官員俸祿十分菲薄，等第最高的正一品大學士年薪不過銀一百八十兩、米一百八十斛。如此低價的俸祿明顯不能堅持官員的根本開銷，貪婪之風天然蔓延。雍正、乾隆兩帝努力懲貪，推出當地官“養廉銀”和京官“恩俸”、“雙俸”制度。“養廉銀”制即“耗羨歸公”，此項數目巨大，可謂開高薪養廉之濫觴，通常來講，督撫一級的當地最高長官養廉銀超出正俸近一百倍，最低一級的知縣亦超出正俸幾十倍。
相比之下，京官則要低很多。“恩俸”只發給“六部堂官”，即各部尚書和侍郎。“雙俸”發給大學士、“六部堂官”雙俸雙米，其他京官雙俸單米。“正俸”、“雙俸”以外，京官的合法收入還有差事和科考、捐納的“印結費”。然京官若想過充足日子，便得索收當地官的禮品銀錢，如冬季的“炭敬”、夏天的“冰敬”等。可見，清代官員想要堅持清涼的操行着實不易。
曾國藩為改變官場根深蒂固的貪婪納賄之風，曾在三十歲時立誓，終身堅持清涼之身。他誓雲：“以當官發財為羞恥，以宦囊積金後代為可羞可恨，故私心立誓，總不靠當官發財以遺後人。神明鑑臨，予不食言。”曾國藩臨終前仍不忘此誓，留下遺言：“餘若長逝，靈樞自以由運河搬運回江南歸湘為便。沿途謝絕全部，概不收禮。”
