劉墉爲大學士劉統勳之子。於乾隆十六年(1751年)中二甲第二名進士，改翰林院庶吉士，散館授編修，再遷侍講。乾隆二十年(1755年)，劉統勳獲罪，劉墉也被奪官下獄。
不久，其事解決，又賞編修，出督安徽學政，改任江蘇學政。乾隆二十七年(1762年)，任山西太原府知府，因失察下屬“侵帑”，被髮往軍臺效力。年餘被放還，受命在修書處行走。不久，因受其父恩澤，仍以知府用，知江蘇江寧府，任內有清名。次年升江西鹽驛道，乾隆三十七年(1772年)遷陝西按察使。次年，其父統勳病卒，因丁憂去職。
乾隆四十一年(1776年)劉墉守喪結束後，被授予內閣學士，在南書房行走。逾年調江蘇學政。乾隆四十三年(1778年)八月，江蘇省東臺縣監生蔡嘉樹唆使如皋縣民童志璘向劉墉告發已故的江蘇東臺縣舉人徐述夔生前的作品集中有“大明天子重相見，且把壺兒擱半邊”，“明朝期振翮，一舉到清都”的詩句，當時徐述夔和其子徐懷祖皆已故物，仍被開棺戮屍，孫子徐食田、徐食書、徐首發被處斬。爲徐詩作序的已死禮部尚書沈德潛，也被戮屍。歷遷戶部、吏部侍郎。乾隆四十五年(1780年)，任湖南巡撫，次年遷左都御史，仍直南書房。乾隆四十七年(1782年)奉命與尚書和珅和錢灃前往山東查辦巡撫國泰貪污及縱容下屬之事，查訪案情有功，被授予工部尚書，充上書房總師傅。乾隆四十八年(1783年)，署直隸總督，兩年後被授職協辦大學士。乾隆五十四年(1789年)，因“諸皇子師傅久不入書房”而被降爲侍郎銜。不久，授內閣學士，歷升順天學政、禮部左侍郎、都察院左都御史，乾隆五十六年(1791年)任禮部尚書，署吏部尚書，不久實授。嘉慶二年(1797年)，授體仁閣大學士。嘉慶四年，加封太子少保。
嘉慶九年十二月二十五日(1805年)，劉墉在北京病逝，當天還到南書房當值，晚上宴會客人，“至晚端坐而逝”。享年八十五歲。朝廷追贈太子太保，祀賢良祠，諡文清。
相傳劉墉有駝背，所以他在民間有個外號叫作劉羅鍋，但並不符合史實。嘉慶帝曾稱劉墉爲“劉駝子”，劉墉當時是八十多歲的老人。
劉墉擅書法，工書，尤長小楷，其書用墨厚重，貌豐骨勁，別具風貌，爲清一代書法家，也兼及顏真卿及蘇軾。其書法最初從元代趙孟頫入手，至中年方自成一家，以魏晉爲師，筆意古厚。與鐵保、翁方綱、成親王並稱爲清代四大書法家。
劉墉書寫杜甫詩句之手卷時，書於水紅色、鉤金花的紙張上，十分別致。起始的一首詩題名爲〈縛雞行〉，敘述小僕綁着雞要到市中去賣，引起了詩人對人、雞、蟲三者間的一些感概，內容頗有意趣。至於在書法方面，圓潤婉轉的字體，看似柔軟無骨，實際上卻是將勁道隱藏於豐厚的外貌中，相當的內斂，前人評論劉墉的書法爲棉裏藏針，應即此意了。
七十歲以後則專心於北朝的石碑書法。他的書法，用墨厚重，墨色濃墨豐潤，但是骨架結構則非常剛勁，結合了柔與剛的兩面，別具特色。
