在洪武時代做官成爲一個名副其實的高危職業，“京官每旦入朝必與妻子訣，及暮無事，則相慶以爲又活一日”。對貪污官員，朱元璋毫不手軟，除惡務盡，寧可錯殺一千，也絕不放過一個，所以一件貪污大案到後來竟演化出無數冤獄。其中，最典型的就是“空印案”和“郭桓案”，被牽扯到這些案件中的人，毫不留情地都被殺了。
但朱元璋也知道，一味地殺戮並不能解決問題，也很注意對官員的思想教育。在地方官員上任之前，他都要找他們進行誡勉談話，講如何抵禦貪污受賄的誘惑。他說，老老實實守住自己薪俸過日子，就好像守住井底之泉。井雖不滿，卻可以每天汲水，泉水不會幹。貪污腐敗，一旦事發，不僅受牢獄之刑，服勞役之苦，甚至家破人亡，貪污受賄得來的錢財也非屬已有。他告誡官員們：“朕行先教後誅，不是不教而誅。爾等若是不聽話，硬是要貪，那就只有死路一條了。”
此外，朱元璋鑑於元朝法律的“寬縱廢弛”，就在正式建國的前一年，命中書省以唐律爲藍本，制訂《明律》。以後又根據新的情況和實踐經驗多次進行修改，洪武三十年(1397)重新頒佈的《大明律》，對反貪腐的條令規定的既簡明，又嚴厲。除了《大明律》外，還有他在洪武十八年至二十年間親自主持編訂《大誥》。《大誥》是一部律外法典，共四編。《大誥》在洪武年間共印行數千萬冊，每戶一本，“家傳人誦，得以懲戒而遵守之。”洪武二十五年，又編《醒貪簡要錄》，頒佈全國以警誡官員。
《大誥》一名，原出於《尚書》，記敘了周公東征殷商遺民對臣民的訓誡。朱皇帝以此爲法典名稱，當是取其懲治奸頑、予以訓誡之意。在朱元璋親自爲《大誥》起草的序言中，言明其法典宗旨是爲挽救頹廢的時勢，將害民之事理昭示於天下，並以法律約束諸司，防止官員貪贓酷虐於民。正是爲此，《大誥》賦予百姓們捉拿污吏的權力。此外，朱元璋在午門外特設“鳴冤鼓”，民間百姓若有冤情在地方討不回公道，可上京擊鼓直接告御狀。
爲了掌握官員貪腐的證據，朱元璋還加強了監察機構的建設。洪武六年(1373)，朱元璋創立“六科給事中”機構，對應監察“六部”官員。給事中品級僅七品，但是權力很大，六部上行下達的文件均要經過給事中，並且由給事中負責提出駁正意見，皇帝交派事務由給事中負責督辦，一旦遷延即奏報皇帝。洪武十五年(1382)，朱元璋進一步改革中央監察機構，設立“都察院”取代御史臺，都察院最高官員都御史與六部平行，合稱“七卿”。都御史直接向皇帝負責，考察彈劾百官。都察院下設十三道監察御史，任命110名監察御史，分管十三道。御史不定期代皇帝巡查地方，“所按藩服大臣，府州縣官諸考察，舉劾尤專，大事奏裁，小事立斷”。都察院和六科之外，朱元璋又建立了錦衣衛，在各地均有眼線，監督官員及百姓做到了無孔不入。這些監察機構相互之間並不統屬，還有互相監督的功能，以防濫用權力，形成了一個多層次、全方位的監督體系。
