隋朝末年，山東、河北一帶士族門閥勢力比較強大，土地兼併嚴重，豪強地主佔有大量隱戶，流亡農民很多。隋煬帝營建東都洛陽，開通運河，調發了大量的山東民工。而山東地區的封建官吏和士族地主，變本加厲地壓榨百姓。大業七年(公元611年)，山東、河南等地發生大水災，淹沒30餘郡;第二年，山東又發生大旱災，加上流行疫癧，災情極其嚴重。天災人禍使得富庶的山東大地滿目瘡痍。
隋朝末年，山東、河北一帶士族門閥勢力比較強大，土地兼併嚴重，豪強地主佔有大量隱戶，流亡農民很多。隋煬帝營建東都洛陽，開通運河，調發了大量的山東民工。而山東地區的封建官吏和士族地主，變本加厲地壓榨百姓。大業七年(公元611年)，山東、河南等地發生大水災，淹沒30餘郡;第二年，山東又發生大旱災，加上流行疫癧，災情極其嚴重。天災人禍使得富庶的山東大地滿目瘡痍。更爲嚴重的是，隋煬帝數次東征高句麗，都把山東作爲進攻高句麗的人力、物力供應基地，在這一帶增置軍府，掃地爲兵，強壯男子大多被徵發當兵。在東萊造船的勞役和負擔，以及向河北運糧的差役等，這些沉重的負擔統統壓到了山東人民的頭上。在這種殘酷的役使和士族土地壓榨之下，山東人民無路尋生，不斷髮生反抗的呼聲。《資治通鑑》卷181隋大業七年記載的情況最清楚地反映出這一時期的社會狀況：“自去歲謀討高句麗，詔山東置府，令養馬以供軍役。又發民夫運米，積於瀘河、懷遠二鎮，車牛往者皆不返，士卒死亡過半，耕稼失時，田疇多荒。加之饑饉，谷修踊貴，東北邊尤甚，鬥米直數百錢。所運米或粗惡，令民糴而償之。又發鹿車伕六十餘萬，二人共推米三石，道途險遠，不足充餱糧，至鎮，無可輸，皆懼罪亡命。重以官吏貪殘，因緣侵漁，百姓困窮，財力俱竭，安居則不勝凍餒，死期交急，剽掠則猶得誕生，於是始相聚爲羣盜。”正是在這樣的情況下，山東人民武裝暴動，點燃了反抗隋王朝的烈火，引發了中國歷史上規模巨大的全國農民大起義。當時山東的起義自北而南、自西而東，聲勢最爲浩大。
大業七年(公元611年)，鄒平人王薄，在長白山(今山東章丘、鄒平境內)正式舉行起義。王薄的義旗剛一樹起，山東各地紛紛響應。平原富豪劉霸道於豆子坑(在今山東惠民地區)起兵，聚衆10餘萬，號稱“阿舅軍”。漳南(今山東武城漳南鎮)人孫安祖殺死縣令，在同鄉竇建德的幫助下，會集數百人在高雞泊(在今平原境內)起義。竇建德因暗助起義軍，全家被官府所殺，他便隻身投入起義軍行列。不久他聚集了孫安祖的餘衆，將起義軍發展到萬餘人，並向河北一帶擴充力量。
大業九年(公元613年)，山東農民起義的烈火更加旺盛。正月，平原杜彥冰、王潤等聚衆起義，攻克平原郡。同郡人李德逸彙集數萬人，亦號稱“阿舅軍”。二月，濟北(今山東茌平)人韓進聚衆數萬人起義。三月，濟陰(今山東曹縣)人孟海公起義，也有衆數萬人。北海人郭方預，自號盧公，組建義兵3萬。還有齊郡(今濟南)孟讓、平原郝孝德也擁有幾萬人的起義隊伍。五月至十月間，濟北甄寶車、濟陰吳海流也都先後舉起義旗。山東各地的起義鬥爭匯成了反抗隋朝暴政的燎原之火，聲勢浩大，不可阻擋。大業十年(公元614年)以後，山東農民起義繼續高漲。宋世謨起義，攻下了琅琊郡。孟讓以長白山爲根據地，向南進展，有衆10餘萬人。齊郡左孝友佔據蹲狗山，也發展到10萬人。此外，小股勢力的農民軍也是山頭林立，遍佈了整個山東地區。起義軍的烽火把隋王朝在山東的地方官府燒了個淨光。據統計資料顯示，隋朝末年全國農民起義共爆發126次之多，而山東就有31起，佔全國總數的25%強，其中影響比較大的有王薄領導的起義，竇建德與劉黑闥領導的起義，張金稱、劉霸道等領導的起義，郭方預、綦恭順、楊元等領導的起義，徐圓明、孟海公、盧明月等領導的起義等。
大業七年(公元611年)，王薄領導起義後，多次擊敗官軍。大業九年(公元613年)，王薄又率兵進攻魯郡(今山東兗州)，起初取得一些勝利，但由於麻痹輕敵，結果爲隋齊郡丞張須陀所部突襲，被殺數千人。後來王薄重新集結力量，北渡黃河，來到臨邑(今山東臨邑)。張須陀追至，王薄與其決戰，又遭重創，有5000人被殺，損失牲畜以萬計。在這之後，王薄又與宣雅、郝孝德等義軍共10餘萬人進攻章丘(今山東章丘)，張須陀又親率步騎2萬迎擊，起義軍再遭失敗。以後數年，王薄主要轉戰于山東北部沿海一帶，與其他起義軍互相支援，共同抗隋。
唐高祖武德元年(公元618年)，反賊宇文化及在江都(今江蘇揚州)縊弒隋煬帝擁兵北上，於次年保於聊城(今山東聊城西北)。唐遣淮安王李神通圍攻聊城，宇文化及派人引王薄入城，共同守禦。神通攻城不克，引軍而退，竇建德又率軍來攻，而且攻勢很猛，王薄開城門放竇建德入城。建德入城後，擒殺宇文化及。這年三月，王薄擁其地降唐。四月，唐任命王薄爲齊州總管(駐歷城，今山東濟南)。武德四年，王薄勸說青(治今山東青州)、萊(治今山東萊州)、密(治今山東諸城)諸州降唐，諸州都表示同意。武德五年(公元622年)，王薄與唐宋州總管盛彥師共同攻擊須昌(今山東東平東須城鎮西北)，徵糧於潭州(治今山東歷城東平陵城)，刺史李義滿閉倉不給，彥師將其下獄。攻克須昌後，王薄因事赴潭州，李義滿之侄李武意將其刺殺。
竇建德是貝州漳南(今山東武城漳南鎮)人。隋煬帝大業七年(公元611年)徵高句麗時，建德被選爲二百人長，其同縣人孫安祖也因驍勇被選爲徵士。當時山東一帶水患十分嚴重，安祖家遭難，安祖向縣令請求免徵租稅未獲允許，反遭凌辱，安祖殺死縣令，逃往建德處，建德建議安祖聚衆起義，安祖於是召集貧窮百姓數百人進入高雞泊(今山東武城縣北)舉起了義旗。當時與孫安祖同時起義的還有鄃縣(今山東夏津)人張金稱領導的起義軍，他們活動於河曲(清河之曲，在今河北清河境內)中;蓨縣(今河北景縣)人高士達領導的起義軍，活動在清河境內。日益高漲的起義軍運動，使當地的郡縣官吏感到慌恐和不安，他們懷疑竇建德與這些起義軍有來往，於是將其全家殺死。建德無比憤怒，於是率部下200人逃歸高士達。高士達自稱東海公，任命建德爲司兵。後來孫安祖被張金稱殺死，其兵數千人都投奔了竇建德。竇建德勢力逐漸強盛起來，兵力達到萬餘人，並以高雞泊爲基地展開活動。
大業十二年(公元616年)，隋朝涿郡通守郭絢率兵萬餘人來討伐高士達。高士達將兵權全部交給竇建德。竇建德請高士達看守輜重，自己挑選精兵2000人迎擊郭絢。竇建德詐稱自己背叛了高士達，要投降郭絢，並派人向郭絢下降書，表示願爲前驅，討擊高士達。而郭絢不知是計，遂率兵跟隨竇建德來到長河縣(治今山東德州市東)境內，建德乘其不備，大破郭絢軍隊，殺死數千人，繳獲馬匹千餘匹。郭絢僅率數十騎逃走，竇建德率兵追趕到平原(今山東平原)境內，將郭絢殺死，並斬其首級獻與高士達。竇建德兵勢得到進一步加強。
就在這時，隋朝廷派遣太僕卿楊義臣打敗了張金稱，張金稱的餘部大部分都投奔了竇建德。楊義臣又追兵來到平原，想乘勝打入高雞泊，擊敗竇建德。竇建德分析形勢，建議高士達暫不交兵，避其鋒芒，疲其將士，然後再出兵討擊。但高士達不聽竇建德勸言，留下竇建德堅守堡壘，自己率兵與楊義臣交戰，結果高士達兵敗被殺。楊義臣又乘勝進擊竇建德的軍隊，建德軍大部分潰散，建德本人率百餘騎逃到饒陽(今河北饒陽)。沒過多久，楊義臣退兵，建德率兵又回到平原，召集散亡士卒，人數迅速增加，勢力不斷增強，竇建德自稱將軍。不久，他的勢力就發展到10萬多人。
大業十三年(公元617年)，竇建德在樂壽(今河北獻縣)稱長樂王，年號丁丑，設置各級官吏進行管理。後在河間(今河北河間)一戰，殲滅隋涿郡留守薛世雄的軍隊3萬多人，並攻下河北大部分郡縣。
唐武德二年(公元619年)，竇建德又攻聊城(今山東聊城西北)，生擒隋將宇文化及等。同年，建德又率兵相繼攻克邢(今河北邢臺)、沼(今河北永年東南)、相(今河南安陽)、趙(今河北隆堯東)等州及黎陽(今河南浚縣東)，並建都洛州;又降服齊(今山東濟南)、濟(今山東茌平西南)、兗(治今山東兗州)等州。武德四年初，攻佔曹州(治今山東曹縣西北)。武德四年三月，又接連攻下管州(今河南鄭縣)及滎陽(今河南滎陽)、陽翟(今河南禹縣)等地，屯兵於虎牢關(今河南滎陽縣汜水鎮)以東。後與唐軍交戰，因麻痹輕敵被唐軍打敗。當年七月被殺。
竇建德犧牲後，其部將劉黑闥繼續進行起義鬥爭。劉黑闥也是貝州漳南人，少時與竇建德是朋友。他曾參加瓦崗起義軍，瓦崗軍失敗後，他輾轉投奔了竇建德起義軍。此人多謀善戰，驍勇無比。竇建德起義軍失敗後，他與竇建德其餘部將再度起義，並號召各地起兵響應。武德四年八月，黑闥率兵攻克俞縣(今山東夏津)。不久又相繼攻克歷亭(隋分俞縣置)、洛州、相州等地，半年之內基本收復了當年竇建德所控制的地區。當時佔據兗州、齊州一帶的徐圓朗起義軍也歸附了劉黑闥。劉黑闥的再度起義，給當時新建立的唐王朝造成嚴重的威脅，於是唐朝廷幾次派遣兵將前往鎮壓，起義軍儘管英勇奮戰，但最後還是失敗了。劉黑闥也於武德六年正月被殺。
隋朝末年山東地區的農民起義軍還有張金稱、劉霸道等領導的起義軍，北海郭方預、綦公順、楊原等領導的起義軍，徐圓朗、孟海公、盧明月等領導的山東西部農民起義軍等。
張金稱是貝州邰縣(今山東夏津)人，於大業七年(公元611年)聚衆起義，很快勢力就發展到幾萬人，最初活動於鄃縣與清河之曲(約在今河北清河境內)，曾屢敗官軍。後又聯合郝孝德、孫寶雅、高士達等起義軍，屢攻河北郡縣和河南黎陽等縣。大業十二年，又攻佔平恩(今河北丘縣西)、武安(今河北武安)、鉅鹿(今河北鉅鹿)、清河等縣。後來在與隋太僕卿楊義臣的決戰中兵敗，被隋清河郡丞楊善會殺害。
在今天山東北部地區與張金稱大致同時起義的還有劉霸道、郝孝德、格謙、孫寶雅等起義軍。劉霸道是平原郡(治今山東陵縣)人。大業七年，他擁衆起義，以豆子坑(今山東惠民)爲根據地，其隊伍迅速發展到10萬多人。郝孝德也是平原人，大業九年他聚衆1萬多人起義，曾與王薄、孫寶雅等義軍聯合，攻打章丘，被隋齊郡丞張須陀擊敗。後轉戰於黃河以北，屢敗隋軍。後投奔瓦崗軍。格謙是厭次(今山東無棣南)人，他在大業九年率衆起義，到大業十二年時，隊伍發展到10萬人，也以豆子坑爲根據地，屢破隋軍。後被隋將王世充打殺害。孫生雅爲渤海(治今山東陽信)人，他也在大業九年率衆起義，隊伍很快發展到10萬人，也以豆子坑爲根據地，稱齊王。曾聯合王薄、郝孝德等義軍南攻章丘，又與張金稱、高士達等合兵攻破隋軍黎陽糧倉。後又轉戰於河北一帶，屢敗隋軍。此外，在今山東北部地區，還有杜彥冰、王潤領導的一支起義軍，曾攻破平原郡。
郭方預是北海郡(治今山東青州)人，他於大業九年起義，隊伍很快發展到了3萬人，曾攻陷北海郡城。後被隋齊郡丞張須陀打敗。
綦公順也是北海郡人，他於大業末年在本郡起義，曾率兵3萬人圍攻郡城。後與隋明經劉蘭成聯合作戰，攻陷郡城。公順的兵力日益強盛。隋大業十三年李密爲瓦崗寨主後，綦公順率衆歸附。後瓦崗軍失敗，李密降唐，公順也隨之投降唐朝。武德二年，唐以公順爲濰州總管(今山東濰坊)。
楊厚也是在大業末年起義，曾攻打北海縣(今山東濰坊)，雖未攻克北海，但給隋軍以沉重打擊，後被隋煬帝派兵擊敗。
徐圓朗是魯郡(今山東兗州)人，大業十三年(公元617年)聚衆起義，曾先攻佔東平郡(今山東鄆城東)，然後分兵各地，佔據了琅琊(今山東臨沂)以西、東平以南的地區，隊伍發展到兩萬多人。李密爲瓦崗寨主之後，圓朗歸附李密。唐武德元年(公元618年)，李密被王世充打敗後，李密降唐，圓朗投奔竇建德(也可說是歸降王世充)。圓朗後被唐朝廷封爲魯郡公、兗州總管。武德四年，劉黑闥在河北起義，圓朗暗中與之聯合。不久扣留唐朝廷命官，舉兵反唐，兗、鄆、陳等8州都擁兵響應，紛紛殺死唐朝地方官吏，勢力大增。他們曾攻克楚丘(治今山東曹縣東南)。武德五年，唐秦王李世民破劉黑闥之後，又進兵攻打徐圓朗，接連攻克10多座城池。後唐朝廷又繼續派兵進攻徐圓朗，圓朗寡不敵衆，棄城而走，結果被“野人”所殺。
孟海公爲濟陰(今山東曹縣西北)人，他在大業九年率兵起義，以周橋(在今山東曹縣東北)爲根據地，攻佔曹(即濟陰)、戴(治今山東成武)二州，人數迅速發展到3萬。武德三年，竇建德率大軍進攻海公。次年建德攻克周橋，俘獲孟海公。同年，竇建德又被李世民擊敗而被俘，孟海公與竇建德一起被殺害。
盧明月是涿郡(治今北京市西南)人，他於大業十年率起義軍10多萬人屯踞祝阿(今山東長清東北)。隋齊郡丞張須陀率兵前來鎮壓，張須陀設計使盧明月大敗。大業十一年，明月又聚衆10多萬人，先後攻打陳州(今河南淮陽)、汝州(今河南臨汝)等地。此後便轉戰河南、淮北一帶，隊伍也發展到40萬人。大業十三年，起義軍被王世充率兵鎮壓，盧明月被殺，餘衆潰散。
此外，在今山東西部地區，還有一些規模較小的農民起義軍。如呂明星領導的起義軍;大業九年，濟北韓進洛、甄寶車的聚衆起義;大業九年濟陰(治今山東曹縣西北)吳海流領導的起義;大業末年兗州方與(治今山東魚臺北)張善安領導的起義;還有濟陰房伯獻的起義、濟北張青特的起義等。
除上述一些主要地區、主要農民起義軍以外，據史書記載，還有其他一些農民起義隊伍，他們是：大業九年爆發的杜伏威領導的起義軍，起義後進入長白山，與左君行領導的起義軍聯合，後轉戰到淮南地區，成爲江淮地區最大的一支農民起義軍。後被唐軍鎮壓。齊郡人孟讓領導的農民起義，起義後曾一度與王薄起義軍聯合，攻佔長白山。後也轉戰到淮南地區，隊伍發展到10萬多人，後被隋將王世充擊敗，他北投瓦崗軍。東海丞(今山東棗莊)李子通領導的農民起義，起初他也參加長白山起義軍左才相部，後獨立，半年內隊伍發展到1萬多人，也轉戰到淮南地區。左才相領導的起義軍，先以長白山爲根據地，後轉戰到淮北一帶。另外還有：裴長才在齊郡附近領導的農民起義，顏宣政在齊郡一帶領導的農民起義，彭孝纔在東海郡(治今江蘇連雲港市西南海州鎮)領導的起義軍於大業十年轉戰沂水(今山東沂水)一帶，宋世謨領導的起義，彭城張大彪領導的起義，東海人盧公暹領導的農民起義，齊郡人左孝友領導的農民起義，文登(今山東文登)淳于難領導的起義等。
