高開道其家世代靠煮鹽爲生。少年時矯捷勇悍，跑起來追得上奔馬。
隋朝末年，賦役繁重，災荒連年，民不聊生。大業九年(613年)，河間人格謙在豆子崗(今山東惠民境內)起義，擁衆十萬，自稱燕王，高開道於是投奔義軍。起初高開道不被格謙所看重。有一次格謙遭到隋兵圍捕，左右奔散，不敢救援，高開道隻身奮戰，連殺數十名隋兵，解除圍攻，格謙方纔免難，隨即委派他爲將軍。
自稱燕王
大業十二年(616年)，隋將王世充受命剿滅起義軍，格謙率軍幾經決戰，兵敗被殺。高開道率餘黨一百多人逃往海邊。經過休整，軍威復振，於是轉戰劫掠滄州，賊衆漸附，因而北上攻掠戍堡，從臨渝到懷遠全都被他攻佔。當時，隋朝右武衛大將軍李景守衛北平(今河北盧龍)，高開道率兵包圍北平，一年多未能攻陷。遼西太守鄧暠領兵救援，李景帶領部下遷到柳城;後來準備回幽州，在路上被強盜殺死。高開道於是攻取北平。
武德元年(618年)，高開道率軍攻陷漁陽郡(今天津薊縣)，擁有甲馬(披有鎧甲的戰馬)數千匹，徒衆萬人，自稱爲燕王，都城設在漁陽。
兼併兵馬
起初，懷戎縣(今河北張家口)僧人高曇晟乘縣令設齋來了很多百姓時，與五十名(《資治通鑑》作五千人)僧人裹脅參加齋會的人反叛，殺了縣令以及鎮守的將領，自稱大乘皇帝，立尼姑靜宣爲耶輸皇后(《資治通鑑》作邪輸皇后)，建年號爲法輪。當天晚上，高曇晟派人招降高開道，封高開道爲齊王，高開道率領五千人歸順了高曇晟。三個月後，高開道殺了高曇晟，兼併了他的全部兵馬。
武德二年(619年)三月二十三日，高開道被唐朝營州總管鄧暠打敗。
武德三年(620年)，高開道重新自稱燕王，建年號爲始興(一作天成)，設置百官。
投降唐朝
武德三年(620年)九月，唐將羅藝守衛幽州(今北京)，被竇建德軍圍困，羅藝向高開道求救，高開道率騎兵二千人前去援助，竇建德畏懼高開道軍都是勇猛精銳之士，於是率軍撤退。十月十九日(11月18日)，高開道便藉助羅藝遣使奏請歸降唐朝，唐高祖李淵下詔任命他爲蔚州總管、上柱國，封爲北平郡王，賜姓李氏。
高開道率輕騎五百到達幽州，想對羅藝下手。高開道帶領隨從騎士數人進入都督府，觀察羅藝動靜，羅藝設宴與他暢飲盡歡，高開道明白不能下手，便離開幽州。
聯兵反唐
武德五年(622年)，幽州發生饑荒，高開道答應輸送糧食。羅藝派遣老弱前往就食。高開道接待很周到。羅藝很高興，不加提防，隨即調撥兵士三千人，車數百輛、馬驢千餘匹前往借糧，高開道全都留下而不予遣返。於是北與突厥連兵，並且與羅藝斷絕往來，重稱燕王。
同年，劉黑闥進犯山東，高開道與他聯合共同抵抗唐軍。高開道率軍進攻易州，未能攻下而退兵。後又派部將謝棱詐降於羅藝，並請求派兵救援。羅藝率衆接應，將到懷戎時，謝棱縱兵將其擊破。接着高開道引突厥南侵，恆州(今河北正定)、定州(今河北定縣)、幽州、易州(今河北易縣)等州盡遭蹂躪。突厥頡利可汗因高開道部衆善用攻城器具，與他一道攻拔馬邑。當時羣盜相繼平定，高開道想歸降唐朝，又怕多次反覆，不能取信於人，仍然依仗突厥自保平安。但將士多是山東之人，思還家鄉，衆人更加厭惡作亂。
屢犯幽州
武德六年五月二十八日(623年7月1日)，高開道帶領奚族騎兵侵犯幽州，被唐朝幽州長史王詵打敗。劉黑闥反叛時，靺鞨首領突地稽帶兵協助唐朝，將他的部落遷到幽州的昌平城。高開道帶領突厥侵犯幽州時，遭突地稽帶兵阻截，而被打敗。
武德六年(623年)七月，高開道掠奪赤岸鎮以及靈壽、九門、行唐三個縣之後離去。
武德六年(623年)八月，高開道率領奚族軍隊侵犯幽州，被唐朝幽州軍隊擊退。
武德六年(623年)九月二十九日，高開道帶領二萬突厥騎兵侵犯幽州。
將反自殺
起初，高開道招募壯士數百人爲養子，常在閣下護衛。劉黑闥部將張君立逃歸高開道，高開道命張君立與愛將張金樹分督其兵。武德七年二月十八日(624年3月12日)，張金樹暗自命令左右數人裝作與高開道諸養子嬉戲，到了晚上，進入閣內，偷偷地斷其弓弦，又取刀矛藏於牀下。天黑後，張金樹率其部下鼓譟來攻，先前派出的幾個人抱着刀矛跑出閣來。高開道諸養子準備出戰，但找不到兵器。張君立又在外城舉火相應，帳下大亂，諸養子感到困窮，爭先歸附張金樹。高開道知道此難難免，披甲持刀據堂而坐。與其妻妾奏樂酣飲，張金樹畏懼而不敢進逼。二月十九日(3月13日)天將亮時，高開道先縊死其妻妾兒女而後自殺(一說被張金樹所殺)。
