唐玄宗一路西逃，但忠於朝廷的官員們卻紛紛帶領軍民，奮起抵抗叛軍。其中，最早起來打擊叛軍的，是平原（今山東平原）太守顏真卿和他的堂兄常山（今河北正定）太守顏杲卿。
顏真卿是北齊文學家顏之推、唐代初期的學者顏師古的後代。早在安祿山謀反朝廷的跡象越來越明顯時，顏真卿就開始備戰了。他藉口預防大雨，派軍民修繕城牆，召集壯丁，加強城防，還儲藏了很多糧食。安祿山叛亂後，河朔（黃河以北地區）一帶全都陷入叛軍之手，只有平原城的防守是完好的。唐玄宗剛聽到河朔淪陷的消息時，悲嘆道：“河北二十四郡，難道就沒有一個忠臣？”當他聽說平原城仍在堅持抵抗時，轉悲爲喜，說：“不知顏真卿是什麼模樣，竟能做得這樣好。”
顏杲（ｇǎｏ）卿本來是安祿山的部下，安祿山的叛軍到達藁（ｇǎｏ）城（在今河北省）時，他就招募了一千多名士兵，準備抵抗。安祿山攻下洛陽後，顏真卿在十天內招募了一萬人，並與顏杲卿聯合討伐安祿山。顏杲卿與長史袁履謙，用計佔領了井陘關（在今河北井陘），截斷了安祿山的退路，河北軍民士氣大振，二十四郡中有十七郡又歸順了朝廷。大家推舉顏真卿爲主帥，聚集了二十多萬人馬，共同抗擊叛軍。
安祿山見後方不穩，急忙派大將史思明、蔡希德分兩路攻打常山。常山的城防工事沒修好，兵力又少，顏杲卿帶領軍民拼死抵抗了四天，最終糧缺彈盡，常山城被攻破。顏杲卿和袁履謙被叛軍抓到洛陽，他們受盡酷刑，但仍對着安祿山怒罵不止，最後雙雙犧牲。
顏杲卿被害後，顏真卿仍在堅持抵抗，直到唐肅宗即位後，他才率領衆人輾轉來到鳳翔（治所在今陝西鳳翔），朝見肅宗。
另一位英勇抗擊叛軍，多次立下戰功的名將，是張巡。
公元756年正月，安祿山叛軍攻陷宋、曹等州，譙郡（今安徽亳州）太守楊萬石投降了叛賊，還逼迫當時任真源縣令的張巡，向西去迎接叛軍。張巡卻率領軍民討伐叛賊，在雍丘（今河南杞縣）一舉擊敗叛軍大將、原雍丘縣令令狐潮。
數月後，令狐潮重整旗鼓，率領四萬大軍撲向雍丘，想報仇奪城。當時張巡只有四千人，士兵們都很緊張，張巡卻胸有成竹，對將士們說：“令狐潮氣勢雖兇，又瞭解城中情況，必然有輕視我們的想法。現在我們出其不意出擊，敵人一定驚怕而退，我們乘勢追擊，必可打勝仗。”
於是，他派一千人登城防守，自己親自率領一千人，分成數個小隊，開城門突然衝出。張巡身先士卒，直衝賊陣，打得賊兵人仰馬翻，紛紛敗退。
第二天，叛軍又來攻城。他們用百門大炮轟城，打得城樓都倒塌了。張巡在城上修建木柵來防守。叛軍像螞蟻一樣蜂擁而上。張巡命士兵把乾草浸透油脂，燒着後投向賊兵，叛軍不得不退卻。
張巡知道自己的兵少，所以每次都以堅守爲主，用智謀打退敵軍，或者乘天黑偷襲敵營。這樣堅持了六十餘日，大大小小打了三百餘仗，叛軍無計可施，只得將雍丘城團團圍住。
不久，雍丘城中箭已用完。張巡效法諸葛亮草船借箭的妙計，命令士兵做了一千餘個草人，披上黑衣，趁夜晚用繩索吊到城下。叛軍以爲城中守軍要突圍偷襲，紛紛用箭射擊。過了很久，他們才發現城上吊下來的是草人。但這時，草人渾身都射滿了箭，有數十萬支。
後來，張巡又趁黑夜將派五百名敢死隊墜下城去，賊兵以爲又是草人，所以也不防備。五百名敢死隊便衝入賊營，令狐潮的軍隊猝不及防，頓時大亂，把自己的營帳燒掉逃走了。這樣，張巡不僅確保了城池不失，而且在戰鬥中反敗爲勝，給叛軍以沉重打擊。
不久，令狐潮又捲土重來，增調兵馬包圍了雍丘城。張巡派部將雷萬春在城頭上同令狐潮對話。叛軍紛紛射箭，雷萬春的臉上一連被射中六支箭，仍然一動不動，鎮定自若。令狐潮懷疑是木頭人，派人來問才知是雷萬春，不由得大吃一驚，遠遠地對張巡說：“剛纔看見雷將軍這個模樣，才知你的軍令的確很嚴。但是人算不如天算，雍丘城終將被攻破。”張巡迴答說：“閣下連人倫都不知道，怎麼能通曉天道呢？”
令狐潮理屈詞窮，叛軍們鬥志衰落，張巡抓住戰機率兵出擊，又一次大獲全勝，擒獲叛軍將領十四人，嚇得令狐潮連夜逃到陳留，龜縮在城裏，再也不敢出來。
從公元756年年初，雍丘保衛戰開戰，叛軍一直不斷地增兵，但張巡率將士誓死守城，直到這年年底奉命主動撤離。在這期間，雍丘城始終巋然不動，成爲大唐抗擊叛軍的堅強堡壘。爲表彰張巡的忠誠與戰功，後來的唐肅宗李亨專門下詔任命張巡爲河南節度副使。
