他年輕時跟過劉備，後來被拋棄而投曹操，竟成了曹魏的三朝元老
陳羣出身名門，幼負才名，後與孔融相交，孔融素來高才倨傲，對陳羣卻極爲敬重。孔融何等樣人，由此可知陳羣德才兼備(當然，絕對不是彌衡那一路，汗)。正史還有頗多事例，如後來皇女曹淑(?應該是吧)死去，皇帝異常哀痛，喪儀過奢不合禮制，他便上書勸諫，由此可見是正直敢言，極重禮法。其後他制定的九品中正制，也可見他對禮法的重視。另外，其父陳紀任大鴻臚時，曾議司法典刑之事，陳羣也深通於此，從後來阻諫曹公恢復肉刑可見一斑。
在三國前期，劉備一直如喪家之犬，奔走於四方諸侯，雖有匡扶漢室的決心，卻沒有與之相稱的實力。
究其原因，人們普遍認爲是因爲他身邊少了一位經天緯地的頂級謀士。在新野得到徐庶後，劉備相見恨晚，後來又不辭辛勞請諸葛亮出山，都體現了劉備對謀士的器重。但是早在劉備做豫州刺史的時候，他就曾得到過一位不世出的奇才。
陳羣，字長文，潁川許昌人。他出身名門，祖父任東漢太丘長，父親任大鴻臚。他創立的九品中正制是科舉制之前最重要的選官制度。
劉備爲豫州刺史時，陳羣爲別駕。當時徐州刺史陶謙病重，將徐州讓予劉備，當時陳羣就勸阻他不要接受。因爲劉備的實力還很弱，現在生存在羣雄的夾縫中，一旦接過徐州，就會與當時實力非常強大的袁術正面交鋒，而後方的呂布也蠢蠢欲動，不會讓他獨吞這塊肥肉。這樣一來劉備就會成爲衆矢之的，腹背受敵。
但是劉備建功立業的心情非常迫切，沒有接受陳羣的建議。果然劉備陷入了與袁術的爭戰，呂布趁機襲取下邳，又與袁術兵合一處。劉備兵敗，這才痛悔沒有聽從陳羣的勸告。陳羣自感未遇明主，心灰意冷之下離開了劉備，隨父親居於徐州避難。
公元198年，曹操入主徐州，看中了陳羣，並任其爲司空西曹掾屬，後又轉任參丞相軍事。公元213年，曹操封魏公，陳羣爲魏國的御史中丞。當時天下大亂，犯罪行爲日益頻繁，陳羣的父親等人主張恢復肉刑。曹操也有恢復肉刑的打算。他對陳羣說：“昔日陳鴻臚(陳羣之父陳紀，曾任大鴻臚)以爲死刑有可加於仁恩的用途，正是在說這方面的事。你可以給我講講你父親的理論嗎?”陳羣說道：“我的父親認爲漢代廢除肉刑而增加笞刑，這本來是出於仁心惻隱，結果卻使更多的人受刑而死，這就是所謂的名輕實重。表面上看起來廢除了殘酷的肉刑，但人民卻由於不畏懼犯罪而輕易犯罪，結果反而死的人更多了。罪名輕，人就容易犯法，實際處罰很重則傷害了百姓。如今以笞死之法去代替所有不殺生之刑罰，這是憐惜人的肢體而輕視人的性命啊!”鍾繇也對陳羣的說法表示贊同，而王朗及其他大臣則多認爲不可恢復肉刑。曹操雖然認同陳羣之言，但因爲軍事未罷的緣故，所以先擱置這一政議。
三國時期，魏、蜀、政權均各自立法，其中最有影響、最具代表性的律是《魏律》。魏明帝太和三年(公元229年)，鑑於漢代律例煩亂，命陳羣、劉劭等人制定新的律法。陳羣等在漢《九章律》的基礎上增加九篇，制定《魏律》十八篇，由於它是對漢律的改革，故當時稱爲《新律》;爲了同北朝的魏律相區別，通常稱作《曹魏律》。
秦漢早期法律的突出特點是繁多龐雜。《魏律》在繼承的基礎上，對秦漢法律進行了較大改革。體例上，將《法經》中“具律”改爲刑名，置於律首。“具律”是《法經》的總則和序列，即總論性的律文。“具律”在漢《九章律》中處於中間的位置，說明漢代並不將其視爲具有總則性質的篇目，與後來的《刑名》比較，缺少高度的概括性和抽象性。《魏律》把其位置由原來的中間提到律首的位置，突出其重要性，這開歷代法典首列名例篇的先例。
《魏律》十八篇篇名分別是：刑名、盜律、劫略、賊律、詐律、毀亡、告劾、系訊、斷獄、請賕、興擅、乏留、驚事、償贓、戶律、捕律、雜律、免坐。魏律新增篇目，是因爲注意到此前法律的缺陷，“篇少則文荒，文荒則事寡，事寡則罪露”，因此“今制《新律》，宜都總事類，多其篇條”。將漢律中不同篇目中內容相近的法律條文重新整合，另立新目。通過這種方式，《魏律》與漢律比較，在篇目和內容上做到名實相符，解決了兩漢法律名實不相一致的混亂現象。《魏律》還將維護官僚貴族特權的“八議”制度正式列入法典，取消了漢律中的宮刑，縮小族刑連坐範圍將法定刑分爲死、髡、完、作、贖、罰金、雜抵罪七種。
青龍三年(公元235年)，皇帝徵發百姓營建宮室，百姓因而錯失農耕時機。陳羣上疏奏說：“大禹繼承了唐、虞的盛世，卻仍然不看重修建宮室，厭惡豪華的衣服，何況當今自漢靈帝死後，天下大亂，老百姓所剩不多，比起漢文帝、漢景帝時，現在戶口超不過那時的一個大郡。再加上邊境戰事頻繁，將士勞苦，如果再遇到旱澇災害，國家的憂患可就深重了。況且吳國、蜀國尚未消失，國家還很不安定，陛下應該趁他們還沒有興師進攻，加緊訓練軍隊，鼓勵農耕，做好準備，嚴陣以待。現在陛下捨棄這些當務之急，反而先建宮室，臣恐怕老百姓會日漸睏乏，將來拿什麼來抵抗敵兵呢?當初劉備從成都來到白水，驛站內建造了許多接待來往過客的房舍，徵用耗費了不少勞役，太祖就認爲他在勞民。如今，中原地區像這樣耗費勞力，正是吳國和蜀國所希望的，這可是關係到國家安危的大事，希望陛下能好好考慮這件事。”魏明帝曹叡答道：“滅吳蜀與建宮室，也可以一起進行，一起完成。滅吳蜀後，罷兵守城，怎麼可以再徵用勞役呢?你是司空，和當年建未央宮的蕭何一樣，自然有建造宮室的職責呀。”陳羣又說：“從前漢高祖劉邦只和項羽爭奪天下，項羽滅亡後，宮室都被大火燒燬了，因此蕭何才修建了武庫和穀倉，這些都是急切需要的設施，可漢高祖看到這些建築造得很壯麗，仍然氣沖沖地責備蕭何不該把它們造得過分豪華。如今吳、蜀尚未平定，實在不應該大興土木。當年漢明帝想蓋德陽殿，鍾離意勸諫，就停止了修建，許多年後才又蓋成，殿成之日，他對羣臣說‘假如鍾離尚書在，這座殿是蓋不起來的’。其實作爲皇上哪是怕一個大臣呢?實在是爲天下的百姓啊!”曹叡聽了，有所頓悟，把營建宮殿的規模大大縮小了。
陳羣就是這樣，從不在大庭廣衆之下講皇帝的錯誤，有問題直接上書，照顧皇帝的顏面。他前後上了幾十個奏疏，每次上奏都不跟任何人提起，並且銷燬文件的草稿，連家裏子弟都不知他上書的事。當時人都譏笑他尸位素餐，後來朝廷編撰名臣奏議，大家從宮中看到陳羣進諫的奏書，無不感慨稱讚。
陳羣一生歷仕曹魏三朝，是曹魏政權的股肱之臣，是曹魏文帝、明帝時期最重要的謀士。陳羣還是魏晉南北朝選官制度“九品中正制”的創始人，九品中正制是我國古代三大用人選官制度之一，它是曹魏政權爲了拉攏士族而建立的，在一定程度上鞏固了曹魏政權。陳羣處於秦漢早期律法向封建成熟律法的轉折時期，其以出衆的才華，爲曹魏法律制度建設作出了卓越的貢獻，其中不乏開創性貢獻，對後世影響深遠。
