名門之後溫子升，小時候跟隨名儒崔靈恩、劉瀾學習，本身非常聰慧，加之勤奮好學，成年之後博覽羣書，能寫出一手風格清婉的好文章，小有名氣，與邢邵、魏收一同被稱爲“北地三才”，備受世人讚賞。
公元516年，溫子升22歲，東平王元框廣招文士，想要從中選擇御史。當時參加應試的有八百多人，但只有溫子升、盧仲宣等二十四人成績最好，但是經過激烈的競爭，其它人都已失敗告終，溫子升勝出當選了御史，親手草擬臺中重要文件，一舉成名。與當時被稱爲“人物宗主”的李神筠關係非常融洽，經常開玩笑，後來朝廷要調溫子升去外省，李神筠上書請求留下溫子升，但最終沒能留下。
做官後的溫子升仕途並不平坦，常被欺負，當時的黃門郎徐紇特別嫉妒比自己本事高的人，得知溫子升要來廣陽府便做好了擠兌他的準備，一次魏軍打了勝仗獲得大量珍寶，但是卻只給了溫子升四十匹絹。後來，魏軍戰敗，溫子升被抓，因爲有老朋友得以被放回，回來後的溫子升再無心做官，閉門讀書，刻苦自修。
後魏孝莊帝繼位，重新啓用溫子升，修撰《起居注》，但溫子升又被擔任尚書的天穆擠兌，幸好有孝莊帝幫他解圍，後天穆對溫子升的態度有所改變，因爲他的才華開始重用他。
之後的溫子升經歷了數次的帝王更換，公元528年，北海王元顥回到洛陽，與孝莊帝爭奪帝位，溫子升被留在洛陽，元顥稱帝后，做了中書舍人。元顥被爾朱榮殺死，孝莊帝回到洛陽，罷免元顥時期的大部分官員，溫子升則再次升任舍人。後爾朱榮想要謀權篡位，孝莊帝找來溫子升商量對策，草擬敕詔。爾朱榮的侄子爾朱兆攻入洛陽，俘獲了孝莊帝，溫子升爲了避貨只得躲藏起來。
爾朱氏被高歡所滅，並建立北齊，溫子升被再次找來做官，後來高澄遇刺身亡，溫子升被懷疑參與其中，在其寫完《神武碑》銘文後，被抓進監獄，在監獄裏受盡折磨，難忍飢餓不得不吃自己的衣服來充飢，最終被餓死，屍體被書侍御史宋遊道收葬。
