源乾曜早年考中進士，累遷至殿中侍御史。706年(神龍二年)，唐中宗任命十道巡察使，讓他們負責考察官吏、安撫百姓等事務。源乾曜出任江南道巡察使，因政績突出，升任諫議大夫。
累職升遷
711年(景雲二年)，源乾曜針對朝廷荒廢射禮的行爲，上奏道：“聖王教化百姓，必制定禮樂以正人情。君子三年不爲禮樂，則禮崩樂壞。古代擇士，先觀射禮，並不是取一時之樂。射可以區別正邪、觀察德行，聖王對此無不重視。如今朝廷吝惜費用，而荒廢射禮，甚是不妥。臣認爲花費的雖是錢財，但保全的卻是禮制，請陛下重開射禮。”不久，源乾曜出任梁州都督。
713年(開元元年)，邠王府僚屬犯法，唐玄宗便要大臣推舉王府長史。源乾曜得到太常卿姜皎的舉薦，入宮奏對。他神態清明，氣質爽朗，回答問題有條不紊。唐玄宗大喜，任命他爲少府少監，兼邠王府長史。不久，源乾曜升任戶部侍郎、兼御史中丞，又改任尚書左丞。
擔任宰相
716年(開元四年)，源乾曜被擢升爲黃門侍郎、同紫微黃門平章事，但不久便與姚崇一同罷相，出任長安留守、京兆府尹。他任京兆尹三年，治政寬簡，政令如一。
720年(開元八年)，源乾曜再次拜相，被任命爲黃門侍郎、同中書門下三品，不久又升任侍中，加銀青光祿大夫。不久，源乾曜進言道：“如今權貴子弟大多任職京師，使得賢才被遠放京外。臣有三子，都在朝中爲官，請陛下將其中二人外放。”唐玄宗大悅，下詔褒揚源乾曜，並命朝中百官效仿。
722年(開元十年)，唐玄宗採納“國之執政，應加崇寵”的建議，厚賞源乾曜與中書令張嘉貞，讓他們食實封三百戶，開創唐朝宰相享有封邑的先例。
725年(開元十三年)，唐玄宗封禪泰山。源乾曜持反對意見，並因此與中書令張說發生矛盾。封禪結束後，源乾曜升任尚書左丞相，兼任侍中。
晚年生活
源乾曜任相期間，張嘉貞、張說、李元紘、杜暹相繼執掌朝政。他爲人謹慎，在重大問題上從不發表意見，只是簽署公文、表示附和。
729年(開元十七年)，源乾曜被罷去侍中，保留左丞相之職。八月，唐玄宗任命源乾曜爲太子少師。他因官名有犯祖父名諱，推辭不受，被改任爲太子少傅，並封安陽郡公。
731年(開元十九年)，唐玄宗巡幸洛陽。源乾曜因年紀老邁，沒有隨行，留在長安養病。十一月，源乾曜病逝，追贈幽州大都督。唐玄宗廢朝二日，並在洛陽南門爲他舉哀。
軼事典故
唐玄宗在打獵時不慎放走一隻白鷹，便命京兆府官吏捕捉。京兆府找到白鷹時，它已掛在荊棘叢裏死了。官吏都擔心皇帝治罪，源乾曜卻道：“事有偶然，死亦常理，皇帝仁愛明察，應不會以此治罪。如果怪罪，就讓我來承擔，你們不用害怕。”於是上表請罪，並未受到追究。
