蘇威出身 京兆武功(今陝西武功西北)蘇氏，世家名門。蘇威小時候，就表現出了成熟。他五歲喪父，悲哀如同成年人。
北周太祖時，繼承美陽縣公的爵位，任郡功曹。大冢宰 宇文護見到他很是禮遇，把自己的女兒新興主嫁給他。但是蘇威見宇文護專權，恐怕災禍連累自己，逃到深山中，卻遭到叔父逼迫，還是不能免於爲官。但蘇威時常隱居山寺，以讀書爲樂。不久，授爲持節使者、車騎大將軍、儀同三司，改封爵位爲懷道縣公。
周武帝親政後，拜授蘇威爲稍伯下大夫。對於前後所被授予的官爵名號，蘇威都以生病爲由不接受。蘇威有一個堂妹，嫁給河北的元雄。元雄早先與 突厥人有怨隙。突厥入朝請求歸順，但是要求獲得元雄和他的妻兒才能滿意。北周於是遣送元雄和其妻兒去突厥。蘇威說：“野蠻人愛財，可以行賄使其改變主意。”於是標價變賣田產房屋，用盡家財贖回元雄，當時的輿論認爲他很仁義。 周宣帝繼位，拜授他爲開府。
創隋出仕
隋文帝做北周丞相時，高熲屢次說蘇威賢明，楊堅也一向看重他的名望，於是召他入府。蘇威到相府後，楊堅把他引到內室，與他交談之後十分高興。過了一個多月，蘇威聽說北周 禪讓議論之後逃歸故鄉。高熲請求追他回來，楊堅說：“這是不想參與我的大事，姑且讓他去吧。”
開皇元年(581年)，楊堅接受北周禪位之後，徵拜蘇威爲太常卿、太子少保，追贈他的父親爲邳國公，食邑三千戶，讓蘇威承襲。不久又讓他兼任 納言、吏部尚書。蘇威上表辭讓，隋文帝下詔說：“船大要多載物，馬快要跑的遠，正因爲你有多種才能，就不要推辭多做事了。”蘇威這才停止推辭。
蘇威的父親蘇綽在西魏因爲國家用度不足，制定徵稅的辦法，被時人認爲太沉重，於是他便感嘆說：“現在所做的事，就像拉弓一樣，不是和平時期的法律。後代的君子，誰能減輕這樣的徵稅法律呢?”蘇威聽到這話，以後便常以此爲己任。於是，此時蘇威奏請皇上，減輕賦稅和勞役，致力於採用較輕的制度，與民謀福祉，隋文帝大多聽從他。但也非事事皆如此，譬如蘇威曾建議，戶口滋育繁多，天下田地不夠，可以減少公卿的封地以供應民衆，遭到大司徒王誼的反對而不了了之。
四貴重臣
蘇威逐漸被隋文帝親近看重，與 高熲參與執掌朝政，以至於盧賁對此很不服氣。蘇威見到皇宮中用白銀作帷幔的鉤子，就極力陳說節儉的美德來告誡皇帝。隋文帝爲此而改變了神色，對於舊有的雕琢文飾的器物，全都命人清除毀壞。隋文帝曾憤恨一個人，將要殺他，蘇威入閣勸告，文帝不採納且氣憤至極，想要出門親自行斬，蘇威上前阻攔不肯離開。隋文帝躲過蘇威而出殿，蘇威又擋住他不肯放他過去，文帝只得回到殿內。過了很久，才召蘇威入殿，向他道謝說：“你能做到這樣，我沒什麼擔憂的了。”於是賞賜他兩匹馬，錢十幾萬。不久蘇威又兼任大理卿、 京兆尹、 御史大夫，原本任職不變。
治書侍御史樑毗認爲蘇威身兼五職，貪戀於繁多的權位，沒有推舉賢士代替自己的意思，擬上表彈劾蘇威。隋文帝說：“蘇威從早到晚兢兢業業，胸懷遠大志向，舉薦賢能方面有欠缺，怎能急迫的逼他呢?”對蘇威說：“‘被任用就出仕，不被任用就隱匿’，只有我和你纔有這一特點吧。”又對朝臣們說：“蘇威不遇上我，沒法說出他想說的話;我得不到蘇威，怎麼能推行我的政策? 楊素辯論口才天下無雙，但如果要參照古今，幫我教化百姓，就不能與蘇威相比了。蘇威若遭遇亂世， 終南山上的 四皓，蘇威是可以屈居於他們之後嗎?”因此在當時，蘇威與高熲、楊雄、虞慶則並稱“四貴”。
不久，蘇威拜受 刑部尚書，解除太子少保、御史大夫之職。後來解除京兆尹這一建制和官職，蘇威又被任命爲檢校雍州 別駕。當時高熲與蘇威同心協力，政事刑法無論大小，二人無不用心籌劃，在執行法治時不時修訂於是改換朝代幾年後，天下大治。不久他又轉任民部尚書，依舊擔任納言。開皇五年(585年)七月，關中大旱，河南諸州發大水，隋文帝下令蘇威賑濟;開皇六年(586年)正月，山東各州發生饑荒，隋文帝令蘇威巡視賑濟。開皇七年(587年)四月，蘇威轉任吏部尚書。開皇八年(588年)八月，河北諸州發生饑荒，亦是蘇威負責賑濟，同時兼任 國子 祭酒。
隋朝在戰亂之後建國，法令規章雜亂混雜，隋文帝開皇元年(580年)修訂法律之後，蘇威不時對其中條款提出異議，於是在開皇三年(583年)，隋文帝再次命令朝臣修訂法律，作爲一朝通用的 典章制度。法令的標準、樣式，大多是蘇威制定的，世人都認爲他有才能。 開皇九年(589年)，拜受尚書右僕射。這年，蘇威因母親亡故而離職，守孝期間他因悲傷骨瘦如柴。隋文帝告諭蘇威說：“你品德高於常人，感情特別深厚，孝順之道，就如同屈尊下從一般。必須抑制悲哀，爲國家愛惜自己。我對於你來說，是君主，也等同於父親，你應當按照我的旨意，依禮保全自己。”不久，隋文帝下令重新啓用蘇威主事，他堅持推辭，隋文帝下詔安慰不許推辭。開皇十年(590年)，隋文帝巡幸幷州，下令他與高熲一起留守京城總理諸事。不久又把蘇威召到隋文帝的行轅所在，讓他處理民間訴訟。蘇威上奏請求設置五百個家鄉正，並建議廢除郡制，雖然與 李德林因此發生爭執，但是得到了高熲的支持，他的建議皆被隋文帝所採納。
朋黨致禍
蘇威的兒子 蘇夔，年少時就有盛名於天下，招引門客，天下的名士大多附和於他。開皇十二年(592年)，因爲討論音樂的問題，蘇夔與國子博士 何妥都堅持自己的觀點，各成一家之言，於是朝廷讓文武百官表示他們贊同哪一種意見。朝臣大多依附蘇威，贊同蘇夔的佔了十分之八九。何妥憤怒說：“我讀書四十多年，反被一個毛頭小兒所屈辱!”於是奏告蘇威與禮部尚書盧愷、吏部侍郎薛道衡、尚書右丞王弘、考功侍郎李同和等人一起結成朋黨，在官衙中稱呼王弘爲世子，稱李同和爲小叔，意思是他們就如同蘇威的兒子和兄弟。又說蘇威用不正當手段讓他的堂兄弟蘇徹、蘇肅等人作假當官。還有國子學請蕩陰人王孝逸爲書學博士，蘇威的下屬 盧愷，引薦王孝逸做蘇威府中的參軍。
隋文帝命蜀王楊秀、上柱國 虞慶則等人全面調查，所指控諸事皆被證明。於是，隋文帝讓蘇威閱讀《 宋書·謝晦傳》中朋黨事件的部分，蘇威惶恐畏懼，摘下帽子叩首，隋文帝說：“已經晚了。”於是免去蘇威所有的官職，以開府的身份放還家中。知名之士中有一百多人受到蘇威的牽連而獲罪。
不久，隋文帝說：“蘇威是有德行的人，只是被人牽連了。”讓他恢復官職。開皇十四年(594年)七月，恢復了蘇威邳國公的爵位，擔任納言。蘇威隨從天子祭祀 泰山，因爲不敬又一次被免官，但是很快官復原職。隋文帝對羣臣說：“人們說蘇威僞裝清廉，其實家中金銀無數，這是毫無根據的瞎話。但他生性乖僻，不明白世事關鍵，追求名聲太急切，順從他的就喜歡，違揹他的就發怒，這是他的大缺點。”
開皇十五年(595年)，蘇威奉命持節巡撫江南，可以隨機處置事務。過會稽時，翻越了 五嶺纔回到京城。開皇十七年(597年)，突厥 都藍可汗經常製造邊患，朝廷於是派蘇威前往可汗駐地，與他們締結和親盟約，可汗派遣使臣來京貢獻地方特產。蘇威因爲勞苦功高，晉位大將軍。開皇末期，應召與楊素、牛弘、薛道衡、許善心、虞世基、崔子發等人召集儒生，辯論新的禮儀並制定殺伐的量刑輕重。
仁壽初年(601年)，蘇威恢復了尚書右僕射的官職。隋文帝去 仁壽宮，命蘇威總理京城事務。等到隋文帝回到京城，御史彈劾蘇威多數職務內的工作沒有做好，請求審問。隋文帝發怒斥責蘇威，蘇威拜求告罪，隋文帝也不再追究。
仁壽二年(603年)，蜀王楊秀獲罪，隋文帝下令 楊素、蘇威、 牛弘、 柳述、 趙綽共同審理此案。仁壽四年(604年)，隋文帝又到仁壽宮，生病後皇太子從京城趕往仁壽宮侍奉，詔令蘇威留守京師。
煬帝五貴
隋煬帝繼位後，加封蘇威爲上大將軍。大業三年(607年)七月，天子興修長城，蘇威勸告隋煬帝停止大興勞役。高熲、賀若弼等被殺，蘇威因受株連，被免去官職。過了一年多，又任魯郡太守，不久召他還京，參預朝政。不久，又任太常卿。這年隨隋煬帝征討吐谷渾，升任左光祿大夫。隋煬帝因爲蘇威是前朝舊臣，逐漸委以重用。一年多後，恢復納言官職。他與左翊衛大將軍 宇文述、黃門侍郎 裴矩、御史大夫 裴蘊、內史侍郎 虞世基參掌朝政，當時稱他們爲“五貴”。
到遼東之役時，蘇威以本職兼任左武衛大將軍，升任 光祿大夫，賜寧陵侯爵位。這一年，晉封房國公。蘇威因自己年老，上表請求退休，隋煬帝不允許，又讓他以本官兼掌選舉之事。第二年，隨隋煬帝征討遼東，任右御衛大將軍。
楊玄感造反，隋煬帝把蘇威請到軍帳中，面有懼怕之色，對蘇威說：“這個小孩很聰明，怎能不成爲國家的憂患呢?”蘇威說：“那些明辨是非、審視成功的人，纔是聰明人。楊玄感粗鄙簡單，不是聰明人，不必爲他憂慮。但是這恐怕會成爲出現禍亂的開頭。”蘇威見天下勞役不息，百姓思亂，略微用這些話諷喻隋煬帝，隋煬帝卻並不因此領悟。
隋煬帝回到 涿郡，下詔蘇威安撫關中，任命蘇威的孫子尚輦直長蘇儇爲副使。他的兒子 鴻臚少卿蘇夔，之前擔任關中主管人事任命的重要官職，一家三人，都奉命出使關中，關中 三輔的人都引以爲榮。大業九年(612年)，隋煬帝親下手詔說：“玉石因爲光潔玉潤，塗描不能改變它的性質;鬆挺拔於寒冬，霜雪不能減弱它的光彩。這就是所謂的溫仁與勁直，這是本性如此吧。房國公蘇威氣質襟懷溫良寬宏，見識博雅氣度宏大，早年在朝廷中擔任重要職位，熟悉國家的典章制度，是先皇帝的舊臣，朝廷的老前輩。他是國家的棟樑，輔佐我十分辛勤，遵守法律法規，自謙以遵守禮儀。過去漢朝有三傑，輔佐惠帝的是蕭何。周朝有治理能臣十人，輔佐 成王的是邵公奭。國家的寶貝，在於得到賢人，參預治理國家，他們是星光和臺階，可供人們作爲依據。雖有涉及爭論的事情，最終總會澄清，衡量時事事物，仍爲朝廷爲要，可讓他任 開府儀同三司，其餘官爵不變。”蘇威當時被尊重的程度，大臣中無人可與他相比。
隋末免官
大業十一年(614年)，隋煬帝巡幸 雁門，被突厥包圍，情況十分危急。隋煬帝想以輕騎突破重圍出去，蘇威勸告說：“守住城池我們有餘力，輕騎突進是敵方所擅長。陛下是萬乘之主，怎能輕易冒進?”煬帝於是作罷，所幸突厥不久也解圍離去。隋煬帝車駕到太原，蘇威對他說：“現在盜賊不止，士兵馬匹極度疲憊，希望陛下回到京城，鞏固朝廷加強國力，謀劃朝廷 社稷大事。”隋煬帝本來認可他的意見，最後卻又聽從宇文述等人的提議，去了東都洛陽。
當時天下大亂，蘇威知道隋煬帝不可改變，心中很擔憂。剛好隋煬帝問侍臣有關盜賊的事，宇文述說：“盜賊的確很少，不足爲慮。”蘇威不會說假話，於是便藏到宮殿柱子後面。隋煬帝問蘇威的意見，蘇威說：“我不管這事，不知盜賊多少，只擔心他們越來越近。”隋煬帝說：“怎麼講?”蘇威說：“盜賊以前佔據長白山，現在近在 滎陽、 汜水一帶。”隋煬帝不高興便不再問了。不久適逢五月初五，百官獻禮，多獻珍寶奇玩。蘇威獻上一部《 尚書》，旨在勸誡隋煬帝，煬帝更加不滿。後來又問他討伐遼東之事，蘇威說，希望能赦免羣聚的盜賊，讓他們討伐高麗，隋煬帝因此更加惱怒。
御史大夫裴蘊明白隋煬帝心意，讓 白衣張行本告蘇威往日在 高陽郡主持選拔官員時，濫授別人官職，又說他害怕突厥，請求回到京師，隋煬帝下令調查這些事。案件議定之後，隋煬帝下詔說：“蘇威生性熱衷於朋黨，好爲異端，心中懷揣旁門左道，貪圖名利，污衊國家法令，誹謗朝廷官員。多年征伐外國，是爲了尊奉先皇的遺志。凡有詢問等事，朝臣們都能毫無保留的陳述意見，只有蘇威不表示態度，作爲人臣發揮正義的天職，怎麼能這樣呢?恭對諮詢的心意，是何等的涼薄!”於是解除了他的官職，將他貶爲庶民。
坎坷晚年
過了一個多月，有人告蘇威與突厥勾結陰謀舉事， 大理寺因此審問蘇威。蘇威自己申辯說，他侍奉二朝三十多年，精誠所至不能讓皇帝知道，各種錯誤接連不斷，罪該萬死。隋煬帝憐憫而開釋他。義寧元年(616年)皇帝巡幸 江都行宮時，蘇威隨行，煬帝想要重新起用蘇威，裴蘊、虞世基上奏稱，蘇威昏聵衰老而且多病，隋煬帝這才作罷。
大業十四年(617年) 宇文化及叛逆弒君後，任命蘇威爲光祿大夫、開府儀同三司。宇文化及失敗，蘇威歸附了 李密。不久李密也失敗，蘇威有回到了東都。越王 楊侗任用他爲上柱國、邳國公。 王世充僭越稱帝，任命他爲太師。蘇威認爲自己是隋朝老臣，遭遇戰亂，所進過之地，都是隨機而處，以希望獲得收容豁免。
武德四年(621年)，秦王 李世民平定王世充，在東都皇宮閶闔門內理政，蘇威請求拜見，自稱年老有病不能下拜。秦王派人責備他說：“你是隋朝 宰輔，國家政治昏聵你不能匡救，遂使生靈塗炭，國君被弒殺，國家滅亡。你見到李密、王充，都要拜伏舞蹈行君臣大禮。如今你既然老病，那就不勞煩相見了。”不久他回到長安，到朝廷請求拜見，還是未被允許。
武德六年(623年)，蘇威在家去世，享年82歲。
