百里奚飽讀詩書，才學過人，可是家境貧困，加上虞國宗法制度森嚴，平民沒有希望入仕爲官。百里奚的妻子杜氏是個很有見識的女子，深知自己丈夫是曠世奇才，於是就鼓勵百里奚出遊列國求仕 。
在百里奚出遊那天，家中已經揭不開鍋了。杜氏一大清早起來，宰殺了唯一的一隻下蛋母雞，劈了門閂燉母雞，煮小米飯，給丈夫餞行。
百里奚從南陽出遊求仕後，歷經宋國、齊國等國家，因爲朝堂裏無人，都沒有得到錄用。在齊國，百里奚陷入困境，一度沿街乞討，繼續求仕生涯。在齊國郅地，他遇見了蹇叔，兩人一番高談闊論，就結爲知己。
此後，在蹇叔的舉薦下，到虞國當了個大夫。但虞國國君是個愛財如命的國君，在收了晉國的垂棘（垂棘地方產的寶玉）和寶馬等財物以後，就答應借道路給晉國，讓晉國途徑虞國去征討自己的鄰國虢國，也是虞國的同姓兼同盟國。百里奚對虞國國君述說脣亡齒寒的道理，在勸說無效的情況下，閉口不再勸諫，並對同僚宮之奇說：“對蠢人直言相勸，無異於把珍寶丟棄在路上。” 果然，晉國滅虢國後，把矛頭指向虞國。
公元前655年，晉國（獻公）滅掉虞國，俘虜了虞國君及其大夫百里奚。由於他拒絕在晉國做官，被晉國充作奴隸（媵人），在穆姬嫁給秦穆公時候，陪嫁到秦國。百里奚在去秦國的途中，逃回到楚國。
楚國國君楚成王聽說百里奚善於養牛，就讓百里奚爲自己養牛。剛當上秦國國君的秦穆公，名字叫任好，是一位胸有大志的國君，聽說了百里奚是人才，就想重金贖回百里奚。秦穆公的謀臣公子縶說：“那楚成王一定是不知道百里奚的才能，才讓百里奚養牛。若用重金贖他。那不就等於告訴人家百里奚是千載難遇的人才嗎？”秦穆公問：“那我該怎麼樣才能得到百里奚？”公子縶說：“可以貴物賤買，用一個奴隸的市價，也就是五張黑公羊皮來換百里奚。那樣楚成王就一定不會懷疑了。”
當百里奚被押回秦國後，秦穆公親自接見了百里奚。百里奚說：“我是亡國之臣，哪裏值得國君垂詢！”穆公說：“虞君不用你，才使你被擄，並不是你的過錯。”秦穆公親自解除了他的奴隸身份，並與他商談，討教國家大事。兩人一談就是三天，言無不合。穆公十分高興，要拜其爲上大夫（上卿），委以國政，實際上就是把秦國的軍政大權都交給了百里奚。百里奚堅決辭讓不受，並推薦自己的好友蹇叔當上卿。最後，秦穆公就讓他用很重禮，將蹇叔請來秦國，讓他和蹇叔一道做秦國的上大夫。因百里奚是秦穆公用五張黑公羊皮換回來的奴隸，故世人稱百里奚爲“五羖大夫”。羖，就是黑公羊皮的意思。
秦穆公用五張黑公羊皮換來了大能人百里奚，封他做秦國的上大夫，即秦國的宰相。
百里奚曾經顛沛流離，篳路藍縷，歷經艱辛，十分了解民間的疾苦，他主政後尊民愛民，勤勉政事，即使勞累也不坐車，酷暑炎熱不打傘，在國內巡遊不帶隨從，不設武裝防衛，獲得了秦國人民的信賴。
百里奚將安撫、教化、緝和境內各民族，發展生產，充實國力放在了首位。爲官爲政，不貪戀權勢，不貪圖富貴，而是要大濟天下蒼生。他敬惜民生民力，鼓勵民衆開邊墾荒，提倡教化，開啓民智，並按照周朝的官制和朝儀，改變了秦國落後的國體，將中原先進科技文化、政治和耕作技術散佈於境內各民族。
在百里奚的勵精圖治下，秦國府庫充盈，百姓安樂，秦國短期內便得到了大治，境外的巴、戎等少數民族爲秦國威勢所懾服，紛紛歸順親附。
一時間，百里奚成了秦國最受尊敬的人。
然而，百里奚並不快樂。每當忙完了繁瑣的政務，每當日落，每當暮色四起，就有一種濃重的寂寞和孤獨襲上他的心頭。
他還是那麼懷念生死未卜的老婆孩子，有時，屋子裏已經很黑了，他也不許下人點燈火，他一個人端坐在黑暗中，辨認着黑的顏色、品嚐着黑的滋味，聽着自己的心音，自己跟自己說話。老婆啊，你到底在哪兒？孩子啊，你過得怎麼樣？
一天夜裏，百里奚同樣在屋子裏端坐，百無聊賴。
院子裏相府的樂工在撥弄着琴絃，叮叮咚咚，有一搭沒一搭。
不知什麼時候，琴音一變，嗚嗚咽咽，如泣似泣，並伴有歌聲響起：
百里奚，五羊皮！憶別時，烹伏雌，舂黃齏，炊扊扅。今日富貴忘我爲？
百里奚，五羊皮！父樑肉，子啼飢，夫文繡，妻澣衣。嗟乎！富貴忘我爲？
百里奚，五羊皮！昔之日，君行而我啼，今之日，君坐而我離。嗟乎！富貴忘我爲？
一開始，百里奚並不怎麼留意，待聽清楚了歌聲裏有自己的名字，便豎起耳朵細聽，漸漸聽清了歌詞大意，似乎是指責百里奚忘恩負義，只知道自己享樂，忘記了老婆孩子。
百里奚越聽越不對勁，歌裏唱有離別時殺老母雞、砍門閂做柴的細節，這、這唱歌的人是誰啊？莫不成，是、是……她？百里奚再也坐不住了，踉踉蹌蹌地從黑暗的屋子裏衝出，直奔大院，嘴裏哆哆嗦嗦地叫道，老、老婆，是、是你嗎？
院子里正在撫琴唱歌的是一個頭發花白的老婦人，聽了百里奚的呼喚就止住了手，擡起了頭，顫抖着聲音說，老頭子，是你嗎？
這個老婦人正是百里奚分別了四十多年的結髮妻子杜氏！
原來，杜氏自丈夫離別之後，家鄉遭遇上了災荒，沒奈何，只好帶上兒子外出逃荒，風霜江湖、含辛茹苦。這年流落到秦國，聽說秦國有一個人人敬重的大夫名字也叫百里奚，驚喜之餘，也有些擔心，擔心這個百里奚只是跟自己的丈夫同名同姓而不是自己的丈夫。於是，她設法到百里奚府中當了洗衣的傭人，希望能見到大夫百里奚，好好認一認，到底是不是自己的丈夫。恰巧遇上了樂工弄琴，就大起了膽子，借了琴，自彈自唱，指責大夫百里奚拋妻棄子，以引他出來相認。
夫妻兩人相見，當場就抱頭痛哭起來。
秦國上下知道了這件事，都爲百里奚不忘舊情的品質所感動。
秦穆公也特意送來了許多財寶饋贈，以示祝賀。
百里奚的兒子孟明視已經四十開外，長得堂堂一表、凜凜一軀。秦穆公心中喜歡，將他拜爲大夫，與蹇叔的兩個兒子西乞術、白乙丙合稱“三帥”，掌管秦國軍隊。
