百里奚，源于姬姓，是周朝开国始祖古公亶父次子虞仲的后代，以其居住地百里乡而得名“百里奚”。尽管他流淌着高贵的血脉，但传至百里奚这一代，家族已经衰落，身处楚国严格的宗法制下，尽管他满腹经纶，才智出众，但由于家庭贫困，始终未能进入仕途。
百里奚的妻子杜氏深明大义，深知丈夫才华横溢却不得施展，她鼓励百里奚离开楚国，遍游列国以求遇明主赏识。临行之际，家中贫困，杜氏忍痛宰杀了家中唯一的母鸡，为丈夫践行。
百里奚踏上漫漫求职路，历访宋、齐等多个国家，但由于贫穷无援，始终未能获得官职，钱财也渐渐耗尽。在齐国流浪时，百里奚甚至沦落到沿街乞讨的地步，但他始终坚持不懈追求自己的政治抱负。在齐国郅地乞讨时，他偶遇了蹇叔，蹇叔被他的谈吐气质所吸引，收留了他，并与他结为莫逆之交。当百里奚意图在齐国君主门下任职时，蹇叔及时阻止了他，避免了后来齐国内乱导致的杀身之祸。后来，百里奚又凭借卓越的养牛技艺在周地引起周王子的关注，准备授予官职，但蹇叔再次劝止了他，使他躲过了可能的灾难，这让百里奚深感蹇叔的智慧超群。
百里奚后来在虞国担任大夫一职，深知虞公并非明智的君主，但迫于生计，他还是选择了留在虞公身边。虞公贪图晋国贿赂的宝马美玉，答应借道给晋国攻打邻国虢国。百里奚极力劝阻，警告虞公此举将引火烧身，但虞公不予采纳，百里奚只得保持沉默。尽管虞国另一位大臣宫之奇继续劝谏，虞公仍一意孤行，最终导致晋国灭虢后反过来攻打虞国，百里奚与虞公均成为晋国的俘虏。
晋献公听闻百里奚的才智，有意重用他，但百里奚拒不接受。彼时，秦穆公为实现称霸中原的宏图，向晋献公求婚，晋献公遂将女儿穆姬许配给秦穆公。百里奚不愿为晋效力，因此被当作穆姬的陪嫁奴隶送往秦国。但在前往秦国途中，他设法逃离，回到了楚国。
在楚国边境，百里奚被捕，误以为他是奸细。他声称自己是在虞国替富豪人家养牛，因虞国覆灭而逃难至此。当时的百里奚已是六七十岁的老者，楚国士兵见他并无奸细之嫌，便留下他养牛。百里奚饲养牛羊的技能出色，很快名声在外，甚至连楚成王都知道他善于养牛，于是请他来为自己养牛。
秦穆公娶穆姬后，得知陪嫁奴隶百里奚逃跑，起初并未在意。直到一名来自晋国投奔楚国的武士公孙枝告知他，百里奚乃难得一见的贤才。秦穆公立刻派人四处寻找百里奚，决心将他带回秦国。
公孙枝建议，鉴于楚成王尚未察觉百里奚的真实才干，若秦国用重金赎回，恐会引起楚王的警觉，不愿意放人。因此，公孙枝提出以贱价——五张黑公羊皮作为赎金，这样既能消除楚王的疑虑，也能顺利赎回百里奚。秦穆公采纳了这个建议，派人到楚国，声称秦国有一名叫百里奚的奴隶逃至楚国，请求以五张羊皮赎回治罪。楚王觉得此人只值五张羊皮的价格，便毫不犹豫地答应了秦国的要求，命人将百里奚装入囚车，交给秦国使者带走。
当须发皆白的百里奚被押回秦国时，秦穆公亲自迎接，解开他的枷锁，以礼相待。秦穆公与百里奚探讨国事，百里奚自谦为亡国之臣，不便多言。然而穆公坚信，虞公未能重用他才是导致虞国灭亡的原因，并坚持向百里奚请教治国之道。两人连续交谈三天，百里奚提出，秦国虽地处偏远，但兵强马壮，地势险要，宜攻宜守，应充分发挥这种优势，相机而动。秦穆公对百里奚的见解深感赞同，欲任命他为上大夫（相当于相国），主持秦国的军政事务。但百里奚婉拒，并举荐好友蹇叔。秦穆公遵从百里奚之荐，用丰厚礼品迎蹇叔至秦国，并任命百里奚为左庶长，蹇叔为右庶长，合称“二相”。
百里奚入秦辅佐秦穆公，一方面在国内推行教化，启迪民智，按照周朝官制和礼仪改造了秦国陈旧的体制；另一方面对外主张和平共处，使百姓安心农耕和发展经济，短短时间，秦国即实现大治，从一个偏远小国跃升为足以与晋、楚抗衡的春秋时期的强国，为日后秦国兼并六国，统一华夏大地奠定了基石。
由于百里奚是用五张黑公羊皮赎回的，世人遂称他为“五羖大夫”。这段“五羖皮换贤臣”的故事，成为了千古流传的美谈。