楊素是弘農(nóng)楊氏之后，家族世代為官、為將，幼年喪父，窮困潦倒。但是楊素胸懷大志，不甘平凡，發(fā)奮讀書(shū)，文學(xué)造詣深厚，受到權(quán)臣宇文戶重用。宇文戶被殺后，楊素受到牽連，不得重用。后來(lái)，他借口父親戰(zhàn)死北齊未受封，上書(shū)申訴。周武帝大怒，下令殺了他！他大聲說(shuō)，給昏君干活，死是應(yīng)該的。周武帝聽(tīng)后，饒他一命，逐漸對(duì)他刮目相看。

575年，周武帝征北齊，楊素請(qǐng)求率其父舊部為先鋒，武帝應(yīng)允。他跟隨齊王宇文憲去打仗，因功封清河縣子。576年，楊素再征北齊，多路失敗，唯楊素獲勝，屢立戰(zhàn)功，獲封成安縣公。577年，陳朝趁北周北齊交戰(zhàn)之際，奪取北周淮北地區(qū)。578年，楊素跟隨大將軍王軌討伐南陳，大破陳軍。580年，年幼的周靜帝繼位，外戚楊堅(jiān)專(zhuān)權(quán)。楊素深知楊堅(jiān)的心思，主動(dòng)投靠楊堅(jiān)，為其效力。楊堅(jiān)也知道他的才能，非常器重他。

581年，楊堅(jiān)建立隋朝，加封楊素為上柱國(guó)。584年，楊素任御史大夫。585年，楊素任信州總管（江西上饒），治理長(zhǎng)江上游，為滅陳做準(zhǔn)備。588年，楊臉任命楊廣為大元帥，楊素為行軍元帥，沿長(zhǎng)江分8路攻陳，楊素指揮水軍主力，因功封郢國(guó)公，后改封越國(guó)公。江南自東晉以來(lái)，一直被世家大族所統(tǒng)治。隋朝統(tǒng)一中國(guó)后，南方士族大為不滿，趁機(jī)反叛。一時(shí)間，江南大有土崩瓦解之勢(shì)力。面對(duì)如此嚴(yán)峻的形勢(shì)，隋文帝命楊素為行軍總管平叛。

楊素果不負(fù)眾望，終平定叛亂。592年，楊素任尚書(shū)右仆射，與左仆射高潁共掌朝政。此時(shí)的楊素位高權(quán)重，只有3人是他的尊重的，其余人等，凡是有過(guò)節(jié)的，一個(gè)也不放過(guò)。593年，隋文帝命楊素建仁壽宮。楊素為討好文帝，平山填谷，征調(diào)壯丁數(shù)十萬(wàn)，死者甚多，或被填埋，或被焚燒。宮殿建成后，隋文帝命高潁前去視察。高潁如實(shí)稟報(bào)了情況，隋文帝大怒。楊素害怕極了，請(qǐng)教封德麟。封德麟讓他去拜見(jiàn)獨(dú)孤皇后，得皇后求情，楊素不但沒(méi)有獲罪，反受褒獎(jiǎng)。

公元602年，獨(dú)孤皇后去世，墓葬的規(guī)制，多出自楊素之手。隋文帝很是滿意，大大的獎(jiǎng)賞他以及他的兒子。他的地位一天天顯貴起來(lái)，權(quán)勢(shì)熏天，生活非常的奢侈，與和珅不相上下。同時(shí)，他利用隋文帝對(duì)的寵信，大肆排除異己，樹(shù)敵太多，以至于不斷有大臣彈劾他！他雖位高權(quán)重，可隋文帝畢竟不是乾?。∷逦牡鄣弥闆r后，漸漸的疏遠(yuǎn)他，不讓他參與朝政。直到隋文帝死前，他都沒(méi)有受到重用！但是，楊素并不甘心！他又投靠了新主子，太子楊廣！

604年，楊素跟隨隋文帝去仁壽宮，時(shí)逢隋文帝病重。楊素等人入宮伺候，將文帝的病情報(bào)告給楊廣。不巧的是，這件事被文帝得知，大怒。這時(shí)，文帝的妃子告狀說(shuō)，太子對(duì)她無(wú)禮，文帝打算昭回廢太子楊勇。楊廣與楊素密謀，楊素假傳圣旨調(diào)東宮侍衛(wèi)入宮，當(dāng)晚文帝駕崩。

楊廣繼位后，升楊素為尚書(shū)令拜太子太師，封司徒，改封楚國(guó)公。606年，楊素病重，楊廣時(shí)不時(shí)派御醫(yī)去看望他，實(shí)則是盼著他早點(diǎn)死。因?yàn)樗潜敝芎退宄瘍沙爻迹桓邫?quán)重，又是楊廣的和謀者，隨時(shí)有可能威脅到楊廣。楊素心知肚明，所以，不看病，不吃藥，就這樣病死了！