楊堅之父楊忠跟隨北周太祖起義關西，因功賜姓普六茹氏，位至柱國、大司空、隋國公。薨，贈太保，謚曰桓。楊堅承襲父爵。楊堅在北周已是一人之下、萬人之上的地位。

南北朝末期，各族經過多年的融合，北方雖然還是胡人政權，但實權已被漢人掌握，楊堅即是代表。漢人世族也支持漢人重奪政權，當北周的宇文家老皇帝死掉時，只剩下孤兒寡母，楊堅就順勢奪權，并借北周余威滅掉南陳，重新統一。

楊堅，小名那羅延，本為弘農華陰人(今陜西華陰縣)，生于西魏大統七年(541年)，貴族官僚家庭出身。他的父親楊忠，曾隨魏孝武帝元修入關，輔助宇文泰建立政權有功，受封為十二大將軍之一，官至“柱國大司空”，是北周宇文氏政權的主要支持者，襲爵隋國公。楊堅的妻子獨孤氏，是鮮卑大貴族八大柱國之一獨孤信的女兒，獨孤信的另一女兒是北周明帝宇文毓的皇后。楊堅的女兒又是宣帝宇文斌的皇后。因此，楊家同宇文氏有姻親關系，北周以來即成為關隴集團中的骨干，有很高的社會地位和聲望。周天和二年(586年)七月，楊忠死，楊堅繼襲隋國公爵位，逐漸在北周政權中成為顯要人物。

周宣帝宣政元年(578午)六月，周武帝宇文邕死、其子宇文斌即位為皇帝，是為宣帝。北周政局非常不穩，“內外恐懼，人不自安，皆求茍免，莫有固志，重足累息，以逮于終。”楊堅乘機進行陰謀奪權活動。周靜帝大象二年(580年)五月，宣帝死，其子年僅八歲的宇文闡即位為靜帝，楊堅憑借自己的社會聲望、政治才能以及外祖父的身分，依靠權臣劉方、鄭詳等人入朝執政，號稱“假黃鋮左大丞相”，獨欖北周政治、軍事大權。

楊堅入朝總政后，立即把“司兵事多計略”的高穎以及名望高影響大的蘇威、李德林等人引入府內，凡事“無不與謀議，然后行之”。高、蘇二人已成楊堅的左右手，同時拉攏一批漢族官僚如韋孝寬、柳裘、皇甫績、盧賁等，和漢化較深的鮮卑貴族大官僚如元諧、元胄、宇文忻等為其附庸，結成政治實力集團。楊堅在他們的贊助策劃下，先后“革宣帝苛酷之政”，作《刑書要制》施行法制。同時又派人對梁睿、李穆、于義等一批周室勛貴和重臣“盛陳利害”，大造輿論使之由“心猶觀望”變成為“傾心相結”；目的在于既孤立周宣帝一伙，又擴大自己的政治勢力，為其奪取政權創造條件。楊堅對敵對勢力加以分化瓦解，予以各個擊破。在周宣帝死后發葬之前，他就把周室諸王以趙王宇文招將嫁女于突厥為詞，征入京師，加以控制。接著以畢王宇文賢為首的五王“陰謀作亂”，則首先“執賢斬之”，而“寢趙王之罪”，“用安其心”。其后又用陰謀手段將周室諸王全部殺光，徹底孤立宇文氏集團。對公開反抗者則堅決予鎮壓。58l年6月，相州(今河南安陽)總管尉遲迥首先起兵反抗，山東、河北地區的北周擁護者紛紛響應。在此形勢影響下，鄖州(今湖北安陸)總管司馬消難、益州(今四川成都)總管王謙亦相繼起兵，淮南、襄漢和四川廣大地區均為叛亂者所據。此間南陳亦乘機發動攻勢，西自江陵，東至壽陽(安徽壽縣)的城鎮多被攻陷。面對如此嚴重局勢，楊堅一面派遣大將賀若弼率軍反擊南陳，一面集中率兵鎮壓地方叛亂者。先后派遣韋孝寬率軍進攻尉遲迥，王誼率軍進攻司馬消難，梁睿率軍進攻王謙，僅用68天，首先平定相州叛亂，尉遲迥被迫自殺，其余兩鎮望風迅速瓦解。平定了三方叛亂，同時收復了江北失地，取得了全國勝利。楊堅政治集團在政治上、軍事上地位更加鞏固，代周奪取政權的條件更加成熟。

581年2月，在劉方、鄭譯、高穎、蘇威、韋孝寬等人直接策劃下，楊堅迫使靜帝退位，自立為帝，改國號為隋，年號開皇，建都長安(后遷都大興城)，是為中國歷史上有名的隋文帝。