府兵具有中央禁衛軍性質，番上宿衛的府兵“十五日上，則門欄陛戟，警晝巡夜;十五日下，則教旗習戰。無他賦役”。隨著中央集權制的加強，北周武帝建德二、三年間(573～574)改府兵軍士為“侍官”，意思是侍衛皇帝，表明府兵是皇帝的親軍，不隸屬國。同時，又廣募漢民入伍，免其服役。一人充當府兵，全家即編入軍籍，不屬州縣。軍人及其家屬居城者置軍坊，居鄉者為鄉團，置坊主、團主以領之。這種軍民異籍的制度直到隋代才改變。隋文帝楊堅開皇十年(590)下詔：“凡是軍人可悉屬州縣，墾田籍帳，一與民同，軍府統領，宜依舊式。”這是個劃時代的改變，標志著兵農合一的完成，但府兵本身歸軍府統領的組織系統不變。

唐初一度恢復驃騎﹑車騎府舊稱。貞觀十年(636)外府更號折沖府，內府更號中郎將府。折沖府置折沖都尉﹑左右果毅都尉、別將(后置)，作為府一級的將領。武后垂拱時府分三等。早自北周武帝時，府兵番上宿衛，分隸于中央的司衛、司武、武候三府。

隋初，左右衛、左右武衛、左右武候六個府各領軍坊、鄉團，統率府兵，繼承周制。煬帝統治時，原先不領府兵的衛或府也都加領，這樣領府兵的就有翊衛(左右衛所改)、驍衛(備身府所改)、武衛、屯衛(領軍府所改)、御衛(加置)、候衛(武候府所改)，各分左右，共十二衛。

唐代因襲隋制，只是改屯衛為威衛、候衛為金吾衛、別置領軍衛、廢御衛、也是十二衛分領府兵宿衛(見十六衛)。此外，自北周、隋以來，領府兵的還有侍衛東宮的率府，唐代為左右衛率、左右司御率和左右清道率，稱為東宮六率，但領府很少。

內府置中郎將，副為左右郎將，以下團﹑旅﹑隊的設置略同外府。內府有親﹑勛﹑翊的區分，兵士分別號為親衛、勛衛、翊衛，合稱三衛。統領內府三衛兵的是：左右衛，統親府一、勛府二、翊府二，共五府;左右衛率，統親、勛、翊府各一;其余衛、率，各統翊府一。

內府衛士取二品至五品官的子孫充當，外府衛士取六品以下官的子孫及白丁無職役者。在此范圍內，征發原則是先富后貧，先強后弱，先多丁后少丁。府兵雖然包括官僚子弟和一般地主，但仍以均田農民為主體。

府兵制創立以后，規定三年一揀點以補充缺額(玄宗時改為六年)，其服役期限為二十一歲至五十九歲(玄宗時曾有縮減)。服役期間，府兵本身免除課役，但軍資、衣裝、輕武器(弓箭、橫刀)和上番赴役途中的糧食、均須自備。每一火(一火十人)還得共備供運輸的馬六匹(或用驢)，即所謂“六馱馬”。自備資裝對于農民是沉重的負擔。