北府军，又名北府兵，是中国东晋时谢玄主持创立的一支军队，一开始权力几乎只属于陈郡谢氏家族，后数度易主，并成为南朝军队主力。东晋孝武帝太元二年（377年），由于前秦已一统北部中国，东晋王朝受到空前的军事压力，因此诏求良将镇御北方。当时的重臣谢安遂任命其侄子谢玄应举。朝廷任命谢玄为建武将军、兖州刺史、领广陵相、监江北诸军事，镇广陵。其时广陵和京口聚居着大量逃避北方战乱而来的流民，谢玄到任后，在这些人中选拔骁勇士卒如刘牢之等，建立了一支军队，太元四年（379年），谢玄改镇京口，因为当时京口又名北府，故而其军得名北府兵。太元八年（383年），北府军在淝水之战中一举击败前秦大军，乘势追击，刘牢之一度追到邺，北府军从此一战，史上留名。太元十二年（387年），谢玄被解除了北府军的领导权，司马恬、王恭先后代之，北府军军阀化。晋安帝隆安元年（397年），王恭率北府军起兵反晋，次年刘牢之杀之，代之为北府军领袖。

魏晋时期，京口实则仍是贫瘠荒凉之处，但有长江作为有效屏障，因而南渡流民因为财力匮乏、势单力薄，抵达可落脚的安全之地后便无力南行。京口与北方十分接近，因而流民纷纷组成武装军队，以防御异族南下。在王敦之乱时，郗鉴就以此地流民帅军队平乱拱卫晋室。

京口重镇的地位自苏峻之乱后日益凸显，为了控制三吴经济要地，拱卫京师，郗鉴被任命为八郡都诸军事，节度浙东的王舒之军和浙西的虞潭之军。郗鉴以及其家族开始经营京口，使之成为荆扬之争中建康的有力后盾。北府兵在东晋后期能有举足轻重的地位，实赖自郗鉴起的长期经营，谢玄在短期内并不能组建这样一支足以左右南北关系的军队。

为充实长江下游的军事力量，拱卫首都建康和抑制上游桓氏势力东山再起，抵御前秦南下等，谢安打算重新规整北府军队。孝武帝太元二年（377）十月，朝廷任命谢安侄子谢玄为南兖州刺史，负责筹组新军。谢玄随即把南兖州的军事治理机关从京口（今江苏镇江市）移到广陵（今江苏扬州市），募集流民帅，组建北府兵，兼招募徐、青、兖三州流民。当时彭城（今江苏徐州市）刘牢之等数人以骁勇应选，谢玄任命刘牢之为参军，率领精锐作为前锋。因为晋朝百姓称京口为北京，所以当时人称这支军队为“北府兵”。北府兵虽然组建匆忙，并无精良装备，亦无正规训练，但是因为流民帅长期率领军队与北方异族作战，军事力量不容小觑，三州南渡流民在落户之前皆是半武装性质，颇为强劲，因而北府兵的整体实力十分可观。且太元四年（379）五月，前秦兵俱难、彭超部进攻淮南，并包围三阿。北府兵援救三阿，一战告捷，迫使前秦兵向北退逃。太元八年（383）淝水之战，北府兵更是表现神勇，成为击败前秦的中坚力量。北府兵的军事实力使它成为各政治集团争夺的对象，北府将领也成为左右东晋政局的重要力量。

王夫之关于北府兵建立的论述：“谢安任桓冲于荆、江，而别使谢玄监江北军事，晋于是而有北府之兵，以重相权，以图中原，一举而两得矣”。桓和谢是东晋四大门阀之二，所以两者既有争权夺利的冲突，也有维护士族阶层权益的本能。从东晋政府整体的利益出发，谢安很好地处理了中央与地方藩镇的关系，平衡了谢桓两大家族的力量。

东晋所辖境土主要为荆、扬二州。荆州位居上游，地广兵强，是防止北方南下的重要据点，设有强有力的都督府，“资实兵甲，居朝廷之半"。扬州为京畿之所在，乃立国根本。三吴及浙东是谷帛的重要基地。但是“建邺拥天子以为尊而力弱，荆襄挟重兵以为强而权轻”（读通鉴论），这种“枝强干弱”的局面，就成为荆扬之争的根源。

继督荆州的桓冲把扬州的军权让给谢安，双方互相协作，出现了“君臣和睦，上下同心”的局面。面对咄咄逼人的北方，谢安深知原来的世兵制军队腐败不堪，根本对付不了前秦的军队，于是选派“有经国才略”的侄子谢玄为兖州刺史，监江北诸军事，北镇广陵，组建北府兵。

北府兵是在太元二年（377）十月，谢玄拜建武将军、兖州刺史领广陵相、监江北诸军事时组建的。《资治通鉴》孝武帝太元二年十月载：“玄募骁勇之士，得彭城刘牢之等数人，以牢之为参军，常领精锐为前锋，战无不捷。时号北府兵”。《晋书刘牢之传》则对此记载较详：“太元初，谢玄北镇广陵，时苻坚方盛，玄多募劲勇，牢之与东海何谦、琅琊诸葛侃、平安高衡、东平刘轨、西河田洛及晋陵孙无终等以骁勇应选。选以牢之为参军，领精锐为前锋，百战百胜，号为北府兵，敌人畏之”。

这里两个问题，第一，北府兵之得名由来。《通鉴》胡三省注：“晋人谓京口为北府。谢玄破俱难等，始兼领徐州。号北府兵者，史终言之”。谢玄太元二年为兖州刺史，领广陵相、监江北诸军事，开始招募军队；太元四年，打败后秦在淮南的进攻，进号冠军将军，加领徐州刺史。于是他统帅的这支军队便正式称作北府兵。其实，北府之名起自东晋之初。《世说新语》卷六排调第二十五注引《南徐州记》曰：“旧徐州都督以东为称，晋氏南迁，徐州刺史王舒加北中郎将，北府之号，自此起也”。据《晋书 王舒传》：王舒在宣城公司马裒（póu）死后，即代裒镇除北中郎将监青、徐二州军事。 据《晋书 元帝纪》与《通鉴》卷九十，司马裒为都督青、徐、兖三州诸军事，镇广陵，事在建武元年（317）三月，同年十月薨，王舒代裒镇广陵当在此时。时元帝尚称晋王，次年三月才即帝位，说明北府之号起自东晋之初。钱大昕《廿二史考异》卷二二《王恭传》：“都督以北为号者累有不详”条下云：“按徐、兖二州都督以北为号，故有北府之称”。说明北府兵名称的由来，是由于南徐、南兖二州都督以北为号。诚然，徐兖二州都督并不一定都以北为号，徐兖二州都督或刺史的治所也有广陵、京口、下邳、淮阴、金城、合肥等处的不同。但自东晋初王舒以徐州刺史加北中郎将镇广陵后，徐兖二州都督或刺史习惯上一般都以加北为军号；广陵、京口作为北府镇所的次数也最多，因此东晋人按习惯均可称徐兖二州都督府为北府。然此时广陵和京口镇府所辖之兵，虽为北府之兵，却并不是后来特称的北府兵。直到太元二年谢玄以京口、广陵为基地招募组建起来的新军，才在历史上特称为北府兵。第二，北府兵的人员组成。北府兵既然是以京口、广陵为基地组建而成的，而京口和广陵所在的南徐州和南兖州是东晋北来侨民最多的地区，仅南徐州所属就包括徐、兖、冀、青、幽、并、扬七州郡邑，侨寓人口计二十二万之多，超过当地居民二万余。