在中国历史的东晋时期，孝武帝初年，由谢玄组建并训练的一支精锐军队名为北府兵。太元二年（377年），朝廷因前秦强大，诏求文武良将镇御北方。当时，当国以兄子谢玄应举。朝廷拜玄建武将军、兖州刺史及领广陵相、监江北诸军事，并镇广陵。徐（治京口）、兖（治广陵）二州本是北来侨民的集中地，“人多劲悍”，富于战斗经验。桓温曾说：“京口酒可饮，箕可用，兵可使。”谢玄召募劲勇，徐、兖人民纷纷应募入伍，其中有彭城刘牢之、东海何谦、琅琊诸葛侃、高衡等骁勇者。
太元四年，谢玄加领徐州刺史，并镇京口。东晋称京口为“北府”，因此这支军队被称为北府兵。这支建立不久的军队，在抗御前秦屡立战功。在淝水之战中，他们发挥了主力军的作用。此后，他们乘胜北伐，再次收复今河南和山东境内黄河以南土地。
然而，不久后，这些将领中的权力斗争开始显现。一段时间里，这些将领与刘裕共同参与权力的斗争，但最终只有刘裕脱颖而出成为最后一个权臣。而其他著名的北府兵将领，如毛璩、孟昶等，最终战死或被剪除，只留下了他们曾经辉煌的一幕。
