明朝永乐元年，成祖派使者赴奴儿干招抚，当年各部归顺，次年设立指挥同知等职位。随后数年间，明朝逐步在黑龙江、乌苏里江流域建立一百三十一个卫戍，并于永乐七年根据官员忽剌修奴的建议，在黑龙江口成立都指挥使司，以康旺为都指挥同知、王肇舟为指挥佥事。奴儿干，又称耦儿干或努而哥，是中国东北地区的一个古老地名，因其山川如画，被清人称作尼噜罕。
奴儿干都司是明朝在黑龙江下游设置的最高地方军政机构，其历史可追溯至洪武八年的辽东都指挥使司。在洪武二十八年，总兵官周兴进军到脑温江、忽刺温河和斡朵怜一带，始建卫所制并设立了指挥使和千户。永乐七年的升级更迭中，奴儿干卫被提升为奴儿干都指挥使司，即“奴儿干都司”，驻扎于原来的元朝征东元帅府遗址附近。
作为地方最高一级的军政合一机构，不仅直隶中央政府，而且经常接受钦差大臣巡视。此外，由太监亦失哈自1411至1433年的22个春秋内，有10次专程视察，都司及下属单位，并对官员授予职位印信，以及赏赐衣物钱财。此外，在此期间，还曾修建了永宁寺，并留下两块石碑纪念——敕建永宁寺记和宣德八年重建永宁寺记，而今这两块石碑已收藏于俄罗斯海参崴博物馆。
