万历十一年(1583年)正月，王杲之子阿台(努尔哈赤的舅父欲为其父报仇，在古埒城起兵反明。二月，明军在苏克素户部图伦城主尼堪外兰的引导之下，攻占古埒城，阿台被杀，可是随明军前往的觉昌安、塔克世在城中遭误杀。明迁为了报偿，授努尔哈赤为建州左卫指挥使，而努尔哈赤把祖父二人遇害，归罪于尼堪外兰。当时建州女真分为建州和长白山两大部，建州有五部，即苏克素护部、浑河部、完颜部董鄂部、晢陈部；长白山有三部，包括讷殷部、鸭绿江部、朱舍里部这些部下又有许多部落城主，互不统属，各自占地称雄。

是年五月，努尔哈赤率部进攻尼堪外兰的图伦城，并约萨尔浒城主诺米纳来会战，由于诺米纳背约，走漏了消息，虽然攻占图伦城，但是尼堪外兰却逃往嘉班城，因诺米纳再次给尼堪外兰通风报信，使他又一次逃脱，奔往鹅尔珲城。努尔哈赤两次兴兵以图复仇，皆未得手，所以非常痛恨诺米纳此时诺米纳认为自己势力强于努尔哈赤，不把他放在眼里。故遣使阻止努尔哈赤攻打浑河部的杭嘉、扎库木二城，并要他夺取栋嘉、巴尔达两城相送。因此，努尔哈赤更加恼恨诺米纳，为了搬掉这块绊脚石，设计诱杀了诺米纳，占领萨尔浒城。

这时浑河部兆嘉城主理岱，联合哈达兵，无端劫掠努尔哈赤管属的瑚济寨。因而他暂时停止对尼堪外兰的追击，于是万历十二年(1584年正月，率兵一举攻占兆嘉城，生擒理岱。与此同时，努尔哈赤的妹夫嘉木湖城主噶哈蓍被族人萨木占杀害，凶手萨木占畏罪逃往玛尔墩城。六月，努尔哈赤为了给噶哈善报仇，率军攻破玛尔墩城，杀死萨木占。董鄂部首领阿海看到努尔哈赤的势力壮大，十分不安，企图兴兵歼之，努尔哈赤得知后，便先发制人，九月初，领兵攻打阿海居住的齐吉达城，久攻不下，只好还师。回军途中，应完颜部首领孙扎秦光衮的请求，进兵翁鄂洛城，在战斗中不幸身负两箭，带伤退回赫图阿拉。

不久，他伤愈后，领兵攻占翁鄂洛城，收抚了前次射伤他的勇士鄂尔果尼、洛科人，各赐官爵，加以厚养万历十三年(1585年)二月，努尔哈赤进兵界凡城，大败界凡、栋佳、巴尔达、萨尔浒四城联军，在太兰岗射死界凡城主巴穆尼。四月努尔哈赤领兵征哲陈部，又败托漠河、张佳、巴尔达、萨尔浒、界凡五城联军。

九月，努尔哈赤攻占安图瓜尔佳城，城主诺谟珲被杀，接着又攻克浑河部的克贝欢城和晢陈部的托漠河城。因此，努尔哈赤的势力大增，于是万历十四年(1586年)七月，率领大军征讨尼堪外兰盘据的鹅尔珲城，尼堪外兰闻讯逃往明营躲藏，努尔哈赤派人向明营索取尼堪外。明朝边将认为尼堪外兰已是丧家之犬，留着无用，将此意告知努尔哈赤，努尔哈赤命部将斋萨赴眀营杀了尼堪外兰，报了杀害祖、父之仇。

万历十五年(1587年)八月，努尔哈赤遣额亦都率军攻取晢陈部的巴尔达城。然后，他又亲领大军攻占哲陈部的洞城，灭了哲陈部。万历十六年(1588年)四月，苏完部长索尔果，董鄂部首领何和理，雅尔古部长扈拉瑚等，先后率众归附。九月，努尔哈赤率兵攻克完颜城，灭了完颜部。这样努尔哈赤用五年多的时间，统一了建州女真本部，于是“环满洲而居者，皆为削平，国势日盛”。接着，努尔哈赤又于万历十九年(1591年)正月，兼并长白山的鸭绿江部。至此，努尔哈赤统辖区域，西起抚顺，东至鸭绿江，北接开原，南连清河，建州女真的大部分。