黄祖是江夏安陆人，据说是名臣黄香之后，在江夏也算是豪强了。刘表出任荆州牧以后，任命黄祖为江夏太守，就是希望借用他的力量镇守江夏，保护荆州的东大门。

初平二年，也就是公元191年（也有说法是初平三年，公元192年）四月，袁术让孙坚出兵攻打荆州，刘表则命黄祖率军在樊城、邓县之间迎战。两军交锋以后，黄祖不敌孙坚，大败而走，逃入了襄阳城中。孙坚乘胜追击，将襄阳城包围了起来。刘表一面坚守城池，一面让黄祖偷偷出城调集援兵，可惜黄祖带兵回来以后还是打不过孙坚，再次被击败。只是谁也没想到，黄祖败逃到岘山之中时，率兵追击的孙坚却在战斗中被暗箭射中而死，失去指挥的孙坚军陷入混乱，黄祖趁势反击，反败为胜。

孙坚也是东汉末年的名将之一，黄祖此战取胜虽然有几分运气因素，但是也非常不易了。可是这么一来黄祖也就和孙家结下了死仇。孙策、孙权占据江东以后，为了替父报仇，同时也是为了扩张地盘，几次出兵攻打江夏：

建安四年（公元199年），孙策出兵击败庐江太守刘勋，占领了庐江。随后孙策又继续进兵攻打江夏，刘表命侄子刘虎等人率军前去接应黄祖。两军在沙羡交战，孙策大获全胜，俘获黄祖的妻妾子女七人，斩杀刘虎、韩晞等人以下两万多人，另外黄祖手下士卒有一万多人溺水而亡，缴获各类船只六千多艘，物资堆积如山。

获其妻息男女七人，斩虎、（狼）韩晞已下二万馀级，其赴水溺者一万馀口，船六千馀艘，财物山积。

建安八年（公元203年），孙权出兵西征江夏，和黄祖水师在江上展开大战，并取得了胜利。不过随后黄祖坚守不出，孙权一时无法破城。不久后方发生叛乱，孙权回师平叛，黄祖得以躲过一劫。

八年，权西伐黄祖，破其舟军，惟城未克，而山寇复动，还过豫章。

建安十二年（公元207年），孙权再次攻打江夏。大概这一次黄祖没敢出击，双方并没有实际交锋，所以史书上没有提及两军交战结果，只说孙权俘获了部分百姓以后退走。

十二年，西征黄祖，虏其人民而还。

建安十三年（公元208年），孙权第三次出兵攻打江夏。黄祖命水师迎战，都尉吕蒙率先击破江夏水军前锋，凌统、董袭等人也奋勇向前，黄祖大败，江东军趁势破城。黄祖落荒而逃，被骑士冯则追上杀死，枭首而回，江东军大胜而归。

十三年春，权复征黄祖，祖先遣舟兵拒军，都尉吕蒙破其前锋，而凌统、董袭等尽锐攻之，遂屠其城。祖挺身亡走，骑士冯则追枭其首，虏其男女数万口。

孙权得到黄祖的首级后，用其祭奠了亡父孙坚，也算是报了当年杀父之仇。所以黄祖的结局有些悲催，不过正所谓将军难免阵上亡，这也算是乱世之中武将的常态了。