永禄十一年（1568年），织田信长成功上洛后，他拥立的室町幕府第十六代将军足利义昭曾提出，希望让织田信长出任副将军。然而，这一职位却被织田信长毫不犹豫地拒绝了。信长拒绝副将军一职，首要原因当然是他不愿意重新回到室町幕府的权力体系之中，受制于幕府的名分与制度。但除此之外，信长或许也对副将军这个在幕府时代显得颇为尴尬的身份并不感兴趣。关于这一点，下面不妨说说本人的一家之言。

奈良时代，日本大和王朝开始逐步向本州岛东部扩张，并与当地原住民阿伊努人（虾夷）发生战争。为了应对持续不断的军事行动，大和王朝先后设置了镇东将军持节大将军征东大使等令外官，这些职务也可以被视为后来征夷大将军制度的雏形。延历十三年（794年），大伴弟麻吕出任日本历史上第一位征夷（虾夷）大将军。

不过，大伴弟麻吕本人并不擅长军事指挥，实际负责统领作战的，反而是当时担任征夷副将军、后来成为日本第二位征夷大将军的坂上田村麻吕。也正因为如此，后世通常将坂上田村麻吕视为实际上意义上的第一位征夷大将军。由于有了坂上田村麻吕的先例，征夷副将军虽然名义上是征夷大将军的第一副手，却并非一个可以独立发展的固定职位，其任免权始终掌握在天皇与朝廷手中。

从源赖朝建立幕府政权，一直到江户幕府最终灭亡，日本历史上实际上从来没有正式任命过征夷副将军。正因如此，在日本幕府时代，副将军并不是一个正式官职，更多时候只是类似于一种带有尊崇意味的称号或外号。根据现有史料记载，日本历史上第一个被称为副将军的人，是镰仓幕府第九代执权北条贞时，史料中曾有当副将軍相州太守平朝臣的称呼。

到了室町幕府初期，情况又出现了变化。初代将军足利尊氏的弟弟足利直义曾经掌握整个幕政，与哥哥足利尊氏共同构成室町幕府的核心权力结构，两人并称为二御所。正因为足利直义拥有如此重要的政治地位，他也被尊称为副将军。然而，兄弟二人的权力关系最终公开破裂，并由此引发了著名的观应之乱。此外，室町幕府体系下镰仓公方的若干分支，例如古河公方、小弓公方等，也曾被称为关东副将军。

到了江户时代，日本历史上最为强势的德川幕府当然不会允许一个真正意义上的副将军存在。对于德川家而言，如果在幕府最高权力者之外，再设置一个拥有明确政治地位和实际权力的副将军，无疑可能形成新的权力中心。因此，江户时代的副将军彻底演变成了一种荣誉性的称号。那些实力强大、地位显赫的大名，都有可能被人尊称为副将军，伊达政宗便是其中的代表人物之一。而在江户时代，被称为副将军次数最多的大名家族，则是江户幕府御三家之一的水户德川家。

综合来看，日本幕府时代所谓的副将军，在名义和制度层面上从来都没有真正成为一个正式的固定官职，更多只是对身份显赫者的一种尊称。因此，从幕府时代的礼制与权力秩序来看，副将军这一称号本身就很难与征夷大将军相抗衡。到了江户时代，它甚至已经完全没有参与幕政、分享幕府核心权力的资格。如此看来，织田信长拒绝足利义昭提出的副将军之职，除了不愿意受制于室町幕府的权力体系之外，恐怕也与他对这一称号本身的实际价值和政治意义并不认可，有着一定关系。