1949年12月下旬，时任第一野战军第二兵团司令员的许光达接到任务，来到北京协助彭德怀起草给中央人民政府的工作报告。新中国刚刚成立，各项工作亟需人才。正因如此，周恩来总理产生了调许光达去外交部工作的想法。 在一次关于人事安排的会议上，周恩来向朱德和彭德怀提出：“我想调许光达去外交部。外交是一项至关重要的工作，而新中国的外交对象主要是苏联和东欧的社会主义国家。许光达曾在苏联留学多年，文化素养高，精通俄语，对苏联的情况了如指掌，完全适合从事外交工作。” 听完周恩来的提议，朱德显得有些为难，他说：“军队的现代化、正规化需要有专长的军事人才。许光达曾在苏联学习过坦克和炮兵技术，他应当留在军队，为军队的现代化做贡献。” 彭德怀也表示赞同：“我同意朱老总的意见。” 于是，周恩来决定再次征求许光达的意见，许光达很坦诚地说道：“我怕外交工作做不好，毕竟我对部队更为熟悉。不过，作为一个党员，我愿意服从组织的决定。” 最后，关于许光达的工作安排报到了毛泽东那里，毛泽东亲自拍板：“听老总们的，许光达留在军队更好。” 不久后，彭德怀找许光达谈话：“战争结束了，军队要转型，成为一支国防军，单一兵种要转变为多兵种，海军、空军也要建设起来。你有兴趣去搞装甲兵，为军队的现代化贡献力量吗？” 许光达欣然答应：“军委让我搞装甲兵，我一定会竭尽全力，为装甲兵的发展奉献我的心血！” 军委决定让许光达负责组建装甲兵，原因在于他曾于1936年在苏联学习汽车、坦克和炮兵技术。1937年，许光达回国后，被任命为抗日军政大学训练部长。 那时，我军还没有装甲部队，但已经成立了中央革命军事委员会摩托学校，为装甲兵的建设提供了理论基础。在许光达的领导下，他决定利用现有条件，组织一次坦克与步兵协同作战的军事演习，以供中央首长观摩。他用汽车进行了必要的外形改装，装上绿色的蓬布和木头火炮，临时改造出了“坦克”，并在延安机场完成了这场演习。 演习结束后，中央首长们纷纷表示兴奋。毛泽东高兴地说：“太好了，我们的坦克可以参战了！”朱德也称赞道：“坦克虽然是假的，但气势和本领都是真的，不简单！” 这是我军历史上第一次步兵与坦克协同作战的演习，许光达成功地展示了这种作战模式。从那时起，许光达成为了新中国装甲兵司令员的最佳人选。

1950年9月1日，我军装甲兵的第一所学校——坦克学校在天津光明电影院召开成立大会，许光达兼任校长。在开学典礼上，许光达发表了热情洋溢的讲话：“坦克学校的成立，是人民解放军建军史上的一项创举。建设强大的坦克部队，责任就在你们的肩上。你们要立志成为中国人民的坦克专家，党赋予我们的任务，我们一定要完成！” 装甲兵是一个技术性强的兵种，而当时，指战员的专业水平普遍较低，制约着部队的发展。为了激励官兵们的学习热情，许光达号召大家每人至少掌握一种驾驶技能，要么是坦克，要么是汽车，至少要学会开摩托车。许光达自己也以身作则，开始自学坦克驾驶。 尽管许光达已经年近半百，而且曾因伤和风湿性关节炎多次受困，坦克的操纵杆沉重且不易掌控，但他坚持每天去驾驶场练习。教员劝他：“司令员，您这么大年纪，为什么这么拼命呢？只需要体验一下驾驶坦克的感觉就行了。” 许光达坚定地回答：“我是装甲兵司令员，不懂军事技术，怎么带领部队？” 有一次，许光达在驾驶坦克时，遇到了一个斜坡，他未能及时调整，坦克不小心顺坡驶下，幸好没有翻倒。教员惊慌地跑来，催促他说：“首长，您下车吧，我来开。” 许光达却坚决说道：“不，我开得上去，也能开得下去。在这里，我是你的学员。”说完，他屏住呼吸，成功将坦克从斜坡上开了过去。 正是许光达的带动，部队形成了浓厚的学习技术氛围，官兵的军事素质得到了显著提高，战斗力也得到了大幅提升。 1951年9月，许光达向中央军委提交报告，提出中国必须拥有自己的坦克制造厂，并计划在五到十年内完成。中央采纳了这一建议，并在第一个五年计划中筹建了首个坦克制造厂，引进了苏联T-54坦克的先进技术，准备研制国产坦克。 然而，在50年代后期，中苏关系急剧恶化，苏联撤走了援华专家，中国的坦克研制进程受到了严重影响。许光达急切地向周恩来写信，请求加快坦克生产进程，并请求为坦克的生产设定1960年以前的目标。 周恩来同意了许光达的请求，并指示相关部门加速坦克研制。许光达亲自前往坦克制造厂视察，帮助解决问题，鼓励科研人员、厂工和驻厂军代表共同努力，最终推动了研制工作。 1959年，我国首批国产主战坦克——59式中型坦克开始装备部队。在同年的国庆大典上，许光达与党和国家领导人一同站在天安门城楼上，观看由国产坦克组成的车队驶过，内心无比自豪。 1955年，人民解放军首次实行军衔制。许光达作为装甲兵司令员，被授予大将军衔。尽管这是一个值得庆祝的时刻，但许光达回到家中却显得十分低调，一言不发，埋头钻进书房。最终，他向中央军委提出了降衔申请，表达了自己对牺牲战友的深深敬意。 毛泽东读了许光达的申请后，感慨万千，称许光达为“共产党人的明镜”，并对他的品格给予了高度评价。最终，军委没有同意许光达的请求，依然授予他大将军衔。 许光达在之后的岁月里，依然谦虚谨慎，严格要求自己，始终保持低调。1965年，军衔制被取消，许光达再次提出降低行政级别的请求，最终在全军大将中，只有他被评为行政五级。 许光达在装甲兵部队工作了整整17年，为我国装甲兵的创建与发展倾注了自己的全部心血。正因如此，他也赢得了“铁甲大将”的美誉，成为装甲兵建设的奠基人之一。