在《徐向前回忆录》中有一段记载，讲述了1936年9月，徐向前与李先念、李特等人正在筹划部队北上陕北的事项。正当大家忙碌时，张国焘突然出现在他们面前，进门后直截了当地说：“我这个主席干不了了，让昌浩来吧！”这话一出，众人都吃了一惊，纷纷感到困惑，不知道发生了什么事。经过一番详细询问后，他们才得知，张国焘与陈昌浩之间发生了激烈的争论。这次争论是他们共事以来的首次激烈冲突，争议的焦点在于部队的北上路线。陈昌浩主张应该与一方面军会合，而张国焘则提出要西渡黄河，并策应一方面军渡河，目的是夺取宁夏并打通苏联的援助通道。

讨论过程中，大部分人支持陈昌浩的意见，张国焘的提议遭到了强烈反对。很可能这是张国焘首次在四方面军内部的意见被完全否决。随着自己在四方面军中逐渐失去支持，张国焘感到愈加沉重的压力，他情绪愈加激动，最终眼泪不由自主地流了下来：“我不行了，去陕北准备坐监狱，开除党籍，四方面军的事，中央会交给陈昌浩的……”徐向前等人纷纷劝解，花了很长时间才使张国焘稍稍平复情绪。

徐向前在回忆这段事件时提到两点：第一，从军事角度来看，张国焘的意见并非完全没有道理，四方面军如果北上陕北和一方面军会合，陕北的资源和经济状况恐怕无法支撑如此庞大的部队，且两支大军会合后不可避免地会与敌军发生决战。第二，陈昌浩与张国焘的争执愈演愈烈，“似乎有取而代之的意味，这种局面未必合适。”

然而，单纯与陈昌浩发生争执并不足以让见过大风大浪的张国焘如此情绪崩溃，真正让他感到巨大压力的，还是他曾被指控“另立中央”的问题。杨尚昆回忆道，当中央北上后，张国焘在卓木碉另立“中央”，并宣布开除毛泽东、周恩来、张闻天、博古等人党籍，对叶剑英和杨尚昆等人实施“免职查办”，还发布电报宣布不允许北上的队伍称“中央”。这一举动让许多同志愤怒不已，甚至有人主张与张国焘一视同仁，开除他的党籍。但毛泽东却表示：“我们还是希望他们出来的，这样做就做绝了，后面就没有办法了。”

收到张国焘的通报电报后，中央给出的答复是：我们可以称中共中央西北局，但你张国焘不要再自称‘中央’。为了团结四方面军的同志，中央在极小范围内通过了《关于张国焘错误决定的报告》，甚至连师一级的干部都未进行广泛通报。张国焘所自立的“中央”，完全是他自封的，并没有符合党的章程，也没有向共产国际报告，得不到批准。若他的行为被斯大林和共产国际否定，即使是张国焘，也难以承受可能带来的后果。正因为如此，张国焘也不敢将自己的“中央”公开化。

徐向前用自己的话说：“我观察到，张国焘此时的内心复杂且矛盾，他已感到做贼心虚，骑虎难下。他开始希望为自己留条退路，所以不敢把事情做得过于绝对。”

张国焘最害怕的事情还是发生了。1935年底，驻共产国际的代表张浩（林育英）从苏联回国，来到了延安，并带来了共产国际的电报，内容表彰中央红军在长征中的英勇表现，并肯定了中央北上路线的正确性。对于张国焘来说，这封电报无异于是当头一棒，因为在当时，苏联和共产国际的权威极大。接收到电报后，陈昌浩迅速转变立场，表示完全服从共产国际的决定，而张国焘则变成了孤立无援的“孤家寡人”。

张国焘之所以选择南下而非北上，实际上也受到共产国际的影响。张国焘曾回忆，在懋功会师时，毛主席曾提出要向甘北、宁夏推进的计划，并表示共产国际曾来电指示，要求他们靠近外蒙古。当时，张国焘非常重视，立刻询问共产国际什么时候发出这个指示。张闻天回答称，这个指示是在他们离开瑞金时（大约10个月前），共产国际电报中提到，中央红军可以在不得已时靠近外蒙古。但张国焘对这个回答并不完全相信。

张国焘深知当年四一二事件后，苏联顾问鲍罗廷曾提出过让中国红军北进占领平津及张家口的计划，目的是打通与苏联的联系，获得苏联的援助。然而，这个计划一开始就遭到反对，被认为是“逃跑主义”，所以并没有实施。再者，苏联与日本的冲突一直在持续，苏联是否愿意让中国红军通过外蒙古来对抗日本，这也充满疑问。

中央与张国焘当时并不知道，陕北的刘志丹、高岗和徐海东的部队已在活动。中央仅知道徐海东部队从鄂豫皖方向前往陕北，但具体情况如何，以及陕北是否存在着红军部队，都是未知数。

张国焘回忆：“我们当时不知道刘志丹和高岗的名字，甚至对徐海东的部队是否存在也没有确切的信息。”

关于苏联的态度，张国焘也存在疑虑，尤其是当时外交形势复杂，苏联是否真的愿意通过外蒙古为中国红军提供援助，仍然没有明确的答案。然而，张闻天的回复证明，苏联并没有像张国焘想象的那样反对红军北上，甚至明确表示，红军可以向西北或北方发展。

后来的事实证明，苏联确实确认了中央红军的北进路线，并且愿意提供援助。张国焘的南下计划在这种情况下彻底破产，朱德、刘伯承等同志在坚决抗争的同时，张国焘的困境愈发加剧，直到他最终承认自己的决定是失败的。

这也是为什么在北上的途中，张国焘深知自己的“豪赌”已经彻底失败，感到前途渺茫，最终在众人面前失声痛哭的原因。