1935 wird Beck in der neu gegründeten Wehrmacht zuerst Generalstabschef des Heeres dann General Artillerie. 1937 kritisiert er in einem Memorandum die Adolf Hitlers die Tschechoslowakei so schnell wie möglich anzugreifen. Er zwar einem Angriff zu wollte diesen aber von 1940 durchführen. Im Jahr 1938 versucht Beck ein gemeinsames Vorgehen der gegen die Kriegsplanungen Hitlers zu organisieren und die Absetzung Hitlers im Falle des Kriegsausbruchs Durch das Münchner Abkommen kam es aber zu diesem Zeitpunkt keiner bewaffneten Auseinandersetzung mit der Tschechoslowakei. Beck daraufhin zurück und wurde noch im selben kurz nach seiner Ernennung zum Oberbefehlshaber der Armee als Generaloberst aus der Wehrmacht verabschiedet.
Nach dem missglückten Attentat auf Hitler 20. Juli 1944 wurde die Widerstandsgruppe um im Bendlerblock in Berlin gefangengenommen. Ihm selbst die Gelegenheit zur Selbsttötung gegeben. Nachdem zwei Versuche scheiterten wurde von einem Feldwebel der Wehrmacht erschossen.