Fils d'un colonel d'armée, il est né dans une famille noble à Dessau. Il entre dans la cavalerie bavaroise en 1901 et combat avec elle pendant la Première Guerre mondiale. De 1915 à 1918, il sert dans l'état-major du 3ème corps d'armée bavarois. Après la guerre, il reste dans la Reichswehr nouvellement formée, il y occupe diverses positions à l'état-major et devient plus tard instructeur. En octobre 1937, il devient commandant du 13ème corps d'armée qui servit plus tard lors de l'occupation allemande dans la région des Sudètes. Il est nommé à la tête de son propre corps d'armée "Weichs" pour l'invasion de la Pologne. Après la capitulation de la Pologne, et en préparation de la bataille de France, il est nommé commandant en chef de la 2ème armée, qui appartient au groupe d'armées A de Gerd von Rundstedt dans l'ouest. On lui attribue la Croix de fer pour ses succès lors de la campagne de France et il est promu au rang de colonel général. Von Weichs participe à la campagne des Balkans avec son corps d'armée et il est placé à la tête de la 2ème armée du groupe d'armées Centre de Fedor von Bock, en préparation à l'opération Barbarossa, l'invasion de l'Union soviétique. Il dirige la 2e armée, en 1941, lors de la bataille de Kiev et la bataille de Smolensk, puis sur Viazma et Briansk.
En 1942, pour l'opération Fall Blau, Weichs se voit assigner le commandement du groupe d'armées B nouvellement formé, constitué de la 2ème armée, 4ème armée Panzer d'Hermann Hoth, 2ème armée hongroise, 8ème armée italienne et la 6ème armée de Friedrich Paulus, dont la tâche est de s'emparer de la ville de Stalingrad et couvrir un front d'environ 800 km. Il est nommé Generalfeldmarschall le 1er février 1943. Von Weichs prévient que ses lignes sont trop étirées, mais Hitler l'ignore, les craintes de von Weichs se matérialisent lorsque les Soviétiques écrasent les armées italienne, hongroise et roumaine sur ses flancs, lors de l'opération Uranus, prenant au piège la 6ème armée à Stalingrad. Von Weichs suggère un repli et s'attire la désapprobation d'Hitler. En conséquence, on lui retire le commandement d'une partie du groupe d'armées B pour former le nouveau groupe d'armées Don, dirigé par Erich von Manstein. Plus tard en février, le reste du groupe d'armées B est fusionné au groupe d'armées Don pour former le groupe d'armées Sud, dirigé également par von Manstein. Von Weichs est placé dans la liste des dirigeants réservistes.
En août 1943, alors que la situation des Allemands est de plus en plus désespérée, von Weichs est nommé commandant du groupe d'armées F dans les Balkans, pour bloquer une éventuelle invasion des Alliés, cette région étant considérée comme le point faible de l'Allemagne, des groupes de partisans locaux s'y battent et gagnent en force. À la fin de 1944, il supervise le repli allemand de la Grèce et de la majeure partie de la Yougoslavie. Alors que l'Allemagne nazie s'effondre, von Weichs est mis à la retraite le 25 mars 1945 et il est arrêté par les troupes américaines en mai. Lors des procès de Nuremberg, von Weichs est accusé de crime de guerre perpétré lors de la répression des partisans, mais doit être retiré du procès des otages à cause de problèmes de santé, sans avoir eu le temps d'être jugé. Il meurt à Burg Rösberg près de Bonn.
Promotions