Karl Kriebel commence sa formation militaire en 1907 dans l'armée royale de Bavière. Il rentre dans le 1er régiment d'infanterie bavaroise. Après l'école militaire de Munich, il est promu sous-lieutenant, en mai 1909. Au début de la 1ère Guerre mondiale, il part sur le front comme adjudant-major du régiment. Là, il est grièvement blessé au bout de quelques jours. En novembre 1914, il est déjà de retour dans son régiment.
Le 19 mai 1915, il est promu lieutenant. À partir de l'automne 1917, il connaît plusieurs affectations. Le 22 mars 1918, il est promu capitaine. Pendant la Première Guerre mondiale, il a reçu plusieurs médailles, dont la croix de fer. Après guerre, il reste dans l’armée allemande. En août 1939, il est nommé commandant de la 56ème Division d'infanterie. Après la campagne de Pologne, il repasse sur le front Ouest. Le 4 juillet 1940, il reçoit la croix de chevalier de la Croix de fer (Ritterkreuz des Eisernen Kreuzes). Le 1er août 1940, il est promu général de corps d'armée.
Avec la 46ème Division d'infanterie, il part dans les Balkans. Après différentes affectations, il est nommé inspecteur du recrutement à Nuremberg. Le 1er avril 1943, il est promu simultanément au grade de général d'infanterie et de commandant adjoint du Commandement général du VIIe corps d'armée à Munich. Plus tard, il devient aussi le commandant du VIIe district militaire. Après l'attentat du 20 juillet 1944, il fait partie, en août 1944 de la cour d'honneur de la Wehrmacht, chargée de juger les conjurés. Lors de la capitulation, il part en captivité jusqu’en 1947.