Fils de Jean Henri Laudenbach, professeur de philosophie, et de Désirée Claire Dietz (1870-1960), Pierre Fresnay monte sur scène pour la première fois à quatorze ans. Grâce à son oncle maternel Claude Garry, ex-pensionnaire de la Comédie-Française et acteur en vogue de l’époque, il joue un petit rôle dans L’Aigrette, au Théâtre Réjane. C'est à cette occasion qu’il choisit son premier nom de scène, Pierre Vernet. En 1914, il fait son entrée au Conservatoire national de musique et de déclamation, dans la classe de Paul Mounet et de Georges Berr. Un an plus tard, il est engagé à la Comédie-Française. Dès 1915, il décroche un premier grand rôle au théâtre dans Le Jeu de l’amour et du hasard. La même année, il débute au cinéma muet avec France d’abord, d’Henri Pouctal. Pierre Fresnay passe ensuite au cinéma parlant et interprète son premier grand rôle en 1931 dans Marius, premier volet de la trilogie marseillaise de Marcel Pagnol transposée à l’écran par Alexandre Korda. Il interprète ensuite Fanny (1932) et César (1936).
En 1934, il joue Armand Duval au côté d’Yvonne Printemps, qui est sa compagne, dans La Dame aux camélias, de Fernand Rivers. Sa diction incisive lui confère des rôles d’hommes de commandement : officier dans La Grande Illusion de Jean Renoir (1937) et Alerte en Méditerranée de Joannon, en inspecteur dans deux adaptations des romans de Stanislas-André Steeman, Le Dernier des six (1941) et L'assassin habite au 21 (1942), en marquis dans Les Aristocrates (1955). Il joue aussi un journaliste (La Bataille silencieuse, Pierre Billon, 1934), un bagnard dans Chéri-Bibi, un homme d’église dans Dieu a besoin des hommes (1949) et Le Défroqué (1954) et dans Il est minuit, Docteur Schweitzer (1952) et même en saint Vincent de Paul dans Monsieur Vincent (1947). À la fin de sa carrière cinématographique, il passe au registre comique, dans Les Affreux (1959) et dans Les Vieux de la vieille (1960).
En quarante ans sur les plateaux de tournage, il joue sous la houlette de grands réalisateurs de l’époque, d’Abel Gance à Marc Allégret, en passant par Alfred Hitchcock (dans la première version de L’Homme qui en savait trop), et Henri-Georges Clouzot. Outre son rôle de Marius dans la trilogie marseillaise, ses compositions dans La Grande Illusion, où il incarne Boëldieu, un aristocrate fier et nostalgique, et dans Le Corbeau, sont restées dans les mémoires. En 1939, il passe à la réalisation avec Le Duel, aux côtés d’Yvonne Printemps. Le couple Printemps-Fresnay apparaît à de nombreuses reprises à l’écran et triomphe dans l’adaptation de l’opérette d’Oscar Straus, Trois Valses (L. Berger, Albert Willemetz, 1938).
À la Libération, les films qu’il avait tournés sous l’Occupation pour le compte de la firme allemande Continental films, dirigée par Alfred Greven, et sa décoration de la Francisque lui valent un séjour de quelques semaines en prison, jusqu’à ce qu’il soit blanchi pour absence de preuves. Mais dans le documentaire sur Pétain L'Année dernière à Vichy, de Paule Muxel et Bertrand de Solliers (Arte éditions, 2010), on le voit appeler au meurtre des Juifs, cette "race étrangère qui a accaparé toutes les places".
Campant après-guerre des personnages sérieux, voire édifiants, dans des films de portée secondaire, il abandonne le cinéma au début des années 1960, pour se consacrer exclusivement au théâtre, qu’il n'a jamais vraiment abandonné. Sociétaire de la Comédie-Française qu’il avait quittée avec fracas en 1927, Pierre Fresnay s’illustre sur les planches notamment dans Un miracle, La Chienne aux yeux de femme, Cyrano de Bergerac, Marius, Bloomfield, Cette vieille canaille, Jean III, L’Hermine, L’Idée fixe, Visitation. À la télévision, il interprète notamment Tête d'horloge (1969) de Jean-Paul Sassy. En 1954, il publie ses mémoires, Je suis comédien.