Jaroslav Mezník se narodil 31. 12. 1928 v Bratislavě v rodině moravskoslezského zemského prezidenta Jaroslava Mezníka st. Kvůli otcově postu se rodina stěhovala do Užhorodu a pak do Brna, kde také syn Jaroslav Mezník strávil zbytek svého života. Po maturitě v roce 1948 vystudoval historii a archivnictví na brněnské Filozofické fakultě. V roce 1967 předložil habilitační spis na Karlově univerzitě, profesorský titul získal v Brně o dvacet pět let později. První zaměstnání našel v státním archivu v Janovicích, v letech 1956–1972 působil na Historickém ústavu (později Ústavu československých a světových dějin) Československé akademie věd. V období normalizace pracoval jako dělník v panelárně, později v továrně na výtahy. V lednu 1990 se stal na několik měsíců poslancem Federálního shromáždění, poté se vrátil k historické práci na akademii věd a filozofické fakultě. V letech 1994–1995 stál v čele Filozofické fakulty Masarykovy univerzity jako její děkan. Odborně se specializoval na středověké dějiny a mezi jeho zásadní práce patří Praha před husitskou revolucí a Lucemburská Morava 1310–1423.

Problémy s komunistickým panstvím se výrazně projevily již v době Mezníkovy vojenské služby, kvůli „buržoaznímu původu“ sloužil u Pomocných technických praporů. V době pražského jara se podílel na přerodu Československé strany socialistické v demokratickou levicovou stranu. V lednu 1971 byl zatčen a propuštěn na podmínku až po třech letech, ve vazbě strávil dvě kratší období také v letech 1977–1989. Patřil mezi první signatáře Charty 77. V období normalizace pokračoval ve svém výzkumu, publikoval pod jmény jiných autorů nebo v samizdatech. Výrazně zasáhl také do debaty o charakteru československé historiografie v rámci Charty 77. 

Jaroslav Mezník získal několik významných ocenění, v roce 1995 Zlatou medaili Masarykovy univerzity, o tři roky později Řád T. G. Masaryka, v roce 2000 Cenu města Brna.