Hardy rozpoczął swoją aktorską karierę po II wojnie światowej. Największą popularność przyniosła mu rola Siegfrieda Farnona w serialu BBC "Wszystkie zwierzęta duże i małe". Aktor wielokrotnie wcielał się w postać Winstona Churchilla.
Młodszym widzom Hardy znany jest z roli Korneliusza Knota w ekranizacjach cyklu powieści o Harrym Potterze.
W swej karierze zagrał w ponad 785 rolach filmowych.
W 1981 roku został odznaczony Orderem Imperium Brytyjskiego.