David Ryall obtient son diplôme à la RADA en 1962. Il débute alors une carrière théâtrale à Salisbury, Bristol, Leicester, puis Birmingham. Il rejoint en 1965 le prestigieux National Theatre sous la direction de Laurence Olivier. Il y restera jusqu'en 1973.
Sa carrière théâtrale est exemplaire; il sera ainsi salué par Alec Guinness dans son autobiographie.
Sa carrière au petit écran débute en 1967, avec le téléfilm Much Ado About Nothing. Il deviendra un incontournable de la petite lucarne britannique.
Au cinéma, l'un de ses premiers rôles d'importance fut dans l'Elephant Man de David Lynch. On le retrouve aussi dans La Maison Russie, ou il donne la réplique à Sean Connery, puis dans La cité de l'ombre, face à Bill Murray. Enfin, en 2010, il rejoint la franchise Harry Potter dans Harry Potter et les reliques de la mort.