Ian Abercrombie a débuté au théâtre en Angleterre, dans les années 40, puis aux Etats-Unis, à partir de 1955. Après un passage par l'armée, en 1957, il revient au théâtre, puis au cinéma et à la télévision à partir des années 60. Au cinéma, il participera à de nombreux films, la majorité du temps dans des rôles de figuration, ou de second plan. Il tiendra des rôles plus notables, toujours pour le cinéma, dans des films comme l'armée des ténèbres, de Sam Raimi, ou bien encore Star Wars: The Clone Wars, où il double le chancelier Palpatine. Il doublera ce même personnage dans la série éponyme.
Mais son rôle le plus connu est sans doute celui d'Alfred Pennyworth, la majordome de Batman, un rôle qu'il tient dans la série T.V. les anges de la nuit.
 
Il a aussi travaillé, dans la postsynchronisation, sur des films comme Gens de Dublin, Chasseur blanc, cœur noir, Hook ou la revanche du Capitaine Crochet, Arrête, ou ma mère va tirer!, Rob Roy, Pocahontas, Les 101 dalmatiens, Titanic, Le chacal, Anna et le roi, Gladiator, Shrek, ou bien encore La ligue des gentlemen extraordinaires.