John Bluthal est né en Pologne, dans une famille d'origine juive. A l'âge de neuf ans, en 1938, il déménage avec sa famille en Australie. Il y fait des études d'art dramatique, puis se lance dans une carrière artistique, à la fois en tant qu'acteur et en tant que pantomime.
En 1956 il déménage en Angleterre, et en 1960 il s'installe à Londres. Il joue dès lors aussi bien au théâtre, à la télévision, à la radio, puis au cinéma. Il se fait vite connaître pour son talent d'acteur de voix, avec une palette de voix et d'accent très large.
Au cinéma, il se fait vite une réputation de comique, apparaissant dans de très nombreuses comédies (ce qui sera le cas tout au long de sa carrière), avec en particulier des rôles dans Casino Royale (1967), Le Retour de la panthère rose (1975) et La Malédiction de la Panthère rose (1978).
Dans les années 60, il est aussi à l'affiche de films typiquement swingin' London, tels que Le Knack... et comment l'avoir (1965) et surtout deux films mettant en scène Les Beatles, à savoir A Hard Day's Night (1964) et Help! (1965).
On le croisera aussi, dans des films comme Superman III (1983), Labyrinth (1986), Le Cinquième élément (1997), ou bien encore Dark City (1998).