James Remar fait partie de ses acteurs que le grand public ne connait par très bien, mais qui pourtant ont derrière eux une carrière exceptionnelle. Après s'être fait remarqué par les critiques à Broadway dans le rôle de l'amant de Richard Gere dans la pièce Bent, en 1979, l'acteur se voit offert un rôle qui le marquera pendant des années: celui d'Ajax dans le film culte les guerriers de la nuit.
Suivront de nombreux rôles de psychopathes et autres malades mentaux, qui feront sa renommé dans le milieu.
En 1986 il commence la tournage d'Aliens, de James Cameron, mais se fait remplacer par Michael Biehn très rapidement. Malgré cet échec, les plus grands réalisateurs le feront tourner, dont Francis Ford Coppola pour son Cotton Club. Walter Hill, après les guerriers de la nuit, fera de nouveau appel à lui pour un autre rôle marquant: celui du maniaque échappé de prison dans 48 heures.
Gus Van Sant fera appel à lui pour Drugstore cowboy et pour Psycho, le remake du célèbre film d'Alfred Hitchcock.
A la télévision, il est connu pour son rôle récurrent dans la série Sex and the city, ainsi que pour son personnage dans Dexter.