James Hong est d'origine chinoise, ses parents ayant quitté Hong-Kong pour venir s'installer aux Etats-Unis. Le jeune homme ferra d'ailleurs ses études dans l'ancienne péninsule britannique, avant de revenir aux Etats-Unis à l'âge de dix ans. Il suit des études de génie civil, avant de se tourner vers la comédie, tout d'abord en tant que hobby (pendant sept ans il travaillera en tant qu'ingénieur, jouant la comédie durant son temps libre, avant de devenir acteur à plein temps), puis en tant que professionnel.
Sa carrière commence par le doublage, où il doublera nombre de films asiatiques, dont en particulier la fameuse version américanisée du Godzilla d'Ishiro Honda (Godzilla, King of the Monsters!). Il apparaîtra par la suite dans plus de 500 productions, aussi bien télévisées que cinématographiques. Il est connu du grand public pour avoir joué dans la série Kung-Fu, ainsi surtout que pour ses rôles dans les aventures de Jack Burton dans les griffes du mandarin, Y a-t-il un pilote dans l'avion?, Wayne's World 2, et bien sur Blade Runner.