Roy Scheider fut un enfant sportif, participant à des compétitions de baseball et de boxe. Il fait ses études à Maplewood, dans la Columbia High School. En 1985, il se retrouve dans la Hall of Fame dans la prestigieuse école. Il étudiera l'art dramatique, laissant alors tomber la bose, à la Rutgers University, ainsi quà la Franklin and Marshall College.
Il décroche son premier rôle au cinéma en 1963, dans le film d'horreur The Curse of the Living Corpse. Mais c'est au début des années 70 que sa carrière explosera. Tout d'abord grâce à des participations à Portrait d'une enfant déchue, Klute et Frenh Connection (un film qui lui vaudra d'être nommé aux Oscars), Un homme est mort, puis, cette fois-ci en tête d'affiche, avec Police puissance 7 (le spin-off de French Connection. En 1975, enfin, Roy Scheider obtient son rôle le plus connu, celui qui fera de lui une star: Chef Brody dans les dents de la mer.
En 1976, il est engagé pour jouer dans Marathon Man. Puis, le réalisateur de French Connection, William Friedkin, lui offre le premier rôle de son convoi de la peur. En 1978, on le retrouve de nouveau face à un requin géant dans les dents de la mer, 2eme partie. En 1979, il est de nouveau cité aux Oscars, cette fois-ci pour son rôle dans Que le spectacle commence.
Les années 80 le verront jouer dans des films comme Tonnerre de feu, ou bien encore 2010 - L'année du premier contact. Durant la décennie suivante, il jouera dans La Maison Russie, le festin nu, ainsi que dans la série T.V. Seaquest.
Les années 2000 seront moins notables, même si Roy Scheider tournera jusqu'à sa mort, en 2008.
 
Roy Scheider fut considéré dans les années 70 comme l'une des figures naissantes les plus importantes du cinéma américain.