Enfant de la balle s'il en est, Jake Gyllenhaal a pour père le réalisateur Stephen Gyllenhaal (qui a travaillé essentiellement sur des séries T.V. comme The Shield, Numb3rs ou Homicide), pour mère la productrice Naomi Foner (productrice des travaux de son mari, essentiellement), et comme marraine l'actrice Jamie Lee Curtis (que l'on ne présente plus). Sa soeur; Maggie Gyllenhaal est elle aussi actrice (Confessions d'un homme dangereux, Monster House, World Trade Center, et bientôt The Dark Knight avec Christian Bale).
Dès 11 ans, on peut voir le jeune Jake donner la réplique à Billy Crystal (La vie, l'amour, les vaches). Il joue ensuite dans quelques films tournés par son père (et produit par sa mère, comme quoi on n'est jamais mieux servi que par soi-même).
En 2001 sort le film qui ferra réellement connaître le jeune acteur, Donnie Darko, dans lequel il joue un adolescent parlant à un lapin géant. En 2004, on le voit dans le blockbuster du réalisateur allemand Roland Emmerich, le jour d'après, dans lequel il a pour père Dennis Quaid.
Dès lors, il devient bankable et les plus grands se l'arrachent: Ang Lee, et son Secret de Brokeback Mountain, pour lequel il sera nommé aux Oscars, et plus récemment David Fincher et son film Zodiac.