Giancarlo Giannini se dirige vers la carrière d'acteur qu'une fois son diplôme d'ingénieur obtenu. A 18 ans, il commence le théâtre, et le cinéma quelques années plus tard, en 1965. En 1967 il devient célèbre en Italie, grâce à la télévision.
En 1967 il rencontre la cinéaste Lina Wertmüller, avec qui il tournera à de nombreuses reprises, et en particulier dans film d'amour et d'anarchie (1973), qui lui rapportera une Palme à Cannes.
Giancarlo Giannini peut dès lors se lancer dans une carrière internationale, sans pour autant délaisser le cinéma italien. Il jouera pour des noms aussi prestigieux que Luchino Visconti (l'innocent), Rainer Werner Fassbinder (Lili Marleen), Francis Ford Coppola (New-York Stories), Ridley Scott (Hannibal), ou bien encore le frère de ce dernier, Tony Scott (Man on fire).
En 2006, puis en 2008, il apparait dans la franchise James Bond (dans Casino Royale, puis Quantum of Solace).
 
En Italie, il est aussi doubleur pour des acteurs comme Jack Nicholson, Al Pacino, Michael Douglas, Gérard Depardieu, Dustin Hoffman, ou encore Ian McKellen.
 
Son fils, Adriano Giannini, est lui aussi acteur.