Max von Sydow est issu d'une famille suédoise aisée (son père était éthologiste et professeur d'irlandais, et sa mère professeur). Il s'intéresse très tôt à l'art dramatique, et dès la collège, monte une compagnie théâtrale. Après le service militaire, il s'inscrit à l'Ecole d'Art Dramatique Royale de Stockholm. Son parcours s'étendra de 1948 à 1951. Il commencera dès 1949 à travailler pour le cinéma, avec rien qu'une mère, d'Alf Sjoberg, puis en 1951 Mademoiselle Julie du même Alf Sjoberg.
En 1955, il rencontre le cinéaste Ingmar Bergman Les deux hommes commencent à travailler ensemble au théâtre, puis au cinéma. Leur collaboration durera 13 films, dont certains comme le Septième sceau ou bien encore les fraises sauvages.
En 1954, la Suède le récompense de la Royal Foundation Culture Award. Hollywood commence dès lors à lui faire des yeux doux.
Ainsi, au début des années 60, il se voit proposé le rôle du Docteur No dans James Bond 007 contre le Docteur No, rôle qu'il refusera au profit de l'acteur Joseph Wiseman (il se laissera cependant tenter par l'expérience James Bond des années plus tard en incarnant le chef du Docteur No, le terrible Blofeld dans Jamais plus jamais). Il ne pourra cependant pas refuser le rôle que lui propose le cinéaste George Stevens, à savoir celui de Jésus pour La Plus Grande Histoire jamais contée (en 1993, il fera le grand écart en incarnant le Diable en personne dans Le Bazaar de l'épouvante). Max von Sydow déménage alors pour Los Angeles.
En 1966, il est à l'affiche d'Hawaii, en 1970 il joue dans La Lettre du Kremlin, et en 1973 dans l'exorciste.
Dans les années 70, il tourne de nombreux films en Italie, faisant la connaissance de Marcello Mastroianni.
Dans les années 80, il apparaît dans de nombreux films grand public, de Flash Gordon à Dune en passant par Jamais plus jamais ou bien encore Conan le barbare. C'est aussi durant cette décennie qu'il tourne Pelle le conquérant, film qui lui rapportera le Lion du meilleur acteur à la Mostra de Venise, ainsi qu'une citation à l'Oscar du meilleur acteur (l'un des rares exemples de cas pour un film qui n'est pas tourné en anglais).
Il continuera durant les années 90, puis la décennie suivante à tourner à al fois dans des films grand public et dans des productions indépendantes.
 
Aujourd'hui, Max Von Sydow est considéré (à juste titre), comme l'un des acteurs majeurs du Septième Art. Un acteur capable de tourner dans de très nombreuses langues (il compte des films tournés en suédois, norvégien, anglais, italien, allemand, danois, français et espagnol).
 
En 1997, il a épousé la documentariste française Catherine Brelet, et en 2002 il obtient la nationalité française.