Jean-Pierre Melville naît à Paris le 20 octobre 1917, son véritable nom étant Jean-Pierre Grumbach. Il choisit le pseudonyme de Melville alors qu'il était à Londres en 1942, en hommage à Herman Melville, l'auteur de Moby Dick.
Après avoir passé son baccalauréat, il effectue son service militaire en 1937. En 1942, il part pour Londres, puis participe avec les Forces Françaises Libres aux campagnes d'Afrique, d'Italie et débarque en Provence.
Après la guerre, il produit et tourne 24 heures de la vie d'un clown, son premier court métrage. En 1947, il se fait remarquer en adaptant un roman de Vercors Le Silence de la mer.
En 1950, Cocteau le contacte pour réaliser Les Enfants terribles. Grand amateur du cinéma américain, il tourne ensuite deux films (Bob le flambeur et Deux hommes dans Manhattan) très inspirés des films noirs.
Considéré comme le père spirituel de la nouvelle vague (pour ses méthodes de production et de tournage), Jean-Luc Godard le fera jouer dans A bout de souffle le rôle d'un romancier américain.
En 1961, il rencontre Jean-Paul Belmondo et tourne Léon Morin Prête. Les deux hommes se retrouveront par la suite pour Le Doulos et L'Ainé des Ferchaux. Après quatre années de silence, il réalise Le deuxième souffle avec Lino Ventura (en 1969 ils feront L'armée des ombres ensemble). Puis enchaîne avec Le Samouraï avec Alain Delon. En 1970, il donne son dernier rôle à Bourvil dans Le Cercle rouge. Peu avant sa mort, il tourne un dernier film avec Alain Delon, Un flic.