Popeye Doyle, responsable du plus gros coup jamais porté aux trafiquants de drogue de la French Connection, arrive à Marseille en provenance de New-York. Il a pour mission d'abatre le No 1 de la filière, Alain Charnier, qu'il est le seul à pouvoir identifier. Ayant pris contact avec le policier français Barthélémy, Doyle se voit plutôt fraîchement reçu et commence à explorer la ville. Barthélémy insiste beaucoup pour que Doyle ne porte aucune arme. Au cours d'une rafle dans les bas-quartiers, Doyle poursuit un suspect sans savoir que l'homme, un Noir, est un policier déguisé. Peu après, ce dernier est retrouvé la gorge tranchée. Indirectement, Doyle, qui l'a désigné à l'attention de ses meurtriers, est responsable de sa mort. Pendant ce temps, Charnier met la dernière main aux préparatifs de la réexpédition d'un chargement d'héroïne brute, maintenant traitée et camouflée dans des boîtes de conserve. Au hasard de ses pérégrinations Doyle a été découvert par les complices de Charnier. Il est capturé et, pendant plusieurs jours, on lui administre de force des injections d'héroïne. Charnier dépose ensuite son corps devant les bureaux de la police. C'est alors que commence pour l'Américain une très brutale cure de désintoxication. Remis sur pied, Doyle comprend que la police française s'est servie de lui comme appât. Il déniche l'hôtel où il avait été séquestré et y met le feu. Comme il poursuit l'un des fuyards, complice de Charnier, il apprend que l'héroïne est arrivée à bord du Tarron, navire en cale sèche en provenance de Rotterdam. La police se rend au port. Une bagarre oppose Doyle et Barthélémy à l'équipage dont un membre ouvre les vannes alimentant le bassin. Doyle sauve Barthélémy de la noyade. Tous deux, qui collaborent maintenant efficacement, découvrent, au terme d'une filature, le laboratoire clandestin. Doyle se lance à pied à la poursuite de Charnier, monté dans un tramway. Le Français sèmera le policier américain, mais celui-ci l'abattra finalement à bord de son yacht.