Joseph Sargent 1925. július 22-én született Giuseppe Danielle Sorgente néven a New Jersey állambeli Jersey City-ben, az Egyesült Államokban. Maria Noviello és Domenico Sorgente gyermekeként látta meg a napvilágot. Olasz családban nőtt fel.

Karrierjét színészként kezdte az ötvenes évek elején; főként tévésorozatokban szerepelt. Rendezőként az évtized végén debütált. Első rendezése egy dráma, az 1959-es Street-Fighter volt. A hatvanas években tévésorozatok rendezőjeként szerzett magának hírnevet. Olyan sorozatok kötődnek a nevéhez, mint a Lassie, a The Man from U.N.C.L.E. vagy a Támadás egy idegen bolygóról.

A hetvenes években már mozifilmeket is készített. Rendezései közé tartozik a Buck és a prédikátor, az Olcsó Whiskey, a Hajsza a föld alatt, a MacArthur, a Rémálmok és A cápa bosszúja. A nyolcvanas évek végétől kezdve már csak tévéfilmeket készített. Rendezőként többször is jelölték Emmy-díjra, amit először 1973-ban nyert meg. A díjat még háromszor zsebelte be.

Sargent élete során kétszer nősült meg. Első feleségétől, Mary Carver színésznőtől tizenhat év után vált el. Házasságukból két lányuk született. 1970-ben nősült meg ismét, Carolyn Nelson színésznő lett a felesége. 2014. december 22-én, nyolcvankilenc éves korában hunyt el a kaliforniai Malibuban.