John Benedict Hillerman a texasi Denisonban született 1932 decemberében. Az austini Texasi Egyetemre járt, majd négy évig szolgált az Egyesült Államok légierejénél. New Yorkba költözött, és az American Theatre Wingben tanult. Fellépett a Broadwayn és dolgozott élő előadásokban. Filmes debütálása az 1970-es They Call Me Mister Tibbs! című filmben történt. Hillerman szerepelt a The Last Picture Show, What’s Up, Doc?, High Plains Drifter, Paper Moon, Blazing Saddles, Chinatown, Lucky Lady, At Long Last Love és Up the Creek című filmekben. 1976 és 1980 között visszatérő szerepe volt a One Day at a Time című tévésorozatban. 1980 és 1988 között Hillerman a brit hadsereg főtörzsőrmesterét, Jonathan Quayle Higgins III-t alakította a Magnum, P.I. című sorozatban. 1984-ben, 1985-ben és 1986-ban a Magnum, P.I.-ben játszott szerepéért Primetime Emmy-díjra jelölték egy drámai sorozat kiemelkedő mellékszereplőjeként, majd végül 1987-ben elnyerte a díjat. Utoljára az A Very Brady Sequel című sorozatban szerepelt 1996-ban. 1982-ben Golden Globe-ot is nyert, és még négyszer jelölték a legjobb mellékszereplő színészi alakításért sorozatban, minisorozatban vagy tévéfilmben nyújtott legjobb alakításért. John Hillerman 2017. november 9-én, 84 éves korában hunyt el a texasi Houstonban.