John Benedict Hillerman blev født i Denison, Texas i december 1932. Han gik på University of Texas i Austin og tjente i fire år i United States Air Force. Han flyttede til New York City og studerede på American Theatre Wing. Han optrådte på Broadway og arbejdede med liveforestillinger. Hans filmdebut kom i 1970’s They Call Me Mister Tibbs!. Hillerman medvirkede i filmene The Last Picture Show, What’s Up, Doc?, High Plains Drifter, Paper Moon, Blazing Saddles, Chinatown, Lucky Lady, At Long Last Love og Up the Creek. Han havde en tilbagevendende rolle i tv-serien One Day at a Time fra 1976 til 1980. Fra 1980 til 1988 spillede Hillerman hovedrollen som den britiske hærsergent major Jonathan Quayle Higgins III i tv-serien Magnum, P.I. Han blev nomineret til en Primetime Emmy Award for Outstanding Supporting Actor in a Drama Series for sin rolle i Magnum, P.I. i 1984, 1985 og 1986, før han endelig vandt prisen i 1987. Hans sidste optræden kom i A Very Brady Sequel i 1996. Han vandt også en Golden Globe i 1982 og blev nomineret til fire andre for bedste præstation af en skuespiller i en birolle i en serie, miniserie eller film lavet til tv. John Hillerman døde den 9. november 2017 i en alder af 84 år i Houston, Texas.