John Benedict Hillerman wurde im Dezember 1932 in Denison, Texas, geboren. Er besuchte die University of Texas in Austin und diente vier Jahre lang in der United States Air Force. Er zog nach New York City und studierte am American Theatre Wing. Er trat am Broadway auf und arbeitete bei Live-Aufführungen mit. Sein Filmdebüt gab er in They Call Me Mister Tibbs! von 1970. Hillerman spielte in den Filmen The Last Picture Show, What’s Up, Doc?, High Plains Drifter, Paper Moon, Blazing Saddles, Chinatown, Lucky Lady, At Long Last Love und Up the Creek. Von 1976 bis 1980 hatte er eine wiederkehrende Rolle in der Fernsehserie One Day at a Time. Von 1980 bis 1988 spielte Hillerman die Rolle des British Army Sergeant Major Jonathan Quayle Higgins III in der Fernsehserie Magnum, P.I. Für seine Rolle in Magnum, P.I. wurde er 1984, 1985 und 1986 für einen Primetime Emmy Award als herausragender Nebendarsteller in einer Dramaserie nominiert, bevor er 1987 schließlich den Preis gewann. Seinen letzten Auftritt hatte er 1996 in A Very Brady Sequel. Außerdem gewann er 1982 einen Golden Globe und wurde für vier weitere Preise für die beste Leistung eines Schauspielers in einer Nebenrolle in einer Serie, Mini-Serie oder einem Fernsehfilm nominiert. John Hillerman starb am 9. November 2017 im Alter von 84 Jahren in Houston, Texas.