Très jeune, il déménage avec sa famille à Santa Monica, en Californie, où son père occupe les fonctions de maître des postes. Il est encore domicilié dans cette ville. Il devient mécanicien et son employeur l'envoie au Royaume-Uni pour qu'il se spécialise dans les carburateurs SU et suive des stages de perfectionnement chez Jaguar et Rolls-Royce. Hill revient aux États-Unis avec une Jaguar XK120 au volant de laquelle il remporte sa première course, à Pebble Beach. Troquant ses compétences de mécanicien pour un volant de course, il participe aux redoutables Carrera Panamericana, aux 1000 km de Buenos Aires et aux 12 heures de Sebring, où il termine deuxième en 1955 au volant d'une Ferrari 750 Monza, copilotée par Carroll Shelby.
Aux 24 heures du Mans de cette année là il assiste de sa Ferrari au terrible accident de Pierre Levegh. Il envisage de renoncer mais est convaincu de courir les 1000 km d'Argentine avec le Belge Olivier Gendebien. Ils se classent deuxième et Hill déménage à Modène où il devient pilote d'écurie. Viennent ensuite une série d'épreuves culminant avec la participation de Phil Hill aux 24 heures du Mans de 1958 au volant de la 250 Testa Rossa, qu'il partage avec Olivier Gendebien. La même année il est quatrième de la Targa Florio en Sicile.
Trois ans plus tard, en 1961, à la veille de la dernière course de la saison à Monza, Phil Hill et l'Allemand Wolfgang von Trips sont en tête du Championnat du monde de Formule 1. Ce dernier entre en collision avec la Lotus de Jim Clark, entraînant la mort de l'Allemand et de 14 malheureux spectateurs. Assommé par la douleur, Hill remporte quand même le championnat.
En 1962, Hill quitte Ferrari pour se joindre à la nouvelle équipe ATS, dirigée par Carlo Chiti, ex-ingénieur en chef de Ferrari, ce qui se révèlera négatif pour son palmarès. Parmi ses dernières victoires, mentionnons les 1000 km du Nürburgring en 1966 alors qu'il était au volant de la révolutionnaire Chaparral 2D, une création du génial Jim Hall. Le 30 juillet 1967, Phil Hill court pour la dernière fois à l'occasion du "BOAC 500" à Brands Hatch, au Royaume-Uni. Sa Chaparral 2F est première au classement général.
Il est l'un des rares grand pilote de cette époque meurtrière à avoir terminé sa carrière «sans une seule égratignure».
Il est le fondateur et propriétaire du prestigieux atelier de restauration Hill & Vaughn.
Son fils Derek participa à la Formule 3000 en 2003.
