Le nom de Pihen apparaît pour la première fois dans la charte de fondation de l'abbaye d'Andres en 1084, sous la forme Pithem, du germanique pit (puits) + heim (habitation, village), devenu PIHEN par amuissement du T. On écrit -HEN dans le Calaisis et le Boulonnais, -HEM ailleurs. Pihem (près de Wizernes) est le même mot que Pihen, ce qui entraîna de nombreuses erreurs dans l'acheminement du courrier et amena la commune à modifier son nom en Pihen-lès-Guînes en 1923.
Il n'est pas douteux que le village soit très ancien. On aurait retrouvé des sépultures remontant à l'époque du haut Moyen Âge, notamment des sépultures en forme de sarcophages et des squelettes reposant directement sur la craie. Des tuiles très épaisses, façonnées à la main, ont été à plusieurs reprises remontées à la surface d'un champ par le soc d'une charrue. Témoins de temps beaucoup plus reculés, des défenses de mammouth et un crâne de rhinocéros furent mis au jour lors de la construction de la route départementale.