La primera mención documental del pueblo de Palo es de la Edad Media, en una donación otorgada por el rey de Pamplona Sancho III el Mayor a la Catedral de Roda entre los años 1017 y 1034.
Otro elemento que nos habla del pasado medieval de Palo es la iglesia de San Climent (San Clemente) de estilo románico lombardo, construida en el siglo XI y situada en lo alto de un cerro a mitad de camino entre el pueblo y el Tozal de Santa Bárbara.
En la historia de Palo cabe destacar que a partir de mediados del siglo XIX surgió interés por localizar y explotar yacimientos de carbón mineral en su término municipal.
A partir de los años 50 del siglo pasado, Palo, al igual que otros muchos pueblos de Aragón, sufre las consecuencias del éxodo rural, del que no se ha recuperado.