I primi insediamenti della località di Gibilrossa sono probabilmente ascrivibili al VI secolo e cioè quando una serie di padri basiliani di rito orientale si insediarono in loco e vi costruirono un luogo di culto (successivamente divenuto il Santuario della Madonna di Gibilrossa). Il nome ad ogni modo sembra sia stato mutato due secoli più tardi con l'arrivo degli arabi che chiamarono la Montagna Grande Gebel-Ras, che significa appunto "Montagna-Capo", ovvero monte principale, da dove si origina la catena dei monti che circonda la Conca d'Oro di Palermo.
Riconquistata dai normanni nell'XI secolo, Gibilrossa si uniformò dapprima al Regno di Sicilia e poi a quello degli aragonesi e dei borbonici attraverso una serie di famiglie feudatarie che decisero le sorti del borgo.
La località di Gibilrossa è nota per essere stata utilizzata come "punto di appoggio" dalle truppe garibaldine guidate da Nino Bixio la sera precedente la presa di Palermo. Fu sempre in questa località che il Giuseppe La Masa raccolse per l'occasione 4000 volontari a supporto dell'esercito di Garibaldi.
A tal proposito, è presente a Gibilrossa un obelisco in ricordo dell'impresa garibaldina progettato dall'architetto Giovan Battista Filippo Basile e eretto nel 1875; così come un'iscrizione sita nell'ex-convento (ormai cadente) nel quale Garibaldi passò la notte antecedente l'attacco. L'obelisco, una volta molto elegante con la sua forma perfettamente piramidale, venne colpito da un fulmine che ne distrusse la punta alcune decine di anni fa e mal restaurato col risultato di avere oggi una punta approssimativa e arrotondata, ma fu almeno dotato di parafulmine.
Gibilrossa è posta a circa 400 m; per la sua aria salubre e la temperatura fresca anche d'estate viene considerata un'interessante zona turistica, in particolare per i palermitani che vi hanno costruito la propria "seconda casa".
Il nome deriva dall'arabo جبل رأس (jabal raʾs) e vuol dire "prima montagna" con l'accezione di "principale montagna" o "grande montagna".