Területének nagy része a XI. kerületbe tartozik, a Tabánra néző lejtő az I. kerület része.
Minden korban fontos átkelőhely volt a hegy északi lábánál a Dunán, a hegytető a Duna vízszintjétől számítva 140 méter magas.
Barlangjai egy kelta törzs, az eraviszkuszok lakhelye, de más, lakott helyre utaló leletekben is gazdag a térség. Ismertek voltak hőforrásai. A római uralom idején fontos határpont, az északi oldallal szemben volt Contra Aquincum, a hegyen pedig őrtorony volt. Az elnevezés Szent István idejéből való, annak emlékére, hogy a Vata féle pogány lázadásban a hittérítő püspököt a hegyről taszították a Dunába. A XI.-XII. század táján kápolna állt a püspök mártíromságának emlékére.
A németek a hegyen álló palánkvár miatt Blocksbergnek írták a térképeken. A törökök Güsz Eliasz hegyének nevezték.
A nyugati lankákon szőlőtermesztés folyt, a XVI. századtól a néphit boszorkányok gyülekező helyének tartotta, ami talán abból ered, hogy sokáig titkon pogány szertartásokat tartottak a hegyen.
A XIX. században a húsvét hétfői búcsúk nevezetes események voltak, híresek voltak a szüreti mulatságok és híres volt a panoráma is.
A parkosítás gondolatát Széchenyi István vetette fel - Pantheont akart építeni.
Fontos stratégiai magaslat volt, harcoló katonák útvonala, ezért a parkosítást a XIX században még nem tartották időszerűnek. 1897-ben a Citadella katonai jelentőségét elveszti, épületét átveszi a Főváros.
Az Erzsébet híd építése miatt a budai fogadó területen a hegy egy részét elbontják, megépül a támfal. 1904-ben avatják Jankovich Gyula Gellért szobrát és a vízesést, 1901 és 1905 között parkosítják a hegy délkeleti és Duna parti oldalát. 1906-ban kezdik a szerpentin-utakat építeni.
Az Erzsébet híd mellett a Döbrentei téren neoromantikus kis parkocskában ekkoriban kis tó és hegyi ösvény volt, furcsa ismétlődéseként a nagy hegynek.
A parkosítás tovább folytatódott, rendezték a Szikla-kápolna környékét, melyet 1926 Pünkösdjén szenteltek fel. Fásítások készültek, megépült az útrendszer, 1930-ban épültek az első játszóterek.
1947-ben készül el a Felszabadulási emlékmű, mely annyira jelképévé vált 40 év alatt a fővárosnak, hogy a kilencvenes évek szoborbontási lázában csak a szovjet katonákat viszik el a szobor parkba, a pálmaágat tartó nőalak - Kisfaludy Strobl Zsigmond szobra - megmarad.
1950-ben egy kisebb, a park öntözését szolgáló víztározó épült. 1960-ban a délkeleti és déli oldalt - a Jubileumi parkot - építik meg dr. Krizsán Zoltánné, Jancsó Vilmos és Baraczka Katalin tervei szerint.
2013-14-ben épült át a "kőkutyák" játszótere, melyet még 1965-ben Krizsán Zoltánné tervezett. A vidám, tarka gumiburkolatra egy ceruzatartóból kidőlő szines ceruza mászóka került, mellette ugráló asztal, ceruzahegyező formájú mókuskerék szórakoztatja a gyerekeket, de megmaradtak a kőkutyák és a "Hasznos hulladék úton" megmaradt egy régi műkő mászóka. A hulladékokkal kapcsolatos információkat táblákon mutatják be, a padokat különböző cégek, civil szervezetek festették tarkára.
A hetvenes években csúszdás és vizes játszótérrel gyarapodott a park. A kicsik játszóterének és a csúszdás játszótérnek későbbi rekonstrukciójára 1999-ben került sor Tihanyiné Tóth Mária terve alapján. A csúszdás játszóteret 2017-ben a FŐKERT 150 éves jubileumára modernizálták - nagy sikert aratva minden korosztálynál.
1975-ben egy nagyobb - Buda vízellátását szolgáló víztározó épül, melynek takarására épül Vadász György terepbe simuló, „földvára” A park Dr: Krizsán Zoltánné,Baraczka Katalin és Szász Péter első díjas pályaműve alapján készült.
Több szobor gazdagítja a parkot, a csúszdás játszótéren levő pelikán Melocco Miklós szobra 1965-ből. A Jubileumi parkban találjuk Somogyi József Leányka csikóval (1965) című szobrát, Barta Lajos állatfiguráit a homokozóban. Közelében, acél oszlopon áll Segesdi György Szélkakas szobra. Metky Ödön amforáiról nevezték el a Kancsós táblát.
Medgyessy Ferenc két szobra, a Debreceni Vénusz és Anya gyermekkel, valamint Tarr István Ülő nő szobrát láthatjuk a parkban. A Szabó Dezső sétányon áll az író bronzszobra (Szervátiusz Tibor 1990) Borsos Miklós 1995-ben elbontott kútfigurái várják újbóli elhelyezésüket.
A Jubileumi park területének hegytetőre eső részén egynyári virágbemutatót tervezett Nemesné Kucsovszky Annamária, ez az utóbbi években évelő és talajtakaró kísérletek terepe.
Említendő érdekesség a magyar botanika kiváló illusztrátorának, dr. Csapody Verának (1890-1995) az emlékfája - a Sziklakápolnához vezető út melletti atlaszcédrus, melyet 1984-ben tisztelői vele együtt ültettek.
Az érdekes növényeket, szobrokat a térképen tüntettük fel. A fügefák állítólag a török idők emlékei.
2010 es években újították fel a játszóteret a kő lovacskákkal, ez lett a Cerka-firka játszótér. Kb. 10 évvel később sor került a nagyon népszerű csúszdás játszótér felújítására is, gumiburkolattal látták el és fém csúszdákkal szerelték fel. 2022-ben látszólag találomra - ahol hely volt - fákat ültettek, ami a Jubileumi park gondosan megtervezett térszerkezetét teletömi, megváltoztatja. 2021 telén látni lehetett, hogy a Szabadság szobor elé büfé pavilont helyeztek el.
2022-ben a Szent István Egyetem Budai Campus (Gecséné Tar Imola) készített kerttörténeti kutatást , ami az akkori szándék szerint a Citadella és park felújítását, átalakítását megalapozó munka lett volna. Jelenleg a beruházást halasztják, csak a Citadella hasznosítására korlátozódik a munka. Ebből szerepel a térképeknél a park létesítésének időbeli ábrázolása.
Az érdekes növények listája (lásd a térképen a Főkert Tervezési Stúdió által 1998-99-ben készített dendrológiai felmérés szerint):
Északi oldal:
1.Acer platanoides „Palmatifidum” (szeldelt levelű korai juhar)
2.Cedrus atlantica „Glauca” (ezüst atlasz cédrus)
3.Cedrus atlantica (atlasz cédrus)
4.Eucommia ulmoides (kínai gumifa)
5.Euonymus bungeana (kecskerágó)
6.Evodia huppehensis (mézesfa)
7.Ostrya carpinifolia (komlógyertyán)
8.Paulownia tomentosa (császárfa)
9.Populus nigra „Thevestiana” (tiszaháti nyár)
Déli oldal:
1.Acer henryi (szecsuáni juhar)
2.Broussonetia papyriphera (papír eper)
3.Betula pendula „Dalecarlica” (szeldelt levelű nyírfa)
4.Cedrus atlantica „Glauca” (ezüst atlaszcédrus)
5.Cercis siliquastrum (júdásfa)
6.Cupressus sempervirens (európai ciprus)
7.Cupressocyparis leylandii (leyland ciprus)
8.Exochorda racemosa (gyöngy-cserje)
9.Ficus carica (fügefa)
10.Fraxinus excelsior „Diversifolia” (egyszerű levelű kőris)
11.Gingko biloba (páfrányfenyő)
12.Ostrya carpinifolia (komlógyertyán)