Jerusalems bybilde er sterkt preget av en lang og politisk vekslende forhistorie, som kommer spesielt til uttrykk gjennom Gamlebyens inndeling i fire kvartaler etter representerte trosretninger, det kristne, det muslimske, det
armenske
og det jødiske kvartal. Rester av den eldste bosettingen fra før 4000 fvt. er funnet sør for Gamlebyen, i det omradet som na kalles Davids by.
Levninger av byggverk og eksisterende bygg fra de tidligere epoker er primært representert i omradet innenfor og omkring Gamlebyen; underjordiske vannanlegg fra den første tempelperioden (1000?586 fvt.). Klagemuren (
Vestmuren
) i Gamlebyen er en del av den nye støttemuren
Herodes
(ca. 73?4 fvt.) lot bygge rundt tempelplassen. De eldste delene av Davids tarn i vest er fra
makkabeertiden
, i 2. arhundre fvt., men citadellet vi ser i dag ble bygget av
osmanerne
pa 1600-tallet.
Den hellige gravs kirke
innviet ar 335, i sørøst pa
Tempelplassen
(Har ha-Beit/Haram al-Sharif) ligger
Klippemoskeen
fra 691, bygd etter den arabiske erobring, og
al-Aqsa-moskeen
, grunnlagt noen artier senere og gjenoppbygd etter jordskjelvet i 1033, Hellige Annas kirke lengst øst mot bymuren er fra
korsfarertiden
.
Naværende bymur rundt Gamlebyen er fra
den osmanske tiden
, og ble ferdigbygd i 1542. Den er 12 meter høy, med 34 tarn og 8 porter, hvorav Jaffa- og Damaskusporten er de viktigste for dagens trafikk. Utenfor gamlebyomradet, og østover mot
Getsemane
og
Oljeberget
, finnes tilsvarende en rekke minnesmerker og valfartssteder fra eldre og nyere tid. Her ligger ogsa Rockefeller museum. Ellers er de palestinske omradene i Øst-Jerusalem preget av tradisjonell arabisk bebyggelse.
Bebyggelsen i Vest-Jerusalem har i stor grad et vesteuropeisk preg med blanding av lav bebyggelse og høyhus. De viktigste byfunksjonene er lokalisert i vest; den sentrale busstasjonen, jernbanestasjonen, parlamentet (
Knesset
), kommuneadministrasjonen, høyesterett, avdelinger av Det hebraiske universitetet og Hadassah-sykehuset, flere museer, blant annet Holocaustmuseet og Israel-museum, sistnevnte med omfattende utstillinger av arkeologiske samlinger,
Dødehavsrullene
og av samlinger fra jødenes
diaspora
. I vest ligger ogsa Israels hovedrabbinat, mange
synagoger
, kirker, andre kristne institusjoner, samt de moderne handlestrøkene.
Alt under det osmanske styret etablerte jødene bosettinger utenfor Gamlebyen i det naværende Øst-Jerusalem. En av disse, Mont Scopus-omradet, ble utvidet under den britiske mandatperioden til en større enklave, hvor Det hebraiske universitetet ble grunnlagt 1925; ogsa Hadassah-sykehuset ble etablert her i samme perioden. Brigham Young-universitetets avdeling for Midtøsten-studier ligger i dette omradet.