Согласно древним сообщениям, Иерусалим был сначала небольшой деревней, которую называли Салем и заселяли хананеи, предки палестинцев. Великий и праведный ханаанский правитель превратил эту деревню в город и назвал его Иерусалимом. Он также построил там храм. Об этом говорится в книге «Иудейская война» историка I столетия Иосифа Флавия: «Тот, кто построил (город Иерусалим), был влиятельным человеком среди хананеев. На их языке его называли Мелхиседек, «праведный царь», поскольку именно таким он и был. Он был первым священником и построил (там) первый храм, и назвал город Иерусалимом, который до этого назывался Салем».

Согласно Библии, Мелхиседек был современником пророка Авраама (Ибрахима, мир ему), жившего около 1800 г. до н. э., поэтому считается, что Иерусалим вместе с храмом был изначально построен как ханаанский город ханаанским царем около 3800 лет назад.
С 1600 по 1300 гг. до н. э. город находился под египетским сюзеренитетом, но оставался в руках ханаанских правителей, плативших дань фараонам. В этот период на город часто нападал народ, известный как хапиру, или хабиру. Вероятно, именно они и были древними евреями, которые представлены в Библии предками современных евреев.

В 1897 году были обнаружены древние египетские письмена, известные как Амарнский архив (Тель-эль-Амарнский архив). Среди них была найдена переписка между фараоном XIV ст. до н. э. и Абди-Хебой, ханаанским правителем Урасалима (Иерусалима), в которой последний просит своего египетского сюзерена помочь в защите от набегов хабиру.
Египтяне и хананеи были очень ослаблены моральным разложением, магией и идолопоклонством. Хабиру удалось утвердиться в Северном Ханаане, или Палестине. В то время среди евреев (израильтян), проживавших в Египте на положении рабов, появился пророк Моисей (Муса, мир ему). Муса вывел евреев из Египта, и после него Аарон и Иешуа привели их к Северному Ханаану, где они присоединились к другим евреям и разделили с ними их богатство и свободу.

Несмотря на многочисленные разногласия, идолопоклонство и аморальные практики, традиция Мусы (мир ему) была жива, и время от времени в их среде появлялись пророки. Среди таких людей были царь Давид (Давуд) и его известный сын Соломон (Сулейман) (мир им).
Именно в правление царя Давида евреи смогли установить сильное царство во всей Земле Ханаанской. И тогда (около 1000 г. до н.э.) Иерусалим впервые стал иудейским городом, и Давид (мир ему) провозгласил его столицей. Позже Соломон (мир ему) построил иудейский храм на месте раннего ханаанского святилища, построенного Мелхиседеком.
После смерти Соломона (мир ему) иудейское правление продолжалось в Иерусалиме приблизительно четыре столетия, и в этот период город периодически осаждали и захватывали ассирийцы, филистимляне, арабы, сирийцы и египтяне.

Само Израильское царство стало государством-вассалом и длительное время выплачивало дань Ассирии, Египту и Вавилону. В 587 г. до н. э., когда правитель царства был под сюзеренитетом Вавилона, евреи взбунтовались, и у вавилонян не было другого выбора, кроме как применить против них силу. Они разрушили царство и его столицу, Иерусалим, сожгли Храм Соломона и обратили в рабство самих евреев. Вот что Коран говорит об этом: «Мы предопределили сынам Исраила (Израиля) в Писании: „Вы дважды будете бесчинствовать на земле и будете чрезмерно высокомерными". Когда настала пора первого из двух бесчинств, Мы наслали на вас Наших могущественных рабов, которые прошлись по землям. Так обещание было исполнено» (Коран, 17:4–5).

Примерно через пятьдесят лет, в 538 г. до н. э., персидский император Кир разгромил вавилонян и получил контроль над Палестиной. Он благосклонно относился к евреям и разрешил им вернуться в Палестину и отстроить Храм — что они и сделали в 515 г. до н.э.
В правление Ездры и Неемии евреи перестроили и реорганизовали свою религиозную и политическую жизнь и какое то время процветали, а вавилоняне были порабощены персами. Коран пишет следующее об этих событиях: «Затем Мы вновь даровали вам победу над ними. Мы поддержали вас богатством и сыновьями и сделали вас более многочисленными» (Коран, 17:6).

От персов Палестина и Иерусалим перешли к Александру Великому и находились под греческим правлением с 332 г. до н. э. Конец эпохи греческого правления наступил, когда в 167 г. до н. э. они начали ставить в Храме идолов. Это немудрое действие в целом просветленных греков спровоцировало еврейское восстание Маккавеев, и в 164 г. до н. э. они (евреи) взяли бразды правления в свои руки.

Период собственно еврейского правления городом продлился около ста лет, после чего пришли римляне и установили свой контроль — сначала как язычники, позже как христиане (Византия), до взятия города вторым халифом мусульман Омаром ибн Аль Хатабом.
В эпоху Маккавеев евреи стали очень высокомерны. До этого они также выработали разрушительную тенденцию жить прошлым. Их реакцией на римское правление было слепое и высокомерное неповиновение. Они породили такие движения, как зелотское, которые без предварительной оценки ситуации хотели отобрать власть у значительно превосходящих их римлян.

Евреи также проявили упрямство по отношению к Божьему посланнику, который появился среди них примерно в 30 году нашей эры в лице Иисуса (Исы, мир ему) для того, чтобы научить их человечности, миролюбию, терпению, вере, любви и внутренней чистоте. И Бог наказал евреев снова — на этот раз руками римлян. В 70 г. н. э., в правление императора Тита, сына Веспасиана, римляне взяли Иерусалим. Они стерли город и его Храм с лица земли. После жестокой резни наступил голод, унесший жизни от 200 до 600 тысяч жителей. Позже римляне построили на месте Иерусалима новый город — Элия Капитолина. Под страхом смерти они запретили иудеям вход в него. Коран говорит об этом поражении евреев и разрушении их столицы: «...Когда настанет последний срок наказания [за ваши бесчинства], [то Мы направим против вас новых врагов], чтобы они причинили вам зло, вошли в Храм, подобно тому как вошли [их предшественники] в первый раз, и чтобы они до основания разрушили то, чем завладели» (Коран, 17:7).

Параллельно со всеми религиозными изменениями в древнем городе и его Храме происходили также и изменения в политическом руководстве. Целый ряд религиозных чувств и идей — реальные и выдуманные — оплетали город и Храм. Одна из самых важных возникших идей — это пророчество о том, что Иерусалим и его Храм, который до того имел только региональное значение, однажды станет святым местом для всего мира. Это пророчество записано в нескольких книгах Библии: книгах пророков Исаии, Михея, Иеремии и т. д. (например, Исаии 56:7 и 2:3).