約書亞死後，希伯來人進入“士師”時代，舊約《聖經》在《約書亞記》之後即為《士師記》。“士師”是希伯來人十二分支的政治領袖和軍事統帥。由於腓力斯人此時已經滲透至迦南地，並對希伯來人的生存形成了巨大威脅，士師時代那種各支派各自為政、甚至相互衝突的情形已經不能適應形勢需要。
於是，大約在公元前1020年左右，先知和士師撒母耳(שמואל，Samuel)從便雅憫支派中挑選出掃羅(שאול，Saul)，為他行膏油澆頭的儀式，立他為希伯來人的領袖。掃羅成為統一的以色列聯合王國的第一代君王。掃羅是一位傑出的軍事領袖。他帶領希伯來人與腓力斯人英勇作戰，把腓力斯人趕出了便雅憫和以法蓮地區，同時還向周圍的林祖發起多次報復行動，極大提高了希伯來人的民族自信心。最後他在與腓力斯人的戰鬥中陣亡。
歷史資料顯示，掃羅王始終沒有進攻耶布斯人占據的耶路撒冷，儘管她就在自己的領地內。他把攻占耶路撒冷的榮譽給了他的繼任者，希伯來人和猶太人真正意義上的開國君主——大衛王(דָּוִד，King of David)。根據傳說，大衛王原來只是猶大支派中的一名牧羊人，但在與腓力斯人的戰鬥中，他機智勇敢、屢戰屢勝，尤其是用計殺死了腓力斯巨人歌利亞之後，在希伯來人中贏得了很高的威望，並娶了掃羅的女兒為妻。但是後來，掃羅嫉妒大衛的才華，曾想置之死地。
公元前1007年(一說公元前1010年)，大衛被推選為猶大支派之王，並征服了北方的希伯來支派，開始與掃羅之子伊施波設(איש，Ishbosheth)爭奪王位。伊施波設在當了兩年國王之後就被手下軍人刺殺。於是希伯來各支派就派長老去希伯倫為大衛加冕，大衛成為以色列王國國王。從史實上來看，大衛其實是以色列王國第三任國王，但是在《聖經》中卻是第二位被受膏的國王，因此也是第二位合法的國王。後來便雅憫和猶大支派成為了希伯來人主要成分。
在大衛王的統治下，希伯來國家呈現出一片繁榮的景象，不但完全消除了腓力斯人的威脅，甚至主動進攻，把腓力斯人逐出了境外。在此之後，大衛王發動對外戰爭，使整個地中海東岸除了腓尼基和一小部分腓力斯人領地外，全部成為希伯來王國的藩屬。不過，此時希伯來王國的都城在南部比較封閉的城鎮希伯倫(חֶבְרוֹן，Hebron)，不利於對整個希伯來民族的控制。
環顧整個希伯來王國的領土，只有耶路撒冷具有都城之相，她不僅位於王國中部，易於防守，也處於重要的貿易商道上。更重要的原因是，希伯來各支派經過長時間內戰急需再次凝聚起來，而選擇不在所有支派控制下的、中立的地方重新建都能夠表明大衛王的決心(這有點像當年合眾國將首都選在華盛頓一樣，因為她位於南北各州之間)。於是大衛王決定將首都遷到耶路撒冷。正如前所述，儘管耶路撒冷位於以色列王國境內，但是卻並沒有在希伯來人手中，而是由耶布斯人控制著。這次，大衛王又動用了武力。
耶路撒冷很早就出現在大衛王的生命中了。在他打敗了歌利亞之後，曾將巨人的頭顱帶到了耶路撒冷(撒母耳記17：54)。雖然並不清楚他為何要去耶路撒冷，但是很明顯這座城市在他早年生活中地位非常重要。公元前1000年，大衛進攻耶路撒冷。這場戰鬥兩次出現在《舊約聖經》中(撒母耳記下5：6-9和歷代志上11：4-7)。
《聖經》明確記載希伯來所有支派都參加了攻打耶路撒冷的戰鬥。也就是說，大衛對耶路撒冷的征服，使希伯來整個民族和該城之間建立起了聯繫《撒母耳記》裡面提到耶布斯人詭異的反應：“耶布斯人對大衛說，你若不趕出瞎子，瘸子，必不能進這地方。心裡想大衛決不能進去。”為何要提到“瞎子”和“瘸子”?有可能是耶布斯人對大衛王的嘲弄，意思是耶路撒冷城防守非常堅固，即便是瞎子和瘸子都能守住。也有可能是耶布斯人的詛咒，意思是如果你膽敢進攻耶路撒冷，你就會變成這些殘疾人一樣的命運。
確實，耶路撒冷的防禦工事非常堅固。大衛王使出渾身解數攻占耶路撒冷，甚至宣稱第一個進入該城的必做首領和元帥。在大衛的侄子約押(יוֹאָב，Joab)的帶領下，希伯來軍隊從城外基遜泉的引水道秘密攻進城內。但是近代的考古表明，當年基遜泉附近耶布斯人的防守是很嚴密的，如果從這裡進攻，耶布斯人不可能不知道;而且這個引水道是大衛時代以後修建的。不過《舊約》的通用希臘語譯本《七十士譯本》則稱希伯來軍隊還是通過肉搏戰才奪下耶路撒冷的。在進入耶路撒冷之後，大衛王宣布其成為以色列王國的首都。
但是此時的耶路撒冷很小，大衛王向南進行了擴建，而且將宮殿搬到了耶布斯人的堡壘里，將其改名為“大衛城”(עיר דוד，City of David)。他在大衛城裡面利用耶布斯人修建的宮殿並對他加以改造，考古發現他曾鋪設了一塊巨大的高達18米的基石。大衛王改建的宮殿結構極其宏偉，《聖經》《撒母耳記下5：11-12》記述推羅王希蘭曾向耶路撒冷運送香柏木，並派遣工匠和石匠為大衛修建宮殿。他還逐步將耶路撒冷發展成為希伯來人的一處宗教中心。他首先將約櫃遷到耶路撒冷(《撒母耳記》上第6章)，為約櫃建造了會幕。
通過這一舉措，大衛王在耶路撒冷和希伯來民族之間，在大衛王朝和上地之間建立了歷史的聯繫，這種聯繫使得耶路撒冷直到今天仍然具有獨一無二的地位。接著，大衛王開始把注意力集中到他一生中最偉大的事業——在耶路撒冷修建聖殿。但是先知迦德勸告他經過了長期戰爭需要休養生息，不要大興土木，更重要的是聖殿是和平的象徵，作為戰士的大衛曾打過太多的仗，殺人流血，不能修建聖殿，上帝要大衛的繼承者來完成這件事情。因此，建造聖殿的工作才沒有啟動。
當然，《聖經》並沒有貶低大衛王對於修建聖殿所做貢獻的重要性。大衛選擇了建殿的地點，還殫精竭慮地為聖殿準備建築樣式和建設計畫(《聖經》《歷代志》上第21章和28章)，並且為建殿準備了許多勞動力。在此之前，大衛王已經從外約旦等地收集來許多戰利品，把它們運到耶路撒冷，使他們分別成為聖器以備聖殿所用。儘管大衛不能親自實施這項工程，但他幾乎把修建聖殿所需要的一切都準備妥當了，大衛王是修建聖殿的倡導者、設計者和建殿材料的準備者。在他的努力下，他的兒子所羅門王理所當然地完成了第一聖殿的建設。而從大衛王的時代開始，耶路撒冷就成為了猶太民族的精神中心和嚮往的聖地，持續千年。
