Constituido rei de Israel e Judá, David fez a sua primeira grande conquista, e que foi, talvez, a mais importante do seu longo reinado. Jebus, ou Jerusalém, era uma cidade considerada inexpugnável, sendo pertencendo aos jebuseus. No entanto, David «apoderou-se da fortaleza de Sião, que se tornou a Cidade de David, onde se estabeleceu».
Jerusalém, portanto, tornou-se a capital inequívoca do reino unido, como se verá nos textos posteriores. Aliás, torna-se desnecessário fazer uma descrição da importância da cidade, uma vez que esta será evidente ao longo de toda a Escritura. Com a conquista de Jerusalém e a estabilização do reino, David cumpria os desígnios de Deus para o seu povo.
Certamente com o intiuto de promover boas relações com David, que se tornava muito poderoso, o rei de Tiro ofereceu-se para lhe enviar trabalhadores e materiais para a construção de um palácio. Desta forma, foi construído um palácio com os famosos cedros do Líbano, onde David passou a viver.
Ora, tornando-se Jerusalém na capital política do reino, David pensou também em fazer dela o centro religioso. Para tal, era necessária a presença da arca da aliança, a próposito da qual se diz que fora desprezada no reinado de Saul. Assim, de comum acordo com os anciãos, David organizou o processo de transladação da arca, que se encontrava em Quiriatirim. É narrada com algum detalhe a morte de Uza, ou Oza, que tentou impedir a arca de cair, estendendo para tal a sua mão. Deus entendeu-o como uma falta de respeito, pelo que puniu Uza com a morte. Esta quase incongruência, de Deus punir quem impediu a arca de cair, explica-se como sendo uma hipérbole destinada a incutir o temor de Deus - tema recorrende no Antigo Testamento. Devido a este facto, David optou por manter a arca algum tempo em casa de Obededom de Gat.
Mais tarde, tomando conselho com o povo, David organizou uma grande cerimónia de transladação para Jerusalém, com a participação dos chefes e «com grandes regozijos». Em Jerusalém, «a arca foi colocada no meio da tenda que David tinha preparado». De facto, só com Salomão foi construído o templo; no reinado de David, a arca estava numa tenda, certamente por forma a recordar aos israelitas a sua estadia no deserto.
No final das cerimónias, foi cantado um poema que o texto atribui ao rei David - e que é, basicamente, um bonito hino de glorificação a Deus.