当以色列人在旷野里流浪时，约柜一直都放在流动圣幕的至圣所内，直到所罗门王于耶路撒冷兴建圣殿为止。
约柜是以色列人的圣物，象征着耶和华的临在，根据摩西律法规定，只有作为祭司的利未人才可以抬扛约柜，但是任何人都不得触碰约柜。根据《圣经》记载，乌撒在运送约柜其间违反上帝的律法，擅自触碰约柜被处死。
离开圣幕在撒母耳先知的日子，示罗的遭遇使以色列人的宗教感情大受打击。他们以为神圣的约柜可以拯救他们，使他们不致被非利士人所击败。因此他们将约柜从设于示罗的帐幕的至圣所中取出，目无法纪的祭司，大祭司以利的两个儿子，将约柜带到战场上。但是约柜并没有保护他们，使他们不致遭受他们肆意违反耶和华的律法所招致的恶果。很不幸地，约柜落入信奉异教的非利士人手中，以利两个作祭司的儿子，何弗尼和非尼哈，均在战场上被杀。
当肥胖的大祭司以利获悉这个不幸的消息时，他晕倒在地，结果折断颈骨而死。以色列人继续受非利士人所压迫。虽然崇拜偶像的非利士人后来因为饱受灾祸打击而将约柜遣回，象征耶和华临在的神圣约柜却永没有返回示罗的神圣帐幕中。
返回耶路撒冷大约70年以后，大卫尝试运送约柜去耶路撒冷。当时约柜放在牛车上，乌撒和他兄弟领着前行。圣经说：“他们到了拿康的脱谷场，当时牛险些弄翻车子，乌撒就伸手抓住上帝的约柜。耶和华向乌撒发怒。上帝因乌撒行为不敬而击杀他，他就当场死在上帝的约柜旁。”几个月后，大卫按照上帝指定的方式运送约柜，由利未族哥辖人扛抬着送到耶路撒冷去，这次一路顺顺利利。
约柜消失耶和华通过耶利米发出警告，他会对待耶路撒冷像他对待一度得享殊荣的示罗一般。因此他让巴比伦人在公元前607年将耶路撒冷摧毁。甚至所罗门王所建及有约柜设于其中的圣殿亦被夷为平地。约柜本身则消失踪影。
灾难临到示罗之后，非利士人容许以色列人留在当地。但是在巴比伦人毁灭了耶路撒冷及其中的圣殿之后，他们将大部分劫后余生的犹太人放逐到遥远的巴比伦。剩下的少数犹太人也最后发生恐慌而逃往埃及去。这使整个犹太地区沦为无人居住。
