לפי ספר שמות, הארון נעשה מעצי שיטה וצופה זהב מבפנים ומבחוץ. מעליו היה מכסה מזהב שנקרא ״כפורת״, ועליו שני כרובים — דמויות עם כנפיים. בצדי הארון היו טבעות ובהן מוטות, והלויים נשאו את הארון על כתפיהם במסע במדבר.
לפי הסיפורים בתנ״ך, הארון היה במרכז רגעים גדולים: כשהכוהנים שנשאו אותו נכנסו לירדן, המים נעצרו והעם עבר; ולפני נפילת חומות יריחו הקיפו את העיר והארון בתוך התהלוכה. בימי עלי הכוהן הפלשתים לקחו את הארון, ואחר כך החזירו אותו. דוד העלה אותו לירושלים, ושלמה הכניס אותו לבית המקדש.
אחרי חורבן בית המקדש הראשון, התנ״ך לא מספר מה עלה בגורל הארון, ונכתבו עליו אגדות רבות. בבתי כנסת קוראים ״ארון הקודש״ לארון שבו שומרים את ספרי התורה — וזה מזכיר את ארון הברית, אבל זה לא אותו דבר.