בית הכנסת נזכר בפעם הראשונה בספר "מסע דפלסטינ" של שמואל בר' שמשון משנת 1210, שמצא שם קבר יהודי ומעליו בית כנסת יפה, שקירותיו עדיין עומדים. שוב נזכר המקום בכתבי נוסע בארץ-ישראל, הקובע שבניין מפואר כזה לא ראה עוד. משנת 1523  קיימת עדותו של רבי משה באסולה, שראה את שרידי בית הכנסת העתיק, שרק שני שערים נותרו ממנו. זהו אפוא בית הכנסת הראשון, שחורבותיו עוד נראו במאה התשע עשרה ונשאר ציור של הפתח המרכזי שלו. הוא יוחס לעובדיה הנביא וסביבו נותרו כמה קברים מקודשים.

בשנת 1905 ערכו היינריך קוהל וקרל וטצינגר חפירה ארכאולוגית במקום, במסגרת הסקר המקיף שלהם על בתי הכנסת העתיקים בגליל. השריד החשוב, מרכז הגן הלאומי, הוא בית הכנסת הגדול, שנבנה בין המאה השנייה לרביעית ובימי הביניים ייחסו אותו, יחד עם עוד בתי כנסת, לרבי שמעון בר יוחאי . קיר החזית שלו, הפונה לירושלים, השתמר יפה יותר מבבתי כנסת אחרים מתקופתו, ובו כניסה מפוארת ומעליה קשת ששרדה בשלמותה, תקופת בנייתו מתוארכת ארכאולוגית לסוף המאה ה-4 תחילת המאה ה-5 לספירה בה בעת שמבחינת הסגנון האדריכלי בית הכנסת מתוארך למאה ה-2 עד למאה ה3 לספירה. הסבר אפשרי לכך הוא שבית הכנסת נבנה במאה השלישית אך פורק והועתק למקומו הנוכחי במאה החמישית. את התופעה של פירוק ובנייה מחדש מכנים בעגה הארכאולוגית "סְפוֹליָה", בתקופה הביזנטית היה איסור על בניית בתי כנסת אך מותר היה לשפץ וכן לפרק ולבנות מחדש, וזו אחת מן הדוגמאות למקרה כזה.

בית הכנסת דומה עד מאוד למקדש בקדש הסמוכה והוא מעיד על השפעות אדריכליות על יהודי התקופה מצידם של הזרים שישבו בארץ באותה העת. חזית בית הכנסת הייתה, כנראה, מקור ההשראה לצורת חזית בית-הכנסת "תפארת ישראל" שבעיר העתיקה בירושלים. בית-הכנסת "תפארת ישראל" נבנה על ידי ניסן ב"ק שגדל בצפת והכיר אתר חשוב זה שבסביבות ביתו שבגליל. לשימוש בצורה המוכרת מברעם הייתה משמעות סמלית, כעין יד-זיכרון לקהילות היהודיות בצפת ובגליל שנחרבו ברעידת האדמה הגדולה שהחריבה את צפת וסביבתה בתקצ"ז (18377).