בית הכנסת העתיק בפקיעין נבנה, על פי המסורת, לאחר חורבן בית המקדש השני על שרידי בית מדרשו של התנא רבי יהושע בן חנניה שנמנה על הלווים. ר’ יהושע נתמנה לראש החכמים לאחר מותו של רבן גמליאל, שהיה בר הפלוגתא הידוע ביותר שלו, בשנת 130 לספירה. חכמת רבי יהושע הייתה מפורסמת בדורו, ובמיוחד בויכוחים ובפולמוסים. “מימי לא נצחני אדם חוץ מאישה תינוק ותינוקת”, העיד ר’ יהושע על עצמו. ישנה סברה כי ר’ יהושע הגיע לפקיעין בשל חילוקי הדעות שהיו בינו לבין הנשיא רבן גמליאל. החוקר א.מ לונץ טען, כי ר’ יהושע בן-חנניה עבר לגליל עקב העתקת מקום הסנהדרין לשם.

כשברחו רבי שמעון ובנו מפני הרומאים שביקשו להרגם, הסתתרו במקומות שונים בגליל. בין מקומות המסתור בהם התחבאו היה גם בית מדרשו זה של רבי יהושע בן חנניה בפקיעין. לאחר זמן ארוך בו שהו בבית המדרש הגיעו אל המערה המפורסמת בפקיעין שבה הסתתרו 13 שנה ובה, על פי המסורת כתב רבי שמעון בר-יוחאי את ספר הזוהר.