הארכאולוגיה הייתה אבן פינה בחזון האוניברסיטה העברית מיום הקמתה, באשר היא מאגדת את שלושת התחומים שהאבות המייסדים הגדירו כמרכזיים לאוניברסיטה הלאומית של העם היהודי: מצוינות מדעית, שימור המורשת היהודית, וחקר ארץ ישראל. האוניברסיטה ביצעה את חפירתה הראשונה כבר ב-1929, עוד בטרם החלו לימודי הארכאולוגיה באופן מסודר.
המכון לארכאולוגיה נוסד ב-1934 כ"מחלקה לארכאולוגיה של האוניברסיטה העברית בירושלים". ב-1936 הוקם על הר הצופים "בית הנכות לעתיקות היהודים" (כיום האגף הישן של המכון), "בית הנכות" וה"מחלקה" הפכו להיות ה"מכון לארכאולוגיה" בשנת 1967, כאשר המחלקה לארכאולוגיה ובית הספר למשפטים היו היחידות הראשונות של האוניברסיטה העברית לחזור לקמפוס הישן על הר הצופים.
בעקבות מלחמת העצמאות הפך הר הצופים למובלעת ישראלית בשטח ירדני והפעילות האקדמית על ההר פסקה. הלימודים והמחקרים התקיימו במתחם טרה סנטה ובמבנים שונים ברחבי העיר עד בנייתו של קמפוס האוניברסיטה בגבעת רם (1958). למכון לארכאולוגיה היו משרדים, מעבדות מחקר ומחסנים בשכונת טלביה, בעמק רפאים ובממילא.
בניין המכון לארכאולוגיה בגבעת רם (1959) השקיף מצפון אל רחבת הכניסה הראשית לקמפוס. במבנה מערך של חדרים ומעברים הבנויים סביב חצרות פנימיות שנועדו להכניס אור טבעי. קירות האבן מסתיימים בשורה של חלונות ומעליהם קורת בטון חשופה, אלמנטים המעניקים דגש אופקי למבנה. הבניין נקרא על שם אליזבת מלכת בלגיה שהשתתפה בטקס חנוכתו. כיום משמש כמשכנו של ארגון ג'וינט ישראל.
מאז הקמתו היה המכון מעורב במספר גדול של חפירות ארכאולוגיות המתפרסות על כל התקופות הארכאולוגיות - מתקופת האבן ועד לתקופה המוסלמית. רבות מן החפירות המכוננות של הארכאולוגיה הישראלית וחפירות חשובות בקנה מידה עולמי בוצעו על-ידי מכון זה.
