בקצרה
היו כמה גישות במהלך ההיסטוריה שניסו לענות על השאלה "מהו מדרש?" כך, לדוגמה, הגאונים ערכו הבחנה חדה בין הלכה לאגדה וקבעו שמה שמחייב הוא הלכה, ואגדה לא באה אלא למשוך את הלב: "הוו יודעים כי דברי אגדה לאו כשמועה הם, אלא כל אחד דורש מה שעלה על לבו כגון אפשר ויש לומר, לא דבר חתוך. לפיכך אין סומכים עליהם" [רב האי גאון, אוצר הגאונים חגיגה. חלק הפירושים, סז]. וכן: "הני מילי דנפקי מפסוקי ומקרי מדרש ואגדה אומדנא נינהו [...] לכן אין סומכין על אגדה ואמרו אין למדין מן האגדות [...] והנכון מהם מה שמתחזק מן השכל ומן המקרא נקבל מהם ואין סוף ותכלה לאגדות". ידועים דברי הרמב"ם על המדרש כשקבע:
לארבעת המינים שבלולב נתנו החכמים ז"ל טעמים כלשהם על דרך הדרשות אשר שיטתן ידועה למי שמבינים את דבריהם. כי הם, לדעתם, בצורת מליצות פיוטיות, ולא (סברו) שזאת משמעות הכתוב. האנשים נחלקו באשר לדרשות לשני חלקים. חלק דימו שהן באות להבהיר את הכתוב, וחלק זלזלו בהן ושמו אותן לצחוק, שכּן ברור וּמְחֻוָּר שאין זאת משמעות הכתוב. החלק ההוא נאבקו לסתור-את-מה-שגלוי-לעין כדי לאמת, לטענתם, את הדרשות ולהגן עליהן, וסברו שזאת היא משמעות הכתוב, שדין הדרשות כדין הדינים המסורים במסורת. שתי הקבוצות לא הבינו שהן בבחינת מליצות פיוטיות, שאין בהן כדי לבלבל את מי שניחן בהבנה. שיטה זאת היתה נפוצה בזמן ההוא. הכול השתמשו בה כמו שהמשוררים משתמשים בביטויים פיוטיים [מורה נבוכים ג, מג, תרגום שוורץ]
יוצא אפוא שאליבא דידו המדרש אינו מציג פרשנות ולא עומק הגותי, אלא שעשועי תורה, כמליצת השיר. עמדה זו עקבית עם המובא במשנה תורה: "לעולם לא יתעסק אדם בדברי ההגדות ולא יאריך במדרשות האמורים בענינים אלו וכיוצא בהם ולא ישימם עקר, שאין. מביאים לא לידי יראה ולא לידי אהבה". בדומה לכך גם הרשב"ם, הפרשן הפשטי, התבטא שאין באגדה עומק גדול: "מתוך שאין אגדות צריכות עיון יכול לדרוש בכל מקום".
חוקרים מודרניים התייחסו אחרת למדרש. בויארין מחלק את חוקרי המדרש לשתי אסכולות: מצד אחד ישנם חוקרים שגרסו שהמדרש אינו אלא בבואה של המצב ההיסטורי ששרר בזמן יצירתו; ומצד שני יש חוקרים שראו את המדרש כעין פרוטו-טייפ להרמנויטיקה דקונסטרוקטיביסטית, כלומר לא כביאור פשוט של הטקסט המקראי אלא פרשנות שחושפת את רבדיו העמוקים, את התת מודע של הטקסט.
האסכולות של חכמת ישראל, ולאחר מכן חוקרי מדעי היהדות, ניגשו למדרשים בהתאם לגישה היסטוריציסטית. למשל אפרים אורבך כתב במבוא לחיבורו החשוב והמקיף "חז"ל – אמונות ודעות" מהן הנחות מחקרו. בין היתר הוא ציין גם את המניע לכתיבתו, שהוא להבין את "תולדות אמונותיהם ודעותיהם של חז"ל על רקע המציאות של ימיהם וסביבתם" [עמ' 3]. הלה הוסיף כי "מאז מאקס ובר וספריו הגדולים על סוציולוגיה של הדת אין מי שיטיל ספק בחשיבותו של בירור היחסים שבין נתונים חברתיים-כלכליים לבין תורות דתיות". כלומר שהדרך להבין את מדרשי חז"ל היא דרך מחקר היסטורי משווה. מנגד, היו חוקרים שראו במדרש מעין יצירה פוסט מודרנית שמבנה את הטקסט מחדש.
בויארין חולק הן על הגישה המסורתית והן על הגישה ההיסטוריציסטית. הוא טוען שחז"ל עצמם תפסו את המדרש בצורה אחרת. הוא מסתמך על הספרי האומר "'למען הודיעך כי לא על הלחם לבדו יחיה האדם' זה מדרש, 'כי על כל מוצא פי ה' יחיה האדם' אלו הלכות ואגדות" [ספרי, עקב] כדי להציג תשובה שונה לגמרי לשאלה הזו.בניגוד לכמה חוקרים, שקבעו כי עצם ההבחנה בין פשט לדרש היא הבחנה מאוחרת שהייתה זרה ליוצרי המדרש במאות השנים הראשונות של מפעל זה, בויארין מביא ראיות יפייפיות לכך שהבחנה זו הנחתה את חז"ל כשניגשו לתורה. בויארין אמנם מקבל את ההבנה בין פשט לדרש, אך הפשט אינו אלא חלק מדרכי המדרש. אחת מהמידות שהתורה נדרשת בהן היא "דבר הלמד מעניינו ודבר הלמד מסופו". כלומר יש פעמים שמשמעות הכתוב מתבררת מתוך הקשרו, וזוהי למעשה הגדרה מתאימה לפשט. אך מדובר על עומק הפשט:
"טענתי בספר זה היא כי הקריאה המדרשית הרווחת בחלקים האגדיים של מדרש התנאים [...] דומה לתהליכי הקריאה המקובלים של טקסטים נרטיביים מורכבים. טקסטים שכאלה הם רוויי פערים מעצם טיבם [...] כדי לשוות מובן לטקסט שכזה על כל קורא לעשות שימוש בחומר אינטרטקסטואלי במובנו הרחב, הכולל את המאגר הלשוני וצורות הסיפר הקיימות בתרבות באופן סינכרוני [...] המסורת האלגורית-אריסטוטלית של היהדות, המוצאת את מלוא ייצוגה ברמב"ם, התנכרה להשקפת הלשון שמונחת ביסוד המדרש [...] המחשבה היהודית והפרקטיקה הפרשנית במשך למעלה מאלף שנה נצמדה למסורת הלוגוצנטרית, והמדרש לא זכה להוקרה לא מבית ולא מחוץ. יתר על כן, אף שהקבלה דומה מבחינות אחדות למדרש, מבחינת אופן הבנת הלשון היא שונה ממנו במובהק"
גישה זו לטקסטים של חז"ל טוענת שהללו ראו את המקרא כספר הוראה, שיש ללמוד ממנו למעשה בכל תחומי החיים. חז"ל עסקו בפרשנות והם פיתחו שיטות ששילבו את עולם העיון בעולם המעשה. מהיבט זה, המדרש הוא מעין יצירה אינטלקטואלית שאיננה פילוסופית, פרי של עיון שתכליתו להוביל לפרקטיקה נורמטיבית ולאמונות ודעות בו זמנית. כלומר ההבחנה החדה אינה מוצדקת, מכיוון שהמקרא וחז"ל כרכו יחד את הסיפור והחוק, את המעשה ואת המחשבה. בויארין בעצם קורא לחזרה אל פרשנות יהודית של היהדות. הדרכים שבהן הוא מנמק את טענתו, הדוגמאות שהוא מציג והאור שהוא שופך על מדרשים מוכרים מפליאים הן מבחינת העומק שבהם והן מבחינת היופי שלהם.