במשך מאות שנים היה מתחם הקבר בבעלות מוסלמית, ושימש מקום תפילה מוסלמי (באתר גומחת תפילה בקיר הדרומי, לכיוון מכה). האתר נשמר על ידי צאצאי משפחת דוויכאת. מסורת מקומית מזהה במתחם הקבר את מקום תפילתו של אחד מאבות משפחה זו, שייח' יוסוף דאוקאת, ומכאן נוצרה הטעות לפיה כונה המקום "קבר שייח' יוסוף"
לאחר מלחמת ששת הימים עבר האתר לשליטה ישראלית. בן משפחת דוויכאת המשיך לשמור במקום דרך קבע ואף שימש עובד של המנהל האזרחי. מספר פעמים במהלך שנות ה־90 של המאה ה־20, טענו אנשי שמאל (בהם שרת החינוך דאז שולמית אלוני), כי קבר יוסף הוא קבר השייח' יוסוף.
בשנת 1982 הוקמה במתחם הקבר ישיבת עוד יוסף חי בידי קבוצת צעירים ובראשם רומם אלדובי. בראשות הישיבה עמד הרב יצחק גינזבורג, כאשר כבית המדרש שימש החדר המרכזי במתחם. לאחר פרוץ האינתיפאדה הראשונה הוצב במקום כח אבטחה צבאי קבוע.
לאחר הסכמי אוסלו
על פי הסכם אוסלו ב' מ־1995, מתחם הקבר הוא מובלעת בשליטה ביטחונית ישראלית בתוך שטח A שבשליטה פלסטינית מלאה, לאחר שהפלסטינים הכירו באופיו היהודי של הקבר ובחשיבותו ליהודים. כמו כן, הדרך אליו נמצאת בשטח C, שטח שבו לישראל שליטה מלאה האבטחה נעשתה בתחילה באמצעות כח אבטחה אזרחי.