שני יהודים שמוצאם מתימן (שנקראה לפני 1,400 שנים ממלכת חימייר) השפיעו במאה השביעית לספירה מאוד על האסלאם בראשיתו.
הדמות הראשונה, שיש סוברים שהייתה מיתולוגית או מדומיינת וחלק חושבים שהיה דמות אמיתית, היה עבדאללה אבן סבא- יהודי שהתאסלם. באנציקלופדיה של האסלאם, במהדורתה הראשונה, טוענת שעבדאללה אבן סבא אפילו המציא את הזרם השיעי באסלאם.

אבן סבא המתאסלם היה מקורב לעלי, שהיה חתנו ובן דודו של מוחמד והטוען לכתר מחליפו הרוחני (לא כנביא מוסלמי, אלא כמנהיג הרוחני של האומה המוסלמית) והפוליטי (מנהיג האומה המוסלמית) של מוחמד. עלי היה הח'ליף (מנהיג האומה המוסלמית) הרביעי אחרי מוחמד, ובשנת 661 נרצח בידי איש מכת הח'ווארג', כת שפרשה מהאסלאם הסוני עוד בראשיתו, שהיכה אותו בחרב מורעלת. השיעה המוסלמית נקראה בראשיתה שיעת עלי, כלומר הסיעה של עלי. עלי וסיעתו, השיעים, טענו כי רק לבני משפחתו הגרעינית והמורחבת בדרגת קירבה עד שלישית מותר לרשת את מוחמד כמנהיג האומה המוסלמית. בהמשך נחשב עלי כאמאם הראשון של השיעה, וצאצאיו כשאר 11 האמאמים. לעומת זאת, הח'ליף עות'מאן וצאצאיו הח'ליפים מבית אומייה, שבאו לאחר עלי, טענו שמי ששייך לשבטו של מוחמד, שבט קורייש שח'ליפי בית אומייה צאצאי הח'ליף השלישי עות'מאן השתייכו אליו, יכול להחליף אותו כמנהיג האומה המוסלמית (לאחר מכן הורחבה ההגדרה מעבר לכך)- ונקראו סונים. אבן סבא לא רק שתמך בעלי, אלא היה ראשון הע'ולאת (מבטאים את זה כרולאת או כגולאת)- האנשים שהגזימו לגבי עלי וייחסו לו תכונות אלוהיות או משיחיות. אבן סבא הקים את תנועת הסבאאייה, שטענה כי עלי לא נרצח, אלא נעלם (בתהליך הע'ייבה) והוא עתיד לחזור, לגאול ולהנהיג את האומה המוסלמית לאחר שיביס את אויביו. למרות שהגזים וגונה לאחר מכן על ידי האסכולה השיעית, עבדאללה אבן סבא נחשב כתורם מרכזי וחשוב להתבססות העדה והאסכולה השיעית באסלאם. היות והיה יהודי וגם הגזים לגבי עלי, המסורת השיעית הרשמית רואה באבן סבא ככופר שעלי הרג בעצמו. מלומדים מוסלמים לאורך ההיסטוריה וכן היסטוריונים של האסלאם נחלקו לגבי דמותו של עבדאללה אבן סבא. יש כאלה שסוברים כי הוא אפילו לא היה יהודי, או לא היה קיים. מנגד, במסורת הסונית, יש המאשימים אותו בהריגת הח'ליף השלישי עות'מאן, מה שהביא לעליית הח'ליף הרביעי, עלי. כמו כן, יש כאלה במסורת הסונית ואף מעבר לה ולאסלאם, שטוענים שעבדאללה אבן סבא היה יהודי ונשאר יהודי, שלא התאסלם אלא התחזה למוסלמי, וזרע את זרעי הפילוג הסוני-שיעי באסלאם על מנת שהאומה המוסלמית לא תהיה חזקה מספיק מול אויביה, ביניהם היהודים. השיעים, כאמור, מנסים להתנער ממנו ורואים בו דמות מקוללת. הסונים, כאמור, משתמשים בדמותו של עבדאללה אבן סבא כדי להראות שמקורותיה של השיעה הם יהודיים.

יהודי נוסף מתימן בן המאה השביעית הוא כעב (בערבית: קובייה, עקב) אל-אח'באר, שנודע כמי שהתאסלם וליווה את הח'ליף השני, עומר אבן אל-ח'טאב, בדרכו מהעיר מדינה לירושלים. כעב היה גם אבי מסורות האיסראאילייאת, (מהמילה "אסראאיל-כלומר ישראל), שהן מסורות שנכנסו לאסלאם וקשורות למוחמד שמקורן בעיקר ביהודים או בסיפורי התורה. יש מסורות מוסלמיות שונות שמיוחסות לכעב, ביניהן לגבי איך נוצרה הכעבה שבעיר מכה. בגלל זה שם המשפחה שמיוחס לכעב- אל-אח'באר, כלומר הידיעות, או מוסר הידיעות.

מסורות שמיוחסות לכעב טוענות שהוא עודד את הח'ליף עומר לטהר את איזור הר הבית מנוכחות וממבנים רומאיים-ביזנטיים שהיו בו ולהפוך את המקום למקום תפילה מוסלמי. כמו כן, לכעב מיוחס שיכנוע הח'ליף עומר להכניס 70 משפחות יהודיות לירושלים לאחר כיבושה מידי הביזנטים הנוצרים. במסורות ובמחקרים היהודיים המאוחרים נחשב כעב אל-אח'באר כרב, שתרם להשפעה יהודית על המסורת המוסלמית, וליחס הסובלני יחסית שגילו המוסלמים מאז עומר ("ברית עומר", למרות המגבלות שהטילה על היהודים) כלפי היהודים שבשליטתם.