בגיל 7 עברה אשכנזי עם משפחתה לסלוניקי, ומשם הגיעה בסביבות 1910 לפיראוס, שם נרשמו הופעותיה הראשונות. בתחילה הופיעה אשכנזי כרקדנית בקברט ואחר כך כזמרת. אשכנזי שרה בטורקית, ביוונית ובארמנית. בשלב זה כנראה גם שינתה את שמה לרוזה-רוזיטה.

בתחילת שנות ה-20 של המאה ה-20 החלה לצבור מעריצים, והחלה להופיע בטברנה גדולה באזור פיראוס. בשנת 1929 יצא תקליטה הראשון. בשנות ה-30 של המאה ה-20 הקליטה אשכנזי מאות שירים, ונחשבה לזמרת עם ההקלטות הרבות ביותר באותו עשור ביוון – למעלה מ-500 שירים.

לפני פרוץ מלחמת העולם השנייה, בשנת 1937, הקליטה אשכנזי עבור חברת HMV באיסטנבול. ואז עצמאות יוון התחילה להתערער.

עד 1940 פלשה ליוון איטליה, ובשנת 1941 כבש הצבא הגרמני את המדינה. למרות משטר הדיכוי רוזה המשיכה להופיע, וב-1942 היא אף פתחה את מועדון הלילה שלה, קריסטל, יחד עם בנה פאראשוס, איתו התאחדה מאז. למרות שהייתה יהודייה, היא הצליחה להשיג תעודת טבילה מזויפת, אם כי בטיחותה הובטחה גם ברומן שניהלה עם קצין גרמני נאצי- ומכאן דמותה שנויה במחלוקת.

עם זאת, רוזה אשכנזי לא הייתה בוגדת ביהודים או משתפת פעולה עם הנאצים. היא ניצלה את מעמדה המיוחס כדי לתמוך בהתנגדות היוונית המקומית, והסתירה לוחמי התנגדות יווניים ואפילו סוכנים אנגלים בביתה. היא גם הצליחה להציל יהודים באתונה ובסלוניקי. בין אלה שהצילה מגירוש לאושוויץ הייתה משפחתה. עד 1943, הסוואתה התפוגגה והיא נעצרה. היא בילתה שלושה חודשים בכלא לפני שמאמץ משותף של אהובה הגרמני ובנה הצליח לשחרר אותה. את שארית המלחמה היא בילתה במחבוא, מפחדת שמא תיעצר שוב.

היא המשיכה לחיות ביוון גם לאחר המלחמה ובשנות השבעים התפרסמה שוב כזמרת.

בשנת 2010 היה מופע בישראל וסידרת טלוויזיה בשם "קנרית מתוקה שלי" ובו הוזכרו רוזה אשכנזי ושיריה.