נולד בקרקוב בשנת ר"פ או ר"צ (1530/1520) נפטר בקרקוב בשנת של"ג (1573). הרמ"א נחשב לגדול הפוסקים במאה הט"ז, ופסקיו התקבלו לדורות. הוא היה בן למשפחה מיוחסת ועשירה, אביו היה מפרנסי הקהילה ובנה בית כנסת (לזכר אשתו) שנקרא על שם הרמ"א והתקיים עד השואה. חמיו היה רבי שלום שכנא מלובלין, ראש וראשון לחכמי ישראל בפולין. אשתו נפטרה במגפה והוא נשא לאישה את בת אחד מנכבדי הקהילה. הרמ"א היה תל תלפיות של יהדות אירופה ופנו אליו אף מקהילות רחוקות: איטליה, בוהמיה וגרמניה. הוא קיים קשר מכתבים עם חכמי הדור, ביניהם רבי יוסף קארו בעל השולחן ערוך. הרמ"א היה מגדולי ההוראה בישראל. בימים נעשתה פולין לאכסניה הגדולה של תורה, עם שקיעת יהדות המערב בעקבות הרדיפות והגירושים שם.
במקביל לרבי יוסף קארו שכתב את פירושו הנודע "בית יוסף" על ארבעה טורים, כתב הרמ"א את חיבורו "דרכי משה" על ה"טורים". ביחס ל"בית יוסף" כותב החיד"א ש"ידוע מה דמרגלא בפי העולם, שהמגיד זירז מאוד להוציא ספרו בית יוסף כדי שלא יקדמנו חלילה אחר ממדינת פולין, הוא [היושב ב]ק"ק קרקוב, וזה משה האיש ידענו מה הי' לו, שהי' מחבר ספר דרכי משה הארוך על הטורים, ואך אחר שראה ספר בית יוסף – קיצר את דרכו וקמץ משם רק אותן הדברים שלא הובאו ביתה יוסף". את חידושי ההלכות והדינים שעלו מתוספות אלו כתב הרמ"א בחיבורו "המפה לשלחן", ובשם שנתן לו הוא משקף את יחסו ליצירה זו: תוספת והגהות לשולחן ערוך, מעין יצירת משנה. החשיבות העצומה בחיבורו של הרמ"א היא עבור בני אשכנז: הואיל ובשו"ע פסק המחבר כרי"ף וכרמב"ם מלבד הרא"ש, תוך התעלמות מחלק מדעות גדולי אשכנז, ביניהם בעלי התוספות, הוסיף הרמ"א בהגהותיו את דיני בני אשכנז ומנהגיהם, במקום שיש חילוק בינו לבין מנהג בני ספרד, וכך הושלם על ידו השולחן ערוך להיות ספר ההלכה הראשון במעלה עבור העם כולו.
בקרקוב ובקהילות אחרות לא היה אב"ד ראשי. בפנקס הקהילה נרשם: "והנה בפנקסי הקהל דפה וכן בפנקס הח"ק לא נזכר כלל תואר אב"ד לא על הגאון ר' יוסף הכהן בעל שארית יוסף ולא על גיסו רבנו הרמ"א ז"ל, רק נכתב עליהם 'שהרביצו פה תורה בישראל, וכן הוא האמת שהיו שניהם יושבים פה קרקא רק בתור ראשי מתיבתא בלבד, ובעבור זה היו כלם סרים למשמעתם, והיו להם גם כן העוז והמשרה לדון ולהורות ולהעמיד הדת על תלה, על פי תוקף מנהגי העדה דפה, וגם לתקן תקנות טובות בישראל לצורך הכול כפי ראות עיניהם כידוע". קהילות רבות ביקשוהו לבוא לכהן אצלן, אך הוא החזיק במשרתו בקרקוב ואמר ברוח בדוחה כי "קראקא" בגימטריה היא ארבע מאות ושתיים, כמניין ב"ת, וחז"ל אמרו: לעולם יישא אדם בת תלמיד חכם, כי קראקא הייתה בימים ההם עיר שכולה מלאה לומדים, חכמים וסופרים ותלמידי חכמים…
אירוע מיוחד בחייו היה כתיבת ספר התורה. בשנת שי"ט ביקש הרמ"א ממרן הבית יוסף לשלוח לו העתקה מתיקון סופרים המיוחס לבן אשר. הוא שילם עבור התיקון סך מאה דוקטים זהב וקיבל תמורתם חמישה חומשי תורה הכתובים על קלף בצורת ספר, ועל פיו כתב הרמ"א ספר תורה. הספר עצמו, יחד עם תיקון הסופרים, היו סגורים על מסגר בבית הכנסת של הרמ"א, והיו מוציאים אותו לקריאת התורה בשבת שלפני יום ההילולא של הרמ"א, הוא יום ל"ג בעומר, בשמחת תורה וביום הכיפורים, ולעתים גם לכבודם של יחידי סגולה. הספר היה שמור בבית הכנסת עד כניסת הנאצים לקרקוב, ואז אבד הספר ולא נמצא עד היום.
הרמ"א לא האריך ימים, אך בשנותיו הקצרות הספיק לפעול גדולות ונצורות. אומרים שעל מצבתו היה כתוב שחיבר ל"ג ספרים ומת בל"ג בעומר בשנת של"ג, ול"ג מעלות ומידות טובות ספרו לפני מיטתו.
מספריו: דרכי משה על הטור, הגהות ה"מפה" לשלחן ערוך, תורת העולה, תורת חטאת על איסור והיתר, מחיר יין על מגילת אסתר, תשובות הרמ"א.
(בארצות החיים: מדריך למסע לפולין בעקבות חייהם ותורתם של רבני פולין לדורותיהם, עמ' 79-81)
חגיגות ל"ג בעומר בציון הרמ"א בקרקוב חגיגות ל"ג בעומר בציון הרמ"א בקרקוב הכניסה לבית הכנסת הרמ"א בקרקוב המצבה על קברו של הרמ"א בקרקוב