Mucâdh fit partie des 72 Médinois qui conclurent un pacte d'allégeance avec le Prophète, peu de temps avant l'hégire. A son retour à Médine, Mucâdh commença à prêcher l'Islam dans son entourage. Grâce à lui, de nombreux hommes qui devinrent par la suite de grands Compagnons, tels que Amr Ibn Al-Jamûh, adoptèrent l'Islam. Quand le Prophète émigra à Médine, Mucâdh ne le quitta plus afin d'apprendre le Coran et les préceptes de l'Islam. Avec le temps, Mucâdh fut compté parmi les Compagnons les plus versés dans le Coran et les plus instruits dans la religion. Le Prophète - que la paix et les bénédictions de Dieu soient sur lui - lui rendit hommage, en disant : « Mucâdh Ibn Jabal est celui parmi les membres de ma communauté qui sait le mieux distinguer le licite de l'illicite. » Il était l'un des meilleurs mémorisateurs du Coran du vivant du Prophète. Ainsi le Prophète - que la paix et les bénédictions de Dieu soient sur lui - dit en sa faveur : « Apprenez le Coran auprès de quatre personnes : Ibn Mascûd, Sâlim l'affranchi d'Abû Hudhayfah, Ubayy et Mucâdh. » Après la conquête de la Mecque, le Prophète y engagea Mucâdh comme enseignant et le chargea de transmettre l'Islam aux gens et de leur apprendre le Coran. De même, quand les souverains yéménites vinrent annoncer leur conversion à l'Islam au Prophète et qu'ils lui demandèrent de leur assigner un précepteur, son choix tomba sur Mucâdh à la tête d'un groupe de compagnons pour remplir cette mission. Durant le califat d'Omar ibn Al-Khattab, on l'envoya aux Banû Kilâb pour trancher leur litige. Yazîd Ibn Abî Sufyân envoya demander à Omar un précepteur pour ses sujets, à Damas. Omar convoqua alors Mucâdh Ibn Jabal, Ubâda Ibn As-Sâmit, Abû Ayyûb Al-Ansârî, Ubay Ibn Kacb et Abû Ad-Dardâ' leur demandant de leur assigner un précepteur pour apprendre le Coran et s'instruire dans la religion en Syrie et en Palestine. Abû Ad-Dardâ' se rendit à Damas et Mucâdh Ibn Jabal en Palestine.
