Rexhepi ka lindur më 3 qershor të vitit 1954 në Mitrovicë. Në vitin 1979 kishte përfunduar Fakultetin e Mjekësisë në Universitetin e Prishtinës, ndërsa studimet pasuniversitare i ka përfunduar në vitin 1985 në Zagreb.
Gjatë luftës së viteve 1998-99 Rexhepi iu bashkua Ushtrisë Çlirimtare të Kosovës dhe kaloi tre muaj në male duke shërbyer si mjek në zonën operative të Shalës, shkruan portali Zeri.info.
Pas luftës, Rexhepi shërbeu si kryetar i këshillit bashkiak të Mitrovicës dhe kryetar i Mitrovicës së jugut.
Më 4 mars të vitit 2002, pas tre muaj bisedimesh dhe me ndërmjetësimin e ish-kryeadministratorit të atëhershëm të Kosovës, Michael Steiner, Kuvendi i Kosovës zgjodhi Bajram Rexhepin si kryeministrin e parë të Kosovës, ndërsa Ibrahim Rugova ishte zgjedhur president i Kosovës. Rugova ka vdekur më 21 janar të vitit 2006.
Ndërsa gjatë periudhës 2010-2014 Rexhepi ka qenë ministër i Brendshëm i Kosovës.
