Das kommt auf den Keller an. Wenn der Raum trocken ist, kannst Du mit Styroporplatten (Styrodur) und grünem Rigips drüber arbeiten, so, wie man Gaubenbacken dämmt.
Bei einem eher feuchten Kellerraum (wenn Du z.B. beim Training auf dem Laufband schwitzt und nicht genügend lüften kannst) müßtest Du in die Isolierung eine Hinterlüftung basteln oder im Baustoffhandel spezielle Styropoplatten für Feuchträume erfragen.
Die größte Schallübertragung dürfte aber über den Boden kommen. Hier brauchst Du keine normalen Gummimatte, sondern eine Matte aus zwei unterschiedlichen Materialien, eins härter und eins weicher, der Schall wird durch die Materialunterschiede gedämmt.