Crumbach war 40 Jahre lang SPD-Mitglied, bevor er 2024 austrat und den Brandenburger BSW-Landesverband mitgründete. Nach der Landtagswahl im Herbst 2024 wurde er in der bundesweit ersten SPD-BSW-Regierung stellvertretender Ministerpräsident und Finanzminister. Im Sommer 2025 gab er den Parteivorsitz an Friederike Benda ab, die dem Landesverband bis heute vorsteht.
Nach BSW-internen Querelen trat Crumbach Anfang Januar 2026 aus der Partei aus. Einen Tag später beendete Ministerpräsident Dietmar Woidke (SPD) die Koalition mit dem BSW und kündigte Verhandlungen mit der CDU an. Bei der Vorstellung des SPD-CDU-Koalitionsvertrags am Mittwoch vergangener Woche wurde bekannt, dass Crumbach auch der neuen Regierung angehören wird. Die SPD schlug ihn als Minister für Infrastruktur und Landesplanung vor.