Der als Sohn des Landwirts Ernst Müller und dessen Ehefrau Marie, geb. Laurig geborene Oskar Müller besucht ein humanistisches Gymnasium. Am Ende des Ersten Weltkriegs gehört im November 1918 einem Soldatenrat an.

Nach dem Krieg arbeitet Müller als Bankangestellter. Er tritt 1922 in die KPD ein und ist ab 1924 als hauptamtlicher Sekretär der Bezirksleitung Hessen der KPD für Gewerkschaftsfragen verantwortlich. Bis 1933 ist er Abgeordneter im Preußischen Landtag, 1932/33 Reichsleiter des Kampfbundes gegen den Faschismus und wird 1933 als Organisationsleiter des Bezirks Berlin-Brandenburg eingesetzt. Oskar Müller wohnt in der Besselstraße 14 in Berlin-Kreuzberg, bis er am 22. November 1933 festgenommen und im Columbia-Haus inhaftiert wird.

Oskar Müller wird zu drei Jahren Zuchthaus verurteilt und anschließend von Mai 1937 bis zum 20. April 1939 als Häftling im KZ Sachsenhausen festgehalten. Von Juni 1939 bis zur erneuten Festnahme im August 1944 arbeitet er als Angestellter in der Lederwarenindustrie in Offenbach. Im KZ Dachau engagiert er sich als Lagerältester bis zur Befreiung durch US-Armee.

1945 tritt Oskar Müller wieder in die KPD, wird Mitglied des ersten Hessischen Landtages und zieht 1949 in den ersten Deutschen Bundestag ein. Von November 1945 bis Mai 1947 ist er als hessischer Minister für Arbeit und Wohlfahrt. 1948/49 ist er hessischer Vorsitzender der KPD, später ist er dann aktiv in der Vereinigung der Verfolgten des Naziregimes und einer ihrer Präsidenten. Am 14. Januar 1970 stirbt Oskar Müller in Frankfurt am Main.