John Schehr wird am 9. Februar 1896 in dem heute zu Hamburg gehörenden Stadtteil Altona in eine Arbeiterfamilie geboren und besucht die Volksschule. Der gelernte Schlosser arbeitet im Hamburger Hafen. Er schließt sich 1912 der SPD an, tritt während des Ersten Weltkrieges zur USPD über und geht 1920 zur KPD. Er wird 1924 deren Politischer Leiter in Altona und dort Stadtverordneter. 1926 ist er Kandidat des Zentralkomitees der KPD. 1930 ist er Organisationsleiter des Bezirks Wasserkante und 1932 als Abgeordneter des Preußischen Landtags und des Deutschen Reichstags.

John Schehr ist seit der Festnahme von Ernst Thälmann im März 1933 dessen Nachfolger als Vorsitzender der in der Illegalität arbeitenden KPD. Nach seiner Festnahme am 13. November 1933 wird er wiederholt aus dem Columbia-Haus zu Vernehmungen und Folterungen in das Geheime Staatspolizeiamt gebracht. Am Abend des 1. Februar 1934 fährt der Gefangenentransporter, der ihn, Eugen Schönhaar, Rudolf Schwarz sowie Erich Steinfurth von Verhören im Geheimen Staatspolizeiamt zurück in das Columbia-Haus bringen soll, zum so genannten Kilometerberg (Schäferberg) in Berlin-Wannsee. Dort werden alle vier Männer bei einem angeblichen Fluchtversuch erschossen.