Nach seiner kurzen Mitgliedschaft in der KPD trat Schaller 1923 in die NSDAP ein arbeitete ab 1925 maßgeblich am Aufbau der Ortsgruppe Köln mit. Sein Aufstieg begann, als der ehemalige Bauarbeiter zusammen mit dem späteren Gauleiter Köln-Aachen Josef Grohé 1929 in den Stadtrat gewählt wurde. Im folgenden Jahr wurde Schaller auch Abgeordneter des Reichtages, eine Funktion, die er bis zum Ende des Dritten Reiches behielt.

Als engster Grohés wurde er 1932 dessen Stellvertreter in der Gauleitung. Dieser sicherte seine Machtposition in Köln dadurch ab dass er nach der nationalsozialistischen Machtübernahme im Rathaus am 13.Marz 1933 Schaller zum Bürgermeister und Beigeordneten unter Oberbürgermeister Riesen ernannte. Zugleich fungierte Schaller von 1933 bis 1939 als Gauführer der Volkswohlfahrt NSV; ab 1937 als Gauobmann in der "Deutschen Arbeitsfront (DAF)".

Sein Bürgermeisteramt behielt er bis zu seiner Internierungshaft durch die Alliierten 1946. 1948 wurde er zu einer dreijährigen Haftstrafe verurteilt.