1924 wurde Albers in den Vorstand der Kölner „Konsumgenossenschaft Eintracht“ gewählt sowie zwei Jahre später in den der „Wohnungs-Genossenschaft Köln 1896“. Ein Jahr zuvor hatte er vergeblich für den preußischen Landtag kandidiert. Ihm war jedoch nur ein aussichtsloser Listenplatz zuerkannt worden. 1931 nahm er eine neue Stelle als Direktor des Versicherungsamts der Stadt Köln an.2 Doch auch in dieser Zeit war er, wie er schrieb, „in der Hauptsache noch mit der Führung der Christlichen Gewerkschaften betreut.“3 Als Politiker wie Gewerkschafter hat er in zahlreichen Reden und Schriften vor dem Erstarken der NSDAP gewarnt.4
Albers verlor nach der Machtübernahme der Nationalsozialisten sein Stadtverordnetenmandat. Zudem wurde er als Direktor des Versicherungsamtes abgesetzt, allerdings nach drei Tagen als Geschäftsführer der städtischen Betriebskrankenkasse erneut eingestellt. Auch wenn es sich um eine berufliche Zurückstufung handelte, überrascht dieser Schritt. Möglicherweise fehlte es den Nationalsozialisten an qualifiziertem Personal, sodass sie auf seine Expertise angewiesen waren. 1934 wurde er Mitglied im Reichsbund der deutschen Beamten, Mitglied der Nationalsozialistischen Volkswohlfahrt (NSV) sowie Mitglied der NS-Kriegsopferversorgung (NSKOV). Ämter übernahm er in diesen Organisationen nicht. Er wurde allerdings – nach einer ihm auferlegten Geldstrafe von 1000,00 RM an die Deutsche Arbeitsfront (DAF) und die SS – aufgefordert, monatlich 1,00 RM an eine SS-Einrichtung zu zahlen. Da er der Zahlung nachkam, wurde er als „förderndes Mitglied“ der SS geführt. Reguläres Mitglied der SS war er damit jedoch nicht.5 Albers rechtfertigte sich im Nachhinein folgendermaßen: „Nach Lage der Dinge musste ich damit rechnen, dass ich entlassen worden wäre, falls ich die Beitragszahlung abgelehnt hätte. In dieser Zeit war ich infolge einer Schuldenlast aus einer selbstschuldnerischen Bürgerschaft in eine Notlage geraten. Ich konnte deshalb auch eine längere Arbeitslosigkeit nicht auf mich nehmen. Ab Mitte 1939 habe ich Beiträge nicht mehr gezahlt.“6
Albers hatte sich vordergründig mit dem NS-Staat arrangiert, auch um seine Frau und seine Pflegetochter finanziell absichern zu können. Hintergründig lehnte er den Nationalsozialismus jedoch ab. So suchte er Kontakt zu mehreren katholischen Gesprächskreisen, um in vertrauensvoller Runde Kritik am NS-Staat üben zu können. Den intensivsten Austausch pflegte er im Widerstandskreis des Kölner Ketteler-Hauses, wo er sich regelmäßig mit ehemaligen Politikern aus der katholischen Arbeiterbewegung wie Karl Arnold, Wilhelm Elfes oder Jakob Kaiser traf und über die Zukunft Deutschlands diskutierte. Albers lehnte beispielsweise die Neugründung der katholischen Zentrumspartei ab und favorisierte stattdessen eine deutsche „Labour-Party“, in der alle Arbeitnehmer (christlich wie atheistisch) zusammenfinden sollten. Über seinen Freund Jakob Kaiser, der Kontakt zum Goerdeler-Kreis pflegte, wurde Albers zudem über die Attentatspläne auf Hitler informiert. Aus diesem Grund wurde er ab September 1944, nach dem gescheiterten Attentat vom 20. Juli, von der Gestapo gesucht. Er konnte sich bis zum 24. Oktober der Verhaftung entziehen. Bereits zehn Jahre zuvor war er schon einmal verhaftet worden. Diesmal allerdings wurde er nicht nach kurzer Zeit wieder entlassen, sondern vom Kölner Gestapogefängnis „EL-DE-Haus“ ins Zuchthaus Rheinbach und von dort in das Berliner Gefängnis Lehrter Straße sowie schließlich in das SS-Untersuchungsgefängnis des KZs Ravensbrück gebracht, wo er auch gefoltert wurde. Vor dem Volksgerichtshof in Berlin wurde er schließlich zu drei Jahren Zuchthaus verurteilt.7 Hierzu führte Albers später aus: „Zu einem härteren Urteil hat der Volksgerichtshof am 6.4.1945 angesichts der katastrophalen militärischen Lage sich nicht mehr aufschwingen können. Der Senatspräsident erklärte ausdrücklich, dass die Milde des Urteils durch die augenblickliche politische und militärische Lage bedingt sei.“8 Am 25. April wurde Albers aus dem Zuchthaus Berlin-Plötzensee von der Roten Armee befreit.9
Albers kehrte am 10. Juni wieder nach Köln zurück. Dort gehörte er zu den Mitgründern er CDP bzw. CDU. Im November wurde er dann Vorsitzender der Kölner CDU. Ebenfalls 1945 wurde er Beiratsmitglied des Oberpräsidiums Nordrhein sowie erneut Stadtverordneter in Köln. Albers war Mitverfasser der Kölner Leitsätze der CDU und an der Ausarbeitung des Ahlener-Programms der CDU beteiligt. Er plädierte für einen „christlichen Sozialismus“.10 „Wir wollen einen ‚Sozialismus aus christlicher Verantwortung’! […] Aber für uns ist das Wesen des demokratischen Sozialismus aus christlicher Verantwortung, wie ihn Jakob Kaiser sieht, eine klare Ablehnung jedes Kollektivismus“.11 So sollten Persönlichkeitsrechte und Privateigentum geschützt, Monopolbildungen verhindert und Bodenschätze sowie Großindustrien vergemeinschaftet werden. In seiner Vision sollte die CDU nicht die Interessen des Großkapitals, sondern die der Arbeiterschaft vertreten.12 „Es ist mir lieber, daß einige Bürgerliche gehen, als daß Arbeiter von der CDU zur SPD abschwenken. Wir müssen jede Möglichkeit ausnutzen, die breiten Arbeitermassen zu uns zu bringen bzw. bei uns zu behalten.“13
In der Hoffnung, seine wirtschaftspolitischen Ziele innerhalb der CDU mehrheitsfähig zu machen, gründete er die Sozialausschüsse der Christlich-Demokratischen Arbeiterschaft (heute Christlich-Demokratische Arbeitnehmerschaft). Ende November 1947 wurde er dann auf der ersten Reichstagung in Herne zum Vorsitzenden der Sozialausschüsse gewählt. Albers hatte darüber hinaus Hans Böckler bei der Schaffung der Einheitsgewerkschaft maßgeblich unterstützt, jedoch nach Gründung des Deutschen Gewerkschaftsbunds (DGB) einen drohenden Bedeutungsverlust der christlichen Gewerkschafter befürchtet. Die Sozialausschüsse sollten nach Albers Vorstellung auch im Gewerkschaftsbereich eine zentrale Funktion übernehmen und die Interessen der christlichen Gewerkschafter innerhalb des DGB repräsentieren.14 „Wir aber wollen, das ist unsere Pflicht, eine Gewerkschaftsbewegung […], die allen Mitgliedern in gleicher Weise wirkliche Heimat werden kann[…] und die […] das unbedingte Vertrauen aller schaffenden Menschen findet.“15 Der Einfluss der Sozialausschüsse auf die Politik des DGB und der CDU nahm jedoch in den folgenden Jahren deutlich ab. Albers war zwar 1946 unter dem Vorsitzenden Konrad Adenauer stellvertretender Vorsitzender der rheinischen CDU geworden, konnte Adenauer jedoch nicht daran hindern, die CDU politisch neu auszurichten. Statt für einen „christlichen Sozialismus“ warb die CDU zukünftig für marktwirtschaftliche Positionen.16
1949 übergab Albers den Vorsitz der Sozialausschüsse an Jakob Kaiser. Kaisers Nachfolger wurde 1958 der ehemalige nordrhein-westfälische Ministerpräsident Karl Arnold. Im gleichen Jahr verstarb dieser allerdings überraschend, weshalb Albers abermals das Amt des Vorsitzenden übernahm und bis zu seinem eigenen Tod ausübte. Von 1946 bis 1950 war Albers zudem Mitglied des nordrhein-westfälischen Landtags, wo er u.a. zeitweise den Vorsitz des Arbeitsausschusses sowie des Hauptausschusses innehatte. 1949 zog er dann in den ersten Deutschen Bundestag ein. Dort wurde er u.a. stellvertretender CDU/CSU-Fraktionsvorsitzender, Vorsitzender des Wohnungsbauausschusses sowie Mitglied des Ältestenrats. 1950 wurde Albers in den CDU-Bundesvorstand gewählt; anfangs als stellvertretendes, dann als ordentliches Mitglied. Auch genossenschaftlich hatte er sich wieder engagiert. So wurde er Mitglied des Aufsichtsrats der Kölner Konsumgenossenschaften, der „Gemeinnützigen AG für Wohnungsbau Köln“ sowie der Wohnungsgenossenschaft, wo er 1952 sogar den Vorsitz des Aufsichtsrats übernahm. Zudem saß Albers in den Aufsichtsräten der Rheinischen Stahlwerke in Essen und der Preußischen Bergwerks- und Hütten AG Hannover. 1957 legte Albers krankheitsbedingt sein Bundestagsmandat nieder und 1962 sein Amt als Vorsitzender der Kölner CDU. Zu seinem 70. Geburtstag hatte er das Große Verdienstkreuz mit Stern und Schulterband verliehen bekommen.17 Dabei hatte er kurz zuvor noch bekundet: „Für Ordensverleihungen bin ich persönlich nicht zu haben. Mein Körper ist genügend gezeichnet mit den ‚Orden und Ehrenabzeichen‘ aus dem III. Reich. Das genügt.“18 Johannes Albers starb an seinem 73. Geburtstag am 8. März 1963 in Köln. Die 2016 gegründete Johannes-Albers-Bildungsforum gGmbH im Arbeitnehmer-Zentrum Königswinter (AZK) trägt den Namen des christlichen Sozialpolitikers.