Costituito il 21 gennaio 1921 da una minoranza di delegati al congresso del Partito socialista in corso a Livorno, il Partito comunista è uno degli ultimi della Terza internazionale comunista a nascere in Europa, per la volontà sovietica di separare le forze rivoluzionarie da quelle riformiste. Una scelta compiuta “fuori tempo massimo”, quando cioè si è esaurita ogni speranza rivoluzionaria e anzi si deve fare i conti con una violenta reazione fascista e padronale dopo la vittoria socialista nelle amministrative di fine 1920.

La federazione modenese nasce il 20 febbraio 1921. I suoi dirigenti sono tutti giovani di età variabile tra i 20 e i 26 anni, segretario è nominato Guido Giberti e la sede della federazione è presso la falegnameria dei fratelli Baroni, in località Mulini Nuovi a Modena. Gli aderenti sono pochi (una quarantina), provenienti soprattutto dalla Federazione giovanile socialista. Gruppi si formano a Marano, Spilamberto, Carpi e Soliera, ma l’espansione è limitata, anche per le posizioni settarie del gruppo modenese.

Il consolidamento del partito avviene in una situazione di semi-clandestinità. Gli incontri sono spesso disturbati dai fascisti e le autorità di polizia colgono ogni occasione per arrestarne gli esponenti, come accade allo stesso Giberti. Al suo posto è nominata Bice Ligabue, unico caso in Italia di una donna a capo di una federazione provinciale in tutto il periodo fascista.

Dopo la Marcia su Roma dell'ottobre 1922 il partito è colpito da una durissima repressione. Nonostante le difficoltà, nelle elezioni politiche del 6 aprile 1924 i comunisti ottengono a Modena un risultato sorprendente, raccogliendo 4.196 voti, pari al 5,5 per cento del totale (la media nazionale è del 3,8). Successo davvero rilevante, se si considera che il partito in quel momento conta non più di 140 iscritti.

Tra il 1924 e il 1925 la federazione è segnata da un duro confronto tra i sostenitori della ‘sinistra’ di Bordiga e il ‘centro’ di Gramsci, al punto che alcuni dei suoi principali esponenti allentano l’impegno politico. Nel 1926 risultano iscritti al partito 257 persone, più 180 aderenti alla Federazione giovanile. Una struttura ancora debole, che dovrà sopravvivere dopo le Leggi eccezionali del novembre 1926, che segnano la nascita definitiva della dittatura fascista.