Devant cette extraordinaire impuissance du pouvoir, Thiers se réfugie à Versailles, et donne aux troupes l’ordre d’abandonner Paris.
Étrange victoire remportée sans violence (exception faite de l’exécution des deux généraux), sans combat, et par une foule anonyme. Nulle organisation ne l’a préparée, ni le Comité central de la garde nationale, ni le Comité des vingt arrondissements, ni les comités de vigilance des quartiers, ni l’Internationale ; mais des hommes issus de ces différents mouvements, poussés par la foule anonyme, ont pris des initiatives individuelles et incoordonnées.
Le 19 au soir, des hommes inconnus la veille, mais mandatés par le Comité central de la garde nationale, siègent à l’Hôtel de Ville. Qui sont-ils ? Que veulent-ils ? S’agit-il d’un gouvernement révolutionnaire ? À ces questions que se posent les Parisiens, le Comité central répond immédiatement par deux proclamations. Dans l’une, il remercie l’armée de n’avoir pas voulu « porter la main sur l’arche sainte de nos libertés » et appelle Paris et la France à « jeter ensemble les bases d’une république acclamée avec toutes ses conséquences, le seul gouvernement qui fermera pour toujours l’ère des invasions et des guerres civiles ». En conséquence, le Comité central appelle le peuple de Paris à de nouvelles élections. Un appel comparable est adressé aux gardes nationaux. Bien qu’il décide « de conserver, au nom du peuple », l’Hôtel de Ville, le Comité central ne se considère donc pas comme un gouvernement révolutionnaire, mais comme l’agent qui va permettre au peuple d’affirmer sa volonté par de nouvelles élections. Il fixe ces élections au 22 mars, et, en même temps, assume le gouvernement de Paris ; il lève l’état de siège, rétablit la liberté de la presse, abolit les conseils de guerre, accorde l’amnistie à tous les condamnés politiques et assure leur libération. Enfin, il envoie des représentants dans les différents ministères abandonnés par leurs titulaires, qui ont suivi Thiers à Versailles. Par ces mesures, le Comité central agit comme un gouvernement, le gouvernement de Paris, face à celui de Versailles. Mais, ennemi de la guerre civile, il ne prend pas d’initiatives militaires ; il ne s’attaque pas non plus aux puissances d’argent : il emprunte, pour faire face aux dépenses de Paris, cinq cent mille francs à M. de Rothschild et un million à la Banque de France.
Les maires de Paris et l’Assemblée nationale, dès sa première séance, condamnent ce gouvernement de factieux. Diverses tractations ont lieu sans aboutir : il ne peut y avoir de conciliation entre le peuple et la bourgeoisie.
Le Comité central a, en effet, précisé son programme (23 mars). Il constate d’abord la faillite d’un pouvoir qui a mené la France à la défaite et à la capitulation : « Le principe d’autorité est désormais impuissant pour rétablir l’ordre dans la rue, pour faire renaître le travail dans l’atelier, et cette impuissance est sa négation. » Il faut donc retrouver un ordre et réorganiser le travail sur de nouvelles bases « qui feront cesser l’antagonisme des classes et assureront l’égalité sociale ». L’émancipation des travailleurs et la délégation communale doivent assurer le contrôle efficace des mandataires du peuple chargés par lui des réformes sociales. Ces réformes sociales sont : l’organisation du crédit, de l’échange et de l’association, afin d’assurer au travailleur la valeur intégrale de son travail, c’est-à-dire la disparition du profit capitaliste ; l’instruction gratuite, laïque et « intégrale » ; les libertés des citoyens (réunion, association, presse) ; l’organisation sur le plan communal de la police et de l’armée. Le principe qui doit gouverner la société tout entière, c’est celui qui organise le groupe et l’association. Il y a donc refus de toute autorité imposée du dehors, que ce soit celle d’un administrateur, d’un maire ou d’un préfet, et contrôle permanent de tous les élus.
Le 25 mars, le Comité central appelle la population parisienne à choisir ses représentants : « Les hommes qui vous suivront le mieux sont ceux que vous choisirez parmi vous, vivant de votre vie, souffrant des mêmes maux. » Puis, considérant sa mission comme terminée, il se déclare décidé à céder la place aux nouveaux élus.
À quoi le gouvernement de Versailles répond en appelant la population parisienne à se grouper autour de son Assemblée, contre les « criminels », les « insensés » qui déshonorent Paris. Malgré ces adjurations, 229 000 Parisiens sur 485 000 inscrits se rendent aux urnes, le 26 mars. La différence entre ces deux chiffres s’explique par la diminution de la population parisienne par suite de la guerre, du siège, des départs en province et à Versailles. D’ailleurs, la participation électorale est plus forte dans les quartiers ouvriers que dans les « beaux quartiers » de l’ouest de Paris.
Le 28 mars, à l’Hôtel de Ville, les membres du Comité central remettent leur pouvoir à la Commune, puis l’on proclame la liste des élus.