A.- Giacomo A. meldete sich im November 1981 zum Bezug einer Rente der Invalidenversicherung an. Laut Bericht der Hausärztin Dr. S. vom 21. Dezember 1981 leidet er an einem vertebragenen Syndrom und einer depressiven Entwicklung. Auf Beschluss der Invalidenversicherungs-Kommission wies die Ausgleichskasse Basel-Stadt das Begehren am 12. Juli 1982 ab mit der Begründung, es liege keine rentenbegründende Invalidität vor.

Im November 1982 suchte Giacomo A. erneut um Zusprechung einer Rente nach, worauf die Invalidenversicherungs-Kommission eine stationäre Abklärung im Zentrum für Medizinische Begutachtung der Chrischonaklinik in Bettingen anordnete. In ihrem Gutachten vom 24. Februar 1983 diagnostizierte die Klinik ein "Stiff-man-Syndrom" sowie eine depressive Verstimmung und schätzte die Arbeitsfähigkeit bei geeigneter, körperlich nicht anstrengender Tätigkeit auf weniger als ein Drittel. Gestützt hierauf sprach die Invalidenversicherungs-Kommission dem Versicherten - nach Rücksprache mit dem Bundesamt für Sozialversicherung (BSV) - eine ganze einfache Invalidenrente mit Zusatzrente für die Ehefrau ab 1. März 1983 zu (Verfügung der Ausgleichskasse Basel-Stadt vom 25. Mai 1983).

B.- In Gutheissung der hiegegen erhobenen Beschwerde setzte die Kantonale Rekurskommission für die Ausgleichskassen, Basel, den Rentenbeginn auf den 1. November 1981 fest. Als massgebend hiefür erachtete sie, dass sich die erste Verfügung vom 12. Juli 1982 aufgrund des Gutachtens vom 24. Februar 1983 als zweifellos unrichtig erweise und die Korrektur eines fehlerhaften Verwaltungsaktes grundsätzlich rückwirkend zu erfolgen habe (Entscheid vom 8. September 1983).

C.- Das BSV erhebt Verwaltungsgerichtsbeschwerde mit dem Rechtsbegehren, der vorinstanzliche Entscheid sei aufzuheben und es sei die Verfügung der Ausgleichskasse Basel-Stadt vom 25. Mai 1983 wiederherzustellen. Der Versicherte und die Vorinstanz lassen sich mit dem Antrag auf Abweisung der Verwaltungsgerichtsbeschwerde vernehmen.

1. Gemäss einem allgemeinen Grundsatz des Sozialversicherungsrechts kann die Verwaltung eine formell rechtskräftige Verfügung, welche nicht Gegenstand materieller richterlicher Beurteilung gebildet hat, in Wiedererwägung ziehen, wenn sie zweifellos unrichtig und ihre Berichtigung von erheblicher Bedeutung ist (BGE 109 V 112, 121, BGE 107 V 84 Erw. 1).

Von der Wiedererwägung ist die sogenannte prozessuale Revision von Verwaltungsverfügungen zu unterscheiden. Danach ist die Verwaltung verpflichtet, auf eine formell rechtskräftige Verfügung zurückzukommen, wenn neue Tatsachen oder neue Beweismittel entdeckt werden, die geeignet sind, zu einer andern rechtlichen Beurteilung zu führen (BGE 109 V 121, BGE 108 V 168, BGE 106 V 87, BGE 102 V 17).

2. a) Die Vorinstanz stellt unter Hinweis auf Art. 68 VwVG fest, im vorliegenden Fall bestehe ein Revisionsgrund, weil durch das Gutachten des Zentrums für Medizinische Begutachtung vom 24. Februar 1983 erwiesen sei, dass in den früheren Arztberichten die Arbeitsunfähigkeit des Versicherten nicht nur im Rahmen des Ermessens anders, sondern wegen unrichtiger Diagnose eindeutig falsch beurteilt worden sei. Soweit damit davon ausgegangen wird, dass die Voraussetzungen für eine sog. prozessuale Revision der rechtskräftigen Verfügung vom 12. Juli 1982 gegeben waren, ist festzuhalten, dass im Gutachten zwar neu die Diagnose eines "Stiff-man-Syndroms" erhoben wird, worunter eine progressive fluktuierende Muskelrigidität zu verstehen ist (vgl. THIELE, Handlexikon der Medizin, S. 2335). Schon in den früheren Arztberichten war indessen von einer "praktisch totalen Verspannung der Muskulatur" (Berichte Dr. S. vom 21. Dezember 1981 und Felix-Platter-Spital vom 27. März 1982) die Rede, weshalb hierin keine neue Tatsache erblickt werden kann. Die im Gutachten vom 24. Februar 1983 erhobene Diagnose und die entsprechenden Folgerungen mit Bezug auf die Arbeitsfähigkeit beinhalten lediglich eine neue Bewertung des im Zeitpunkt der ursprünglichen Verfügung gegebenen Sachverhaltes, was zu keiner Revision Anlass geben kann (vgl. zu Art. 137 lit. b OG: BGE 108 V 171 Erw. 1).

b) Demgegenüber kann als unbestritten gelten, dass aufgrund der ergänzten Akten davon auszugehen ist, dass der Versicherte seit November 1980 in rentenbegründendem Ausmass arbeits- bzw. erwerbsunfähig ist und der Versicherungsfall somit im November 1981 eingetreten ist. Die Verfügung vom 12. Juli 1982, mit welcher das im November 1981 erhobene Rentenbegehren abgewiesen worden ist, erweist sich damit als zweifellos unrichtig, weshalb die Verwaltung hierauf zu Recht zurückgekommen ist. Streitig ist die Frage des Rentenbeginns.

3. a) Die - gemäss einer Stellungnahme des BSV erlassene - Verfügung vom 25. Mai 1983, mit welcher dem Versicherten eine ganze Rente ab 1. März 1983 zugesprochen wurde, stützt sich auf Art. 88bis Abs. 1 lit. c IVV, wonach in Fällen, in denen festgestellt wird, dass der Beschluss der Invalidenversicherungs-Kommission zum Nachteil des Versicherten zweifellos unrichtig war, die Erhöhung der Rente oder der Hilflosenentschädigung frühestens von dem Monat an erfolgt, in dem der Mangel entdeckt wurde. Die Vorinstanz verneint die Anwendbarkeit dieser Bestimmung, weil es im vorliegenden Fall um die erstmalige Festsetzung einer Rente und nicht um die Änderung einer laufenden Rente gehe. Sie lehnt auch eine bloss analogieweise Anwendung der Bestimmung ab und bezweifelt deren Gesetzmässigkeit. Ausgleichskasse und Invalidenversicherungs-Kommission stellen die Gesetzmässigkeit von Art. 88bis Abs. 1 lit. c IVV ebenfalls in Frage in der Meinung, die Wiedererwägung habe rückwirkend zu erfolgen. Demgegenüber stellt sich das BSV auf den Standpunkt, es bestehe kein allgemeiner Grundsatz, wonach die Wiedererwägung rückwirkend zu erfolgen habe, und es sei Art. 88bis Abs. 1 lit. c IVV analog auf den Fall der Neuanmeldung nach vorausgegangener Abweisung des Rentenbegehrens anzuwenden.

b) Über die Frage der Gesetzmässigkeit von Art. 88bis Abs. 1 lit. c IVV hatte das Eidg. Versicherungsgericht bisher nicht zu entscheiden. In BGE 109 V 112 hat es lediglich festgestellt, dass es sich hiebei - entgegen der systematischen Stellung - nicht um eine Revisionsbestimmung im Sinne von Art. 41 IVG, sondern um den Fall der Wiedererwägung einer zweifellos unrichtigen Verfügung handle. Dass die Bestimmung nicht die Revision von Leistungen gemäss Art. 41 IVG betrifft und damit systematisch nicht unter Art. 86 ff. IVV gehört, bedeutet nicht, dass sie als gesetzwidrig zu betrachten wäre. Die Bestimmung entbehrt zwar einer konkreten gesetzlichen Grundlage; das Institut der Wiedererwägung hat jedoch den Charakter eines allgemeinen verwaltungsrechtlichen Grundsatzes (vgl. Art. 58 VwVG), der insbesondere auch in der Sozialversicherung Geltung hat. Insofern erweist sich Art. 88bis Abs. 1 lit. c IVV als zulässige Teilkodifikation des allgemeinen Grundsatzes der Wiedererwägung mit Bezug auf Verfügungen über Renten und Hilflosenentschädigungen der Invalidenversicherung. Fraglich kann lediglich sein, ob die Bestimmung auch insofern bundesrechtskonform ist, als die Wiedererwägung nicht ex tunc, sondern mit Wirkung ex nunc ab Entdeckung des Mangels erfolgt.

c) Die Vorinstanz begründet die rückwirkende Zusprechung der Rente auf den 1. November 1981 damit, dass die Korrektur eines fehlerhaften Beschwerdeentscheides gemäss Art. 68 VwVG bei Vorliegen eines Revisionsgrundes rückwirkend auf den Zeitpunkt des unrichtigen Entscheides zu erfolgen habe und dass diese Bestimmung als allgemeine verwaltungsrechtliche Richtlinie auch bei der Korrektur fehlerhafter erstinstanzlicher Verfügungen grundsätzlich anwendbar sei. Im vorliegenden Fall geht es nach dem Gesagten indessen nicht um eine sog. prozessuale Revision, sondern um die Wiedererwägung einer zweifellos unrichtigen Verfügung. Weil für die Revision besondere Voraussetzungen bestehen, lassen sich deren Rechtsfolgen nicht ohne weiteres auf die Wiedererwägung übertragen (vgl. auch ZAK 1973 S. 139, RSKV 1975 Nr. 210 S. 28).

In der Vernehmlassung zur Verwaltungsgerichtsbeschwerde vertritt die Vorinstanz die Auffassung, auch die Wiedererwägung fehlerhafter Verfügungen habe grundsätzlich auf den Zeitpunkt des Erlasses der ursprünglichen Verfügung zu erfolgen. Nach den allgemeinen verwaltungsrechtlichen Grundsätzen sei bezüglich der Widerruflichkeit von Verfügungen und der Modalitäten des Widerrufs entscheidend darauf abzustellen, ob es sich um belastende oder begünstigende Verfügungen handle. Bei begünstigenden Verfügungen könne die Widerruflichkeit aus Gründen der Rechtssicherheit und des Vertrauensschutzes fraglich sein, oder es habe die Wirkung jedenfalls lediglich ex nunc zu erfolgen. Wo aber - wie hier - eine belastende Verfügung in Wiedererwägung gezogen werde, müssten schon besondere Gründe vorliegen, um nicht eine Wirkung ex tunc eintreten zu lassen.

Dem BSV ist indessen darin beizupflichten, dass in Lehre und Praxis keine einheitliche Auffassung hinsichtlich der zeitlichen Wirkung der Wiedererwägung besteht. Dies namentlich auch in dem Sinne nicht, dass die Wiedererwägung belastender Verfügungen mit Wirkung ex tunc und diejenige begünstigender Verfügungen mit Wirkung ex nunc zu erfolgen hätte. Ebensowenig besteht ein Grundsatz, wonach die Wiedererwägung negativer Verwaltungsakte regelmässig ex tunc vorzunehmen wäre. IMBODEN/RHINOW (Schweizerische Verwaltungsrechtsprechung, 5. Aufl., Bd. I, S. 249), worauf sich die Vorinstanz beruft, unterscheiden zwar zwischen begünstigenden und belastenden Verfügungen, jedoch nur mit Bezug auf die Voraussetzungen der Wiedererwägung, nicht hinsichtlich ihrer zeitlichen Wirkung. GRISEL (Droit administratif suisse, S. 218) spricht lediglich davon, dass die Wiedererwägung je nach den Umständen mit Wirkung ex tunc oder ex nunc erfolgt, und beantwortet die Frage nur für den besondern Fall der dolosen Erwirkung einer begünstigenden Verfügung im Sinne der Wirkung ex tunc. KNAPP (Grundlagen des Verwaltungsrechts, S. 159) äussert sich dahin, dass die Wiedererwägung grundsätzlich vom Zeitpunkt des Erlasses der ursprünglichen Verfügung an wirksam sei, ohne zwischen begünstigenden und belastenden Verfügungen zu unterscheiden (vgl. im übrigen auch FLEINER-GERSTER, Grundzüge des allgemeinen und schweizerischen Verwaltungsrechts, 2. Aufl., S. 234 f. und 265 ff.; GYGI, Zur Rechtsbeständigkeit von Verwaltungsverfügungen, ZBl 83/1982, S. 149 ff.; SALADIN, Das Verwaltungsverfahrensrecht des Bundes, S. 98 ff. und 165 ff.). Generelle Kriterien mit Bezug auf die zeitliche Wirkung der Wiedererwägung finden sich auch in der Rechtsprechung nicht, zumal hinsichtlich der Voraussetzungen der Wiedererwägung keine einheitliche Praxis besteht (vgl. IMBODEN/RHINOW, a.a.O., S. 250; MAURER, Schweizerisches Sozialversicherungsrecht, Bd. I S. 479 f.). In EVGE 1964 S. 47 hat das Eidg. Versicherungsgericht aus dem Umstand, dass der Richter praxisgemäss die Verwaltung nicht zur Wiedererwägung einer zweifellos unrichtigen Verfügung verhalten kann, geschlossen, dass er der Verwaltung auch keine Vorschriften darüber machen kann, ob bzw. inwieweit eine Wiedererwägung rückwirkend zu erfolgen hat. In EVGE 1967 S. 221 hat es diesen Entscheid einschränkend präzisiert, ohne in der Folge jedoch nähere Richtlinien über die zeitliche Wirkung der Wiedererwägung aufzustellen. Nach der neueren Rechtsprechung kann der Richter eine zu Unrecht auf Art. 41 IVG gestützte Revisionsverfügung mit der substituierten Begründung schützen, dass die ursprüngliche Verfügung zweifellos unrichtig war, wobei die Bestätigung mit Wirkung ex nunc erfolgt. Massgebend ist auch hier die Überlegung, dass der Verwaltung, wenn es ihr schon freisteht, ob sie eine Wiedererwägung vornehmen will oder nicht, auch nicht vorgeschrieben werden kann, dass sie die Wirkung ex tunc eintreten lassen muss. Wenn somit vor Einführung des am 1. Januar 1977 in Kraft getretenen Art. 88bis Abs. 1 lit. c IVV die Verwaltung wohl berechtigt, aber nicht verpflichtet war, die Wirkung der Wiedererwägung ex tunc eintreten zu lassen, so kann - mangels eines gegenteiligen allgemeinen Rechtsgrundsatzes - auch nicht beanstandet werden, wenn in der Verordnungsbestimmung lediglich die Wirkung ex nunc vorgesehen worden ist. Die Bestimmung kann somit auch hinsichtlich der zeitlichen Wirkung der Wiedererwägung nicht als bundesrechtswidrig bezeichnet werden.

d) Dem Wortlaut nach bezieht sich Art. 88bis Abs. 1 lit. c IVV lediglich auf die Erhöhung von Renten und Hilflosenentschädigungen, somit auf laufende Leistungen. Eine unterschiedliche Regelung der zeitlichen Wirkung der Wiedererwägung je nachdem, ob dem Versicherten zu Unrecht keine oder eine zu geringe Leistung zugesprochen worden ist, liesse sich jedoch nicht rechtfertigen. Die Verordnungsbestimmung ist daher analog auf Fälle anzuwenden, in welchen sich die Abweisung eines Leistungsbegehrens nachträglich als zweifellos unrichtig erweist.

Im Hinblick auf Art. 85 Abs. 1 IVV in Verbindung mit Art. 77 AHVV kann Art. 88bis Abs. 1 lit. c IVV indessen nur so weit Anwendung finden, als der zur Wiedererwägung führende Fehler bei der Beurteilung eines spezifisch invalidenversicherungsrechtlichen Gesichtspunktes unterlaufen ist (vgl. mit Bezug auf die Rückerstattung zu Unrecht ausgerichteter Leistungen: BGE 110 V 298, 107 V 36, 105 V 170). Im vorliegenden Fall geht es aber um die Beurteilung eines spezifisch invalidenversicherungsrechtlichen Gesichtspunktes, weshalb der Anwendbarkeit der Verordnungsbestimmung nichts im Wege steht.

4. a) Nach Art. 88bis Abs. 1 lit. c IVV erfolgt die Wiedererwägung mit Wirkung ab jenem Monat, "in dem der Mangel entdeckt wurde". Es kann somit weder generell auf den Zeitpunkt eines allfälligen Wiedererwägungsgesuches noch auf denjenigen des Erlasses der Wiedererwägungsverfügung abgestellt werden. Massgebend ist der Zeitpunkt, in welchem die Verwaltung vom Mangel Kenntnis erhalten hat. Dies setzt nicht voraus, dass die Unrichtigkeit der Verfügung - allenfalls nach Vornahme ergänzender Abklärungen - mit Sicherheit feststeht. Es genügt, dass die Verwaltung - aufgrund des Wiedererwägungsgesuches oder von Amtes wegen - Feststellungen getroffen hat, die das Vorliegen eines relevanten Mangels als glaubhaft bzw. wahrscheinlich erscheinen lassen. Bei Wiedererwägung aufgrund eines entsprechenden Gesuches wird es daher entscheidend auf den Inhalt dieses Gesuches ankommen, ob der Mangel bereits in diesem Zeitpunkt als "entdeckt" gelten kann.

b) Im vorliegenden Fall hat die Verwaltung auf den Eingang des Gutachtens des Zentrums für Medizinische Begutachtung bei der Invalidenversicherungs-Kommission am 3. März 1983 abgestellt. Aufgrund dieses Berichtes stand fest, dass die ursprüngliche Verfügung zweifellos unrichtig war. Es stellt sich indessen die Frage, ob der Mangel nicht schon in einem früheren Zeitpunkt als entdeckt gelten konnte. Laut einem Schreiben des Sekretariates der Invalidenversicherungs-Kommission an den Versicherten vom 30. November 1982 war die Verwaltung zunächst nicht bereit, auf das neue Begehren vom November 1982 einzutreten. In der Folge änderte sie diese Meinung jedoch aufgrund einer telephonischen und schriftlichen Intervention der Hausärztin Dr. S., welche auf eine vollständige Arbeitsunfähigkeit schloss und sinngemäss eine Wiedererwägung der Verfügung vom 2. Juni 1982 befürwortete. Die Invalidenversicherungs-Kommission ordnete noch im Dezember 1982 ergänzende Abklärungen an und erachtete es damit zumindest als glaubhaft, dass ein relevanter Mangel vorlag. Nach den gesamten Umständen rechtfertigt sich daher die Annahme, der Mangel sei bereits in diesem Zeitpunkt entdeckt worden, weshalb Anspruch auf eine Rente ab 1. Dezember 1982 besteht.

Demnach erkennt das Eidg. Versicherungsgericht:

In teilweiser Gutheissung der Verwaltungsgerichtsbeschwerde werden der Entscheid der Kantonalen Rekurskommission für die Ausgleichskassen, Basel, vom 8. September 1983 und die Kassenverfügung vom 25. Mai 1983 aufgehoben, und es wird die Ausgleichskasse Basel-Stadt verhalten, dem Beschwerdegegner eine ganze Invalidenrente ab 1. Dezember 1982 auszurichten.