A.- a) Le 18 mars 1985, la Caisse cantonale vaudoise des Retraites Populaires, régie par une loi cantonale du 22 novembre 1939, a conclu avec la société A. S.A. un contrat d'assurance collective générale invalidité qui entrait en vigueur rétroactivement le 1er janvier 1985. Ce contrat avait pour objet d'assurer le personnel d'A. S.A. dont le salaire cotisant était compris entre 2'501 francs et 5'000 francs (art. 2) contre les conséquences économiques résultant de l'invalidité (art. 1er ch. 4), le risque accidents étant toutefois exclu (art. 9). La prestation assurée était une rente d'invalidité proportionnelle au degré d'invalidité (art. 10). D'après l'art. 20 de la loi précitée, les contestations entre le preneur d'assurance A. S.A. ou l'assuré d'une part et l'assureur d'autre part devaient être tranchées par le Tribunal (cantonal) des assurances, les dispositions générales de procédure de la loi sur le Tribunal des assurances étant applicables.

Ce contrat fut résilié d'entente entre les parties pour le 31 décembre 1988.

La loi précitée du 22 novembre 1939 a été abrogée et remplacée depuis le 1er janvier 1990 par la loi cantonale sur les Retraites populaires du 26 septembre 1989. Aux termes de l'art. 1er de cette loi, les Retraites Populaires (en abrégé: les RP), institution de droit public ayant la personnalité morale, pratiquent toutes les formes de l'assurance sur la vie et combinaisons d'assurance de personnes. Leur activité est fondée sur le principe de la mutualité. Les RP pratiquent l'assurance sur la vie, y compris l'assurance complémentaire en cas d'invalidité, de décès par accident et par maladie ainsi que l'assurance indépendante en cas d'invalidité. Cette activité comprend l'application de la LPP (art. 5). Par décision du département vaudois de l'Intérieur et de la Santé publique du 22 janvier 1990, les RP ont été inscrites à titre définitif dans le Registre cantonal de la prévoyance professionnelle.

b) Un litige est survenu entre les parties au sujet d'un employé d'A. S.A., Gilbert G., gravement atteint dans sa santé et licencié le 25 novembre 1988 par A. S.A., laquelle lui a versé son salaire jusqu'au 31 janvier 1989. Ce dernier, par ailleurs au bénéfice d'une rente entière de l'assurance-invalidité depuis le 1er septembre 1989, en fonction d'un degré d'invalidité de 100%, perçoit une rente d'invalidité du fonds de prévoyance d'A. S.A. et n'élève aucune prétention contre les RP.

A. S.A. soutient que les RP doivent verser à son ancien employé les prestations assurées aux termes du contrat du 18 mars 1985, lesquelles seront imputées sur les prestations allouées par le fonds de prévoyance de l'entreprise. Aucune entente ne s'étant révélée possible entre les parties, A. S.A. a ouvert action contre les RP le 11 janvier 1991 devant le Tribunal des assurances du canton de Vaud, en concluant: "La défenderesse, Retraites Populaires, est tenue de fournir ses prestations d'assurance découlant du contrat 2020 conclu avec la demanderesse en faveur de M. Gilbert G." Les RP ont conclu au rejet de la demande.

B.- Par jugement du 8 janvier 1992, le Tribunal des assurances du canton de Vaud a admis la demande, avec suite de dépens, et dit que la défenderesse était tenue de servir ses prestations à Gilbert G. dans le cadre du contrat d'assurance générale invalidité no 2020. Dans les considérants de leur décision, les juges cantonaux ont constaté que les prétentions des parties ne relevaient pas de la prévoyance professionnelle obligatoire selon la LPP, l'assurance collective en cause étant exclusivement financée par l'employeur et revêtant manifestement le caractère d'une assurance complémentaire "par rapport à la prévoyance professionnelle stricto sensu". Quant à la compétence juridictionnelle du Tribunal des assurances du canton de Vaud, elle résulte, aux termes du jugement, de la législation cantonale sur les Retraites populaires (art. 22 de la loi de 1939 et 21 de la loi de 1989).

C.- Les RP interjettent recours de droit administratif contre ce jugement; elles demandent au Tribunal fédéral des assurances de le réformer en ce sens qu'elles ne soient tenues de verser aucune prestation à Gilbert G. en vertu du contrat d'assurance collective susmentionné.

A. S.A. conclut au rejet du recours. Invité, en qualité d'intéressé, à se prononcer sur le recours, Gilbert G. ne s'est pas déterminé. Quant à l'Office fédéral des assurances sociales, il présente des observations mais ne se prononce pas sur les conclusions du recours.

Le juge délégué à l'instruction de la cause a procédé à un second échange d'écritures, limité à la question de la recevabilité du recours de droit administratif dont les RP ont saisi le Tribunal fédéral des assurances. II a en outre posé diverses questions écrites aux parties, afin de compléter l'instruction qui avait eu lieu en première instance.

1. a) Le Tribunal fédéral des assurances n'étant pas lié par les motifs que les parties invoquent (art. 114 al. 1 en corrélation avec l'art. 132 OJ), il examine d'office si le jugement attaqué viole des normes de droit public fédéral ou si la juridiction de première instance a commis un excès ou un abus de son pouvoir d'appréciation (art. 104 let. a OJ). Il peut ainsi admettre ou rejeter un recours sans égard aux griefs soulevés par le recourant ou aux raisons retenues par le premier juge (ATF 119 V 28 consid. 1b et les références; cf. aussi ATF 117 Ib 117 consid. 4a).

b) Selon l'art. 73 LPP, chaque canton désigne un tribunal qui connaît, en dernière instance cantonale, des contestations opposant institutions de prévoyance, employeurs et ayants droit (al. 1). Les décisions des tribunaux cantonaux peuvent être déférées au Tribunal fédéral des assurances par la voie du recours de droit administratif (al. 4).

Cette disposition s'applique, d'une part, aux institutions de prévoyance enregistrées de droit privé ou de droit public - aussi bien en ce qui concerne les prestations minimales obligatoires qu'en ce qui concerne les prestations s'étendant au-delà (art. 49 al. 2 LPP) - et, d'autre part, aux fondations de prévoyance en faveur du personnel non enregistrées (art. 89bis al. 6 CC). Les litiges entre assurés (ou ayants droit) et institutions de prévoyance ne ressortissent toutefois aux tribunaux institués à l'art. 73 LPP que si la contestation entre les parties concerne la prévoyance professionnelle au sens étroit ou au sens large. Pour ce qui est de la compétence ratione temporis des autorités mentionnées à l'art. 73 LPP, le Tribunal fédéral des assurances a jugé que celles-ci étaient seulement habilitées à connaître de litiges dont l'origine est un événement survenu après l'entrée en vigueur, le 1er janvier 1985, de la LPP (naissance d'une prétention ou d'une créance). Mais il n'est pas nécessaire, pour fonder cette compétence, que les faits invoqués à l'appui de la prétention ou créance se soient entièrement produits sous l'empire du nouveau droit de la prévoyance professionnelle, c'est-à-dire après le 1er janvier 1985 (ATF 117 V 50 consid. 1b et 341 consid. 1b, ATF 116 V 220 consid. 1a, ATF 115 V 247 consid. 1a, et les références citées).

2. a) En l'espèce, le Tribunal des assurances du canton de Vaud a fondé sa compétence non pas sur l'art. 73 LPP mais sur des dispositions de droit cantonal dont l'examen ne ressortit pas au Tribunal fédéral des assurances (ATF 114 V 205 consid. 1a et les références; V. RIEMER, Das Recht der beruflichen Vorsorge in der Schweiz, p. 127 no 3).

La partie recourante soutient que la compétence du Tribunal fédéral des assurances résulte en l'espèce de l'art. 49 al. 2 LPP, d'après lequel les dispositions de la LPP sur le contentieux (art. 73 et 74) s'appliquent également à la prévoyance professionnelle plus étendue. Elle considère, en effet, que le litige qui l'oppose à l'intimée est "une contestation relative à la prévoyance professionnelle impliquant une institution de prévoyance" (art. 73 al. 1 et 4 LPP), à savoir elle-même, et que cela suffit pour fonder la compétence du Tribunal fédéral des assurances. Quant à l'intimée, elle ne se prononce pas clairement sur ce point, se bornant à souligner qu'elle a un intérêt digne de protection à faire constater que Gilbert G. a droit aux prestations des RP.

b) Les deux parties sont toutefois dans l'erreur. En effet, il résulte de l'instruction en procédure fédérale que le contrat d'assurance collective conclu entre les RP et l'employeur de l'assuré G. - et non pas le fonds de prévoyance d'A. S.A. - avait pour objet la réassurance partielle des prestations d'invalidité complémentaires allouées aux ayants droit à de telles prestations par le fonds de prévoyance de cette société. Or, un contrat de réassurance, qu'il soit régi par le code des obligations (cf. l'art. 101 al. 1 ch. 1 et al. 2 LCA) ou, comme c'est le cas ici, par des règles de droit public cantonal, n'est pas un contrat de prévoyance soumis à la LPP (ATF 115 V 98 consid. 3).

En l'espèce, on se trouve apparemment dans l'éventualité prévue à l'art. 331 al. 1 CO, lorsqu'un employeur a effectué des prestations dans un but de prévoyance et les a transférées à une institution de droit public cantonal, avec laquelle il a conclu un contrat d'assurance collective au bénéfice du fonds de prévoyance de son entreprise. S'il surgit un litige relatif à l'exécution d'un tel contrat, il ne s'agit pas d'une contestation au sens de l'art. 73 al. 1 LPP et l'affaire ne saurait dès lors être portée devant le Tribunal fédéral des assurances en vertu de l'art. 73 al. 4 LPP (cf. RIEMER, op.cit., p. 97 no 4 et p. 127 no 3). A cet égard, le fait que le Tribunal cantonal des assurances est aussi, dans le canton de Vaud, le tribunal désigné en application de l'art. 73 al. 1 LPP, n'y change rien. Dans le cas particulier, comme il l'a lui-même déclaré, sa compétence pour connaître du litige porté devant lui résulte exclusivement du droit cantonal régissant l'institution recourante.

Certes, les RP sont une institution de prévoyance enregistrée au sens de l'art. 48 LPP mais il résulte clairement de la loi cantonale qui les régit, et notamment de l'art. 1er, que leur activité embrasse un domaine beaucoup plus vaste que la seule prévoyance professionnelle. Il s'agit, en réalité, d'une institution de droit public destinée à pratiquer l'assurance-vie à des conditions avantageuses, selon le principe de la mutualité, comme on en rencontre dans plusieurs cantons. Dès lors, le fait que les RP pratiquent aussi la prévoyance professionnelle telle qu'elle est régie par la LPP ne signifie nullement que tout litige qui l'oppose à un employeur preneur d'assurance collective en faveur de son personnel tombe sous le coup de l'art. 73 LPP.

L'opinion contraire reviendrait à faire du juge de l'art. 73 LPP et du Tribunal fédéral des assurances en particulier le juge de droit commun pour tout litige relatif aux multiples contrats d'assurance et de réassurance qui sont conclus soit par les employeurs, soit par les fondations de prévoyance en faveur du personnel. Or, cela ne peut être le sens de cette disposition légale ni de la jurisprudence relative à la compétence ratione materiae du juge prévu à l'art. 73 LPP (ATF 116 V 112 et 220 consid. 1a).

Par conséquent, le recours de droit administratif est irrecevable.

3. (Frais et dépens)