A.- Roger C., né en 1943, a travaillé au service d'E. SA jusqu'au 28 février 1986. Dès le 1er mars 1986, il a été engagé par la Société suisse des entrepreneurs (SSE).

A partir du 1er mars 1986 également, Roger C. a été affilié à la Fondation de prévoyance en faveur du personnel I de la SSE (ci-après: la fondation). Lors de cette affiliation, il a apporté une prestation de libre passage de 96'652 francs, provenant de l'institution de prévoyance d'E. SA. L'avoir de vieillesse selon la LPP, compris dans ce montant, s'élevait à 3'622 fr. 10.

L'assuré a en outre versé à la fondation, en juillet et en septembre 1986, des sommes de rachat pour un montant total de 21'876 francs.

B.- Par lettre du 19 octobre 1987, Roger C. a résilié ses rapports de travail pour le 30 novembre suivant et il a demandé à connaître le montant de sa prestation de libre passage. Le 2 décembre 1987, la fondation lui a répondu que ce montant s'élevait à 126'703 fr. 65, selon le décompte suivant: a. Prestation de libre passage provenant. de la précédente institution de prévoyance:..Fr. 96'652.--. b. Sommes de rachat:.........................Fr. 21'876.--. c. Cotisations personnelles:.................Fr. 8'175.65. .............................................==============. Total...................................... Fr. 126'703.65. .............................................==============.

Le 27 janvier 1988, la fondation a versé cette somme à la nouvelle institution de prévoyance à laquelle l'assuré avait été entre-temps affilié. Selon un décompte de la fondation, l'avoir de vieillesse se montait alors à 10'069 fr. 20.

C.- A la suite de pourparlers entre les parties, qui n'ont pas abouti, Roger C. a ouvert action contre la fondation en concluant au transfert par celle-ci, en plus du montant déjà versé, d'une somme de 11'048 fr. 75, soit: 9'155 fr. 20 au titre d'intérêts et 1'893 fr. 55, représentant la différence entre l'avoir de vieillesse et ses propres contributions (10'069 fr. 20 - 8'175 fr. 65).

Par jugement du 4 septembre 1989, le Tribunal des assurances du canton de Vaud a partiellement admis l'action en condamnant la fondation à verser encore à l'assuré une somme de 260 francs "à titre d'intérêt sur l'avoir de vieillesse LPP remis par E. SA".

D.- Roger C. interjette un recours de droit administratif en demandant au Tribunal fédéral des assurances de condamner la fondation à lui verser la somme de 7'598 fr. 55 au titre d'intérêts sur l'intégralité de la prestation de libre passage transférée de l'institution de prévoyance d'E. SA (96'652 francs) et sur les sommes de rachat payées à la fondation (21'876 francs).

La fondation a également formé un recours de droit administratif contre le prononcé cantonal, dont elle a requis l'annulation.

L'Office fédéral des assurances sociales propose de rejeter le recours de l'assuré et d'admettre celui de la fondation.

1. (Compétence ratione loci des autorités judiciaires de première instance)

2. (Pouvoir d'examen)

3. a) Selon l'art. 28 al. 1 LPP, le montant de la prestation de libre passage équivaut à l'avoir de vieillesse acquis par l'assuré au moment du transfert. L'avoir de vieillesse comprend les bonifications de vieillesse afférentes à la période durant laquelle l'assuré a appartenu à l'institution de prévoyance, avec les intérêts, et les prestations de libre passage portées au crédit de l'assuré, conformément à l'art. 29 al. 1 LPP, avec les intérêts (art. 15 al. 1 LPP). Cette réglementation est applicable, uniquement, à la prévoyance obligatoire selon la LPP.

Aux termes de l'art. 28 al. 2 LPP, la prestation de libre passage sera calculée conformément à l'art. 331a ou 331b du code des obligations, si l'application de ces articles donne un montant plus élevé. Ces dispositions du code des obligations concernent la prévoyance qui excède le minimum obligatoire (dite prévoyance pré-obligatoire, sous-obligatoire et sur-obligatoire) ou, en d'autres termes, la prévoyance plus étendue (cf. ATF 114 V 37 consid. 2a). Elles fixent le montant minimum de la créance du travailleur lorsque ce dernier a versé des cotisations d'assurance-vieillesse, survivants ou invalidité à un fonds d'épargne (art. 331a) ou à une institution d'assurance (art. 331b) et qu'il n'en reçoit pas de prestations à la fin du contrat de travail.

Dans le cas d'une institution d'assurance, cette créance correspond au moins aux contributions du travailleur, déduction faite des prestations versées en couverture d'un risque pour la durée des rapports de travail (art. 331b al. 1 CO); si les cotisations du travailleur et de l'employeur ou, en vertu d'un accord, de l'employeur seulement ont porté sur cinq années ou davantage, la créance du travailleur comprend une part équitable, eu égard aux années de cotisations, de la réserve mathématique calculée au moment ou prend fin le contrat (art. 331b al. 2 CO).

b) La fondation est une institution de prévoyance dite enveloppante, en ce sens qu'elle alloue à ses affiliés des prestations qui vont au-delà du minimum obligatoire (art. 49 al. 2 LPP; ATF 115 V 30 consid. 3c). Selon l'art. 1er de son règlement spécial sur le libre passage, si les rapports de travail ont duré moins de cinq ans, le montant de la créance de libre passage correspond aux cotisations de l'assuré ainsi qu'aux autres versements effectués lors de l'entrée dans l'institution de prévoyance, sans intérêts (al. 2); si les rapports de travail ont duré cinq ans ou plus, la créance comprend en outre un supplément, déterminé en fonction du nombre d'années de cotisations et exprimé en pour-cent de la réserve mathématique qui dépasse le montant des versements personnels de l'assuré (al. 3).

c) Pour appliquer l'art. 28 al. 2 LPP, qui est une règle de coordination entre la prévoyance obligatoire et la prévoyance plus étendue, il faut se fonder sur des bases de comparaison identiques dans le temps. Lorsque l'assuré est entré dans l'institution de prévoyance postérieurement au 1er janvier 1985 (date de l'entrée en vigueur de la LPP) et qu'il a apporté une prestation de libre passage, l'on doit faire abstraction de celle-ci dans la comparaison; il en va de même des éventuelles sommes de rachat qu'il a versées à la nouvelle institution (ATF 114 V 250 ss).

En l'occurrence, l'assuré a apporté une prestation de libre passage de 96'652 francs et il a versé des sommes de rachat jusqu'à concurrence de 21'876 francs. Au total 118'528 francs. La prestation de libre passage selon le code des obligations, pour la durée de l'affiliation à la fondation, se monte à 8'175 fr. 65 (du moment que l'affiliation avait duré moins de cinq ans, l'intéressé ne pouvait, compte tenu de l'art. 331b CO et en l'absence de dispositions réglementaires plus favorables, bénéficier de tout ou partie des contributions de l'employeur). L'avoir de vieillesse acquis auprès de la fondation s'est élevé, pour sa part, à 6'447 fr. 10 (10'069 fr. 20 - 3'622 fr. 10). Le jugement entrepris retient ici une somme de 6'153 fr. 60, mais il n'y a pas lieu de s'attarder sur cette divergence, chacun des deux chiffres étant de toute façon inférieur à celui de 8'175 fr. 65.

La jurisprudence susmentionnée conduit donc à fixer le montant de la créance de l'assuré à 126'703 fr. 65 (118'528 francs + 8'175 fr. 65), comme l'ont d'ailleurs fait correctement les premiers juges et la fondation.

4. Ce calcul n'est en soi pas critiqué par l'assuré. Celui-ci estime, en revanche, avoir droit à des intérêts sur les sommes de 96'652 francs et de 21'876 francs, bien que le règlement de la fondation exclue formellement le paiement de tels intérêts.

a) En matière de prévoyance plus étendue, la créance de libre passage du travailleur est augmentée des intérêts dans le cas d'un fonds d'épargne (art. 331a CO), mais non dans celui d'une institution d'assurance, l'art. 331b al. 1 CO étant, on l'a vu, muet au sujet des intérêts sur les contributions du salarié. Cette différence de réglementation ne résulte pas d'une lacune de la loi. On l'explique généralement par le fait que, dans le cas d'une institution d'assurance (comme l'est la fondation), le travailleur est assuré déjà pendant les cinq premières années de service et qu'il touche, lors de la réalisation du risque, des prestations dont le montant ne se trouve pas nécessairement dans un rapport strict avec l'importance et la durée des cotisations versées (VISCHER, Traité de droit privé suisse, vol. VII, tome I, 2, p. 133; FF 1967 II 371 s.; arrêt non publié du Tribunal fédéral, du 27 juin 1980, en la cause M.). Autrement dit, les intérêts servent ici à couvrir les risques de décès et d'invalidité pendant la durée des rapports de travail (SPIRA, La jurisprudence du Tribunal fédéral des assurances sur le libre passage dans la prévoyance professionnelle, in: Le droit du travail en pratique, vol. 1, Journée 1990 de droit du travail et de la sécurité sociale, p. 17 s.).

b) Bien que les montants apportés ou versés lors de l'entrée dans l'institution de prévoyance ne soient pas considérés comme des contributions du travailleur au sens des art. 331a et 331b CO (ATF 115 V 32 consid. 4b in fine, ATF 114 V 256 consid. 9c), le Tribunal fédéral des assurances a récemment jugé que le droit fédéral n'imposait pas un traitement différencié, sous l'angle des intérêts (arrêt non publié O. du 5 février 1991). Les caisses de pension pratiquant le système de la primauté des prestations prélèvent généralement auprès des nouveaux affiliés d'un âge relativement avancé une prestation d'entrée (appelée aussi "finance d'entrée", rachat d'années de service, rachat d'années de cotisations, montants de rachat, versements uniques), qui permet aux intéressés d'obtenir une couverture d'assurance maximale et d'éviter ainsi une réduction future des prestations (HELBLING, Les institutions de prévoyance et la LPP, trad. MAGDELAINE, p. 126). La prestation de libre passage apportée par l'assuré est destinée, en priorité, à ce rachat, qui est fixé selon des taux actuariels. Il ne s'agit pas d'un simple dépôt mis à la disposition de l'institution de prévoyance, puisque celle-ci assume la couverture des risques de décès et d'invalidité pour des prestations augmentées en proportion. Le versement d'intérêts, en cas de sortie ultérieure de ces nouveaux affiliés, créerait une inégalité de traitement, au sein de la même institution et par rapport aux assurés dont la réserve mathématique a été constituée au moyen de contributions exclusivement.

Certes, la question des intérêts peut être réglée de manière différente d'une institution de prévoyance à l'autre. Mais ces différences sont fonction du système de financement adopté par chacune d'elles, dans le cadre de l'autonomie que la loi leur reconnaît en ce domaine (art. 49 al. 1 LPP).

c) Il se peut aussi que le montant de la prestation de libre passage apportée par l'assuré dépasse ce qui est nécessaire au rachat. Certains règlements (cf. HELBLING, op.cit., p. 128) stipulent, dans de tels cas, que la différence est portée au crédit de l'assuré comme capital d'épargne, tandis que d'autres prévoient d'attribuer l'excédent aux réserves générales (encore qu'il soit toujours possible à l'intéressé d'affecter la part de la prestation de libre passage qui demeure disponible à l'une des formes de prévoyance reconnue par la loi, p.ex. sur un compte de libre passage ouvert auprès d'une banque cantonale; cf. ATF 115 V 108 ss).

Le point de savoir si un intérêt est dû sur un tel excédent au moment de la sortie, indépendamment de toute base statutaire ou réglementaire, n'a pas à être tranché ici. En effet, selon l'art. 19 al. 1 du règlement de la fondation, les nouveaux affiliés qui ont dépassé l'âge de 30 ans (hommes) ou 27 ans (femmes) doivent acquitter une "finance d'entrée" ("Eintrittsgeld"); cette prestation correspond, pour chaque année dépassant la limite d'âge réglementaire, à 10 pour cent du salaire assuré.

La prestation d'entrée ne peut toutefois servir au rachat d'années d'assurance (art. 19 al. 2). Ce rachat est prévu à l'art. 19 al. 6, selon lequel le nouvel affilié peut racheter des années d'assurance, pour autant qu'il verse le montant nécessaire à cet effet, en plus de la prestation d'entrée.

En l'espèce, il apparaît que la fondation a reçu, en application de ces dispositions, 136'576 francs (prestation d'entrée et rachat de six années d'assurance). La plus grande partie de ce montant a été réglée par le transfert de la prestation de libre passage et par les versements de l'assuré (118'528 francs), tandis que le solde (18'048 francs) a été pris en charge par l'employeur, comme contribution volontaire (sur le sort d'une telle contribution en cas de dissolution des rapports de travail, voir arrêt P. du 11 juin 1990, partiellement publié dans la SZS 1991 p. 43).

Les sommes versées ou transférées lors de l'affiliation ont ainsi servi, exclusivement, à l'amélioration des prestations futures de l'assuré. Dans ces conditions, la prétention de ce dernier, qui ne repose sur aucune base légale ou statutaire, ne peut être que rejetée.

5. Il est vrai que l'assuré fait encore valoir, à titre subsidiaire, que la fondation avait auparavant le statut d'un fonds d'épargne et qu'elle n'est devenue une institution d'assurance qu'à partir du 1er janvier 1985. Il met en doute la régularité de ce changement au regard des exigences formelles de l'art. 85 CC, qui requiert l'intervention de l'autorité de surveillance pour ce qui est des modifications apportées à l'organisation des fondations. Le non-respect éventuel de ces exigences justifierait, selon l'intéressé, le paiement d'un intérêt, en application "au moins par analogie" de l'art. 331a CO.

Le grief soulevé ici ressortit au premier chef aux autorités de surveillance des institutions de prévoyance, qui, depuis le 1er janvier 1985, exercent aussi les attributions prévues par les art. 84 al. 2, 85 et 86 CC (art. 62 al. 2 LPP) et dont les décisions peuvent faire l'objet d'une procédure de recours conformément à l'art. 74 al. 2 et 4 LPP (MEYER, Die Rechtswege nach dem Bundesgesetz über die beruf liche Alters-, Hinterlassenen- und Invalidenvorsorge [BVG], RDS, 106/1987, p. 621; RIEMER, Das Recht der beruf lichen Vorsorge in der Schweiz, § 2, n. 106, p. 82).

Au demeurant, par le changement en question, il s'est agi, de toute évidence, d'adapter le règlement de la fondation aux exigences de la LPP, en matière de prestations notamment. Comme cela ressort d'une annexe au règlement de la fondation, celle-ci - au même titre d'ailleurs que toutes les autres institutions de prévoyance désireuses de participer au régime de l'assurance obligatoire - a été inscrite provisoirement au registre de la prévoyance professionnelle, auprès de l'autorité de surveillance dont elle relève (art. 48 al. 1 LPP). Conformément à l'art. 8 al. 2 OPP 1, elle disposait d'un délai échéant le 31 décembre 1989 pour adapter aux prescriptions légales, notamment, son acte de fondation et son organisation (cf. LANG, in HELBLING, op.cit., p. 396). On ne voit donc pas en quoi l'assuré, qui est sorti de la fondation à fin novembre 1987, serait fondé à se plaindre d'une irrégularité qui, du reste, n'est aucunement établie.

6. De son côté, la fondation reproche aux premiers juges d'avoir alloué à l'assuré une somme de 260 francs au titre d'intérêts sur la prestation de libre passage - selon la LPP - provenant de l'institution de prévoyance à laquelle il était précédemment affilié (3'622 fr. 10).

Comme on l'a vu, l'avoir de vieillesse comprend les prestations de libre passage portées au crédit de l'assuré, conformément à l'art. 29 al. 1 LPP, avec les intérêts. A la fin de chaque année civile, le compte individuel de vieillesse doit être crédité d'un intérêt annuel calculé sur l'avoir de vieillesse existant à la fin de l'année civile précédente (art. 11 al. 2 let. a OPP 2). Si l'assuré entre dans l'institution de prévoyance en cours d'année, le compte de vieillesse sera crédité, en fin d'année civile, de l'intérêt sur le montant de l'avoir de vieillesse transféré, calculé dès le jour du paiement de la prestation de libre passage (art. 11 al. 4 let. b OPP 2). Le taux d'intérêt minimal est de 4 pour cent l'an (art. 12 OPP 2).

Dès lors, les intérêts mis en compte par la nouvelle institution sur la prestation de libre passage apportée par l'assuré sont nécessairement inclus dans l'un des éléments de la comparaison prévue par l'art. 28 al. 2 LPP: l'assuré peut prétendre soit le montant de l'avoir de vieillesse acquis par lui au moment du transfert soit, s'il est plus élevé, la somme calculée selon le code des obligations. Or, le calcul comparatif conduisait en l'occurrence à retenir la somme de 8'175 fr. 65. Il n'y avait pas lieu d'ajouter encore un intérêt, déjà compris dans le montant de 6'447 fr. 10. Sur ce point, le jugement attaqué ne peut pas être confirmé.

7. Ainsi donc, en transférant à la nouvelle institution de prévoyance la somme de 126'703 fr. 65, la fondation a pleinement satisfait à ses obligations.

L'intéressé ne pouvait pas non plus prétendre des intérêts moratoires, quand bien même le transfert a eu lieu deux mois environ après la cessation des rapports de travail. Comme le relèvent avec raison les premiers juges, ce retard est uniquement imputable à l'assuré, qui n'a pas fourni en temps utile les informations nécessaires quant au destinataire du paiement (cf. ATF 115 V 37 consid. 8c).

8. De ce qui précède, il résulte que le recours de la fondation est bien fondé, tandis que celui de l'assuré ne l'est point.

(Frais de justice et dépens)