A.- A. travaillait en qualité d'aide-jardinier au service de X. A ce titre, il était assuré contre le risque d'accident professionnel et non professionnel auprès de l'Union Suisse, Compagnie Générale d'Assurances (ci-après: l'Union Suisse).

Le 18 septembre 1996, A. a été victime d'un accident alors qu'il effectuait des travaux de remblai sur le sommet d'un talus escarpé: ayant perdu l'équilibre, il a glissé ou roulé sur plusieurs mètres, jusqu'au bas de la pente. (...) En dépit des soins dont il a bénéficié, notamment au cours d'un séjour de deux semaines à l'Institution E., A. n'a plus été à même de reprendre le travail. (...)

Par décision du 3 juin 1997, l'Union Suisse a mis fin à son intervention avec effet au 17 septembre 1997, motif pris de l'absence de lien de causalité naturelle et adéquate entre les troubles, essentiellement d'ordre psychique, présentés par A. et l'accident assuré. Intervenant en qualité d'assureur-maladie du prénommé, Swica Organisation de santé (ci-après: Swica) a formé opposition contre cette décision. L'Union Suisse a confirmé les termes de celle-ci dans une décision sur opposition du 27 avril 1998.

B.- Swica a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud. (...)

L'Union Suisse a conclu au rejet du recours.

Par jugement du 4 novembre 1999, le Tribunal des assurances du canton de Vaud a rejeté le recours de Swica, en considérant qu'il n'y avait plus de lien de causalité adéquate entre les troubles psychiques de l'assuré et l'accident du 18 septembre 1996.

C.- A. interjette un recours de droit administratif contre ce jugement dont il demande l'annulation, en concluant à ce que la Generali Assurances Générales (ci-après: la Generali), successeur en droit de l'Union Suisse, soit tenue à prestations au-delà du 17 septembre 1997 pour les suites de l'accident du 18 septembre 1996.

La Generali conclut au rejet du recours, tandis que Swica en propose l'admission en concluant, à l'instar de l'assuré, à ce que la Generali soit condamnée à poursuivre la prise en charge des conséquences de l'accident. L'Office fédéral des assurances sociales ne s'est pas déterminé.

2. Dans sa réponse au recours, l'intimée discute la qualité pour agir du recourant au motif que celui-ci n'a contesté la décision qui est à l'origine du litige ni au stade de la procédure d'opposition, ni lors de la procédure de recours devant le tribunal cantonal.

a) D'après l'art. 103 let. a OJ, applicable en vertu du renvoi de l'art. 132 OJ, quiconque est atteint par la décision attaquée et a un intérêt digne de protection à ce que celle-ci soit annulée ou modifiée a qualité pour recourir. En principe, seul peut former un recours de droit administratif celui qui apparaît formellement atteint, c'est-à-dire celui qui a participé à la procédure devant l'autorité inférieure et dont les conclusions ont été totalement ou partiellement écartées. Toutefois, si le recourant a été empêché sans faute de sa part de participer à cette procédure, sa qualité pour recourir doit aussi être admise (ATF 118 Ib 359 consid. 1a et les références citées; RHINOW/KOLLER/KISS, Öffentliches Prozessrecht und Justizverfassungsrecht des Bundes, Bâle/Francfort-sur-le-Main 1996, p. 243 no 1272; BLAISE KNAPP, Précis de droit administratif, 4ème édition, Bâle/Francfort-sur-le-Main 1991, p. 412 no 1986; PIERRE MOOR, Droit administratif, vol. II: Les actes administratifs et leur contrôle, Berne 1991, p. 416; GYGI, Bundesverwaltungsrechtspflege, 2ème édition, Berne 1983, p. 155; d'un avis plus nuancé sur l'exigence de la participation à la procédure de première instance: ISABELLE HÄNER, Die Beteiligten im Verwaltungsverfahren und Verwaltungsprozess, Zurich 2000, p. 185 sv. ch. 344; GRISEL, Traité de droit administratif, Neuchâtel 1984, p. 900 sv.).

b) Invité à se déterminer par le Président du tribunal cantonal, conformément à l'art. 129 al. 2 OLAA (cf. RAMA 2000 no U 389 p. 300 consid. 4a), A. a implicitement conclu à l'admission du recours formé par Swica, en ce sens qu'il s'est limité, dans sa détermination, à faire quelques observations sur ses problèmes de santé, en priant la Cour de bien vouloir, pour le surplus, se référer à l'écriture déposée par son assureur-maladie (lettre du 5 décembre 1998). Dans cette mesure, sa participation à la procédure de première instance doit être considérée comme établie et, partant, la qualité pour recourir lui être reconnue, car il est sans conteste atteint par le jugement attaqué et il a un intérêt digne de protection à le faire annuler.

Au demeurant, quand bien même A. n'aurait pas participé à la procédure devant l'instance cantonale, la qualité pour recourir ne pourrait lui être déniée. En effet, du moment que Swica avait valablement fait opposition à la décision de l'intimée du 3 juin 1997 puis recouru contre la décision sur opposition de l'assureur-accidents, conformément à l'art. 129 OLAA, il n'avait pas de motif, en principe, de contester lui-même ces décisions, vu l'étroite communauté d'intérêts qu'il partage, face à l'assureur-accidents, avec son assureur-maladie (cf. RAMA 1998 no U 293 p. 225 consid. 3a, 1989 no U 82 p. 432).

Le recours est recevable.

6. a) En règle générale, le Tribunal fédéral des assurances ne peut imposer des frais de procédure aux parties, en vertu de l'art. 134 OJ, dans les procédures de recours en matière d'octroi ou de refus de prestations d'assurance. Toutefois, dans la mesure où cette disposition a été édictée avant tout dans l'intérêt des assurés en litige avec un assureur social, elle ne s'applique ordinairement pas aux procédures qui divisent, par exemple, deux assureurs-accidents au sujet de la prise en charge des suites d'un accident subi par l'un de leurs assurés communs (ATF 120 V 494 consid. 3, ATF 119 V 222 ss consid. 4), un assureur-accidents et une caisse-maladie au sujet de l'obligation d'allouer des prestations (ATF 127 V 107 consid. 6, ATF 126 V 192 consid. 6 et les références) ou un tel assureur et l'assurance-invalidité (VSI 2000 p. 210 consid. 2).

b) En l'espèce, la procédure est en principe gratuite puisqu'elle oppose le recourant, A., à son assureur-accidents, la Generali. Toutefois Swica, qui avait recouru devant le tribunal cantonal contre la décision sur opposition de l'intimée, est également intervenue activement dans la procédure fédérale, en concluant à l'admission du recours formé par l'assuré et à la condamnation de l'intimée à la prise en charge des conséquences de l'accident au-delà du 17 septembre 1997.

La doctrine est divisée sur le statut qui doit être reconnu aux co-intéressés à la procédure. Certains auteurs sont d'avis qu'il faut traiter ceux-ci de la même manière que des parties à part entière, tandis que d'autres les voient et les considèrent plutôt comme de simples intervenants (sur cette controverse, cf. HÄNER, op.cit., p. 170 et les références à la doctrine [notes 861 à 863]). A la vérité, c'est en fonction des circonstances, singulièrement du degré de participation de l'intervenant à la procédure que celui-ci sera assimilé tantôt à une partie, s'il a un intérêt digne de protection ou juridique dans cette procédure, tantôt à un tiers intéressé, ce qui ne lui donnera qu'un rôle et des droits limités et le dispensera des frais et dépens liés au jugement (BENOÎT BOVAY, Procédure administrative, Berne 2000, p. 153 et les références).

In casu, Swica bénéficie assurément d'un intérêt juridique propre; elle disposait d'ailleurs des mêmes voies de droit que l'assuré (art. 129 al. 1 OLAA). Vu, par ailleurs, le rôle qu'elle a joué en instance cantonale et les conclusions condamnatoires qu'elle a prises en procédure fédérale contre l'intimée, il se justifie de la considérer, non comme un simple "intéressé" au sens de l'art. 110 al. 1 OJ - à la charge duquel des frais de justice ne peuvent être imposés (POUDRET, Commentaire de la loi fédérale d'organisation judiciaire, n. 2 ad art. 156; arrêt S. du 17 janvier 1996 [H 61/95] consid. 5 non publié dans VSI 1996 p. 165) -, mais comme une partie à part entière (pour comp. arrêt du Tribunal fédéral K. du 28 mars 1994 [1A.90/1993] consid. 1b non publié dans ZBl 1995 p. 178 ss). Dans cette mesure, des frais de justice doivent donc, comme s'il s'agissait d'un litige entre assureurs (supra consid. 6a), être mis à la charge de Swica (cf. HÄNER, op.cit., p. 172).