A.- Par décision du 30 janvier 1986, la Caisse de compensation des Groupements patronaux vaudois a signifié à Aubert, ancien administrateur d'une société dissoute après faillite, qu'elle entendait lui demander la réparation d'un dommage, en application de l'art. 52 LAVS.

B.- Aubert s'étant opposé à cette décision, la caisse de compensation a porté le cas devant le Tribunal des assurances du canton de Vaud.

En cours de procédure, Aubert a adressé au tribunal une "requête d'appel en cause" visant à évoquer F. en garantie, c'est-à-dire à faire valoir contre ce dernier, dans le cadre de la procédure principale, une prétention récursoire en cas d'admission de l'action de la caisse de compensation. Il a allégué que F. avait, en sa qualité d'administrateur de fait de la société faillie, joué un rôle prépondérant dans "l'effondrement" de celle-ci. Statuant en la voie incidente le 5 mai 1986, le Tribunal cantonal a rejeté la requête.

C.- Aubert interjette recours de droit administratif contre ce jugement incident, dont il demande implicitement l'annulation.

La caisse intimée s'en remet à justice. Quant à l'Office fédéral des assurances sociales, il renonce à présenter une proposition.

1. (Recevabilité du recours de droit administratif.)

2. a) Par rapport à la procédure qui est généralement applicable dans le domaine de l'AVS, le procès en réparation du dommage selon l'art. 52 LAVS est soumis à des règles particulières, fixées par l'art. 81 RAVS et dont le Tribunal fédéral des assurances a reconnu la légalité (ATF 108 V 195). D'après cette disposition réglementaire, si la caisse de compensation "décide" de la réparation d'un dommage causé par l'employeur, elle doit notifier à celui-ci une décision contre laquelle il peut former opposition dans les trente jours auprès de ladite caisse (al. 1 et 2). Si la caisse de compensation maintient sa décision, elle doit, dans les trente jours également et sous peine de déchéance de ses droits, porter le cas devant l'autorité de recours du canton dans lequel l'employeur a son domicile (al. 3). La décision de l'autorité cantonale de recours peut, dans les trente jours dès sa notification, être déférée au Tribunal fédéral des assurances (al. 4).

b) Selon la juridiction cantonale, il résulte de l'art. 81 al. 1 RAVS que seule la caisse de compensation est en droit de mettre en cause une personne responsable du dommage au sens de l'art. 52 LAVS. Dès lors, si l'on admettait que l'employeur - ou l'organe de celui-ci - à qui la caisse intente l'action en réparation du dommage avait la possibilité d'appeler en cause un tiers, aux fins d'exercer contre lui une action récursoire, cela permettrait au juge saisi de l'action de faire supporter le dommage au tiers en question, sans que soient respectées les formes prévues par l'art. 81 RAVS. C'est pourquoi, indépendamment de toute réglementation cantonale sur ce point, l'appel en cause est en l'occurrence exclu par le droit fédéral.

Cette argumentation ne saurait être décisive. Certes, il est exact que d'après la jurisprudence il incombe uniquement à la caisse de compensation de décider si elle attaquera un employeur pour lui demander la réparation du dommage subi et, éventuellement, quelles personnes elle mettra en cause s'il existe une pluralité de responsables: en ce dernier cas, elle jouit d'un concours d'actions et le rapport interne entre les coresponsables ne la concerne pas; si elle ne peut prétendre qu'une seule fois la réparation, chacun des débiteurs répond solidairement envers elle de l'intégralité du dommage et il lui est loisible de rechercher tous les débiteurs, quelques-uns ou un seul d'entre eux, à son choix (ATF 108 V 195 -196). Cependant, cette jurisprudence ne vise que les rapports juridiques qui existent entre la caisse de compensation et l'employeur: elle ne restreint en aucune manière le droit de ce dernier d'intenter, le cas échéant, une action récursoire contre un tiers qui n'a pas été mis en cause selon la procédure prévue par l'art. 81 RAVS. Il convient dès lors d'examiner si, pour un autre motif que celui retenu par les premiers juges, la législation fédérale exclut la possibilité pour le recourant d'évoquer en garantie F.

c) Le moyen juridictionnel visé par l'art. 81 al. 3 RAVS tient tout à la fois de l'action de droit administratif, c'est-à-dire d'une demande adressée à un organe judiciaire et tendant à la constatation du droit de la caisse de compensation à la réparation du dommage (cf. sur la notion de l'action de droit administratif en général: GRISEL, Traité de droit administratif, p. 940; GYGI, Bundesverwaltungsrechtspflege, p. 29; METZ, Der direkte Verwaltungsprozess in der Bundesrechtspflege, thèse Bâle 1980, p. 11 ss) et de la demande en mainlevée de l'opposition du droit des poursuites (art. 80 LP).

Bien que la dénonciation de litige soit en règle ordinaire possible dans les procédures administratives sur action (GRISEL, op.cit., p. 852; GYGI, op.cit., p. 183; METZ, op.cit., p. 133 et 174; LEBER, Die Beteiligten am Verwaltungsprozess, in recht 1985, p. 22 ss), la faculté pour l'employeur de faire valoir, dans le cadre de l'action principale, une prétention récursoire supposerait en l'espèce que le juge des assurances sociales fût compétent pour connaître de celle-ci. Certains auteurs qui se sont exprimés sur le sujet, sans toutefois prendre véritablement position, n'excluent pas d'emblée cette éventualité (WINZELER, Die Haftung der Organe und der Kassenträger in der AHV, thèse Zurich 1952, p. 74; MAURER, Schweizerisches Sozialversicherungsrecht, vol. II, p. 68-69).

Cependant, la procédure en réparation du dommage, telle qu'elle est organisée par l'art. 81 RAVS, est uniquement destinée à établir l'étendue des droits de l'administration contre l'employeur (ou, subsidiairement, contre ses organes). On doit donc considérer, logiquement, qu'une éventuelle prétention récursoire ne relève pas de l'autorité cantonale compétente selon l'art. 81 al. 3 RAVS, soit de l'autorité qui connaît généralement des recours contre les décisions des caisses de compensation prises en application de la LAVS (art. 85 al. 1 LAVS). C'est dire que le droit fédéral n'accorde pas au juge des assurances sociales le pouvoir de se prononcer sur le recours interne entre plusieurs responsables en vertu de l'art. 52 LAVS, ce qui suffit, en principe, à exclure une dénonciation de litige dans le sens voulu par le recourant.

Il est vrai que rien ne s'opposerait à ce que le droit cantonal de procédure confère un tel pouvoir au juge désigné par l'art. 85 al. 1 LAVS, en sus des attributions habituelles de ce dernier. Mais, dans cette hypothèse, il ne serait de toute façon pas acceptable, sous l'angle de la LAVS, que la prétention récursoire soit instruite et jugée conjointement avec le procès en responsabilité selon l'art. 52 LAVS, notamment par l'appel en cause de garants. Saisi de deux - voire de plusieurs - litiges distincts, le juge aurait l'obligation d'administrer, d'office ou sur requête, toutes les preuves nécessaires à l'élucidation des faits propres à chacune des causes. Pour ce faire, il devrait appliquer tout à la fois le principe inquisitoire, qui gouverne le contentieux des assurances sociales, et les règles traditionnelles sur la répartition du fardeau de la preuve, qui prévalent dans un procès civil ordinaire (art. 8 CC). D'autre part, vu la complexité des rapports juridiques qui peuvent exister entre les coresponsables et la diversité des normes - de droit public et de droit privé - susceptibles d'entrer en considération (cf. WINZELER, op.cit., p. 73 ss), l'autorité de recours ne serait pas toujours en mesure de statuer à bref délai, voire dans un délai raisonnable. Une jonction des causes aurait donc pour effet d'allonger la durée du procès entre la caisse de compensation et l'employeur actionné par celle-ci, ainsi que de compliquer la tâche du juge cantonal. Cela irait à l'encontre des principes de simplicité et de rapidité de la procédure imposés aux cantons par l'art. 85 al. 2 let. a LAVS, auquel renvoie l'art. 81 al. 3 RAVS.

On doit donc admettre que l'employeur n'est pas habilité à évoquer en garantie un tiers responsable, même si cette faculté lui est réservée par la législation cantonale. Quant au point de savoir si d'autres formes de dénonciation du litige (voir à ce sujet: HABSCHEID, Droit judiciaire privé suisse, 2e éd., p. 227 ss) seraient admissibles dans le cadre de la procédure instituée par l'art. 81 RAVS, il n'a pas à être tranché ici.

d) Cela étant, le jugement entrepris doit être confirmé quant à son résultat. Le recours de droit administratif se révèle ainsi mal fondé.