A.- Jean B. est l'administrateur unique de la société B. SA. Cette société est affiliée à la Fondation commune Banque cantonale vaudoise - deuxième pilier (ci-après: la Fondation), qui lui sert d'institution de prévoyance pour l'exécution de ses obligations d'employeur découlant de la LPP.

Le 20 février 1990, la Fondation a adressé à la société un décompte de cotisations pour l'année 1989.

Jean B. y était mentionné pour un salaire assuré de 36'000 francs par an. Jean B. ayant contesté son statut de salarié de la société, la Fondation lui a répondu, le 5 juin 1990, que les actionnaires uniques ou majoritaires qui travaillent au service de leur société devaient être considérés comme des salariés sous l'angle de la prévoyance obligatoire.

B.- Par acte du 18 février 1991, la Fondation a ouvert action devant le Tribunal des assurances du canton de Vaud en prenant les conclusions suivantes:

"Nous demandons au Tribunal cantonal des assurances qu'il reconnaisse M.B. comme étant un salarié de la société B. SA et qu'il exige de cettesociété le versement des cotisations à la prévoyance professionnelleobligatoire."

Statuant le 13 août 1991, le tribunal cantonal a admis l'action de l'institution de prévoyance et il a constaté que le défendeur, en sa qualité de salarié de la société anonyme, était soumis à la prévoyance professionnelle obligatoire.

C.- Jean B. interjette un recours de droit administratif dans lequel il conclut à la réforme du jugement cantonal en ce sens qu'il ne soit pas soumis au régime de la prévoyance obligatoire.

La Fondation conclut au rejet du recours, ce que propose aussi l'Office fédéral des assurances sociales, qui déclare se rallier aux considérants du jugement cantonal.

1. a) Le litige n'ayant pas pour objet l'octroi ou le refus de prestations d'assurance, le Tribunal fédéral des assurances doit se borner à examiner si les premiers juges ont violé le droit fédéral, y compris par l'excès ou par l'abus de leur pouvoir d'appréciation, ou si les faits pertinents ont été constatés d'une manière manifestement inexacte ou incomplète, ou s'ils ont été établis au mépris de règles essentielles de procédure (art. 132 en corrélation avec les art. 104 let. a et b et 105 al. 2 OJ).

b) Le Tribunal fédéral des assurances, d'autre part, examine d'office les conditions dont dépend la qualité pour recourir et les conditions formelles de validité et de régularité de la procédure précédente, soit en particulier le point de savoir si c'est à juste titre que la juridiction cantonale est entrée en matière sur le recours (ou sur l'action). Aussi, lorsque l'autorité de première instance a ignoré qu'une condition mise à l'examen du fond du litige par le juge faisait défaut et a statué sur le fond, c'est un motif pour le tribunal, saisi de l'affaire, d'annuler d'office le jugement en question (ATF 117 V 341 consid. 2a, ATF 116 V 202 consid. 1a, 257 consid. 1 et 338 consid. 2).

2. a) Selon l'art. 73 al. 1 LPP, chaque canton désigne un tribunal qui connaît, en dernière instance cantonale, des contestations opposant institutions de prévoyance, employeurs et ayants droit. La voie à suivre est celle de l'action (ATF 117 V 242 et 342).

Doctrine et jurisprudence admettent que cette disposition n'exclut pas la possibilité d'une action en constatation (RIEMER, Das Recht der beruflichen Vorsorge in der Schweiz, § 6 note 4, p. 128; MEYER, Die Rechtswege nach dem BVG, RDS 106/1987 p. 614; HELBLING, Les institutions de prévoyance et la LPP, 5e éd., traduction MAGDELAINE, p. 401; SCHWARZENBACH-HANHART, Die Rechtspflege nach dem BVG, SZS 1983 p. 183; ATF 117 V 320 consid. 1b; arrêt du 22 mai 1991, in SZS 1992 p. 234). Conformément aux conditions auxquelles la loi et la jurisprudence soumettent la recevabilité d'une demande de décision administrative en constatation (voir par ex.: ATF 114 V 202 consid. 2c, ATF 110 Ib 215 consid. 1a; RAMA 1991 no U 134 p. 315; RCC 1990 p. 469 consid. 3) et de même qu'en matière civile (ATF 115 II 482 consid. 4, ATF 114 II 255 consid. 2), une semblable action n'est cependant recevable que si son auteur a un intérêt digne de protection à la constatation immédiate d'un rapport de droit litigieux (ATF 118 V 102 consid. 1, ATF 117 V 320 consid. 1b, ATF 115 V 231 consid. 4, 373 consid. 3). Un intérêt de fait suffit, pour autant qu'il s'agisse d'un intérêt actuel et immédiat (ATF 117 V 320 consid. 1b et les références citées).

L'intérêt digne de protection requis fait généralement défaut lorsque le justiciable peut obtenir en sa faveur un jugement condamnatoire. Cette restriction s'applique aussi bien à l'action en constatation de droit civil (ATF 114 II 253; SJ 1988 p. 589 consid. 4) qu'à celle fondée sur le droit administratif (ATF 109 Ib 85, en haut); en ce sens, le droit d'obtenir une décision en constatation est subsidiaire (GRISEL, Traité de droit administratif, p. 867; MOOR, Droit administratif, volume II, p. 110; GUENG, Zur Tragweite des Feststellungsanspruchs gemäss Art. 25 VwG, RSJ 67/1971 p. 373 ad let. d).

b) Conformément à ces principes, la jurisprudence en matière d'AVS considère que le statut des assurés en matière de cotisations ne peut, à lui seul, donner lieu à une décision de constatation que si un intérêt majeur exige l'examen préalable de cette question. Il en va ainsi dans certains cas complexes, dans lesquels l'on ne peut raisonnablement pas exiger que des décomptes de cotisations paritaires compliqués soient effectués avant que l'existence d'une activité lucrative dépendante et l'obligation de cotiser de l'employeur visé aient été établies. Une telle situation peut se présenter, notamment, lorsque de nombreux assurés sont touchés par la décision notifiée à leur employeur commun, relative à leur situation de personnes salariées, tout particulièrement si le nombre de ces assurés est si élevé que l'administration ou le juge est dispensé de les appeler à intervenir dans la procédure en qualité d'intéressés (ATF 112 V 84 consid. 2a; voir aussi RCC 1987 p. 384 consid. 1a et les références; RAMA 1990 no U 106 p. 276 consid. 2b).

Les mêmes motifs justifient une semblable solution quand il s'agit de cotisations à une institution de prévoyance: sous réserve des exceptions mentionnées ci-dessus, le juge de l'art. 73 LPP n'a pas non plus pour fonction de se prononcer de manière générale et abstraite sur la qualité de salarié au sens de l'art. 2 LPP. Certes, dans un arrêt en la cause L. et consorts, du 14 décembre 1989 (mentionné avec un bref résumé dans la SZS 1990 p. 181), le Tribunal fédéral des assurances a admis, sans autres considérations, la recevabilité d'une action en constatation s'agissant de l'assujettissement à la Caisse de pensions du personnel de l'Etat du Valais des neuf préposés aux offices (non étatiques) des poursuites et faillites de ce canton. Mais cet assujettissement concernait également tous les employés des offices concernés, qui étaient par ailleurs déjà affiliés à une autre institution de prévoyance; l'on se trouvait assurément dans la situation exceptionnelle où un intérêt majeur justifiait la constatation préalable d'un rapport de droit.

c) En l'espèce, la Fondation n'a pas exigé, en procédure cantonale, le paiement d'une prestation en argent, bien qu'elle eût la possibilité de le faire. La simple constatation de la soumission du recourant à la LPP, demandée par elle, n'était donc qu'une condition d'un jugement condamnatoire, dénuée de toute portée autonome (cf. SJ 1988 p. 590).

Le premier juge, certes, n'a pas méconnu les conditions de recevabilité d'une action en constatation, qu'il a d'ailleurs rappelées dans son jugement. Il a cependant considéré qu'un refus d'entrer en matière eût été inconciliable avec le principe de l'économie de la procédure. Mais ce principe doit céder le pas devant le caractère impératif de l'exigence d'un intérêt immédiat, sous peine d'ailleurs de vider ladite exigence de son contenu.

3. En conséquence, les conclusions de la demande auraient dû être déclarées irrecevables. Il appartient à la Fondation de porter devant le juge de l'art. 73 LPP le conflit qui l'oppose à la société B. SA, en fixant de manière précise, dans ses conclusions, le montant des cotisations paritaires dont elle entend exiger le paiement.

Le jugement attaqué doit ainsi être annulé d'office, sans qu'il y ait lieu d'entrer en matière sur les conclusions du recours.

4. Toute la procédure a pour origine l'action en constatation de la Fondation dont les conclusions, on l'a vu, étaient irrecevables d'entrée de cause. Il paraît équitable, dans ces conditions, de mettre les frais de justice et une indemnité de dépens réduite à la charge de l'intimée (cf. ATF 112 V 86 consid. 4).

Le recourant conclut également au paiement d'une indemnité de dépens pour la procédure cantonale. Cette question ne ressortit toutefois pas au droit fédéral (arrêt non publié W. du 14 février 1992, in SZS 1992 p. 295; RCC 1987 p. 409). Conformément à la pratique, il convient néanmoins de transmettre le dossier au Tribunal cantonal afin qu'il puisse statuer sur cette question.