A.- Dame L., née en 1951, mariée, est assurée contre la maladie auprès de la Société suisse de secours mutuels Helvetia (ci-après: la caisse).

Ayant présenté à deux reprises, en 1975 et 1977, des grossesses extra-utérines qui nécessitèrent des interventions chirurgicales, puis diverses autres affections gynécologiques, l'assurée a subi la résection des trompes utérines et de l'ovaire gauche. Depuis lors, elle n'a aucune chance d'obtenir la grossesse qu'elle souhaite, par une conception selon la voie naturelle.

Cependant, ayant entendu parler de la méthode de procréation artificielle par fécondation in vitro et transfert d'embryon, elle s'est adressée à la Clinique gynécologique de l'hôpital cantonal de B., où elle a subi, en août 1982, une laparoscopie, suivie d'une ponction du follicule, cela en vue de mettre au monde un enfant selon la méthode susmentionnée; la fertilisation in vitro s'est toutefois soldée par un échec. Les frais en relation avec cette tentative, y compris une hospitalisation de trois jours, se sont élevés à 3'787 fr. 20.

Par lettre du 6 juillet 1983, la caisse a informé son assurée que, suivant l'avis de son médecin-conseil, elle refusait de prendre en charge les frais en question, motif pris que la fécondation in vitro, pas plus que l'insémination artificielle, ne représentait pas un traitement thérapeutique.

B.- L'assurée a recouru devant le Tribunal des assurances du canton de Vaud. Celui-ci a considéré la lettre de la caisse du 6 juillet 1983 comme une décision et, par jugement du 3 mai 1984, il a rejeté le recours dont il était saisi.

C.- L'assurée interjette recours de droit administratif contre ce jugement, dont elle demande l'annulation, ainsi que celle de la décision litigieuse.

La caisse conclut au rejet du recours, ce que propose également l'Office fédéral des assurances sociales (OFAS), qui rapporte l'avis de son service médical.

D.- En cours de procédure, le juge délégué à l'instruction de la cause a requis un avis de la Commission fédérale des prestations générales de l'assurance-maladie. Cette commission s'est prononcée dans une séance du 28 août 1986; son avis a été rapporté au tribunal par l'OFAS et les parties ont été invitées à se déterminer à son sujet.

3. a) Selon l'art. 14 al. 1 Ord. III (RS 832.140), les prestations obligatoirement à la charge des caisses-maladie en vertu de la loi ne sont dues que si l'assuré souffre d'une maladie. Mais, vu la diversité des formes que peuvent revêtir des états et processus morbides, la notion de maladie se prête difficilement à une stricte définition juridique. Toutefois, on ne saurait parler de maladie, dans un cas concret, s'il n'existe aucun trouble dû à des phénomènes pathologiques. Au demeurant, la notion de maladie est une notion juridique, qui ne se confond pas forcément avec la définition qu'en donne la science médicale (ATF 111 V 231 consid. 1a, 105 V 182 consid. 1a et les références; RJAM 1981 No 440 p. 64 consid. 1).

b) En l'espèce, l'infertilité dont est atteinte l'assurée est une conséquence d'un état pathologique qui a nécessité plusieurs interventions chirurgicales ayant abouti à la résection des trompes utérines et d'un ovaire, ce qui empêche la conception d'un enfant par la voie naturelle. On se trouve donc en présence d'une atteinte à la santé qui a assurément la valeur d'une maladie au sens juridique du terme, comme l'ont admis avec raison les juges cantonaux. D'ailleurs, la jurisprudence (RAMA 1984 No K 566 p. 26) et la pratique administrative (RJAM 1971 p. 40 No 2 et 1973 p. 136 No 1) reconnaissent, d'une façon générale, qu'il en va ainsi de la stérilité et des troubles de la fertilité.

4. a) Selon la terminologie de l'Académie suisse des sciences médicales (Bulletin des médecins suisses 1984 vol. 65 p. 1504), la fécondation in vitro (FIV) est la conjugaison, en milieu de culture, d'un spermatozoïde et d'un ovule recueillis par intervention instrumentale. L'introduction par voie vaginale de l'embryon en voie de développement dans la cavité utérine est appelée transfert d'embryon (TE). La FIV et le TE (FIVETE) permettent à des couples, par ailleurs en bonne santé, d'avoir une progéniture lorsqu'une fécondation naturelle est impossible, par exemple à la suite d'une obstruction ou d'une absence des trompes utérines.

b) En vertu de l'art. 12 al. 2 LAMA, les prestations à la charge des caisses-maladie, au titre de l'assurance des soins médicaux et pharmaceutiques, sont dues en cas de traitement médical. Par traitement médical, il faut entendre, notamment, les soins donnés par un médecin. Ceux-ci comprennent, selon l'art. 21 al. 1 Ord. III, toute mesure diagnostique ou thérapeutique, reconnue scientifiquement, qui est appliquée par un médecin; dans sa version en vigueur depuis le 1er janvier 1986, cette disposition réglementaire prévoit en outre que la mesure doit être appropriée à son but et économique. Les mesures diagnostiques ou thérapeutiques qui ne sont pas reconnues ou qui sont contestées scientifiquement ne constituent pas des prestations obligatoires à la charge des caisses-maladie, sauf décision - inexistante en l'espèce - contraire du Département fédéral de l'intérieur (ATF 110 V 189 consid. 1, ATF 108 V 254 consid. 1a). Il en va de même pour les soins donnés par un médecin en cas d'hospitalisation au sens de l'art. 12 al. 2 ch. 2 LAMA.

c) Le but du traitement médical dans l'assurance-maladie est d'éliminer de la manière la plus complète que possible les atteintes physiques ou psychiques à la santé (ATF 111 V 232 consid. 1c, ATF 104 V 96, ATF 102 V 71). Selon la caisse intimée, la FIVETE ne représente pas une mesure thérapeutique car, par ce moyen, une femme ne verra jamais "son état de santé se modifier de manière telle qu'à l'avenir elle pourra, de façon purement naturelle, arriver à la réalisation d'une grossesse". La juridiction cantonale est d'un avis opposé: certes, la méthode litigieuse ne vise pas à guérir l'infertilité en tant que telle, mais elle a pour but d'en pallier les effets en permettant à la femme infertile de mener malgré tout une grossesse à son terme et de donner naissance à ce qu'il est devenu habituel de nommer un "bébé-éprouvette"; or, pour avoir valeur de mesure thérapeutique, un traitement médical ne doit pas nécessairement s'attaquer à la cause de la maladie, c'est-à-dire à son étiologie, mais il peut aussi avoir pour but d'en combattre les symptômes ou les conséquences.

Si toutefois les premiers juges ont rejeté le recours dont ils étaient saisis, c'est parce que, selon eux, la fécondation in vitro est encore, en Suisse tout au moins, à un stade de développement expérimental et ne saurait, pour ce motif, être considérée comme un traitement scientifiquement reconnu. C'est également le point de vue soutenu par l'OFAS et - à titre subsidiaire - par l'intimée.

d) aa) Selon une jurisprudence constante, qu'il n'y a pas lieu de remettre en cause, une méthode de traitement est considérée comme éprouvée par la science médicale - et, par conséquent, satisfait à l'exigence du caractère scientifiquement reconnu - si elle est largement reconnue par les chercheurs et les praticiens; l'élément décisif réside dans l'expérience et le succès d'une thérapie déterminée (ATF 105 V 185; ATFA 1962 p. 116; cf. également ATF 102 V 75 s.).

bb) Comme cela ressort d'articles et d'extraits de monographies figurant au dossier, la fécondation in vitro est pratiquée en Europe depuis 1977. Le premier enfant conçu selon cette méthode est né en Grande-Bretagne le 25 juillet 1978. En 1984, l'on dénombrait environ 600 "bébés-éprouvette" nés dans le monde. En Suisse, plusieurs centres hospitaliers ont développé un programme de FIVETE à partir des années 1983/84, notamment à Bâle, Locarno, Zurich, Morges et Lausanne. Après un certain nombre de tentatives infructueuses, un premier enfant est né le 25 avril 1985 à Breitenbach (SO), à la suite d'une fertilisation in vitro pratiquée à Locarno; au mois d'août 1986, l'on comptait une quinzaine de naissances obtenues par conception in vitro.

cc) Invitée par le juge délégué à se déterminer sur divers problèmes en relation avec le présent procès, notamment sur le point de savoir si, compte tenu des expériences réalisées en Suisse et à l'étranger, la FIVETE pratiquée par un médecin conformément aux règles de l'art représente un moyen scientifiquement reconnu de remédier aux effets de l'infertilité d'une femme en âge de procréer, la Commission fédérale des prestations générales de l'assurance-maladie (cf. art. 12 al. 5 LAMA et art. 21 al. 2 Ord. III) est parvenue à la conclusion que tel n'était pas le cas, étant donné que la méthode en question "reste encore en Suisse une technologie médicale à développer, avec les conséquences qui s'ensuivent au niveau des prestations obligatoires de l'assurance-maladie".

L'avis de cette commission ne lie en principe pas le juge. Toutefois, s'agissant d'apprécier des situations qui relèvent exclusivement de considérations d'ordre médical, il n'y aurait lieu de s'en écarter que s'il paraissait insoutenable (voir, à propos de la prise en charge par les caisses-maladie de l'amniocentèse, ATF 112 V 303), ce qui n'est pas le cas en l'espèce. Aussi doit-on en conclure, avec les juges cantonaux, que la fécondation in vitro revêt, en Suisse tout au moins, un caractère essentiellement expérimental, ce qui, par définition, signifie qu'elle n'est pas - ou pas encore - véritablement éprouvée par la science médicale.

On est conforté dans cette opinion si l'on considère, sur un plan plus général, que le taux de réussite de la méthode est relativement faible et qu'il existe par ailleurs, en cas de succès de la fertilisation, un risque non négligeable de grossesse anormale. Ainsi le professeur R., de la Clinique gynécologique de l'hôpital cantonal de B., a-t-il déclaré ce qu'il suit en cours de procédure cantonale, dans un rapport daté du 15 février 1984:

"Le taux de réussite est d'environ 10%, chiffre tiré d'une statistique de la Monash University Melbourne, Australie, datée de 1982:

sur 112 laparoscopies 12 grossesses ont été observées, 3 se sont terminées par un avortement, quant aux 9 autres elles arrivèrent à terme (10 enfants, dont 1 fois des jumeaux)."

Des indications semblables ont été fournies à l'occasion d'un colloque qui s'est tenu à Lausanne les 29 et 30 novembre 1985, sur le thème "Procréation Artificielle, Génétique et Droit", et qui a été organisé par l'Institut suisse de droit comparé, en collaboration avec l'Académie suisse des sciences médicales: un participant a qualifié de faibles (5 à 10%) les chances de succès de la méthode, tout en soulignant, entre autres "aspects négatifs", l'importance du risque de fausses couches, de grossesses extra-utérines et de naissances prématurées (publications de l'institut précité, vol. 4 p. 89).

Enfin, il apparaît aussi, sur le vu de la documentation déposée au dossier, que les tentatives faites en ce domaine présentent, en cas de succès, une probabilité relativement forte - et non souhaitée - de naissances multiples (notamment de jumeaux, voire de triplés), étant donné qu'il est nécessaire, pour augmenter les chances de réussite, de transférer simultanément dans l'utérus de la patiente plusieurs embryons. Cela tend également à démontrer que l'application de la méthode, considérée dans son ensemble, exige encore d'importants développements de la science médicale.

dd) Dans ces conditions, on doit admettre que la FIVETE ne répond pas à la définition jurisprudentielle de la mesure scientifiquement reconnue, ce qui suffit à exclure une prise en charge par l'intimée des frais litigieux. Les éléments invoqués en sens contraire par la recourante, notamment dans ses déterminations sur l'avis de la Commission fédérale des prestations générales de l'assurance-maladie, n'apparaissent pas décisifs. Ainsi, s'il est possible que le taux de réussite de la FIVETE connaîtra à l'avenir une sensible progression, ce fait ne saurait de toute façon être déterminant pour l'issue du présent litige.

Cela étant, il est superflu de décider si, comme l'ont admis les premiers juges, la FIVETE représente une mesure thérapeutique au sens de l'art. 21 al. 1 Ord. III. De même, il n'est pas non plus nécessaire d'examiner ici si la mesure satisfait à l'exigence du caractère économique (sur cette notion, voir ATF 109 V 42 ss).