A.- a) R. est décédé à Montreux le 26 août 1976. Selon jugement rendu le 3 juillet 1980 par la Cour civile du Tribunal cantonal vaudois, il laissait sa succession à sa demi-soeur Hélène K. (réservataire pour 3/16) et à sa femme Florence, née B. (13/16), qu'il avait instituée seule héritière et exécutrice testamentaire, le 31 mars 1964. Usufruitière de la part réservataire, celle-ci fut mise le 23 août 1977 sous la tutelle de P. Le partage fut ordonné le 30 novembre 1981 par le Président du Tribunal civil du district de Vevey; la Chambre des recours du Tribunal cantonal vaudois confirma ce jugement le 28 décembre 1982. Les parties requirent la reprise de la procédure de partage en avril 1983; l'instance suit son cours.

Florence R. décéda à son tour le 15 juin 1981. Elle avait institué seule héritière sa soeur Marie B. Le 23 juin 1981, celle-ci céda sa part, par convention notariée, aux époux F., cession confirmée par une promesse, notariée elle aussi, du 19 février 1982.

Cette seconde convention promettait le transfert aux cessionnaires de la part de Florence R. sur l'un des immeubles de la succession de son mari, sis à Montreux. Les parties se référaient aux difficultés qui les attendaient dans l'exécution de leur accord, dont l'une est l'objet du présent procès.

b) Après un bail dont le renouvellement échoua, l'immeuble de Montreux fit l'objet de deux autres contrats.

aa) Dûment autorisé par la Justice de paix, le tuteur P. conclut, le 3 décembre 1980, un premier bail entre les époux F. et "la succession de feu R.", qu'il déclarait représenter pour la veuve. Le bail est conclu pour dix ans, soit du 1er avril 1981 au 31 mars 1991; il pourra être annoté au registre foncier, à la requête et aux frais des locataires (art. 2 al. 1 et 3). Le 10 décembre 1980, la Justice de paix envoya au tuteur un exemplaire du bail approuvé la veille, "intervenu entre votre pupille et les époux F.". L'accord de dame K. n'avait pas été requis, ni partant obtenu.

bb) Le 26 mai 1981, le tuteur passa un second contrat de bail - lui aussi approuvé par la Justice de paix - avec les époux F., contrat conclu par dame R. seule - mais "en qualité d'usufruitière de l'entier de la succession de feu R." -, pour la même durée exactement (1er avril 1981 - 31 mars 1991) et susceptible d'être annoté. En préambule, les parties exposent qu'elles prennent un nouvel accord en raison du litige né du bail de 1980.

B.- Dame K. a requis la Cour civile du Tribunal cantonal vaudois:

I. de constater que le contrat de bail passé le 3 décembre 1980 entre les époux F. et P. au nom de la succession de feu R. est nul et non avenu;

II. de constater que les époux F. ne sont titulaires d'aucun droit personnel ou réel opposable à la demanderesse l'autorisant à occuper l'immeuble sis à Montreux;

III. d'enjoindre auxdits défendeurs, sous la menace des peines d'arrêts ou d'amende prévues par l'art. 292 CP, de libérer l'immeuble dans un délai de 30 jours.

Marie B. a conclu à libération des fins de la demande.

Les époux F. ont également requis le rejet de l'action. Ils ont en outre prié la cour de constater:

"Reconventionnellement:

- que la demanderesse est leur débitrice et leur doit paiement de la somme de 17'950 fr. 40 francs (dix-sept mille neuf cent cinquante francs quarante) avec intérêts à 5% l'an dès le 1er janvier 1984, représentant sa part de 3/16 sur tous les impôts, taxes, primes d'assurances, intérêts hypothécaires et droits de mutation concernant l'immeuble ..., tous droits des défendeurs étant réservés pour les sommes dues à ce titre dès le 1er janvier 1984.

Subsidiairement:

- que la demanderesse est leur débitrice et leur doit paiement de la somme de 61'262 fr. 90 francs (soixante et un mille deux cent soixante-deux francs nonante) avec intérêts à 5% l'an dès le 1er janvier 1984 à titre de restitution de toutes les sommes investies par eux dans l'immeuble ... jusqu'au 31 décembre 1983, tous droits des défendeurs demeurant réservés sur les sommes investies dès cette dernière date."

C.- Le juge instructeur a rendu deux ordonnances de mesures provisionnelles.

Le 16 juillet 1981, il a interdit aux époux F. de requérir l'annotation au registre foncier du bail du 3 décembre 1980.

Le 14 avril 1982, il a rejeté une requête de la demanderesse tendant à faire déguerpir les locataires, par le motif que le bail du 26 mai 1981 n'avait pas pris fin du seul fait du décès de Florence R.

D.- Par jugement du 1er septembre 1986, la cour cantonale a rejeté les conclusions de la demanderesse et les conclusions reconventionnelles des défendeurs F.

E.- Agissant par la voie du recours en réforme, la demanderesse a requis le Tribunal fédéral de lui allouer ses conclusions; subsidiairement, d'annuler le jugement attaqué et de renvoyer la cause à la cour cantonale pour nouvelle décision dans le sens des considérants. Le Tribunal fédéral a rejeté le recours.

2. Feu R. a laissé pour héritières sa demi-soeur Hélène K. (3/16) et son épouse (13/16). Cette dernière était en outre usufruitière de la part échue à la recourante. Elle jouissait donc seule de l'ensemble de la succession, comme pleine propriétaire d'une part et usufruitière du solde (non d'objets distincts, avant le partage); il n'y avait pas communauté de jouissance (PIOTET, Les usufruits du conjoint survivant en droit successoral suisse, Berne 1970, p. 48, et Traité de droit privé suisse, IV, Droit successoral, p. 615).

Avant sa mort, Florence R. a conclu successivement deux baux à loyer (ATF 97 II 61 consid. 1a, ATF 93 II 456 consid. 1 et les arrêts cités) avec les époux F. pour un immeuble de l'hoirie, sans l'accord d'Hélène K.

a) Le jugement attaqué démontre que Florence R., eût-elle été valablement désignée exécuteur testamentaire bien que seule héritière instituée (cf. PIOTET, Droit successoral, p. 143; ESCHER, n. 5 ad art. 517 CC), aurait été déchue de cette fonction lorsqu'une tutelle volontaire a été décidée en sa faveur le 23 août 1977 (art. 517 al. 1 CC; PIOTET, op.cit., p. 144; ESCHER, n. 20 ad art. 518 CC).

b) La recourante ne conteste pas que Florence R ait été valablement représentée par son tuteur, ni que le bail ait été autorisé par l'autorité tutélaire (art. 421 ch. 6 CC). Mais elle prétend que la veuve ne pouvait engager qu'elle-même et non la succession. C'est lui dénier le pouvoir de disposer par contrat de bail - en soi et non dans ses modalités - pour la succession.

aa) Ainsi que le constate le jugement attaqué, Florence R., comme propriétaire des 13/16 de la succession et usufruitière du solde, avait seule la jouissance du total et exerçait seule - par l'intermédiaire de son tuteur et, si nécessaire, avec l'accord des autorités de tutelle - toutes les facultés comprises dans cette jouissance. Comme on l'a vu ci-dessus, il n'existait pas une communauté de jouissance. Unique titulaire, la veuve avait les droits et les devoirs de l'usufruitière (art. 745 à 775 CC; PIOTET, Droit successoral, p. 619). Certes, l'usufruit comme tel est incessible (op.cit., p. 620). Mais son exercice est transférable à un tiers, car il ne s'agit pas ici d'un droit éminemment personnel (art. 758 al. 1 CC). L'usufruitière pouvait donc donner à bail un immeuble successoral et en percevoir le loyer - et elle seule, sans l'accord de la nue-propriétaire des 3/16 (PIOTET, Droit successoral, p. 619; Les usufruits du conjoint survivant, p. 56).

Ce qui est ainsi cédé, c'est l'exercice de l'usufruit, droit qui compète au seul usufruitier. L'hoirie ne pouvait donner l'immeuble à bail (PIOTET, Les usufruits du conjoint survivant, p. 56). Les règles de l'usufruit régissent les rapports entre la veuve et sa cohéritière. Celles du bail (légales ou conventionnelles) ne concernent que les rapports de la première avec les locataires. Il suit de là que la recourante ne saurait agir contre ceux-ci en restitution de la chose louée au titre du bail. Elle avait en revanche qualité pour revendiquer l'immeuble loué comme cohéritière au titre de sa nue-propriété, si le bail est radicalement nul, comme elle le prétend. Le principe de la conjonction des actes de la communauté successorale est sauvegardé, sa cohéritière étant partie au procès de l'autre côté de la barre.

bb) ...

3. La recourante objecte que les baux souffrent d'une nullité absolue et totale en raison de leur durée et du droit, pour les locataires, de les faire annoter au registre foncier (art. 2). Dame R. aurait excédé ses pouvoirs d'usufruitière, dès lors que le tiers possesseur est tenu de restituer la chose louée au nu-propriétaire quand l'usufruit prend fin (art. 751 CC), notamment donc à la mort de l'usufruitier (art. 749 CC). C'est l'extinction de l'usufruit qui est en cause, non pas la mort du bailleur en soi, débiteur de la prestation caractéristique du bail (GAUCH, System der Beendigung der Dauerverträge, thèse Fribourg 1968, p. 81). L'objection est double aux yeux de la recourante: elle vise la durée et l'annotation.

a) Selon la recourante, la clause relative à la durée du bail ne lui est pas opposable, d'où elle déduit que le bail ne pouvait déployer ses effets au-delà de la mort de Florence R., le 15 juin 1981, date à laquelle les époux F. devaient donc restituer la chose louée, faute d'une décision conjointe et contraire des membres (elle-même et l'intimée) ou d'un représentant de la communauté héréditaire. Cet argument est présenté expressément comme subsidiaire. En réalité, la recourante ne met pas en cause la validité du bail, mais sa continuation au décès de la bailleresse.

Le 15 juin 1981, Marie B. est devenue membre de la succession de feu R. pour 13/16. L'usufruit sur la part de la recourante, en revanche, a pris fin (art. 749 al. 1 CC). Il s'agit de savoir quel a été l'effet de cette extinction sur le bail. Selon la cour cantonale, si la loi ne contient pas de disposition topique, comme pour la mort du preneur (art. 270 CO), l'art 259 al. 2 CO est applicable par analogie, bien qu'il n'y ait pas eu aliénation de l'immeuble ni changement de propriétaire au registre foncier. La communauté devait donc respecter le bail jusqu'au plus prochain terme légal de congé; elle est réputée en avoir assumé la continuation parce qu'elle ne l'a pas dénoncé.

b) Ce fut aussi l'avis du Tribunal fédéral dans un arrêt très ancien (ATF 1892 p. 104/105), où il applique par analogie l'art. 314 du code fédéral des obligations du 14 juin 1881 (281 dès 1912), en matière de bail à ferme (solution que prévoyait expressément l'art. 383 du code civil vaudois). Cette jurisprudence a été suivie par la Cour d'appel bernoise (RJB 1919 p. 465 = RSJ 1920/1921 p. 107 No 75).

La doctrine dominante partage cette opinion (ROSSEL/MENTHA, Manuel du droit civil suisse, 2e éd., III p. 37 n. 1400; WIELAND, n. 6 ad. art. 768 CC; LEEMANN, n. 10 ad art. 758 CC; PIOTET, Traité de droit privé suisse, V 3, Les droits réels limités en général, les servitudes et les charges foncières, p. 93/94; BECKER, n. 16 ad art. 259 CO; HAFNER, n. 2 ad art. 281 CO; REYMOND, Traité de droit privé suisse, VII 1, Le bail à loyer, le bail à ferme, le prêt à usage, p. 221; BEETSCHEN, Der Grundsatz "Kauf bricht Miete" im Schweizerischen Recht, thèse Zurich 1925, p. 27 à 29; FLÜGEL, Die Stellung des Erwerbers eines Grundstücks zum Mieter, thèse Bâle 1930).

Citant deux monographies fort anciennes (JANGGEN, Darstellung und Kritik der Bestimmungen des schweizerischen Obligationenrechts über die Sachmiete, Bâle 1889, p. 69/70; HEUBERGER, Die Sachmiete nach dem schweizerischen Obligationenrechte, Zurich, 1889, p. 87) et une plus récente (LANZ, Parteiwechsel bei Miete und Dienstvertrag, thèse Zurich 1934, p. 37 ss), SCHÖNENBERGER (n. 6 ad art. 259 CO) et SCHMID (n. 10 ad art. 259 CO) expriment un avis contraire, le second sans motivation explicite, le premier en raison du caractère exceptionnel de l'art. 259 al. 2 CO. Mais tous deux concèdent que la doctrine dominante actuelle est de l'autre avis.

C'est en effet l'analogie qui doit l'emporter. Que l'art. 259 al. 2 CO constitue une exception n'impose pas nécessairement l'interprétation dite restrictive: c'est la portée la mieux appropriée de la disposition qu'il faut rechercher. Le but de l'art. 259 al. 2 CO est de protéger le preneur. A l'extinction de l'usufruit, qui confère un droit plein au cohéritier jusqu'alors nu-propriétaire, le bailleur perd le pouvoir de disposer de la jouissance attachée à son usufruit. Ce pouvoir est transféré - en l'espèce pour une part seulement - comme lorsqu'il aliène la chose louée ou qu'elle lui est enlevée par l'effet de poursuites ou de sa faillite (art. 259 al. 1 CO). Le nu-propriétaire reprend la pleine disposition de la chose, ce qui l'oblige à procéder comme un acquéreur s'il entend ne pas assumer la continuation du bail (REYMOND, loc.cit.). Au demeurant, si l'on compare les intérêts en présence, on voit que, comme dans les hypothèses visées à l'art. 259 al. 1 CO, le preneur se trouve soudain, et sans sa faute, en présence d'un tiers qui n'est pas lié par le contrat. Certes, il pourrait arriver que le tiers, lui aussi, fût surpris, comme par un fait accompli, au contraire de ce qui se passe d'ordinaire dans le cas normal de l'aliénation. Mais il est hautement invraisemblable que l'héritier nu-propriétaire, s'il se préoccupe tant soit peu de ses droits et donc du sort des biens de la succession pendant la durée de l'usufruit (longue en général), ignore l'existence d'un bail sur un immeuble appartenant à l'hoirie; et si tel est le cas, l'on pourrait songer à reporter le début du délai de dénonciation, voire rendre l'usufruitier responsable d'une éventuelle faute. En l'espèce, la justice de paix avait interpellé le conseil de la recourante dès le 27 décembre 1979 sur l'offre des époux F.; la recourante elle-même reconnaît avoir connu le contrat du 3 décembre 1980 puis, aussitôt, le décès de Florence R. Au demeurant, l'art. 259 al. 2 CO n'impose le respect du bail que dans une mesure très limitée. La comparaison joue donc en faveur du preneur (cf. BEETSCHEN, op.cit., p. 28/29).

c) La recourante élève des objections, qu'il faut examiner autant qu'elles n'ont pas déjà été infirmées ci-dessus.

Que l'usufruit prenne fin par le décès (art. 749 CC) n'empêche aucunement d'appliquer l'art 259 al. 2 CO pour la continuation éventuelle du bail: ce sont deux choses différentes, comme cette continuation et l'aliénation de la chose (art. 259 al. 1 CO). Peu importe également que l'usufruitier et les locataires sachent ou doivent savoir que le bail pourra prendre fin avec l'usufruit: c'est alors précisément que les effets prévus à l'art. 259 CO s'appliquent. Il faut certes concéder à la recourante qu'il est plus malaisé à une communauté héréditaire d'agir à temps en commun pour dénoncer le bail. Mais le terme légal de congé (art. 267 al. 2 ch. 1 CO, plus les art. 267a ss; REYMOND, op.cit., p. 222), auquel renvoie l'art. 259 al. 2 CO, est suffisamment long, dans les baux d'immeubles, pour réaliser l'accord des héritiers, le cas échéant pour faire désigner un représentant (art. 602 al. 3 CC) qui, s'il ne peut liquider la succession ni procéder au partage, a le pouvoir de disposer des biens successoraux et d'obliger les héritiers en gérant l'hoirie (PIOTET, Droit successoral, p. 592). Il n'est pas exclu qu'un héritier puisse même agir seul en cas d'urgence, sous réserve de sa responsabilité (mais non, à première vue, de la ratification par ses cohéritiers ou par le représentant officiel de la succession; cf. l'obiter dictum de l' ATF 102 II 382 in fine).

La recourante objecte enfin que les art. 259 et 260 CO forment un tout cohérent et que l'on ne peut appliquer l'un sans l'autre; or l'usufruitier ne pourrait, sans outrepasser ses droits, autoriser le locataire auquel il cède l'exercice de sa jouissance à annoter le bail au registre foncier: c'est la seconde cause de nullité absolue alléguée par la recourante, qu'il faut maintenant examiner.

4. La cour cantonale concède à la recourante que l'annotation n'aurait été possible que pour la durée de l'usufruit, et non pour dix ans. Elle se dispense néanmoins d'examiner les conséquences de son opinion, car les parties n'ont pas procédé à l'annotation.

a) La recourante remarque d'abord avec raison que si l'annotation de l'art. 959 al. 1 CC n'a pas eu lieu, c'est uniquement en raison de l'interdiction du juge des mesures provisionnelles, le 16 juillet 1981. Cette interdiction serait levée si le jugement au fond n'en dit rien. Il faut donc se prononcer.

b) Selon la recourante, l'usufruitier ne peut que conclure des contrats purement obligatoires, non conférer un jus propter rem qui léserait le propriétaire. Essentielle pour les locataires intimés, la clause invalide le contrat tout entier; on n'en voit d'ailleurs guère l'intérêt, si elle ne peut déployer ses effets que jusqu'à l'extinction de l'usufruit.

La nue-propriété n'est pas en cause ici, ni les actes de disposition de la succession comme telle. La part d'un usufruit légal, comme l'usufruit d'une chose ou d'un patrimoine entiers, est incessible. L'usufruitier légal peut seulement conclure des contrats obligatoires quant à l'exercice de l'usufruit qu'il a d'emblée si, comme en l'espèce, il jouit seul de toute la succession (PIOTET, Droit successoral, p. 620). L'usufruit étant inaliénable, on entrevoit difficilement une hypothèse pratique où l'annotation obligerait tout acquéreur à laisser au preneur la jouissance de la chose louée (art. 260 al. 2 CO) et où le bail deviendrait opposable à tout droit postérieurement acquis sur l'immeuble (art. 959 al. 2 CC). Quoi qu'il en soit, l'usufruit s'éteint et l'art. 259 CO ne s'applique que par analogie, dans la mesure seulement qui est compatible avec cette extinction. Aussi bien l'annotation ne peut-elle entraver le nu-propriétaire dans ses droits propres, ni les héritiers après l'extinction de l'usufruit. En l'espèce, le bail ne sera donc pas opposable à l'adjudicataire lors d'une éventuelle vente aux enchères (art. 612 CC). L'effet spécifique légal de l'extinction de l'usufruit, à savoir la fin des droits issus de l'annotation (s'ils ont jamais existé), n'entraîne pas la nullité absolue du contrat de bail. Au demeurant, une application de l'art. 20 al. 2 in fine CO serait difficile à légitimer, car le bail en vigueur - le second - précise d'emblée que la bailleresse agit en qualité d'usufruitière de l'entier de la succession. De plus, la loi protège la partie qui serait lésée par la nullité partielle: la nullité totale ne peut donc être prononcée lorsque cette partie veut le maintien du contrat (ATF 80 II 334 consid. 4b); or les époux F. n'ont pas pris de conclusions reconventionnelles en ce sens pour le cas où l'annotation ne serait plus possible depuis l'extinction de l'usufruit.