Aus dem Tatbestand:

A.- Albert Schulthess-Lanz von Stäfa ZH verstarb am 12. Dezember 1955 an seinem Wohnsitz in St. Louis-Bourgfelden im Elsass. Er hinterliess als gesetzliche Erben seine vier Kinder Albert Schulthess, Max Schulthess, Jeanne Schneilin-Schulthess und Charles Schulthess. Eine Verfügung von Todes wegen hatte er nicht getroffen. Der Nachlass besteht hauptsächlich aus dem Grundstück Kat. Nr. 1/43 in St. Louis-Bourgfelden (Wohnhaus mit Nebenbauten, Umschwung und Garten im Ausmass von 15,71 a). Eine Erbteilung hat nie stattgefunden. Jeanne Schneilin-Schulthess liess sich jedoch den Erbteil ihres Bruders Charles abtreten.

Streitig ist, was mit dem Erbanteil des Bruders Albert geschehen sei. Jeanne Schneilin-Schulthess beruft sich auf einen öffentlich beurkundeten Vertrag vom 26. November 1960, laut welchem ihr Albert seinen Anteil zum Preise von fFr. 7'600.-- abgetreten habe. Demgegenüber macht Max Schulthess geltend, er habe diesen Erbteil schon vorher auf Grund einer mündlichen Vereinbarung erworben.

B.- Am 25. Oktober 1961 reichte Jeanne Schneilin-Schulthess beim Tribunal d'Instance de Huningue eine Erbteilungsklage ein, der sich der Beklagte Max Schulthess mit der Einrede widersetzte, zu ihrer Beurteilung seien nicht die französischen, sondern die schweizerischen Gerichte zuständig. Er berief sich dafür auf Art. 5 des Staatsvertrags zwischen Frankreich und der Schweiz über den Gerichtsstand und die Vollziehung von Urteilen in Zivilsachen vom 15. Juni 1869. Während das Tribunal d'Instance de Huningue und das Tribunal de Grande Instance de Mulhouse die Unzuständigkeitseinrede mit der Begründung verwarfen, es handle sich ausschliesslich um die Teilung von Liegenschaften, entschied die Cour d'Appel de Colmar, Première Chambre Civile, mit Urteil vom 30. Oktober 1967 in letzter Instanz, die französischen Gerichte seien zur Beurteilung der Teilungsklage nicht zuständig, weil diese nicht lediglich erbrechtliche Ansprüche an Liegenschaften zum Gegenstand habe, sondern auf die gerichtliche Teilung des Nachlasses als solchen abziele.

C.- Mit einer am 12. November 1969 beim Friedensrichteramt Stäfa eingeleiteten Klage gegen ihren Bruder Max Schulthess verlangte Jeanne Schneilin-Schulthess die Feststellung und Teilung des Nachlasses. Im Verlauf des erstinstanzlichen Verfahrens einigten sich die Parteien darüber, dass nur noch das Grundstück Kat. Nr. 1/43 in St. Louis-Bourgfelden zu teilen sei.

Mit Urteil vom 2. September 1971 erkannte das Bezirksgericht Meilen, an dem aus der Liegenschaft Kat. Nr. 1/43 bestehenden elterlichen Nachlass seien die Parteien je zur Hälfte beteiligt. Mit Bezug auf die streitige Abtretung ging das Gericht davon aus, sowohl nach dem massgebenden französischen wie nach dem stellvertretend anwendbaren schweizerischen Recht habe Albert Schulthess dem Beklagten seinen Erbteil formlos abtreten können. Das sei vor dem 26. November 1960 geschehen, so dass die an diesem Datum erfolgte Abtretung mittels notarieller Urkunde an die Klägerin ungültig (gemeint wohl: gegenstandslos) sei. Demzufolge stehe der Klägerin ihr eigener und der vom Bruder Charles erworbene, dem Beklagten der eigene und der von Albert erworbene Viertelsanteil am elterlichen Nachlass zu. Auf den Antrag, die Erbschaft zu teilen, trat das Gericht nicht ein, weil dies eine Frage sei, die nach Art. 5 des Gerichtsstandsvertrages mit Frankreich dem französischen Recht und der französischen Gerichtsbarkeit unterstehe.

D.- Die Klägerin zog dieses Urteil mit Berufung an das Obergericht des Kantons Zürich weiter mit dem Antrag, es sei ihr am elterlichen Nachlass ein Anteil von drei Viertel zuzuerkennen. Das Obergericht hiess die Berufung gut. Es ging im Gegensatz zum Bezirksgericht davon aus, die Abtretung des Erbanteils von Albert Schulthess unterstehe nach dem Gerichtsstandsvertrag mit Frankreich dem schweizerischen Recht. Art. 635 Abs. 1 ZGB schreibe für solche Verträge die Schriftform vor. Die mündliche Abtretung an den Beklagten sei daher ungültig. Eine rechtsmissbräuchliche Berufung auf den Formmangel seitens der Klägerin liege nicht vor. Diese habe den Viertelsanteil von Albert durch den notariellen Vertrag vom 26. November 1960 rechtsgültig erworben. Neben ihrem eigenen Erbteil stünden ihr damit auch die Anteile ihrer beiden Brüder Albert und Charles zu.

E.- Gegen dieses Urteil erklärte der Beklagte die Berufung an das Bundesgericht mit dem Antrag, es sei festzustellen, dass die Parteien je zur Hälfte am Nachlass anteilsberechtigt seien. Er macht unter anderem geltend, das Obergericht habe Art. 5 des Gerichtsstandsvertrags mit Frankreich verletzt, indem es auf die streitige Abtretung schweizerisches Recht angewendet habe.

Das Bundesgericht weist die Berufung ab.

3. Zunächst ist das auf die Abtretung des Erbanteils anwendbare Recht zu ermitteln.

a) Das ZGB behandelt die Verträge unter den Miterben über angefallene Erbanteile als erbrechtliches Institut (Art. 635 ZGB). Auch im schweizerischen internationalen Privatrecht sind solche Verträge nach erbrechtlichen Gesichtspunkten anzuknüpfen. Auf die Abtretung eines Erbanteils ist daher dasjenige Recht anzuwenden, das die Erbfolge als solche beherrscht. Nur das Erbstatut kann darüber befinden, ob die Zession eines Erbteils zulässig sei und welche Rechte am Nachlass sie dem Erwerber verschaffe (SCHNITZER, Handbuch des internationalen Privatrechts, II, 4. Aufl. 1958, S. 548).

Im französischen Recht wird demgegenüber die Abtretung von Erbanteilen im Rahmen des Kaufrechts geregelt (Art. 1696-1698 code civil). Ob daraus zu schliessen sei, die Anknüpfung solcher Verträge sei im französischen internationalen Privatrecht nach schuldrechtlichen Gesichtspunkten vorzunehmen (so offenbar DALLOZ, Répertoire de droit civil, I, 1951, S. 619 Nr. 147) kann offen bleiben, da der schweizerische Richter das anzuknüpfende Rechtsverhältnis nach seinem eigenen Recht zu qualifizieren hat (BGE 96 II 88, BGE 88 II 472 E. 2 mit Hinweisen).

b) Nach Art. 5 Abs. 1 Satz 1 des Gerichtsstandsvertrags mit Frankreich vom 15. Juni 1869 (BS 12 S. 347 ff.) sind erbrechtliche Klagen, die den Nachlass eines in Frankreich verstorbenen Schweizers betreffen, beim Gericht des Heimatorts des Erblassers anhängig zu machen. Über das dabei anwendbare materielle Recht spricht sich der Vertrag nicht aus. Es ist jedoch allgemein anerkannt, dass die Zuständigkeit des Heimatrichters die Anwendung des Heimatrechts nach sich zieht (BGE 50 I 416; SCHNITZER, a.a.O. S. 553; VISCHER in Schweiz. Privatrecht I, S. 648; KAMMERER, Die allgemeinen Grundsätze in Artikel 5 des Staatsvertrages zwischen der Schweiz und Frankreich, Diss. Zürich 1963, S. 61; entsprechendes gilt für den Staatsvertrag mit Italien vom 22. Juli 1868; vgl. dazu BGE 98 II 92, BGE 91 II 461, BGE 91 III 24). Da der Vater der Parteien als Schweizerbürger in Frankreich verstorben ist, untersteht die Erbfolge in seinen Nachlass demzufolge grundsätzlich dem schweizerischen Recht.

c) Nach Satz 2 von Art. 5 Abs. 1 des Gerichtsstandsvertrags müssen indessen für die Teilung und für die Veräusserung von Immobilien (partage, licitation ou vente des immeubles) die Gesetze des Landes, wo diese liegen, beobachtet werden. Die Tragweite dieser Bestimmung ist umstritten. Nach französischer Auffassung ist das Recht der gelegenen Sache entgegen dem Wortlaut des Vertrags nicht nur für bestimmte Massnahmen, nämlich für die Teilung der Liegenschaften, vorbehalten, sondern es beherrscht den gesamten Immobiliarnachlass (Cour de cassation, 4. Juli 1960, Revue critique de droit international privé 1962, S. 700, kommentiert von FLATTET; NIBOYET, Traité de droit international privé français, VI/1, 1949, S. 511; PLANIOL/RIPERT, Traité pratique de droit civil français, IV, 1956, S. 54). Das Bundesgericht hatte dagegen ursprünglich erklärt, die lex rei sitae gelte nur "in bestimmter Richtung" (BGE 11 S. 341) bzw. "sous certains rapports" (BGE 24 I 311). InBGE 29 I 336hatte es ausdrücklich beigefügt, durch die Ausnahmebestimmung hinsichtlich der Liegenschaften werde weder am Prinzip der Einheit der Erbfolge noch an der Zuständigkeit des Heimatrichters etwas geändert. In einem späteren Entscheid aus dem Jahre 1942 rückte es jedoch von dieser engen Auslegung ab und folgerte aus der Entstehungsgeschichte des Staatsvertrags, die gesamte Erbfolge in Immobilien unterstehe dem Recht der gelegenen Sache (BGE 68 II 159ff.). Dies hätte zur Folge, dass der Nachlass wie nach der französischen Auffassung in Mobilien und Immobilien aufzuspalten wäre und die Erbfolge zwei verschiedenen Rechtsordnungen unterstünde (sog. Nachlassspaltung; so SIEGRIST, De la dévolution successorale en application de la convention franco-suisse du 15 juin 1869, Diss. Neuenburg 1953, S. 69; ESCHER, Neuere Probleme aus der Rechtsprechung zum französisch-schweizerischen Gerichtsstandsvertrag, Diss. Zürich 1937, S. 92; FLATTET, L'interprétation de l'article 5, alinéa 1er de la Convention franco-suisse du 15 juin 1869 dans la jurisprudence française et suisse, JdT 1952, S. 261 f.; KAMMERER, a.a.O., S. 70). Ob an dieser Rechtsprechung festzuhalten ist, braucht indessen aus den nachstehend aufzuführenden Gründen nicht geprüft zu werden.

d) Nach schweizerischem Recht, von dem auch in dieser Frage auszugehen ist, stehen alle Erbschaftsgegenstände bis zur Erbteilung im Gesamteigentum der Erben (Art. 602 ZGB). Diese können daher über die einzelnen Gegenstände des Nachlasses nicht verfügen (ESCHER, N. 1 zu Art. 635 ZGB; TUOR/PICENONI, N. 9 der Vorbemerkungen zu den Art. 602 ff. ZGB). Der Erbanteil gibt dem einzelnen Erben kein direktes Recht an einem bestimmten Nachlassobjekt, sondern umfasst lediglich den Anspruch auf Mitwirkung in der Gemeinschaft und auf Teilung des Nachlasses. Wenn ein Erbe seinen Erbanteil an einen Miterben veräussert, so verfügt er demzufolge weder über eine Erbschaftssache noch über einen Anteil an einer solchen, und zwar selbst dann nicht, wenn der Nachlass aus einer einzigen Liegenschaft besteht. Zwar vergrössert sich durch die Abtretung der Anteil des erwerbenden Miterben an der Erbschaft, während sich derjenige des Zedenten entsprechend verringert. Die Höhe des Erbanteils erlangt aber erst bei der Teilung der Erbschaft praktische Bedeutung (MEIER-HAYOZ, N. 2 zu Art. 652 ZGB; TUOR/PICENONI, N. 10 der Vorbemerkungen zu den Art. 602 ff. ZGB; ESCHER, N. 6 zu Art. 602 ZGB). Die Abtretung eines Erbanteils bewirkt daher im Resultat nichts anderes, als dass der Miterbe bei der Erbteilung einen grösseren Anspruch auf das Teilungsergebnis hat. Ein Recht, im Nachlass befindliche Liegenschaften zugeteilt zu erhalten, wird dadurch weder geschaffen noch auch nur verstärkt. Alle Erben haben ohne Rücksicht auf die Grösse ihres Erbteils in gleicher Weise Anspruch auf die einzelnen Gegenstände der Erbschaft (Art. 610 ZGB), und wenn zwischen ihnen keine Einigung zustandekommt, so hat eine Losziehung oder ein Verkauf mit Teilung des Erlöses zu erfolgen (Art. 611/12 ZGB). Unter diesen Umständen besteht kein Grund, Verträge unter Miterben über angefallene Erbanteile teilweise dem auf die Erbfolge in Immobilien anwendbaren Recht zu unterstellen, wenn der Nachlass Liegenschaften enthält.

Art. 5 Abs. 1 Satz 2 des Gerichtsstandsvertrags bezieht sich daher auch bei weiter Auslegung nicht auf die Abtretung von Erbanteilen. Demzufolge findet das Recht der gelegenen Sache auf solche Verträge keine Anwendung, auch wenn die Erbschaft ausschliesslich aus Grundstücken besteht. Dieses Resultat entspricht auch praktischen Bedürfnissen, müsste es doch zu grossen Schwierigkeiten führen, wenn ein und dasselbe Rechtsgeschäft nach zwei verschiedenen Rechtsordnungen zu beurteilen wäre. Zu Recht hat deshalb das Obergericht im vorliegenden Fall schweizerisches Recht angewendet.

e) Ob sich der Beklagte hinsichtlich der Form des angeblich mit seinem Bruder Albert geschlossenen Abtretungsvertrages auf das Recht des Abschlussortes berufen könnte (so SCHNITZER, a.a.O., S. 548), kann offen bleiben, da nach den für das Bundesgericht verbindlichen Ausführungen der Vorinstanz der Vertrag - wenn überhaupt - in Basel abgeschlossen wurde und somit ebenfalls schweizerisches Recht anwendbar wäre. Es braucht daher auch nicht geprüft zu werden, ob das französische Recht die Abtretung eines Erbanteils wirklich formlos zulasse, wie der Beklagte behauptet.