Mit Vertrag vom 10. Dezember 1963 räumte die Seeruhe AG dem Architekten Sterroz auf neun Parzellen in Sigriswil am Thunersee ein selbständiges Baurecht ein, das vom 1. Februar 1964 bis 31. Januar 1995 gelten sollte. Die Grundstücke liegen in einer steilen Halde, hängen mit Ausnahme des kleinsten (Nr. 1467) zusammen und umfassen ins- gesamt 16'988 m2. Die Parzellen Nr. 2203, 2218, 2226, 2227, 2229 und 2303 werden in der Beschreibung der Liegenschaften gemäss Grundbuchauszug, der im Vertrag wiedergegeben wird, ausdrücklich als Bauland bezeichnet. Die Parzelle Nr. 1423 ist mit 14'380 m2 bei weitem die grösste. Sie ist zum Teil bewaldet, was auch bei Nr. 2229 und 2303 der Fall ist.

Sterroz erhielt durch den Vertrag (Ziff. 2 und 6) das Recht, "im Rahmen der gesetzlichen Bestimmungen über das Baurecht und der kantonalen und kommunalen Bauvorschriften" auf den Parzellen Wohnhäuser zu erstellen. Er hatte dafür jährlich eine zum voraus zahlbare Grundrente (Baurechtszins) von Fr. 35'000.-- zu leisten (Ziff. 8). Über die Grundrente bestimmten die Vertragsparteien zudem (Ziff. 13):

"Der Baurechtsberechtigte hat davon Kenntnis, dass wegen der Vorschriften über die Waldabstände ein gewisses Areal von Parzelle 1423 ... noch nicht überbaut werden kann. Der vorliegende Vertrag sieht daher vor, dass die Grundrente bereits auf 12 Parzellen im Halte von je ca. 3 Aren verteilt werden kann."

Da Sterroz ausser der ersten Grundrente, die durch Verrechnung getilgt wurde, nichts leistete, liess ihn die Seeruhe AG für die Jahresrenten 1965-1969 betreiben. Der Betriebene erhob Rechtsvorschlag und, als der Seeruhe AG die provisorische Rechtsöffnung erteilt wurde, beim Appellationshof des Kantons Bern Aberkennungsklage. Er machte insbesondere geltend, dass die Parteien sich über die Zahl der Bauplätze geirrt hätten.

Der Appellationshof hiess die Klage am 27. Januar 1970 wegen wesentlichen Irrtums des Klägers gut und stellte fest, dass die in Betreibung gesetzten Forderungen nebst Zinsen und Kosten nicht beständen.

Die Beklagte hat gegen das Urteil des Appellationshofes die Berufung erklärt mit den Anträgen, es aufzuheben und dem Kläger die Aberkennung der in Betreibung gesetzten Grundrenten je im Teilbetrag von Fr. 25'000.-- nebst Zins und Kosten zu verweigern, eventuell die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen.

Der Kläger beantragt, die Berufung abzuweisen und das Urteil des Appellationshofes zu bestätigen.

Das Bundesgericht zieht in Erwägung:

1.- Die Beklagte macht geltend, die Vorinstanz habe dem Kläger zu Unrecht einen Grundlagenirrtum im Sinne von Art. 24 Abs. 1 Ziff. 4 OR zugebilligt. Ein solcher läge nur vor, wenn die Parteien bei Kenntnis der wirklichen Überbauungsmöglichkeit den Vertrag überhaupt nicht geschlossen hätten. Dass diese Voraussetzung erfüllt sei, nehme aber auch der Appellationshof nicht an.

a) Nach dem angefochtenen Urteil glaubten beide Parteien bei Vertragsschluss, dass die Parzellen Nr. 2203, 2218, 2226, 2227, 2228, 2229 und 2303 alle überbaut werden dürfen, weil die Zone südlich davon nicht als Wald zu betrachten sei, folglich auch kein Waldabstand eingehalten werden müsse. Sie nahmen zudem an, dass auf der Parzelle Nr. 1423 mindestens fünf Einfamilienhäuser errichtet werden können. Wie die Vorinstanz weiter ausführt, stellte sich im Verfahren jedoch heraus, dass die Grundstücke Nr. 2228, 2229 und 2303 als Bauplätze ausser Betracht fallen und auf der Parzelle Nr. 1423 bloss zwei, bestenfalls vier Einfamilienhäuser erstellt werden dürfen, insgesamt somit entgegen der Annahme der Parteien nicht mit zwölf, sondern höchstens mit acht Häusern gerechnet werden kann.

Diese Feststellungen stützen sich teils auf Beweiswürdigung, teils auf das kantonale Forstgesetz und das Baureglement der Gemeinde Sigriswil. Sie können mit der Berufung nicht angefochten werden, da mit diesem Rechtsmittel bloss die Verletzung von Bundesrecht gerügt werden darf und Bundesrecht durch tatsächliche Feststellungen nur verletzt ist, wenn sie offensichtlich auf Versehen beruhen oder unter Missachtung bundesrechtlicher Beweisvorschriften zustande gekommen sind, was hier nicht zutrifft (Art. 43 Abs. 1 und 3, 55 Abs. 1 lit. c und d, 63 Abs. 2 OG). Das Bundesgericht hat daher davon auszugehen, dass auf der in Baurecht gegebenen Fläche höchstens acht Häuser erstellt werden dürfen, die Parteien sich also über die Zahl der möglichen Bauplätze geirrt haben (vgl. BGE 91 II 277 mit Hinweisen). Die Beklagte versucht das mit Recht nicht zu widerlegen.

b) Die Vorstellung, auf den neun Parzellen mindestens zwölf Häuser bauen zu dürfen, veranlasste den Kläger, der Beklagten einen jährlichen Baurechtszins von Fr. 35'000.-- zu versprechen. Dass dieser Betrag nicht fest habe sein sollen, wie mit der Berufung geltend gemacht wird, ist weder Ziff. 8 noch Ziff. 13 des Vertrages zu entnehmen. Diese Bestimmungen können nur dahin verstanden werden, dass die Parteien den Zins bei Vertragsschluss nach der damals als sicher vorausgesetzten Mindestzahl von zwölf Bauten festsetzten. Unter dieser Voraussetzung hatten die Vertragschliessenden keinen Anlass, einen veränderlichen Baurechtszins zu vereinbaren. Die Beklagte behauptet übrigens nicht, dass sie bei mehr als zwölf Bauplätzen nach Vertrag eine erhöhte Grundrente beanspruchen dürfte.

c) Die (falsche) Vorstellung, auf den neun Parzellen könnten mindestens zwölf Häuser erstellt werden, war für beide Parteien nach Treu und Glauben im Geschäftsverkehr die notwendige Grundlage des Vertrages. Der Irrtum des Klägers war daher im Sinne der Art. 23 und 24 Abs. 1 Ziff. 4 OR wesentlich. Er bestand zwar in der blossen Verkennung einer Rechtslage. Irrtum über eine solche ist aber nicht von vornherein unwesentlich (BGE 73 II 19 Erw. 3, 95 III 22 Erw. 3, 96 II 27 Erw. b und dort angeführte Urteile). Im vorliegenden Fall betraf er die rechtliche Stellung und damit den wirtschaftlichen Wert des Vertragsgegenstandes. Eine irrige Vorstellung dieser Art rechtfertigt die Unverbindlichkeit des Vertrages. Im gleichen Sinne hat das Bundesgericht schon in BGE 91 II 278 Erw. 2 und 95 III 21 entschieden, wo Parzellen als Bauland veräussert worden waren, obschon sie aus forst- oder baupolizeilichen Gründen nicht überbaut werden durften. Es verhält sich bei solchen Tatbeständen anders als z.B. in BGE 79 II 273, wo der Rechtsirrtum nur die Wirkungen des abgeschlossenen Vertrages betraf und daher als blosser Irrtum im Beweggrund (Art. 24 Abs. 2 OR) unwesentlich war.

Der Kläger hätte den Irrtum freilich vermeiden können, wenn er sich vor Abschluss des Vertrages bei den zuständigen Behörden über die öffentlichrechtlichen Baubeschränkungen, denen die Grundstücke unterliegen, erkundigt hätte. Seine Unterlassung steht der Unverbindlichkeit des Vertrages wegen Grundlagenirrtums jedoch nicht entgegen (BGE 91 II 280 Erw. 3). Wer fahrlässig irrt, kann bloss zu Schadenersatz verpflichtet werden, wenn er den Vertrag nicht gegen sich gelten lässt (Art. 26 OR).

2.- Die Beklagte wendet unter Hinwies auf BGE 88 II 412 ein, der Kläger habe in seinem Schreiben vom 21. September 1964 an die Seeruhe AG eine Abänderung des Vertrages vorgeschlagen, weil die zuständigen Behörden die Parzellen Nr. 2229 und 2303 wider Erwarten nicht als Bauland gelten liessen; Sterroz habe also den Vertrag aufrechterhalten und sich mit einer Herabsetzung der Grundrente begnügen wollen; er könne sich deshalb nicht mehr auf Grundlagenirrtum berufen, wenn ein solcher vorliege.

Der Einwand geht fehl. Aus dem angeführten Schreiben kann die Beklagte schon deshalb nichts zu ihren Gunsten ableiten, weil sie den Vorschlag des Klägers am 24. September 1964 rundweg ablehnte. Sie begründete dies damit, dass zu einer Vertragsänderung nicht der geringste Anlass bestehe und sie eine Anpassung erst in Erwägung ziehen könne, wenn alle überbaubaren Parzellen überbaut seien und eindeutig feststehe, dass weniger als zwölf Bauparzellen vorlägen. Es steht ihr deshalb nicht an, aus dem Schreiben des Klägers vom 21. September 1964 zu folgern, dieser habe damals darauf verzichtet, den Vertrag wegen Unverbindlichkeit anzufechten. Das gilt umsomehr, als die Beklagte noch vor dem Appellationshof behauptete, dass das Land mindestens zwölf Bauparzellen aufweise, also selbst damals nicht bereit war, den Vertrag ändern zu lassen. Der Hinweis auf BGE 88 II 412 ist müssig, denn dieser Entscheid betraf einen andern Sachverhalt.

3.- Gegen die Annahme der Vorinstanz, der Kläger habe seinen Irrtum rechtzeitig geltend gemacht, wendet die Beklagte mit Recht nichts mehr ein. Sie bleibt aber der Meinung, dass der Kläger höchstens eine Herabsetzung der Grundrente verlangen könne, wenn statt zwölf bloss acht Parzellen überbaubar seien. Sie beantragt deshalb, den jährlichen Baurechtszins um Fr. 10'000.--zu kürzen. Dieser Antrag ist zulässig. Es handelt sich entgegen der Annahme des Klägers nicht um ein neues Begehren im Sinne von Art. 55 Abs. 1 lit. b OG, weil bei vermögensrechtlichen Streitigkeiten bloss die Forderung nicht aber der Rechtsgrund, aus dem sie geschuldet ist, zum Rechtsbegehren gehört (BGE 90 II 39 Erw. 6 a).

Der Antrag berührt indessen nicht, wie die Beklagte annimmt, bloss die Höhe der Grundrente, sondern den Bestand des Vertrages. Fragen kann sich nur, ob der Vertrag wegen des Grundlagenirrtums, der dem Kläger zuzubilligen ist, für diesen ganz oder teilweise unverbindlich sei.

a) Wie in BGE 78 II 217 ausgeführt worden ist, enthält das Gesetz im Abschnitt über die Mängel des Vertragsschlusses wegen Irrtums usw. keine Bestimmung für den Fall, dass sich der Willensmangel nur auf einen Teil des Vertrages bezieht. Das Bundesgericht hielt damals eine analoge Anwendung von Art. 20 Abs. 2 OR, der die teilweise Nichtigkeit von Verträgen regelt, auf die blosse Unverbindlichkeit wegen Willensmangels für gerechtfertigt, weil dem sachlich nichts entgegenstehe und die Schranke, dass blosse Teilnichtigkeit bzw. Teilunverbindlichkeit abzulehnen ist, wenn der Vertrag ohne den nichtigen bzw. unverbindlichen Teil nicht geschlossen worden wäre, einen ausreichenden Interessenschutz gewähre. Es verwies dabei auf Kommentar OSER/SCHÖNENBERGER (Vorbem. zu Art. 23-31 OR N. 3, Art. 20 N. 71) und BGE 60 II 99, wo die analoge Anwendung der Bestimmung auf die Nichtigkeit wegen Formmangels bejaht wurde.

Die analoge Anwendung von Art. 20 Abs. 2 OR auf Verträge mit Willensmängeln ist seitdem von weitern Autoren, zum Teil mit einlässlicher Begründung, befürwortet worden (vgl. insbes. SPIRO, ZBJV 1952 S. 501 ff; PIOTET, ZSR 1957 S. 97 ff). Sie rechtfertigt sich auch im vorliegenden Fall. In welchem Verhältnis Art. 20 Abs. 2 und Art. 25 Abs. 2 OR zueinander stehen, ob diese Bestimmung bloss für den Erklärungsirrtum oder auch für den Grundlagenirrtum gelte, kann offen bleiben. Art. 20 Abs. 2 verdient hier schon deshalb den Vorzug, weil beide Parteien sich über die Zahl der möglichen Bauparzellen geirrt haben und das Schicksal des Vertrages vor allem davon abhängt, ob die Parteien ihn auch bei Kenntnis der wirklichen Überbauungsmöglichkeit geschlossen hätten.

Dass in Art. 20 Abs. 2 OR von einem Mangel in einzelnen Teilen des Vertrages ("dans certaines de ses clauses", "in alcune parti") die Rede ist, steht der Anwendung der Bestimmung hier nicht entgegen. Diese Wendung des Gesetzes ist als Gegensatz zum ganzen Vertrag zu verstehen und daher nicht wörtlich zu nehmen; es genügt, dass ein Teil des Vertrages mangelhalft ist (vgl. BGE 93 II 105 Erw. 2 a und 192). Im vorliegenden Fall wirkte sich der Irrtum über die Zahl der Bauparzellen übrigens auch auf die Bestimmungen über die Grundrente aus.

b) Die Möglichkeit, dass die Parteien den Vertrag auch ohne den Irrtum geschlossen hätten, ist nach dem Verhalten des Klägers jedenfalls nicht von vornherein zu verneinen. Als Sterroz 1964 erfuhr, dass die Parzellen Nr. 2229 und 2303 nicht überbaubar sind, teilte er dies der Beklagten mit und ersuchte sie um Abänderung des Vertrages. Er will darauf, wie er noch in seinem Parteiverhör vom 25. März 1969 erklärte, grundsätzlich nie verzichtet haben. Wie er sich die Abänderung vorstellte und was er von der Gegenpartei erwartete, ist den Akten jedoch nicht zu entnehmen. Dies sind indes Tatfragen, die der Appellationshof zu entscheiden hat.

Das angefochtene Urteil ist daher gestützt auf Art. 64 Abs. 1 OG aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen. Diese wird - prozesskonforme Behauptungen und Beweisanträge vorbehalten - den Sachverhalt weiter abklären und allenfalls auch das Beweisfahren ergänzen müssen. Sie hat alsdann je nach dem Ergebnis neu zu urteilen. Ergibt sich, dass der Vertrag ohne den Rechtsirrtum überhaupt nicht geschlossen worden wäre, so fällt er wegen Unverbindlichkeit für den Kläger dahin. Ist dagegen anzunehmen, dass die Parteien sich bei Kenntnis der Rechtslage auf der Grundlage von acht Bauparzellen geeinigt hätten, so ist der Vertrag in diesem Umfange aufrechtzuerhalten und der Baurechtszins angemessen herabzusetzen.

Die Anpassung darf sich freilich nicht darin erschöpfen, die ursprünglich für mindestens zwölf Bauparzellen versprochene Grundrente im Verhältnis der tatsächlich überbaubaren zu kürzen. Sie hängt auch vom wirtschaftlichen Wert der verbleibenden Bauplätze, insbesondere deren Lage, Neigung und Entfernung von der Strasse und anderen notwendigen Anschlüssen ab. Wie es sich damit verhält, ist eine Frage, die von der Vorinstanz - wenn nötig mit Hilfe von Sachverständigen und auf Grund eines Augenscheines - zu beurteilen ist.

Demnach erkennt das Bundesgericht:

Die Berufung der Beklagten wird dahin gutgeheissen, dass das Urteil des Appellationshofes des Kantons Bern vom 27. Januar 1970 aufgehoben und die Sache zur Neubeurteilung im Sinne der Erwägungen an die Vorinstanz zurückgewiesen wird.