A.- Am 4. Oktober 1974 bewilligte der Bezirksgerichtspräsident von Küssnacht den Ehegatten R. eine Trennung auf unbestimmte Zeit und verpflichtete den Ehemann, seiner Frau einen monatlichen Unterhaltsbeitrag von Fr. 2'000.-- zu bezahlen. Auf Rekurs der Ehefrau hin erhöhte das Kantonsgericht des Kantons Schwyz mit Entscheid vom 30. Juni 1975 diesen Betrag auf Fr. 3'000.--. Mit Klageschrift vom 5. Dezember 1974 verlangte der Ehemann beim Bezirksgericht Küssnacht die Scheidung. Die Ehefrau widersetzte sich der Klage. Am 17. September 1975 sprach das Bezirksgericht Küssnacht die Scheidung aus und verwies die güterrechtliche Auseinandersetzung im wesentlichen in ein separates Verfahren.

Am 29. Dezember 1975 legte die Ehefrau beim Kantonsgericht Berufung gegen das Scheidungsurteil ein. Das Kantonsgericht wies die Berufung mit Entscheid vom 26. Januar 1978 ab und bestätigte das erstinstanzliche Scheidungsurteil. Am 27. Februar 1978 entschied das Gericht über die Parteikosten. Das Urteil des Kantonsgerichtes wurde den Parteien im Dispositiv am 3. März 1978 mitgeteilt. Mit Schreiben vom 6. März 1978 verlangte die Ehefrau eine begründete Ausfertigung des Urteils. Das motivierte Urteil, das sorgfältig redigiert ist und 27 Seiten umfasst, wurde den Parteien am 5. Oktober 1978 zugestellt. Eine Berufung, welche die Ehefrau gegen das Urteil des Kantonsgerichtes des Kantons Schwyz einreichte, wies das Bundesgericht am 5. Juni 1979 ab, womit das Scheidungsurteil rechtskräftig wurde.

Bereits am 7. September 1977 hatte der heutige Kläger R. beim Bundesgericht eine staatsrechtliche Beschwerde eingereicht, in der er unter anderem beantragte, das Kantonsgericht von Schwyz sei anzuweisen, das Berufungsverfahren betreffend die Ehescheidung innert einer durch das Bundesgericht zu bestimmenden Frist abzuschliessen. Der Beschwerdeführer rügte eine Verletzung von Art. 4 BV und machte geltend, die Durchführung des genannten Berufungsverfahrens stelle eine Rechtsverzögerung und Rechtsverweigerung dar. Mit Urteil vom 10. November 1977 (in motivierter Ausfertigung zugestellt am 21. November 1977) wies die staatsrechtliche Kammer für Beschwerden wegen Verletzung von Art. 4 BV diese Beschwerde im Sinne der Erwägungen ab. Das Bundesgericht stellte in diesem Entscheid fest, dass bis zu jenem Datum im Scheidungsverfahren R. gegen R. keine Rechtsverzögerung vorlag. Es führte aber aus, die zeitliche Verzögerung liege an der Grenze dessen, was unter rechtsstaatlichen Gesichtspunkten noch vertretbar sei; eine weitere staatsrechtliche Beschwerde in dieser Sache müsse daher gutgeheissen werden, wenn das Verfahren nun nicht sehr rasch abgeschlossen werde.

Mit einer am 10. August 1979 beim Bundesgericht eingereichten Verantwortlichkeitsklage beantragt R., der Kanton Schwyz sei zu verurteilen, ihm einen Betrag von Fr. 45'000.-- nebst Zins zu 5% zu bezahlen. Der Kläger macht geltend, das Kantonsgericht hätte den Scheidungsprozess 15 Monate früher abschliessen können. Da es dies aber nicht getan habe, sei er während dieser 15 Monate verpflichtet gewesen, seiner Ehefrau monatlich Unterhaltsbeiträge von Fr. 3'000.--, d.h. total Fr. 45'000.--, zu bezahlen. In diesem Umfange sei ihm durch das rechtswidrige Verhalten des Kantonsgerichts bzw. seines Präsidenten ein Schaden entstanden. Das Bundesgericht weist die Klage ab, unter anderem mit folgenden

Erwägungen:

1.- a) Nach § 3 des schwyzerischen Gesetzes über die Haftung des Gemeinwesens und die Verantwortlichkeit seiner Funktionäre vom 20. Februar 1970 (nachfolgend: Haftungsgesetz) haftet das Gemeinwesen für den Schaden, den ein Funktionär in Ausübung hoheitlicher Verrichtungen einem Dritten widerrechtlich zufügt. Als Funktionäre im Sinne dieser Bestimmungen gelten auch Mitglieder von Behörden (§ 1 Abs. 2 lit. a Haftungsgesetz). Die Regeln des Haftungsgesetzes sind somit auf das Kantonsgericht anwendbar. Eine Haftung des Kantons nach Bundeszivilrecht ist hingegen ausgeschlossen, wenn - wie im vorliegenden Fall - hoheitliche Befugnisse ausgeübt worden sind (BGE 101 II 184 f. E. 2b, 96 II 343 E. 3a mit Hinweisen).

b) Nach § 14 Abs. 2 Haftungsgesetz beurteilt das Bundesgericht Ansprüche, die sich auf ein rechtswidriges Verhalten von Mitgliedern des Kantons- oder des Verwaltungsgerichts beziehen. Diese Kompetenzzuweisung an das Bundesgericht erfolgte im Rahmen von Art. 114bis Abs. 4 BV. Die Zuständigkeit des Bundesgerichts ist im vorliegenden Fall somit gegeben. Nach Art. 121 OG sind kantonale verwaltungsrechtliche Streitigkeiten, die dem Bundesgericht aufgrund der genannten Verfassungsbestimmung zugewiesen wurden, grundsätzlich im Verfahren der verwaltungsrechtlichen Klage zu beurteilen.

2.- Nach § 3 des Haftungsgesetzes ist Voraussetzung für die Haftung des Staates, dass ein Privater durch das Verhalten eines Funktionärs einen Schaden erleidet. Das Haftungsgesetz definiert den Begriff des Schadens und des Kausalzusammenhanges zwischen dem Schaden und dem schädigenden Ereignis nicht näher. Zur Auslegung dieser Begriffe kann jedoch die zivilrechtliche Rechtsprechung im Gebiet des Schadenersatzrechtes herangezogen werden.

a) Der Schaden entspricht der Differenz zwischen dem gegenwärtigen Vermögensstand und dem Stand, den das Vermögen ohne das schädigende Ereignis hätte (BGE 104 II 199 mit Hinweisen). Im vorliegenden Fall sind die Unterhaltsbeiträge, welche der Kläger während der letzten Monate vor der Scheidung an seine Ehefrau bezahlte, als Schaden zu betrachten, denn eine raschere Abwicklung des Scheidungsverfahrens hätte die Pflicht des Klägers, Unterhaltsbeiträge zu bezahlen, abgekürzt. Dieser Schaden entstand im Zeitpunkt, als das Bundesgericht die Berufung gegen das Scheidungsurteil des Kantonsgerichts abwies (Urteil vom 5. Juni 1979). Erst in diesem Zeitpunkt wusste der Kläger definitiv, dass seine Ehe aufgelöst, und dass er seiner vormaligen Ehefrau in Zukunft keine Unterhaltsbeiträge würde zahlen müssen. Wenn das Scheidungsbegehren hingegen abgewiesen und der Kläger im Fall einer Scheidung verurteilt worden wäre, seiner geschiedenen Ehefrau nach der Scheidung Unterhaltsbeiträge zu bezahlen, hätte eine raschere Abwicklung des Scheidungsverfahrens dem Kläger keinen bzw. nur einen teilweisen finanziellen Vorteil gebracht. Ein Schaden wäre in diesen Fällen nicht oder nur zum Teil entstanden. Unter diesen Umständen ist davon auszugehen, dass im vorliegenden Fall ein Schaden erst am 5. Juni 1979 definitiv entstanden ist und der Kläger erst in diesem Zeitpunkt davon Kenntnis hatte. Mit der am 9. August 1979 der Post übergebenen Klage wurde die Verjährungsfrist somit offensichtlich gewahrt (§ 11 Abs. 1 Haftungsgesetz).

b) Die Kausalität zwischen dem Schaden und dem schädigenden Ereignis, welche nach § 3 Haftungsgesetz Voraussetzung einer Haftung bildet, ist als "adäquate Kausalität" im Sinne der zivilrechtlichen Haftpflicht zu verstehen. Damit im vorliegenden Fall eine Haftung entsteht, muss daher die beanstandete Leitung des Scheidungsverfahrens nach der allgemeinen Lebenserfahrung geeignet sein, einen Schaden, wie er vom Kläger geltend gemacht wird, zu bewirken; der Schaden muss zudem voraussehbar sein. Diese Voraussetzungen sind im vorliegenden Fall erfüllt. Eine adäquate Kausalität zwischen dem schädigenden Ereignis und dem Schaden ist somit gegeben. Ein Selbstverschulden (§ 12 Haftungsgesetz und Art. 44 Abs. 1 OR), das den Kausalzusammenhang unterbrechen könnte, liegt im vorliegenden Fall nicht vor, denn der Kläger hat mit seinen zahlreichen Schreiben an das Kantonsgericht, in denen er um eine Beschleunigung des Verfahrens ersuchte, sowie mit seiner Rechtsverzögerungsbeschwerde an das Bundesgericht alles unternommen, was ihm zur Abwehr des Schadens zugemutet werden kann (vgl. auch den Bundesgerichtsentscheid in ZBl 81/1980, S. 268 E. 2d).

3.- a) Damit nach § 3 Haftungsgesetz eine Haftung des Gemeinwesens entstehen kann, muss der Schaden im weiteren widerrechtlich zugefügt worden sein. Da die Haftung des Gemeinwesens im Haftungsgesetz des Kantons Schwyz ähnlich umschrieben ist wie in Art. 3 des Bundesgesetzes über die Verantwortlichkeit des Bundes sowie seiner Behördemitglieder und Beamten (VG, SR 170.32), kann für die Auslegung des Begriffs der Widerrechtlichkeit die Rechtsprechung des Bundesgerichts zum eidgenössischen Verantwortlichkeitsgesetz herangezogen werden. Nach dieser Rechtsprechung ist das Verhalten eines Beamten dann widerrechtlich, wenn es gegen Gebote oder Verbote der Rechtsordnung verstösst, die dem Schutz des verletzten Rechtsgutes dienen. Ein solcher Verstoss kann unter Umständen in der Überschreitung oder im Missbrauch des dem Beamten durch Gesetz eingeräumten Ermessens liegen (BGE 103 Ib 68 mit Hinweisen). Als widerrechtlich hat die Rechtsprechung auch die Verletzung von allgemeinen Rechtsgrundsätzen bezeichnet (BGE 89 I 493 E. 6e mit Hinweisen).

b) Beim Verfahren, welches im vorliegenden Fall Anlass zu einer Schadenersatzforderung gegeben hat, handelt es sich um einen kantonalen Zivilprozess. Dieses Verfahren richtet sich grundsätzlich nach dem kantonalen Prozessrecht. Nach kantonalem Recht bestimmt sich im weiteren auch die Organisation der Gerichte, in welchen Zivilprozesse durchgeführt werden (Art. 64 Abs. 3 BV). Das kantonale Prozessrecht darf allerdings die Verwirklichung des Bundeszivilrechts nicht verunmöglichen und darf diesem nicht widersprechen. Das kantonale Prozessrecht findet im übrigen eine Schranke an den verfassungsmässigen Rechten der Bundesverfassung, insbesondere an den aus Art. 4 BV abgeleiteten Verfahrensgarantien. Eine Verletzung von Art. 4 BV liegt nach der bundesgerichtlichen Rechtsprechung unter anderem dann vor, wenn eine Gerichts- oder Verwaltungsbehörde ein Gesuch, dessen Erledigung in ihre Kompetenz fällt, nicht an die Hand nimmt und behandelt (BGE 103 V 193 E. 3a mit Hinweisen, 102 Ib 237 f. E. 2b, 87 I 246, vgl. auch den Bundesgerichtsentscheid in ZBl 81/1980, S. 266 E. 2b). Ein solches Verhalten einer Behörde wird in der Rechtsprechung als formelle Rechtsverweigerung bezeichnet. Art. 4 BV ist aber auch verletzt, wenn die zuständige Behörde sich zwar bereit zeigt, einen Entscheid zu treffen, diesen aber nicht binnen der Frist fasst, welche nach der Natur der Sache und nach der Gesamtheit der übrigen Umstände als angemessen erscheint (sog. Rechtsverzögerung, vgl. BGE 103 V 194 f. E. 3c, ZBl 81/1980, S. 266 E. 2b). Einen Anspruch darauf, dass ein gerichtliches Verfahren ohne unnötige Verzögerung durchgeführt wird, steht dem Bürger im übrigen auch aufgrund von Art. 6 Abs. 1 EMRK zu. Nach dieser Bestimmung hat jedermann Anspruch darauf, dass seine Sache in billiger Weise öffentlich und innerhalb einer angemessenen Frist gehört wird. Nach der bundesgerichtlichen Rechtsprechung geht dieser Anspruch aber nicht über die aus Art. 4 BV abgeleitete Garantie hinaus (BGE 103 V 193 E. 2b, vgl. auch 106 IV 88). Die geltend gemachte Widerrechtlichkeit der Leitung des Scheidungsverfahrens braucht daher nur unter dem Gesichtswinkel des aus Art. 4 BV abgeleiteten Rechtsverweigerungs- bzw. Rechtsverzögerungsverbots beurteilt zu werden.

c) Das Rechtsverzögerungsverbot verpflichtet einerseits die Parlamente, die Gerichte in personeller und sachlicher Hinsicht mit Mitteln auszustatten, die es erlauben, über Klagen, Beschwerden, Gesuche usw. innerhalb von angemessenen Fristen zu entscheiden. Eine angemessene Entscheidungsfrist muss aber nicht nur in Zeiten eines durchschnittlichen Geschäftseinganges gewährleistet sein, sondern auch in Zeiten einer vorübergehenden Überbelastung eines Gerichts. Für solche Fälle hat das Parlament die Möglichkeit zu schaffen, ordentliche oder ausserordentliche Ersatzrichter und zusätzliches Personal beizuziehen.

Die Gerichte andererseits sind aufgrund des Rechtsverzögerungsverbotes gehalten, ihre Arbeit so zu organisieren, dass das Verfahren in allen ihnen vorgelegten Fällen innerhalb einer angemessenen Frist zum Abschluss gebracht werden kann. Ob eine gegebene Prozessdauer als angemessen zu betrachten ist, muss im Hinblick auf die Natur und den Umfang des Rechtsstreites beurteilt werden (BGE 103 V 195 E. 3c, 94 I 101 E. 1c).

In bezug auf den Scheidungsprozess ist die Angemessenheit der Dauer im Hinblick auf die Interessen, welche sich bei der Ehescheidung gegenüberstehen, zu bestimmen. Gemäss Art. 158 Ziff. 1 ZGB darf der Richter Tatsachen, die zur Begründung einer Klage auf Scheidung oder Trennung dienen, nur dann als erwiesen annehmen, wenn er sich von deren Vorhandensein überzeugt hat. Der Richter muss daher Gelegenheit haben, auch entgegen dem Willen der Parteien gewisse Beweismassnahmen anzuordnen, selbst wenn diese Zeit beanspruchen. Im Hinblick auf die eventuelle Anordnung einer Trennung ist der Richter ferner verpflichtet, abzuklären, ob Aussicht auf eine Wiedervereinigung der Ehegatten vorhanden ist (Art. 146 Abs. 3 ZGB). Es ist schliesslich nicht bundesrechtswidrig, wenn der Richter versucht, die Parteien zu versöhnen, und wenn ein kantonales Gesetz zu diesem Zweck die Anordnung einer Sperrfrist zwischen dem Aussöhnungsversuch und der Einreichung der Scheidungsklage vorsieht (BGE 96 II 437 f. E. 3 mit Hinweisen). In diesem Rahmen steht dem Scheidungsrichter in der Leitung des Verfahrens ein gewisser Ermessensspielraum zu.

Die beiden sich im Scheidungsprozess gegenüberstehenden Parteien sind jedoch auch daran interessiert, rasch ein rechtskräftiges Urteil zu erlangen. Für sie geht es um eine zentrale Frage ihrer menschlichen Existenz, denn vom Scheidungsurteil hängt der Weiterbestand ihrer Ehe, die rechtliche Auflösung der Lebensgemeinschaft sowie die Möglichkeit einer späteren Wiederverheiratung ab. Das Interesse der Parteien an einem raschen Verfahren ist auch gross, weil das Scheidungsurteil nur ex nunc wirkt und weil sich nicht wie bei einem Forderungsstreit die Dauer des Verfahrens mit Verzugszinsen ausgleichen lässt.

Die genannten Interessen sind gegeneinander abzuwägen, wenn im Einzelfall entschieden werden muss, ob die Dauer eines Scheidungsverfahrens noch als angemessen betrachtet werden kann oder ob sie eine Rechtsverzögerung beinhaltet.

d) Im weiteren ist zu prüfen, ob eine Verletzung des Rechtsverzögerungsverbotes eine Widerrechtlichkeit im Sinne von Art. 3 Haftungsgesetz darstellt.

Das Bundesgericht neigt dazu, die Haftung für Schäden, die aus fehlerhaften Urteilen, d.h. aus sog. Rechtsakten entstehen, auf schwerwiegende und offensichtliche Fehler zu beschränken (nicht veröffentlichtes Urteil Xintaras vom 18. Januar 1980 E. 3; die Haftung für Fehler des Richters wurde in etwas grösserem Umfang bejaht in BGE 79 II 438 f. mit Hinweisen). Auch § 5 Abs. 1 des schwyzerischen Haftungsgesetzes beschränkt die Haftung des Gemeinwesens für Verfügungen oder Entscheide, die im Rechtsmittelverfahren abgeändert werden, auf vorsätzliches oder grobfahrlässiges Handeln des Funktionärs.

Für Schäden, die nicht daraus entstanden sind, dass ein fehlerhafter Entscheid gefällt worden ist, sondern dass ein Gericht gar nicht oder nicht in einer angemessenen Frist gehandelt hat, wird in § 5 Abs. 1 Haftungsgesetz die Haftung des Gemeinwesens nicht beschränkt. Auch in der bundesgerichtlichen Rechtsprechung bestehen keine Hinweise darauf, dass bei solchen, auf sog. Realakte zurückgehenden Schäden die Haftung auf besonders schwerwiegende Rechtsverletzungen beschränkt sei. Es kann daher davon ausgegangen werden, dass auf das Untätigsein eines Gerichts oder die Verzögerung eines Verfahrens der allgemeine, aus § 3 Haftungsgesetz (bzw. aus Art. 3 VG) abgeleitete Begriff der Widerrechtlichkeit Anwendung findet. Widerrechtlich ist ein Untätigsein oder eine Verfahrensverzögerung folglich dann, wenn dadurch ein Gebot oder Verbot der Rechtsordnung verletzt wird, das dem Schutz des verletzten Rechtsgutes dient. Das Untätigsein eines Gerichts oder die Verfahrensverzögerung kann, wie oben dargelegt, das Rechtsverweigerungs- bzw. Rechtsverzögerungsverbot (Art. 4 BV) verletzen. Im vorliegenden Fall dienen diese Verfahrensgarantien offensichtlich dem Schutz des Anspruchs des Klägers auf einen Entscheid innerhalb einer angemessenen Frist. Wenn im vorliegenden Fall somit eine Rechtsverzögerung vorliegen sollte, müsste darin eine Widerrechtlichkeit im Sinne von § 3 Haftungsgesetz erblickt werden.

e) (Eine Rechtsverzögerung lag bis zum Urteil der staatsrechtlichen Kammer vom 10. November 1977 nicht vor, wie das Bundesgericht damals feststellte. Dass das Kantonsgericht am 26. Januar 1978 in der Sache und am 27. Februar 1978 über die Parteikosten entschied, ist unter dem Gesichtspunkt des Rechtsverzögerungsverbots nicht zu beanstanden, denn den Richtern musste ein gewisser Zeitraum zum Studium der Akten und der Rechtslage zur Verfügung stehen. Obwohl die Zeit für die schriftliche Begründung des Urteils im Hinblick auf die beträchtliche Gesamtdauer des Verfahrens und die Zusicherung einer prioritären Behandlung als reichlich lang erscheint, liegt darin angesichts ausserordentlicher Umstände - weitere dringende Geschäfte und Präsidialfunktion des Gerichtsschreibers wegen Krankheit des Präsidenten - noch keine Rechtsverzögerung.)