A.- Am 1. Mai 1987 wurde P. vom Amtsgerichtspräsidenten II von Luzern-Land im Verfahren nach Art. 145 ZGB verpflichtet, ab 1. April 1987 an seine Ehefrau und die beiden Kinder Unterhaltsbeiträge von insgesamt Fr. 3'700.-- monatlich zu leisten, zuzüglich des Mietzinses.

Am 14. April 1988 hiess das Obergericht des Kantons Luzern einen Rekurs von P. teilweise gut und setzte dessen Unterhaltsbeiträge rückwirkend ab 1. April 1987 auf Total Fr. 4'300.-- monatlich fest. Da P. die Unterhaltsbeiträge jedoch bis zum Entscheid des Obergerichts gemäss dem Urteil des Amtsgerichtspräsidenten bezahlt hatte, entstand eine Differenz von Fr. 7'226.-- an zuviel bezahlten Beiträgen.

Um diese Differenz abzutragen, begann P., den zuviel bezahlten Betrag mit den Unterhaltsbeiträgen zu verrechnen, die nunmehr nach dem obergerichtlichen Urteil geschuldet waren. Für den Monat Juni 1988 überwies er seiner Ehefrau zunächst lediglich den Betrag von Fr. 900.--.

B.- Die Ehefrau betrieb ihren Ehemann P. für die ausstehende Summe. Dieser erhob Rechtsvorschlag. Mit Entscheid vom 16. August 1988 erteilte der Amtsgerichtspräsident III von Luzern-Land der Ehefrau die definitive Rechtsöffnung für Fr. 2'400.-- nebst Zins.

P. erhob hiegegen Rekurs, der vom Obergericht des Kantons Luzern am 5. Januar 1989 abgewiesen wurde.

C.- P. hat beim Bundesgericht staatsrechtliche Beschwerde erhoben. Er beantragt u.a., der Entscheid des Obergerichts vom 5. Januar 1989 sei aufzuheben.

Das Bundesgericht weist die Beschwerde ab.

3. Beruht die Forderung auf einem vollstreckbaren Urteil einer Behörde des Bundes oder desjenigen Kantons, in welchem die Betreibung angehoben worden ist, so wird die Rechtsöffnung gewährt, wenn nicht der Betriebene durch Urkunden beweist, dass die Schuld seit Erlass des Urteils getilgt oder gestundet worden ist, oder er die Verjährung anruft (Art. 81 Abs. 1 SchKG).

a) Die Beschwerdegegnerin hat im Rechtsöffnungsverfahren einen rechtskräftigen Entscheid des Obergerichts des Kantons Luzern vorgelegt, in welchem der Beschwerdeführer für die Dauer des Scheidungsverfahrens zu monatlichen Unterhaltsbeiträgen von insgesamt Fr. 4'300.-- verpflichtet worden ist. Die in Betreibung gesetzte Beitragsforderung für den Monat Juni 1988 im Betrage von Fr. 2'400.-- beruht daher unbestrittenermassen auf einem vollstreckbaren gerichtlichen Urteil im Sinne von Art. 81 Abs. 1 SchKG.

Unbestritten ist auch, dass der Beschwerdeführer Zahlungsbelege vorgelegt hat, wonach er bis Ende April 1988 insgesamt Fr. 7'226.-- mehr an die Beschwerdegegnerin bezahlt hat als das, wozu er durch das obergerichtliche Urteil verpflichtet worden ist. Strittig ist hingegen, ob der Beschwerdeführer mit den entsprechenden Zahlungsbelegen den Urkundenbeweis gemäss Art. 81 Abs. 1 SchKG für die Tilgung der in Betreibung gesetzten Forderung erbracht hat.

b) Das Obergericht hat diesen Urkundenbeweis als nicht erbracht erachtet. Es ist davon ausgegangen, ein Schuldner, der behaupte, die in Betreibung gesetzte Forderung sei durch Verrechnung untergangen, müsse durch Urkunden den Bestand einer Gegenforderung beweisen. Hiefür genüge nur eine Urkunde, die ihrerseits zur definitiven oder provisorischen Rechtsöffnung berechtige. Zudem müsse aus der Urkunde die Höhe der Forderung hervorgehen. Aus den vom Beschwerdeführer vorgelegten Urkunden ergebe sich indes lediglich, dass er gewisse Mehrleistungen erbracht habe. Ob ihm deswegen aber auch eine Gegenforderung zustehe, sei urkundlich nicht belegt.

4. Diese Urteilsbegründung hält jedenfalls vor dem Willkürvorwurf stand. Nach ausdrücklicher Gesetzesvorschrift darf der Richter im Rechtsöffnungsverfahren die Einrede der Tilgung nur anerkennen, wenn dafür der Urkundenbeweis erbracht wird. Sofern die Tilgung auf die Verrechnung mit einer Gegenforderung gestützt wird, muss nach Lehre und Rechtsprechung die Gegenforderung des Schuldners ihrerseits durch ein gerichtliches Urteil im Sinne von Art. 81 Abs. 1 SchKG oder durch eine vorbehaltlose Anerkennung der Gegenpartei belegt sein (FRITZSCHE/WALDER, Schuldbetreibung und Konkurs nach schweizerischem Recht, N 20 zu § 19; GESSLER, Scheidungsurteile als definitive Rechtsöffnungstitel, SJZ 83/1987, S. 257; PANCHAUD/CAPREZ, Die Rechtsöffnung, § 144 Ziff. 3). Es entspricht dem Willen des Gesetzgebers, dass die Möglichkeiten des Schuldners zur Abwehr im Verfahren der definitiven Rechtsöffnung eng beschränkt sind; um jede Verschleppung der Vollstreckung zu verhindern, kann der definitive Rechtsöffnungstitel daher nur durch einen strikten Gegenbeweis, d.h. mit völlig eindeutigen Urkunden, entkräftet werden (BGE 104 Ia 15; BGE 102 Ia 367). Dies gilt gerade auch für familienrechtliche Unterhaltsforderungen, die im materiellen Recht und im Vollstreckungsrecht in verschiedener Hinsicht privilegiert sind (BGE 104 Ia 16).

a) Der Beschwerdeführer vertritt den Standpunkt, bei den Unterhaltsleistungen habe es sich um Akontozahlungen gehandelt, die unter dem Vorbehalt einer definitiven Abrechnung erfolgt seien, in der selbstverständlichen Meinung, dass je nach Ausgang des Rechtsmittelverfahrens eine Rückzahlung bzw. Verrechnung zu erfolgen habe. Es sei willkürlich und überspitzt, wenn das Obergericht einen ausdrücklichen Vorbehalt bei den jeweiligen Zahlungen verlange.

b) Es mag zutreffen, dass der Beschwerdeführer mit der Anfechtung des amtsgerichtlichen Entscheides vom 1. Mai 1987 gegenüber der Beschwerdegegnerin klar zu verstehen gegeben hat, in welchem Umfang er die Beiträge vorbehaltlos zu bezahlen bereit sei. Dies hilft dem Beschwerdeführer jedoch nicht weiter. Er übersieht, dass damit der erforderliche Urkundenbeweis für den Bestand seiner Gegenforderung nicht geleistet ist. Wie das Obergericht zutreffend ausgeführt hat, beschränkt sich sein Urkundenbeweis auf den Nachweis, dass er gegenüber der im rechtskräftigen Obergerichtsentscheid festgelegten Alimentenverpflichtung gewisse Mehrleistungen erbracht hat. Ob er dadurch auch eine Gegenforderung erworben hat, ist durch die Urkunden hingegen nicht abgedeckt. Die Auffassung des Beschwerdeführers, wonach es sich bei seinen Beitragsleistungen um Akontozahlungen unter dem Vorbehalt der Abrechnung bzw. Rückzahlung gehandelt habe, setzt vielmehr eine freie richterliche Würdigung der gesamten Sachlage voraus.

Welche Bedeutung den vom Beschwerdeführer erbrachten Leistungen materiellrechtlich zukommt, ist denn auch umstritten. Während der Beschwerdeführer sinngemäss behauptet, durch seine Mehrleistungen sei eine Forderung aus ungerechtfertigter Bereicherung entstanden, die nun zur Verrechnung gestellt werde, beruft sich die Beschwerdegegnerin darauf, der Beschwerdeführer habe freiwillig eine Nichtschuld bezahlt, die gemäss Art. 63 OR nicht zurückgefordert werden könne. Zudem sei die Zahlung in Erfüllung einer sittlichen Pflicht erfolgt. Diesem Standpunkt hält der Beschwerdeführer wiederum entgegen, er habe sich in einem entschuldbaren Irrtum befunden.

Über solch heikle materiellrechtliche Fragen hat der Rechtsöffnungsrichter indessen nicht zu befinden. Die Entscheidung dieser Fragen ist vielmehr dem Sachrichter vorbehalten (BGE 113 III 9 unten sowie 86). Dasselbe gilt für die Behauptung des Beschwerdeführers, das Verhalten der Beschwerdegegnerin sei rechtsmissbräuchlich und verstosse gegen Treu und Glauben. Denn auch die Beantwortung dieser Frage setzt eine Beurteilung der materiellen Rechtslage voraus.

c) Nichts anderes ergibt sich aus BGE 113 III 86. Das Bundesgericht hat dort zunächst das Erfordernis erwähnt, dass im Verfahren der definitiven Rechtsöffnung bei der Einrede der Tilgung der Forderung durch Verrechnung die Gegenforderung des Schuldners durch Urkunden nachgewiesen werden müsse. Unmittelbar daran anschliessend hat es allerdings festgehalten, jedenfalls unter dem beschränkten Gesichtswinkel der Willkür sei es haltbar, wenn der Schuldner durch Urkunden lediglich die Zahlung durch einen Dritten nachweise, im übrigen aber sonstwie dartue, dass dadurch ein ihm zustehender Anspruch ins Vermögen des Anspruchsberechtigten übergegangen sei.

Hieraus ergibt sich jedoch nichts für den vorliegenden Fall. Entscheidend war in BGE 113 III 86 nämlich, dass sich der Schuldner auf eine Gesetzesvorschrift berufen konnte, nach deren klarem Wortlaut durch die urkundlich nachgewiesene Zahlung ein Anspruch des Unterhaltsschuldners in das Vermögen der Unterhaltsgläubigerin übergegangen war. Das Bundesgericht erachtete es daher nicht als willkürlich, dass der kantonale Rechtsöffnungsrichter die Anrechnung der betreffenden Zahlung auf die Unterhaltsverpflichtung anerkannt hatte. Im Unterschied dazu kann der Beschwerdeführer im vorliegenden Fall keine Gesetzesbestimmung anführen, welche die Anrechenbarkeit seiner Mehrleistungen auf die nunmehr geschuldeten Unterhaltsbeiträge bestätigen würde.

d) Überdies beruft sich die Beschwerdegegnerin auf das Verrechnungsverbot in Art. 125 Ziff. 2 OR. Nach dieser Gesetzesbestimmung können Verpflichtungen gegen den Willen des Gläubigers nicht durch Verrechnung getilgt werden, wenn deren besondere Natur die tatsächliche Erfüllung an den Gläubiger verlangt, wie Unterhaltsansprüche und Lohnguthaben, die Zum Unterhalte des Gläubigers und seiner Familie unbedingt erforderlich sind. Erst nach einer Berechnung der konkreten unverrechenbaren Quote stünde somit fest, ob es dem Beschwerdeführer freistand, von den für den Monat Juni 1988 geschuldeten Unterhaltsbeiträgen von Fr. 4'300.-- den beachtlichen Betrag von Fr. 2'400.-- durch Verrechnung zu tilgen. Hinzu kommt, dass der Wortlaut der betreffenden Gesetzesbestimmung zumindest nicht ganz eindeutig ist (vgl. BGE 88 II 311 f.; VON TUHR/ESCHER, Allgemeiner Teil des Schweizerischen Obligationenrechts, Anm. 76 zu § 78).

Ferner müsste feststehen, mit welchen Unterhaltsforderungen verrechnet werden soll. Bekanntlich schuldet der Beschwerdeführer nicht nur der Beschwerdegegnerin, sondern auch den beiden Kindern bestimmte Unterhaltsbeiträge. Da der Beschwerdeführer jeweils nur einen Gesamtbetrag überwiesen hat, müssen seine Mehrleistungen somit vorerst auf die Forderungen der Kinder und der Beschwerdegegnerin aufgeteilt werden, um die jeweiligen Mehrbeträge anschliessend mit den entsprechenden Unterhaltsforderungen zu verrechnen. Dies geht indessen ebenso wie die Berechnung der unverrechenbaren Quote entschieden über die Prüfungsbefugnis des Rechtsöffnungsrichters hinaus (vgl. hierzu BGE 111 II 108).