2. a) Nach Art. 47 Abs. 1 AHVG, anwendbar auf dem Gebiet der Invalidenversicherung (Art. 49 IVG) und der Ergänzungsleistungen (Art. 27 Abs. 1 ELV), sind unrechtmässig bezogene Renten und Hilflosenentschädigungen zurückzuerstatten. Bei gutem Glauben und gleichzeitigem Vorliegen einer grossen Härte kann von der Rückforderung abgesehen werden. Nach Art. 47 Abs. 2 AHVG verjährt der Rückforderungsanspruch mit dem Ablauf eines Jahres, nachdem die Ausgleichskasse davon Kenntnis erhalten hat, spätestens aber mit dem Ablauf von fünf Jahren seit der einzelnen Rentenzahlung. Wird der Rückforderungsanspruch aus einer strafbaren Handlung hergeleitet, für welche das Strafrecht eine längere Verjährungsfrist festsetzt, so ist diese Frist massgebend.

Art. 16 Abs. 2 AHVG, soweit vorliegend von Bedeutung, lautet: Die gemäss Abs. 1 geltend gemachte Beitragsforderung erlischt drei Jahre nach Ablauf des Kalenderjahres, in welchem sie rechtskräftig wurde (erster Satz). Bei Entstehung des Rentenanspruches nicht erloschene Beitragsforderungen können in jedem Fall gemäss Art. 20 Abs. 2 noch verrechnet werden (letzter Satz).

b) In BGE 105 V 80 Erw. 2c, bestätigt in BGE 111 V 95 f., hat das Eidg. Versicherungsgericht erkannt, dass die Fristen nach Art. 47 Abs. 2 AHVG lediglich die Festsetzung der Rückerstattungsforderung betreffen, nicht aber deren Vollstreckung. In analoger Anwendung von Art. 16 Abs. 2 AHVG ist nach diesem Urteil für die Vollstreckung einer rechtskräftig festgelegten Rückerstattungsforderung die dreijährige Frist massgebend. Daran ist festzuhalten.

3. a) Das Eidg. Versicherungsgericht hat als Frage des Bundesrechts frei zu prüfen, ob die Rückerstattungsforderung der Ausgleichskasse (betreffend zu Unrecht bezogene Ergänzungsleistungen), deren Erlass am 31. Juli 1985 rechtskräftig abgelehnt wurde, mit der dem Beschwerdeführer zustehenden Invalidenrente ab 1. Januar 1989 zufolge Vollstreckungsverjährung oder -verwirkung nicht mehr verrechnet werden darf, wie in der Verwaltungsgerichtsbeschwerde geltend gemacht wird. Für die Beantwortung dieser Rechtsfrage ist zunächst zu prüfen, ob die Frist von drei Jahren nach Art. 16 Abs. 2 AHVG für die Vollstreckung einer rechtskräftig festgesetzten Rückerstattungsforderung Verjährungs- oder Verwirkungscharakter hat. Kommt der erwähnten Frist Verjährungscharakter zu, so ist die Rückerstattungsforderung im vorliegenden Fall nicht verjährt, weil der Eintritt der Verjährung durch die periodischen Verrechnungen immer wieder unterbrochen würde. Ist die Vollstreckungsfrist hingegen als Verwirkungsfrist, deren Lauf - besondere gesetzliche Bestimmungen vorbehalten - weder gehemmt noch unterbrochen werden kann (BGE 116 V 229 Erw. 6a mit Hinweisen), zu qualifizieren, muss der Rückerstattungsanspruch der Ausgleichskasse ab 1. Januar 1989 als verwirkt gelten, es sei denn, Art. 16 Abs. 2 letzter Satz AHVG käme ebenfalls analog zur Anwendung, wie dies Ausgleichskasse, Vorinstanz und Bundesamt für Sozialversicherung (BSV) annehmen (dazu Erw. 4).

b) Entgegen dem Randtitel "Verjährung" handelt es sich bei der dreijährigen Vollstreckungsfrist nach Art. 16 Abs. 2 AHVG um eine Verwirkungsfrist. Dies ergibt sich bereits aus dem Wortlaut, indem die nach Abs. 1 geltend gemachte Beitragsforderung drei Jahre nach Ablauf des Kalenderjahres, in welchem sie rechtskräftig wurde, "erlischt". Abgesehen vom bereits erwähnten BGE 105 V 81 Erw. 2c, in welchem das Eidg. Versicherungsgericht ohne nähere Begründung Verjährung angenommen hat, wurde die Dreijahresfrist gemäss Art. 16 Abs. 2 AHVG in ständiger Rechtsprechung als Verwirkungsfrist qualifiziert (BGE 111 V 95, BGE 100 V 155 Erw. 2a, BGE 97 V 146 Erw. 1, EVGE 1955 S. 194; ZAK 1983 S. 387 Erw. 4c; ebenso MAURER, Schweizerisches Sozialversicherungsrecht, Bd. II, S. 150), und zwar sowohl bei der Vollstreckung einer rechtskräftig festgelegten Beitragsforderung (ZAK 1982 S. 118 Erw. 3) als auch bei der Vollstreckung einer rechtskräftig festgelegten Rückerstattungsforderung (unveröffentlichtes Urteil K. vom 17. August 1989). Es besteht kein sachlicher Grund, die Vollstreckungsfrist im Sinne von Art. 16 Abs. 2 AHVG unterschiedlich zu qualifizieren, je nachdem ob sie auf eine Beitrags- oder aber auf eine Rückerstattungsforderung Anwendung findet. Dazu besteht umso weniger Anlass, als die dreijährige Frist für die Durchsetzung der Rückerstattung im Falle eines innert der Ordnungsfrist (gemäss Art. 79 Abs. 2 AHVV, anwendbar auch im EL- [BGE 110 V 25 ] und IV-Bereich) einzureichenden Erlassgesuches erst nach dessen rechtskräftiger Abweisung zu laufen beginnt, wovon die Rechtsprechung seit je stillschweigend ausgegangen ist (vgl. ZAK 1988 S. 478; nicht veröffentlichte Urteile C. vom 1. März 1989 und I. vom 30. Oktober 1989).

4. a) Im weiteren fragt sich, ob Art. 16 Abs. 2 letzter Satz AHVG auf die Verrechnung einer rechtskräftig festgelegten Rückerstattungsforderung ebenfalls analog anwendbar ist, was in BGE 105 V 81 Erw. 2c offengelassen wurde. Entgegen der Auffassung des BSV hat sich das Eidg. Versicherungsgericht im unveröffentlichten Urteil R. vom 28. April 1980 damit nicht näher auseinandergesetzt. Der vorliegende Fall bietet Anlass zu einer grundsätzlichen Prüfung dieser Frage. Dabei sind zunächst Sinn und Zweck der Ausnahmeregelung gemäss Art. 16 Abs. 2 letzter Satz AHVG - der Verrechenbarkeit nicht erloschener Beitragsforderungen mit Rentenleistungen unbesehen der dreijährigen Vollstreckungsverwirkungsfrist - näher zu prüfen (zur Gesetzesauslegung vgl. BGE 115 V 348 Erw. 1c mit Hinweisen).

b) Aufschlussreich sind diesbezüglich die Darlegungen des Bundesrates zur Neuformulierung des Art. 16 Abs. 2 AHVG im Rahmen der 2. AHV-Revision, der in seiner Botschaft vom 5. Mai 1953 ausführte: "Von der Überlegung ausgehend, dass aus Gründen der Rechtssicherheit und aus verwaltungstechnischen Erwägungen nach Ablauf eines bestimmten Zeitraumes in einem bestimmten Schuldverhältnis zwischen AHV und Beitragspflichtigen Ruhe eintreten soll, haben wir vorgesehen, dass dem Ablauf der Fristen die Wirkung einer Erlöschung der Forderung oder der Schuld zukommt" (BBl 1953 II 119). Der Bundesrat erachtete mit der öffentlichrechtlichen und damit zwingenden Natur des AHV-Rechts einzig eine Verwirkungsfrist für vereinbar, wobei er sich indessen veranlasst sah, für "besondere Sachverhalte" Ausnahmebestimmungen vorzusehen. Zum letzten Satz von Art. 16 Abs. 2 AHVG äusserte er sich dahingehend, "dass bei Entstehung des Rentenanspruchs nicht erloschene Beitragsforderungen in jedem Fall gemäss Art. 20 Abs. 3 AHVG (in der heute geltenden Fassung Abs. 2) noch verrechnet werden können. Beiträge, die der Rentenberechnung zugrunde gelegt werden, sollen ohne Einschränkung durch Verrechnung bezahlt werden" (BBl 1953 II 120).

Das aufgrund der Materialien feststellbare Motiv und damit der vom Gesetzgeber als sachlich bezeichnete Grund für die Verrechenbarkeit nicht erloschener Beitragsforderungen mit Rentenleistungen über die Dreijahresfrist hinaus liegen somit darin, dass rechtskräftig festgelegte, aber noch nicht bezahlte Beiträge rentenbildend sein können (vgl. BGE 115 V 343 Erw. 2b; EVGE 1961 S. 30 Erw. 2, 1955 S. 34 Erw. 1a). In diesem Sinne besteht zwischen Beiträgen und Renten ein enger versicherungsrechtlicher Konnex, welcher hinsichtlich der Verrechnung eine spezielle Regelung rechtfertigt.

c) Ist Art. 16 Abs. 2 letzter Satz AHVG somit spezifisch auf das Verrechnungsverhältnis zwischen Beiträgen und Renten zugeschnitten, darf er nicht auf die Verrechnung von rechtskräftig festgesetzten Rückerstattungsforderungen mit laufenden Renten angewendet werden. Hier werden Leistungen mit Leistungen verrechnet. In diesem Bereich fehlt es an einem engen versicherungsrechtlichen Konnex zwischen den sich gegenüberstehenden Forderungen, welcher allein die analoge Anwendung der besonderen Verrechnungsregelung des Art. 16 Abs. 2 letzter Satz AHVG zu rechtfertigen vermöchte. Daher verbietet sich eine analoge Anwendung dieser Sondernorm auf die Vollstreckung rechtskräftig festgelegter Rückerstattungsforderungen. Denn die Zulässigkeit des Analogieschlusses setzt "Gleichheit oder zumindest starke Ähnlichkeit zwischen dem vom Gesetz erfassten und dem zu beurteilenden Tatbestand voraus" (IMBODEN/RHINOW/KRÄHENMANN, Schweizerische Verwaltungsrechtsprechung, Nr. 27 B II mit Hinweis; BGE 115 V 79 Erw. 5a), was hier nicht zutrifft. Zudem würde, unter dem für die Auslegung ebenfalls erheblichen Gesichtspunkt des Rechtsgleichheitsgebotes (BGE 114 V 137 Erw. 3b), eine generelle Verrechnungsmöglichkeit diejenigen Rückerstattungspflichtigen, welche eine Dauerleistung der Sozialversicherung beziehen, gegenüber den anderen Rückerstattungspflichtigen, die nicht Empfänger von Dauerleistungen sind, in einer gegen das Gleichbehandlungsgebot des Art. 4 Abs. 1 BV verstossenden Weise (vgl. BGE 115 V 233 Erw. 6) benachteiligen. Im Unterschied zur zweiten Gruppe könnten sich erstere, ohne erkennbaren sachlichen Grund, der vollstreckungsmässig eine Ungleichbehandlung rechtfertigte, in keinem Zeitpunkt auf Verwirkung berufen.

Daraus folgt, dass eine rechtskräftig festgelegte Rückerstattungsforderung nach drei Jahren - im Falle der Einreichung eines Erlassgesuches drei Jahre nach dessen rechtskräftiger Abweisung - verwirkt, und zwar auch dann, wenn die Rückerstattungsforderung mit einer laufenden Rente verrechnet wird.

5. Im vorliegenden Fall hat das Eidg. Versicherungsgericht mit Urteil vom 31. Juli 1985 die Ablehnung des Erlassgesuches bestätigt. Demzufolge erlosch die Rückerstattungsforderung am 31. Dezember 1988, drei Jahre nach Ablauf des Kalenderjahres, in welchem der Erlass rechtskräftig abgelehnt wurde. Damit ist die angefochtene, von der Vorinstanz bestätigte Verfügung vom 14. Mai 1990 aufzuheben mit der Feststellung, dass ab 1. Januar 1989 die Verrechnung der Rückerstattungsforderung betreffend die zu Unrecht bezogenen Ergänzungsleistungen mit der laufenden Invalidenrente des Beschwerdeführers unzulässig ist.