A.- Par arrêté du 31 octobre 1984, le Conseil d'Etat de la République et canton de Genève a prononcé le licenciement disciplinaire de X, employé depuis le 1er janvier 1969 auprès d'une administration cantonale.

Les recours successifs formés par le fonctionnaire contre cette décision ont été rejetés, en dernière instance par la IIe Cour de droit public du Tribunal fédéral (arrêt du 31 janvier 1986).

B.- Le 21 mai 1986, la Caisse de prévoyance du personnel enseignant de l'instruction publique et des fonctionnaires de l'administration du canton de Genève (ci-après: la CIA) a informé X qu'elle considérait qu'il avait cessé de faire partie du personnel de l'administration cantonale genevoise et que, en application des statuts, elle devait se dessaisir de la prestation de libre passage constituée en sa faveur. Elle a, le 7 juillet 1986, confirmé que le statut d'affilié ne pouvait pas être maintenu et a versé sur un compte bancaire la somme de 182'108 fr. 50.

L'assuré a recouru devant le Conseil d'Etat, faisant valoir que la décision, d'exclusion selon lui, du 7 juillet 1986, était prématurée. Il alléguait en outre des erreurs dans le calcul de la prestation de libre passage.

L'affaire a été transmise à la Cour de justice du canton de Genève, comme objet de sa compétence. Par jugement du 16 mars 1989, cette autorité a rejeté la demande de X en tant qu'elle visait le maintien de sa qualité d'affilié et, "statuant préparatoirement", a invité, d'une part l'intéressé à se déterminer jusqu'à la date du 15 avril 1989 sur le calcul de la prestation de libre passage présenté par la CIA, d'autre part la caisse à fournir à la Cour divers renseignements à ce sujet.

X a formé un recours de droit administratif contre ce jugement.

C.- Parallèlement à cette procédure, X a déposé une requête tendant à sa mise à la retraite anticipée pour cause d'invalidité, que la CIA a déclarée irrecevable, le 23 janvier 1987.

L'affaire a aussi été portée devant la Cour de justice, qui a rejeté la demande, par jugement du 16 mars 1989 également.

X a alors déposé un nouveau recours de droit administratif.

D.- Considérant que les recours dirigés contre les deux jugements de la Cour de justice se trouvaient dans un rapport de connexité suffisant pour justifier la jonction des causes, le Tribunal fédéral des assurances les a liquidés par un seul arrêt, du 12 juillet 1990, en statuant:

"I. Les recours sont partiellement admis et les jugements de la Cour de

justice du canton de Genève du 16 mars 1989 sont annulés.

II. La cause est renvoyée à la Cour de justice pour qu'elle statue à

nouveau conformément aux considérants.

III. (Frais de justice)

IV. (Communication)"

Le Tribunal fédéral des assurances a considéré, en bref, que l'existence d'une maladie psychique n'était pas à exclure dans le cas d'espèce, eu égard à l'attitude du recourant et à certains autres indices ressortant du dossier. Or, la CIA s'était prononcée sur la demande de rente dont elle était saisie sans requérir un préavis de la commission médicale instituée par ses statuts. Quant à la Cour de justice, elle n'avait ordonné aucune mesure d'instruction sur ce point. Il subsistait donc des incertitudes que seule une expertise médicale était susceptible de lever. Aussi bien le tribunal a-t-il renvoyé la cause à la juridiction cantonale pour qu'elle mette en oeuvre une telle expertise, en l'invitant à examiner ensuite si le recourant pouvait prétendre une pension d'invalidité. Dans la négative, la cour cantonale devait statuer sur le montant de la prestation de libre passage revenant à l'intéressé.

E.- A la suite de cet arrêt, la Cour de justice a rendu un nouveau jugement, le 13 décembre 1990, par lequel elle a:

a) ordonné l'ouverture d'une procédure de "mise à l'invalidité" selon les statuts de la CIA;

b) enjoint à la CIA de prendre avis auprès du Conseil d'Etat et de X conformément à l'art. 38 al. 2 des mêmes statuts;

c) enjoint à la CIA de se conformer aux art. 1 à 6 de son règlement du 9 janvier 1979, concernant la procédure de "mise à l'invalidité";

d) enjoint au comité de la CIA de lui communiquer sa décision;

e) dit que les frais d'expertise seront assumés conformément aux statuts de la CIA;

f) débouté X de toutes autres ou contraires conclusions;

g) ajourné la cause "sine die" jusqu'à la communication de la décision du comité de la CIA.

F.- Contre ce jugement, X interjette un recours de droit administratif dans lequel il conclut:

- principalement: à l'annulation du jugement cantonal et au renvoi de la cause à la Cour de justice pour qu'elle ordonne elle-même une expertise médicale à la charge de l'Etat de Genève et qu'elle "sollicite de l'Etat ou d'une institution externe des offres de travail en rapport avec les conclusions de l'expertise";

- subsidiairement: à l'"annulation" de l'art. 38 des statuts de la CIA.

Le recourant fait valoir, pour l'essentiel, que la Cour de justice ne s'est pas conformée à l'arrêt du 12 juillet 1990, en invitant la CIA à ouvrir une procédure "de mise à l'invalidité", plutôt que d'ordonner une expertise.

La CIA conclut au rejet du recours. De son côté, l'Office fédéral des assurances sociales (OFAS) propose de l'admettre.

1. Le jugement attaqué, qui, entre autres injonctions, prescrit à la CIA d'ouvrir une procédure de "mise à l'invalidité" et de communiquer sa "décision" à l'autorité judiciaire, est une décision de renvoi. Il ne s'agit pas d'une décision incidente, qui ne serait séparément susceptible de recours que si elle pouvait causer un préjudice irréparable (art. 5 al. 2 PA et art. 45 al. 1 PA, en liaison avec les art. 97 al. 1 OJ et 128 OJ), mais d'une décision finale. Est une décision finale, en effet, celle qui met un terme à la procédure, qu'il s'agisse d'une décision de fond ou d'une décision qui clôt l'action judiciaire en raison d'un motif tiré des règles de la procédure (ATF 115 II 104 consid. 2a, ATF 110 Ia 134, ATF 107 Ib 343 consid. 1, 221 consid. 1). Or, à teneur du jugement cantonal, il incombe à la CIA d'instruire elle-même le cas - ce qui implique qu'elle prenne l'avis de la commission médicale prévue par l'art. 38 de ses statuts (composée du médecin-conseil de la caisse, du médecin-conseil de l'Etat et d'un médecin choisi par l'affilié) - et de rendre une "décision". Même si la juridiction cantonale déclare "ajourner la cause sine die", dans l'attente de cette "décision", son jugement n'en est pas moins assimilable, quant à ses effets, à une décision de renvoi pur et simple, mettant fin à la procédure engagée devant elle.

Le jugement cantonal pouvait donc être attaqué immédiatement et de façon indépendante, de sorte que le recours est recevable, conformément aux dispositions générales (art. 97 al. 1 OJ et art. 128 OJ en liaison avec l'art. 5 al. 1 PA).

2. Dans son arrêt du 12 juillet 1990, le Tribunal fédéral des assurances a invité la Cour de justice à mettre en oeuvre une expertise médicale et à se prononcer ensuite sur la prétention du recourant à une pension d'invalidité. Si cette prétention devait être rejetée, la cour cantonale avait alors à fixer le montant de la prestation de libre passage revenant à l'intéressé.

a) Les considérants de droit par lesquels une autorité motive le renvoi d'une affaire à l'autorité inférieure lient cette dernière (ATF 113 V 159 consid. 1c). Pour ce qui est de la procédure fédérale, ce principe est exprimé en matière pénale à l'art. 277ter al. 2 PPF (cf. aussi PIQUEREZ, Application du principe de la bonne foi et de la règle de l'interdiction de la reformatio in pejus dans le domaine des voies de recours, Revue jurassienne de jurisprudence, 1991/1, p. 96) et en matière civile à l'art. 66 al. 1 OJ (voir à ce sujet: POUDRET/SANDOZ, Commentaire de la loi fédérale d'organisation judiciaire, vol. II, note 1.3 ad art. 66). Il est applicable même en l'absence de texte et vaut aussi, par conséquent, dans la procédure administrative en général (ATF 94 I 388 consid. 2; GRISEL, Traité de droit administratif, p. 869; GYGI, Bundesverwaltungsrechtspflege, 2e éd., p. 232).

Pour cette raison déjà, il incombait à la juridiction cantonale, et à elle seule, d'instruire l'affaire et de statuer sur le fond. Etant liée par les directives impératives du Tribunal fédéral des assurances, elle ne pouvait se décharger de ses tâches sur l'institution de prévoyance, même si elle partait de l'idée que l'intéressé conservait la possibilité de saisir à nouveau le juge, s'il n'obtenait pas satisfaction au terme de la procédure de "mise à l'invalidité" que la CIA avait pour mission d'ouvrir.

b) Un autre motif faisait aussi obstacle à une décision de renvoi à la CIA.

En matière de prévoyance professionnelle, en effet, le juge ne saurait renvoyer une affaire aux organes de l'assurance pour instruction complémentaire et nouveau prononcé. Car la procédure prévue par l'art. 73 LPP n'est pas déclenchée par une décision (les institutions de prévoyance, de droit public ou de droit privé, n'étant pas habilitées à statuer au moyen d'une telle décision; ATF 115 V 224), mais par une simple prise de position, laquelle ne peut s'imposer qu'en vertu de la décision d'un tribunal saisi par la voie de l'action (ATF 115 V 239). Or, une décision de renvoi n'a de sens que si l'autorité inférieure a le pouvoir de statuer derechef, selon les instructions de l'autorité supérieure (ATF 115 V 243; GYGI, op.cit., p. 232). C'est d'ailleurs pour cette raison que l'art. 114 al. 2 OJ ne permet le renvoi à l'autorité qui a statué en première instance qu'à la condition que l'autorité inférieure ait tranché sur recours.

c) La solution adoptée par les premiers juges est en même temps contestable sous l'angle des garanties qui doivent être reconnues à tout justiciable. Elle revient en fait à déléguer le pouvoir d'administrer - ou de faire administrer - des preuves à une partie qui n'est pas soumise aux dispositions de procédure adoptées par les cantons en exécution de l'art. 73 al. 2 LPP ou aux règles de la procédure administrative en général. L'instruction par l'autorité judiciaire accorde en revanche au plaideur, entre autres garanties, celle découlant des règles (cantonales) sur la récusation, d'un expert p.ex.; elle lui offre aussi les garanties minimales de procédure prescrites par l'art. 73 al. 2 LPP (procédure simple et, en principe, gratuite; principe de l'instruction d'office).

d) Pour toutes ces raisons, le jugement attaqué doit être annulé. Il n'est pas nécessaire, dans ces conditions, de se prononcer sur la validité de l'art. 38 des statuts de la CIA (prévoyant la demande d'un rapport à la commission médicale ad hoc, ainsi que la mise éventuelle des frais d'expertise à la charge du demandeur), disposition critiquée par le recourant à l'appui de sa conclusion subsidiaire.

C'est inutilement, par ailleurs, que le recourant voudrait que le Tribunal fédéral des assurances invite encore la Cour de justice à solliciter "de l'Etat ou d'une institution externe des offres de travail en rapport avec les conclusions de l'expertise". Les considérants de l'arrêt du 12 juillet 1990 lient également le Tribunal fédéral des assurances (ATF 94 I 389 consid. 2; GRISEL, op.cit., p. 869), qui ne saurait, par conséquent, donner de nouvelles instructions à la Cour de justice à l'occasion du présent procès.

3. (Frais et dépens)

Par ces motifs, le Tribunal fédéral des assurances prononce:

Dans la mesure où il est recevable, le recours est admis et le jugement de la Cour de justice du canton de Genève du 13 décembre 1990 est annulé. Le dossier de la cause est transmis à la Cour de justice pour qu'elle procède selon les considérants de l'arrêt du 12 juillet 1990.