A.- T. est entré en Suisse le 1er décembre 1988 en qualité de requérant d'asile. Le 17 mars 1989, il a obtenu un permis "B" à titre humanitaire, qui a été renouvelé d'année en année.

Le 26 juillet 1994, T. a présenté une demande de rente de l'assurance-invalidité.

Par décision du 5 janvier 1995, la Caisse cantonale neuchâteloise de compensation a rejeté cette demande, au motif que le requérant, lors de la survenance de l'invalidité alléguée, ne comptait pas au moins dix années entières de cotisations ou quinze années ininterrompues de domicile en Suisse.

B.- Par jugement du 13 mars 1995, le Tribunal administratif du canton de Neuchâtel a rejeté le recours formé contre cette décision par T.

C.- Contre ce jugement, T. interjette un recours de droit administratif dans lequel il conclut à l'allocation de prestations de l'assurance-invalidité et au renvoi de la cause à l'administration pour qu'elle en détermine la nature et l'ampleur.

L'Office cantonal neuchâtelois de l'assurance-invalidité renonce à présenter des observations sur le recours. L'Office fédéral des assurances sociales, pour sa part, propose de le rejeter.

1. a) Aux termes de l'art. 6 al. 2 LAI, les étrangers et les apatrides n'ont droit aux prestations, sous réserve de l'art. 9 al. 3 LAI (relatif aux étrangers et apatrides mineurs) qu'aussi longtemps qu'ils conservent leur domicile civil en Suisse et que si, lors de la survenance de l'invalidité, ils comptent au moins dix années entières de cotisations ou quinze années ininterrompues de domicile en Suisse (première phrase).

L'exigence minimale de dix années entières de cotisations ou de quinze années ininterrompues de domicile en Suisse s'explique par la volonté du législateur de l'époque, clairement exprimée au cours des travaux préparatoires, de subordonner l'allocation de prestations à l'existence de liens particulièrement étroits avec l'assurance et avec la Suisse (ATF 115 V 84 consid. 2b; FF 1958 II 1189).

En l'espèce, il est constant que le recourant ne remplit ni l'une ni l'autre de ces conditions (alternatives), puisqu'il ne réside en Suisse que depuis 1988. Il n'existe au demeurant aucune convention bilatérale de sécurité sociale avec la Roumanie, qui contiendrait, à l'instar de conventions conclues par la Suisse avec de nombreux autres Etats, des dispositions dérogatoires à l'art. 6 al. 2 LAI.

b) Le recourant cite tout d'abord, à l'appui de son recours, l'avis de plusieurs auteurs, selon lesquels l'exigence, pour les ressortissants étrangers, d'une longue durée de cotisations et d'un domicile en Suisse pour l'ouverture du droit aux rentes ordinaires d'invalidité apparaît incompatible avec le droit à l'égalité consacré par l'art. 4 al. 1 Cst. (DUC/GREBER, La portée de l'article 4 de la Constitution fédérale en droit de la sécurité sociale, RDS 111/1992 II, p. 640 sv.; MAHON, Etrangers, travailleurs migrants et sécurité sociale, Aspects de la sécurité sociale [ASS] 3/1993 p. 5 ss). Si tant est que le recourant veuille par là contester la validité de l'art. 6 al. 2 LAI, cette objection est vaine, cependant, car le juge n'a pas le pouvoir de contrôler la constitutionnalité d'une loi fédérale (art. 113 al. 3 et 114bis al. 3 Cst.; ATF 120 V 3 consid. 1b, ATF 118 V 4 consid. 3, ATF 117 V 107 consid. 3c).

Il est à relever, au demeurant, qu'avec l'entrée en vigueur de la 10e révision de l'AVS (vraisemblablement le 1er janvier 1997), l'inégalité critiquée sera corrigée, en matière de rentes d'invalidité notamment, puisque, aux termes du nouvel art. 6 al. 2 LAI (modifié par la loi du 7 octobre 1994), les étrangers ont droit aux prestations, sous réserve de l'art. 9 al. 3, aussi longtemps qu'ils conservent leur domicile et leur résidence habituelle en Suisse et s'ils comptent au moins une année entière de cotisations (cf. art. 36 al. 1 LAI) ou dix années de résidence ininterrompue en Suisse (FF 1994 III 1811).

2. Le recourant invoque aussi le Pacte international relatif aux droits économiques, sociaux et culturels des Nations Unies du 16 décembre 1966, entré en vigueur pour la Suisse le 18 septembre 1992 (RO 1993 725; RS 0.103.1). Il se prévaut plus particulièrement des garanties découlant de l'interdiction de toute discrimination et du droit pour toute personne à la sécurité sociale (art. 2 al. 2 et art. 9 du Pacte).

a) Le Pacte contient à ses art. 6 à 15 un catalogue de droits économiques, sociaux et culturels que chacun des Etats parties s'engage à mettre en oeuvre progressivement, tant par son effort propre que par l'assistance et la coopération internationales, au maximum de ses ressources et par tous les moyens appropriés, y compris en particulier l'adoption de mesures législatives (art. 2 al. 1). Les Etats parties au Pacte s'engagent à garantir que les droits qui y sont énoncés seront exercés sans discrimination aucune fondée sur la race, la couleur, le sexe, la langue, la religion, l'opinion politique ou toute autre opinion, l'origine nationale ou sociale, la fortune, la naissance ou toute autre situation (art. 2 al. 2). L'art. 9 dispose que les Etats parties reconnaissent le droit de toute personne à la sécurité sociale, y compris les assurances sociales.

b) Seule peut être invoquée par les particuliers devant les tribunaux la violation de dispositions directement applicables ("self-executing") contenues dans les traités internationaux. Comme ceux-ci peuvent renfermer des normes directement applicables et d'autres qui ne le sont pas, c'est par la voie de l'interprétation qu'il convient d'opérer une qualification à cet égard (ATF 119 V 178 consid. 4b; SJ 1992 p. 147 consid. 3a). Selon la jurisprudence, une norme est directement applicable si elle est suffisamment déterminée et claire par son contenu pour constituer le fondement d'une décision concrète. Les dispositions directement applicables doivent être distinguées avant tout des dispositions qui énoncent un programme, savoir celles qui se bornent à esquisser la réglementation d'une matière ou qui laissent à l'Etat contractant une liberté d'appréciation ou de décision considérables ou encore qui ne comportent que des idées directrices, de sorte qu'elles s'adressent non pas aux autorités administratives ou judiciaires, mais bien au législateur national (ATF 120 Ia 11 consid. 5b, ATF 119 V 178 consid. 4b et les références, ATF 106 Ib 187 consid. 3).

c) A la différence des garanties découlant du Pacte international relatif aux droits civils et politiques (RO 1993 750; RS 0.103.2), dont l'applicabilité directe est généralement reconnue, les dispositions du Pacte invoqué par le recourant se bornent à prescrire aux Etats, sous la forme d'idées directrices, des objectifs à atteindre dans les divers domaines considérés. Elles leur laissent la plus grande latitude quant aux moyens à mettre en oeuvre pour réaliser ces objectifs. On doit donc admettre, conformément d'ailleurs à la jurisprudence et à l'opinion de la doctrine, qu'elles ne revêtent pas, sous réserve peut-être de quelques exceptions, le caractère de normes directement applicables (ATF 120 Ia 12 consid. 5c; NOWAK, in: La Suisse et les Pactes des Nations Unies relatifs aux droits de l'homme, 1991, p. 8; MALINVERNI, même ouvrage, p. 54-56; BUERGENTHAL/KISS, La protection internationale des droits de l'homme, Kehl-Strasbourg-Arlington, 1991, p. 30; cf. également le Message du Conseil fédéral du 30 janvier 1991 sur l'adhésion de la Suisse aux deux Pactes internationaux de 1966 relatifs aux droits de l'homme et une modification de la loi fédérale d'organisation judiciaire: FF 1991 I 1141 sv.).

d) Cette différence fondamentale de nature entre les deux Pactes se traduit d'ailleurs sur le plan des mécanismes de contrôle qu'ils instaurent respectivement. Le Pacte relatif aux droits économiques, sociaux et culturels ne prévoit à la charge des Etats parties qu'une obligation de présenter des rapports sur les mesures adoptées et sur les progrès accomplis en vue d'assurer le respect des droits reconnus par le Pacte (art. 16 ss). En revanche, le Pacte relatif aux droits civils et politiques institue une procédure permettant au Comité des droits de l'homme de recevoir et d'examiner des communications émanant d'Etats au sujet de la violation du Pacte par un autre Etat (art. 41); le Protocole facultatif (instrument adopté sous forme de traité séparé, non ratifié par la Suisse) prévoit même la possibilité d'une saisine directe du Comité par les particuliers (NOWAK, loc.cit., p. 18 ss; BUERGENTHAL/KISS, p. 26 ss). Cette différence s'exprime aussi à propos de la mise en oeuvre des droits reconnus. Les Etats signataires du Pacte relatif aux droits civils et économiques s'engagent à respecter sans délai les droits reconnus par cet instrument, ce qui n'est pas le cas pour les droits proclamés dans le Pacte relatif aux droits économiques, sociaux et culturels, qui requiert seulement une mise en oeuvre progressive (cf. ROUILLER, le Pacte international relatif aux droits civils et politiques, RDS 111/1992, I p. 117).

e) Certes, il n'est pas exclu, on l'a vu, que l'une ou l'autre des normes du Pacte relatif aux droits économiques, sociaux et culturels puisse être considérée comme directement applicable, notamment l'art. 8 al. 1 let. a concernant le droit de former des syndicats et de s'affilier au syndicat de son choix (MALINVERNI, loc.cit., p. 56, note 59). Mais tel n'est à l'évidence pas le cas de son art. 9, qui a une portée très générale et qui ne saurait, pour cette raison, fonder concrètement le droit à une prestation d'assurance donnée. Quant à l'art. 2 al. 2, il n'a pas de portée autonome. Comme cela ressort de sa lettre, il formule des garanties - notamment l'absence de toute discrimination fondée sur la nationalité - en liaison seulement avec des obligations programmatiques que les Etats s'engagent à réaliser progressivement. A cet égard, il existe également une différence avec le Pacte relatif aux droits civils et politiques, qui consacre, à son art. 26, un droit indépendant à l'égalité et à une égale protection de la loi (cf. ROUILLER, loc.cit., p. 115 sv.), ce qui a d'ailleurs conduit la Suisse à formuler une réserve pour en réduire le champ d'application et lui ôter toute portée autonome.

f) En conclusion, l'argumentation du recourant, tirée du droit international, n'est pas fondée.