A.- Fiore De Cicco, de nationalité italienne, domicilié à Neuchâtel, marié, père de trois enfants mineurs, réside en Suisse depuis 1962. Le 6 mars 1975, il fut victime d'un accident. La Caisse nationale suisse d'assurance en cas d'accidents lui alloua une rente fondée sur une invalidité de 40%. Depuis le 1er avril 1978, Fiore De Cicco est au bénéfice d'une demi-rente de l'assurance-invalidité. Dans sa décision du 24 octobre 1978, la Caisse cantonale neuchâteloise de compensation précisait que "cette rente était accordée sous réserve des limites de revenu, tout changement de la situation économique de l'ayant droit devant être annoncé immédiatement à la caisse".

Envisageant de retourner dans son pays avec sa famille, Fiore De Cicco, par téléphone du 13 novembre 1978, demanda à la Caisse cantonale neuchâteloise de compensation si sa rente continuerait à lui être payée en Italie. L'employé qui lui répondit affirma que tel serait le cas. Par lettre du même jour adressée à la caisse, l'assuré, se référant à l'entretien susmentionné, confirma son départ prochain et définitif pour l'Italie et indiqua l'adresse à laquelle ladite prestation devait lui être versée. Le 15 novembre 1978, la caisse neuchâteloise transmit le dossier à la Caisse suisse de compensation, avec une lettre d'accompagnement où elle relevait que Fiore De Cicco avait été reconnu invalide à 40% seulement et qu'il s'agissait d'un "cas pénible".

Le 21 novembre 1978, la Caisse suisse de compensation écrivit à l'intéressé qu'elle était désormais compétente pour lui payer la rente. Par décision du 10 janvier 1979, elle l'informa que sa prestation était supprimée à partir du 1er décembre 1978, parce qu'il n'était plus domicilié en Suisse. Placé devant cette situation, l'assuré et sa famille rentrèrent en Suisse et s'installèrent à Neuchâtel le 7 mai 1979. La demi-rente pour cas pénible fut rétablie dès le 1er mai 1979.

Fiore De Cicco se mit en relation avec la Caisse cantonale neuchâteloise de compensation. Il lui exposa qu'elle avait par sa faute causé le double déménagement et l'interruption de la rente et lui demanda de verser les mensualités de décembre 1978 à avril 1979 à titre de dédommagement, ce qu'elle refusa par décision du 9 juillet 1979. Au cours de ses démarches, Fiore De Cicco avait adressé le 24 avril 1979 à la Commission cantonale neuchâteloise de recours une lettre qui fut interprétée comme un recours tardif contre la décision de rente du 24 octobre 1978, d'une part, et comme une requête sur un sujet n'ayant pas fait l'objet d'une décision administrative, d'autre part, et déclarée irrecevable à ce double titre, le 30 mai 1979.

B.- Le 27 juillet 1979, Fiore De Cicco recourut contre la décision du 9 juillet 1979, en concluant à ce que l'assurance-invalidité fût astreinte soit à lui payer pour cinq mois une demi-rente exceptionnelle pour cas pénible, bien qu'à l'époque il n'eût pas son domicile en Suisse, soit à transformer rétroactivement la demi-rente pour cas pénible en demi-rente normale.

La caisse intimée reconnut qu'elle aurait dû préciser dans sa décision du 24 octobre 1978 que la demi-rente était due à la condition que le bénéficiaire restât domicilié en Suisse. Mais, dit-elle, cela n'enlevait pas le caractère impératif de l'art. 8 let. e de la convention italo-suisse. Elle conclut au rejet du recours.

La Commission cantonale neuchâteloise de recours se rallia au point de vue de l'administration. Elle débouta le recourant le 14 mars 1980.

C.- Fiore De Cicco a formé un recours de droit administratif contre le jugement cantonal. Il demande au Tribunal fédéral des assurances de constater que la décision de rente du 24 octobre 1978 était incomplète et, partant, contraire à la loi, de manière qu'il puisse rendre la caisse de compensation civilement responsable du dommage qu'elle a causé et obtenir le remboursement de ses frais de double déménagement, la réparation de la perte de rente et l'indemnisation de ses autres frais.

La caisse de compensation déclare n'avoir rien à ajouter à ses explications précédentes. Dans sa réponse, l'Office fédéral des assurances sociales propose de rejeter le recours.

1. Le recours formé le 27 juillet 1979 contre la décision du 9 juillet 1979, relative à la suppression de la demi-rente pour cas pénible, tendait soit à la suppression de l'interruption de la demi-rente, soit à sa transformation de prestation pour cas pénible en prestation normale. Le second terme de l'alternative tendait à modifier sur le fond la décision du 24 octobre 1978, qui n'était irrégulière qu'en la forme et contre laquelle un recours avait été déclaré irrecevable par un arrêt passé en force du 30 mai 1979. C'est à juste titre que le premier juge a rejeté cette conclusion-là et que l'assuré ne l'a pas renouvelée dans son recours de droit administratif. Avec beaucoup de bonne volonté, on peut admettre que le recourant a manifesté dans l'instance fédérale le désir de recevoir une demi-rente pour la période de décembre 1978 à avril 1979. Cette conclusion-là est recevable en vertu de l'art. 69 LAI. Quant aux autres conclusions prises dans le recours de droit administratif relatives à une action en dommages-intérêts, en raison de dépenses telles que des frais de déménagement, elles concernent une matière qui ne relève pas de l'assurance-sociale mais de la responsabilité des caisses de compensation et de leurs agents. Elles sont, par conséquent, irrecevables devant le Tribunal fédéral des assurances (art. 128 et 130 OJ). La législation sociale applicable en l'espèce ne règle que la réparation des dommages causés à l'institution (art. 66 LAI, art. 52 et 70 LAVS), non la réparation des dommages causés aux assurés ou aux tiers.

2. Le principe de la bonne foi régit les rapports entre administration et administrés. C'est ainsi qu'un renseignement ou une décision erronés peuvent obliger l'administration à consentir à un administré un avantage contraire à la loi, si les conditions suivantes sont réunies:

a) que l'autorité soit intervenue dans une situation concrète à l'égard de personnes déterminées;

b) qu'elle ait agi ou soit censée avoir agi dans les limites de sa compétence;

c) que l'administré n'ait pu se rendre compte immédiatement de l'inexactitude du renseignement obtenu;

d) qu'il se soit fondé sur celui-ci pour prendre des dispositions qu'il ne saurait modifier sans subir un préjudice;

e) que la loi n'ait pas changé depuis le moment où le renseignement a été donné (ATF 106 V 143).

3. Le recourant Fiore De Cicco remplit les cinq conditions énumérées sous ch. 2 let. a-e ci-dessus. S'agissant de la troisième d'entre elles (let. c), le motif dont se prévaut l'Office fédéral des assurances sociales pour mettre en doute la bonne foi du recourant n'est pas convaincant. Quant à la quatrième (let. d), il faut relever que le lésé a été amené, par le renseignement faux qu'il a obtenu de l'autorité compétente, à quitter la Suisse pour l'Italie, ce qu'il n'aurait pas fait s'il avait su qu'un tel transfert de domicile entraînerait la suppression de sa demi-rente de l'assurance-invalidité et des quatre demi-rentes complémentaires. La preuve qu'il ne serait pas parti, c'est qu'il est revenu en Suisse afin de recevoir de nouveau les prestations en cause. Son retour date du 7 mai 1979, alors qu'il a appris vers le milieu de janvier que la rente était supprimée. Il a donc mis fin dans un délai convenable à sa situation irrégulière, si l'on songe à la difficulté d'en comprendre la gravité puis de déplacer une famille de cinq personnes.