A.- Joseph Wannier, né en 1934, célibataire, est l'aîné d'une famille de sept enfants. Il exploite avec son frère, né en 1935, qui est fort physiquement mais handicapé mentalement, et avec sa mère, âgée de 67 ans, un domaine agricole appartenant à la famille depuis plusieurs générations. Joseph Wannier souffre du dos. En mars 1968, il requit de l'assurance-invalidité des mesures médicales et une rente, qui lui furent refusées par décision du 24 juillet 1969, confirmée le 4 février 1970 par la juridiction cantonale. Le 19 mai 1971, la Caisse de compensation du canton de Berne lui accorda des moyens auxiliaires mais lui refusa une rente. Le 17 juillet 1971, il demanda que son cas fût reconsidéré, parce que son état de santé s'aggravait constamment. A la requête de la Commission cantonale bernoise de l'assurance-invalidité, il fit l'objet d'un examen à la Clinique et policlinique orthopédique de l'Université de Berne. Dans leur rapport du 17 septembre 1971, les docteurs W. et H. diagnostiquèrent des douleurs dorsales chroniques provoquées par une ostéochondrose et une spondylose de la colonne dorsale, par les séquelles d'un Scheuermann dorso-lombaire, par une légère scoliose du haut de la colonne dorsale, ainsi que par une légère spondylarthrose de la colonne lombaire. Ils évaluèrent à 30% l'incapacité fonctionnelle résultant de ces affections. Le 9 juin 1972, l'Office régional de réadaptation professionnelle estima à plus de 50% l'entrave subie par l'assuré, du fait de son infirmité, dans son activité lucrative, y compris la direction du domaine. De son côté, le 9 octobre 1972, le Service de comptabilité agricole de la Direction des finances du canton de Berne parvint à la conclusion que le requérant gagnerait 4215 francs par an, au lieu de 2152 francs, s'il n'était pas infirme; il ajouta qu'au regard de son handicap le requérant était à peine apte à 50% à une activité agricole.

Par décision du 2 avril 1973, la caisse de compensation précitée alloua à l'assuré une demi-rente simple d'invalidité de 235 francs par mois depuis le 1er mars 1972. Cependant, dans un rapport du 14 février 1973, l'Office régional avait constaté que, dans une profession moins pénible que celle de paysan, l'assuré obtiendrait un rendement de plus de 50%, que l'assuré le reconnaissait mais qu'il refusait d'abandonner le domaine familial, parce que sa mère et son frère ne pourraient l'exploiter seuls. Fondée sur l'art. 31 LAI, la caisse supprima alors la demi-rente dès le 31 mai 1973 et le notifia à l'assuré le 9 mai 1973.

B.- Joseph Wannier recourut contre la décision du 2 avril 1973, en concluant à ce que la demi-rente lui fût octroyée depuis le 30 mars 1968, date de sa première demande de prestations, et contre la décision du 9 mai 1973, en concluant au maintien de la demi-rente.

Le 26 octobre 1973, le Tribunal des assurances du canton de Berne rejeta le premier recours, admit le second et retourna le dossier à l'administration afin qu'elle poursuivît l'étude d'une éventuelle réadaptation et que - le cas échéant - elle fit à ce sujet au recourant une proposition concrète, assortie d'une menace de la sanction prévue par l'art. 31 LAI.

C.- Agissant au nom de Joseph Wannier, Me B. a formé en temps utile un recours de droit administratif contre le jugement cantonal... L'Office fédéral des assurances sociales estime que la seule informalité commise par l'administration serait d'avoir supprimé la rente sans sommation préalable.

3. Selon l'art. 17 al. 1 LAI, l'assuré a droit au reclassement dans une nouvelle profession, si son invalidité rend cette mesure nécessaire et que sa capacité de gain puisse ainsi, selon toute vraisemblance, être sauvegardée ou améliorée de manière notable.

Le reclassement est une mesure de réadaptation. A ce titre, il constitue pour l'assuré non seulement un droit mais encore une obligation: l'ayant-droit a le devoir de faciliter les mesures prises en faveur de sa réintégration dans la vie professionnelle (art. 10 al. 2 LAI).

La réadaptation est le premier but de l'assurance-invalidité: ce n'est que lorsque ce but ne peut être atteint que le droit à une rente prend naissance (art. 28 al. 2 LAI et nombreux arrêts du Tribunal fédéral des assurances, par exemple RCC 1972, p. 697). Il n'est possible d'accorder une rente provisoire, en attendant l'exécution d'une mesure de réadaptation, que lorsque l'état de santé de l'assuré ne permet pas encore ladite exécution (RCC 1971, p. 429; 1970, p. 400). Dans l'arrêt RCC 1971, p. 429, le Tribunal fédéral des assurances a même dénié à l'assuré le droit à une telle rente dans l'hypothèse où l'administration tarderait à mettre la réadaptation en oeuvre, ne réservant à un examen ultérieur que les cas de faute manifeste des organes de l'assurance ou de situation particulièrement pénible. Il a laissé indécise la question de l'effet d'une faute de l'administration dans l'arrêt non publié Maulà du 15 juin 1973 - où l'Office fédéral des assurances sociales proposait d'accorder une demi-rente provisoire -, parce que l'assuré avait refusé de se soumettre à une mesure de réadaptation exigible.

Enfin, suivant l'art. 31 al. 1 LAI, si l'assuré se soustrait ou s'oppose à des mesures de réadaptation auxquelles on peut raisonnablement exiger qu'il se soumette et dont il est permis d'attendre une amélioration notable de sa capacité de gain, la rente lui est refusée temporairement ou définitivement. Selon une jurisprudence bien établie, la sanction de l'art. 31 al. 1 LAI n'est applicable qu'à l'assuré auquel l'administration a notifié au préalable une sommation écrite, en l'avertissant des conséquences de sa rénitence et en lui impartissant un délai de réflexion (RO 97 V 173; ATFA 1968, p. 293, 1964, p. 28). Il faut en outre que l'administration ait proposé à l'assuré une mesure concrète de réadaptation (RO 97 V 173).

4. L'administration n'a pas notifié de sommation conforme à la jurisprudence précitée avant de supprimer la demi-rente d'invalidité qu'elle venait d'accorder à Joseph Wannier. Les premiers juges et l'Office fédéral des assurances sociales s'accordent à dire que, pour ce motif, la décision du 9 mai 1973 doit être annulée et la cause, renvoyée aux organes de l'assurance afin qu'ils réparent l'omission critiquée. Cette opinion est, en soi, bien fondée. De plus, le Tribunal des assurances du canton de Berne voudrait, en se référant à la pratique de la Cour de céans, que le recourant soit sommé de se soumettre à une mesure concrète de réadaptation, tandis que l'Office fédéral des assurances sociales estime inutile d'étudier et de déterminer une telle mesure alors que l'intéressé déclare d'ores et déjà ne vouloir quitter ni les travaux de la terre ni le domaine paternel. Le Tribunal fédéral des assurances s'est demandé dans un arrêt non publié Baillif du 28 mai 1970, sans d'ailleurs répondre à la question, si l'administration doit proposer des mesures concrètes de réadaptation, avant d'appliquer l'art. 31 LAI, quand elle sait d'avance que l'assuré les rejettera. La solution dépend des circonstances; lorsqu'il existe certainement une possibilité concrète et convenable de réadaptation et que l'assuré est bien décidé à ne pas en user, il semble effectivement inutile d'organiser dans les détails l'exécution de la mesure. En l'occurrence, la seconde de ces conditions est réalisée: le recourant refuse toute réadaptation. Mais la première ne l'est pas: il n'est nullement certain qu'il existe une possibilité concrète de réadapter avec succès dans une autre profession cet agriculteur de 40 ans, malade du dos, qui dès l'enfance n'a jamais travaillé qu'à la ferme. Le fait qu'il ait admis lui-même qu'il aurait une plus grande capacité de gain s'il exerçait un métier moins pénible ne prouve pas qu'une telle occupation soit vraiment à sa portée. L'exigence exprimée dans le jugement cantonal, que l'administration somme le recourant d'agréer une mesure de réadaptation concrète, est ainsi justifiée.

Mais l'assuré va plus loin; il voudrait que l'assurance-invalidité renonce à toute mesure de réadaptation, ce qui exclurait totalement l'application de l'art. 31 LAI. Cette conclusion ne pourrait être admise que s'il était établi que la profession actuelle de l'infirme est celle qui lui permet de retirer le gain maximum de sa capacité de travail résiduelle. Tel n'est pas le cas dans l'état actuel de l'instruction, que précisément il importe de compléter, afin de déterminer si un changement de profession, et le cas échéant lequel, est apte à réduire le taux de l'invalidité. Le recourant estime ne pouvoir accepter d'abandonner le domaine, parce qu'entre son frère, handicapé mentalement, et lui, handicapé physiquement, ainsi qu'avec le concours de leur mère, ils arrivent tout juste à maintenir l'exploitation, en attendant qu'un neveu ait l'âge de la reprendre. Cependant, il n'est pas nécessaire de décider aujourd'hui si, dans des circonstances pareilles, un reclassement pouvait raisonnablement être exigé de l'assuré: l'administration examinera cette question si elle arrive à la conclusion que des possibilités pratiques de reclassement existent en l'occurrence.

5. Reste à savoir si la caisse de compensation avait le droit, le 2 avril 1973, d'accorder une demi-rente au recourant alors qu'une réadaptation n'était pas exclue, qu'elle était même prévue, mais qu'elle n'avait pas encore fait l'objet d'une instruction. Suivant les arrêts cités au considérant 3 ci-dessus, cela n'était envisageable que si l'administration avait tardé par une faute manifeste à mettre en oeuvre le processus de la réadaptation, ou que la situation financière de l'assuré fût particulièrement pénible. Saisie de la question, la Cour plénière a acquis la conviction que l'octroi d'une rente provisoire dans l'une et l'autre des deux hypothèses susmentionnées est vraiment indiqué; il sied donc de préciser la jurisprudence dans ce sens.