A.

A.a A. est propriétaire des parcelles 8046 et 8052 de la commune de Z. Ces parcelles sont issues de la division-réunion des parcelles 5284 et 5285 de ladite commune, effectuée en 1997 lors du partage de la succession de feu X., le père de A. A cette occasion, les parcelles 5284 et 5285 ont été divisées en quatre, soit les parcelles 8046, 8047, 8048 et 8052. A. s'est vu attribuer la propriété des parcelles 8046 et 8052, alors que la parcelle 8048 (actuellement 8289) a été allouée à sa soeur.

Dans le cadre de l'introduction du registre foncier fédéral, le Service du cadastre de Genève a procédé, dès les années 1920, à de nouvelles mensurations cadastrales. La révision du lot IV - dont faisaient partie les parcelles 5284 et 5285 - a été mise à l'enquête publique du 10 février au 9 mars 1993.

Le 9 février 1993, le Service du cadastre a remis aux propriétaires concernés une copie des fiches provisoires de la nouvelle mensuration cadastrale et les a invités à venir consulter les plans cadastraux, en précisant que la limite de leurs parcelles avec le domaine public "lac" avait été fixée conformément aux dispositions de la loi cantonale du 24 juin 1961 sur le domaine public (LDP/GE; RSG L 1 05), dont l'art. 6 précise que le lac est délimité par le niveau des hautes eaux moyennes. Une diminution de superficie pouvait en résulter, le terrain perdu passant au domaine public "lac" en application de l'art. 8 de la loi précitée.

A.b Par courrier du 7 mars 1993, l'hoirie de feu X. a informé le Service du cadastre qu'elle s'opposait à la nouvelle délimitation des parcelles 5284 et 5285 de la commune de Z. avec le domaine public "lac", au motif qu'il en résultait une diminution de la contenance de celles-ci d'environ 600 m², ce qui constituait une forme d'expropriation.

Une enquête publique complémentaire a eu lieu du 9 janvier au 9 février 1995 concernant la délimitation des parcelles du lot IV avec le domaine public "lac".

Les 8 et 10 février 1995, l'hoirie X. a réitéré son opposition à la nouvelle délimitation de ses parcelles côté lac, faisant valoir que la contenance de la parcelle 5284, fixée à 4760 m², avait diminué de 217 m² par rapport à celle figurant sur l'ancien plan cadastral (dit plan Dufour), tandis que la contenance de la parcelle 5285 passait de 4343 m² à 3965 m², soit une diminution de 378 m².

Par décision du 6 février 2003, la Direction cantonale de la mensuration officielle (DCMO; anciennement: Service du cadastre) a confirmé que la limite des parcelles 8046 et 8052 de la commune de Z. était celle résultant de l'application du droit public, faute pour A. d'avoir établi l'existence de droits réels valablement constitués avant l'entrée en vigueur de la loi sur le domaine public du 24 juin 1961.

Par arrêté du 12 février 2003, le Conseil d'Etat a approuvé la mensuration cadastrale du lot IV de la commune de Z. constatant la nouvelle délimitation des parcelles avec le domaine public "lac" et dit que les tableaux de mutation concernés étaient réalisés. Il a également déclaré définitive la mensuration officielle de ce lot et a fixé son entrée en vigueur au 15 février 2003.

A.c Par assignation déposée en vue de conciliation le 8 avril 2003 au greffe du Tribunal de première instance, A. a formé une demande à l'encontre de l'Etat de Genève, en prenant les conclusions suivantes:

"Principalement

Dire et constater que, dans sa totalité, y compris les portions actuellement immergées, les parcelles n° 8046 et 8052 de la commune de Z. relèvent du domaine privé selon le plan cadastral dit Dufour et font par là l'objet d'un droit de propriété privée.

Dire et constater que le droit de propriété précité a été réservé, au titre de droit valablement constitué et, par là, maintenu lors de l'entrée en vigueur de la loi genevoise sur le domaine public du 24 juin 1961.

Faire en conséquence interdiction à l'Etat d'usurper la propriété des portions immergées ou non, des parcelles n° 8046 et 8052 de la commune de Z., pour les rattacher sans droit au domaine public.

Enjoindre à l'Etat de corriger s'il y a lieu les plans cadastraux et de réinscrire les limites cadastrales correspondantes au plan dit Dufour.

Subsidiairement

Dire et constater que tout transfert de terrain du domaine privé au domaine public s'analyserait, s'il était par impossible admis, comme une expropriation illégale.

Réserver le droit de la demanderesse de réclamer une indemnité."

Au cours de la procédure, A. a produit la copie d'un acte authentique du 6 juillet 1892, portant sur la vente par la commune de Z. à une société en nom collectif d'" un terrain d'une superficie de 1582 m ² , à prendre au levant de la parcelle 2773, feuille 5 du cadastre de la commune de Z., de la contenance totale de 2 hectares, 6 ares, 7 mètres, 60 décimètres ". Le terrain vendu, sis au lieu-dit "L.", comprenait, en un plan de division dressé le 3 mars 1892, les sous-parcelles 2773B, 2773C et 2773D. L'acte stipulait que " les acquéreurs (...) prendr[aient] le terrain vendu en son état actuel, sans pouvoir réclamer aucune indemnité ni diminution de prix à raison de l'envahissement d'une partie de ce terrain par les eaux du lac ".

B. Par jugement du 21 avril 2005, le Tribunal de première instance a débouté la demanderesse de toutes ses conclusions. Cette autorité a jugé que la seule vente d'une parcelle partiellement immergée considérée comme objet de propriété privée de la commune ne suffisait pas pour admettre l'existence de droits réels valablement constitués sur la partie immergée de ladite parcelle. Ainsi, la demanderesse ne pouvait se prévaloir de la réserve prévue à l'art. 4 al. 2 LDP/GE.

La Cour de justice du canton de Genève a, par arrêt du 18 novembre 2005, annulé le jugement de première instance, constaté que A. est au bénéfice d'un droit réel valablement constitué avant l'entrée en vigueur de la LDP/GE sur les parcelles 8046 et 8052 de la commune de Z., telles qu'elles figurent sur le plan cadastral dit Dufour, et débouté les parties de toutes autres conclusions.

Statuant le 26 avril 2007, le Tribunal fédéral a admis le recours de droit public formé par l'Etat de Genève et annulé l'arrêt du 18 novembre 2005.

3. Le recourant se plaint en substance d'une application arbitraire de l'art. 4 al. 2 LDP/GE. Il reproche à la Cour de justice d'avoir admis que l'intimée était au bénéfice de droits réels valablement constitués en raison de la vente précitée du 6 juillet 1892. Selon lui, la mise en oeuvre de l'art. 4 al. 2 LDP/GE présuppose qu'une acquisition ait porté sur une parcelle relevant exclusivement du domaine public cantonal; or tel n'était pas le cas de la vente en question, qui concernait une parcelle ressortissant dans sa totalité au domaine privé de la commune. Cette parcelle restait donc soumise à toutes les dispositions légales, présentes et futures, régissant ses limites par rapport au domaine public "lac". L'autorité cantonale aurait dès lors aussi violé l'art. 6 LDP/GE, qui prévoit que le lac est délimité par le niveau des hautes eaux moyennes, et l'art. 9 LDP/ GE, selon lequel l'état de fait - soit notamment le niveau effectif des hautes eaux moyennes - prime les indications cadastrales. Le recourant soulève en outre à cet égard l'arbitraire dans l'appréciation des preuves et la violation de l'art. 26 Cst.

3.1 Une décision est arbitraire lorsqu'elle viole gravement une norme ou un principe juridique clair et indiscuté, ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice et de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs ou en violation d'un droit certain. Il ne suffit pas que la motivation de la décision critiquée soit insoutenable; encore faut-il que celle-ci se révèle arbitraire dans son résultat. En outre, il n'y a pas arbitraire du seul fait qu'une autre solution que celle adoptée par l'autorité intimée serait concevable, voire préférable (ATF 132 III 209 consid. 2.1 p. 211; ATF 131 I 57 consid. 2 p. 61, ATF 129 I 217 consid. 2.1 p. 219; ATF 129 I 8 consid. 2.1 p. 9, ATF 129 I 173 consid. 3.1 p. 178 et les arrêts cités).

3.2 Selon l'art. 664 CC, les choses sans maître et les biens du domaine public sont soumis à la haute police de l'Etat sur le territoire duquel ils se trouvent (al. 1); sauf preuve contraire, les eaux publiques, notamment, ne rentrent pas dans le domaine privé (al. 2). De même, l'art. 1^er let. b LDP/GE prévoit que le lac appartient au domaine public cantonal, et l'art. 4 al. 1 LDP/GE qu'aucun droit réel ne peut être constitué sur le domaine public sans l'accord du Grand Conseil. Demeurent toutefois réservés les droits valablement constitués avant l'entrée en vigueur de cette loi, le 4 août 1961 (art. 4 al. 2 LDP/GE). La souveraineté des cantons sur les biens du domaine public est en effet limitée par les droits acquis, protégés par la garantie constitutionnelle de la propriété ancrée à l'art. 26 Cst. (art. 664 al. 2 CC; art. 4 al. 2 LDP/GE; MEIER-HAYOZ, Commentaire bernois, n. 118 ad art. 664 CC). Par ailleurs, selon l'art. 6 LDP/GE, le lac est délimité par le niveau des hautes eaux moyennes, ce qui signifie qu'à partir de la ligne marquée par les hautes eaux des crues ordinaires vers le lac, il ne subsiste en principe aucun droit d'exploitation, respectivement de propriété pour les particuliers. La description de la délimitation entre les rives publiques et les biens-fonds soumis à la propriété privée des propriétaires limitrophes, telle qu'elle est opérée par la LDP/GE, apparaît conforme à la jurisprudence et à la doctrine (ATF 123 III 454 consid. 5a p. 458; ATF 113 II 236 consid. 4 p. 238 s.; ATF 93 II 170 consid. 7a p. 177; HAAB et autres, Commentaire zurichois, n. 2 ad art. 659 CC; MEYER-HAYOZ, op. cit., n. 6 ad art. 659 CC).

3.3 Il résulte du dossier que, par acte authentique du 6 juillet 1892, la commune de Z. a vendu à une société en nom collectif, sur la base du plan Dufour, respectivement de la limite des eaux publiques tracée à l'époque - apparemment déjà selon le critère des hautes eaux moyennes - un terrain d'une superficie de 1582 m², correspondant aux parcelles n^os 8046, 8052 et 8048 (actuellement 8289). Un droit valablement constitué antérieurement à l'entrée en vigueur de la LDP/GE, au sens de l'art. 4 al. 2 de cette loi, ne peut cependant être admis que si le canton, en tant que propriétaire détenteur de la puissance publique, a accordé un tel droit sur les mètres carrés immergés. Le droit que le détenteur de la puissance publique a concédé et qui, en vertu du principe de la bonne foi, s'est condensé en un droit de propriété, ne peut être retiré sans indemnité d'expropriation.

Or, la commune a vendu, comme un particulier, le bien-fonds, dont une bande était immergée, à un tiers. Il n'est pas allégué qu'à l'époque (1892), ladite commune aurait eu des droits de souveraineté sur les eaux et qu'elle aurait constitué un droit sur celles-ci. Le fait qu'elle ait vendu, à l'instar d'une personne privée, du terrain provenant de son patrimoine financier ne suffit pas pour admettre l'octroi d'un droit (acquis) par le canton. Certes, on peut se demander si l'approbation de la vente par le Conseil d'Etat du canton de Genève, le 22 mars 1892, pourrait éventuellement constituer l'octroi d'un tel droit. C'est ce que retient la décision attaquée: l'Etat ne pourrait aujourd'hui prétendre que seule la partie émergée constituait l'objet de la vente, sous peine d'adopter un comportement contradictoire ("venire contra factum proprium"; cf. ATF 125 III 257 consid. 2a p. 259; ATF 123 III 70 consid. 3c p. 75, ATF 123 III 220 consid. 4d p. 228), lequel constituerait un abus de droit (art. 2 al. 2 CC). Mais ce n'est pas le cas. Selon la jurisprudence, l'ordre juridique ne protège pas l'attitude contradictoire lorsque le comportement antérieur d'une partie a inspiré chez l'autre partie une confiance légitime qui l'a déterminée à des actes qui se révèlent préjudiciables une fois que la situation a changé (ATF 115 II 331 consid. 4a p. 338; ATF 110 II 494 consid. 4 p. 498; ATF 106 II 320 consid. 3a p. 323). Or une telle occurrence n'est pas réalisée ici. L'intimée ne le prétend du reste pas. La procédure d'approbation en question était de nature formelle. Elle signifiait simplement que, du point de vue du canton, agissant en qualité d'autorité de surveillance de la commune, rien ne s'opposait à la vente de ce terrain bordant le lac et que cette transaction pouvait être effectuée. Aucun élément du dossier ne permet de dire que cette approbation officielle devrait être interprétée comme une fixation de la limite entre le domaine public "lac" et le bien-fonds riverain, au sens d'une garantie définitive et inspirant une confiance légitime, confiance qui permettrait de l'emporter sur le tracé général selon l'art. 6 LDP/GE.

La Cour de justice est dès lors tombée dans l'arbitraire en considérant que l'intimée avait établi, du seul fait de la vente du 6 juillet 1892, l'existence de droits réels sur la partie actuellement immergée de sa parcelle. En admettant de manière insoutenable que l'intimée pouvait se prévaloir de droits réels valablement constitués, avant l'entrée en vigueur de la LDP/GE, sur la partie immergée de sa parcelle, les juges cantonaux ont donc aussi fait preuve d'arbitraire dans l'application du droit cantonal, en particulier des art. 4 al. 2 et 9 LDP/GE.