Bonjour,
Tout d'abord, attention : -Xmx ... est une option de la commande java (qui lance l'exécution de ton appli) et non de javac qui compile ton code.
-Xms permet de régler la "quantité" de mémoire avec laquelle ta jvm est démarrée.
-Xmx permet de régler jusqu'à quel point la jvm peut s'étendre si elle n'a pas assez de mémoire.
Donc si tu es sûr d'avoir besoin de 512M, initialise la jvm avec -Xms à 512M aussi, ce sera (un peu) mieux que de forcer la jvm à demander de la mémoire au fur et à mesure. Si tu ne sais pas, force juste le max.
Cette parenthèse fermée, pour forcer ces options d'exécution sous eclipse, comme il s'agit d'options de compilation, clique sur le triangle contre les icones de la barre (en haut) run... (ou debug...) . Dans l'écran de config, va dans le second onglet "(x)= arguments" et tape tes options, comme -Xmx512M, dans le cadre program argument, cad celui du haut. Attention, pas celui du bas sinon erreur au lancement :-)
Note que ça, c'est pour les exécutions depuis eclipse. Quand tu lancera ton programme sans eclipse, quand tu l'aura terminé, il faudra passer ces options à la comande java qui lancera ton projet...