Il faut utilisé les propriétés window.screenX (distance entre la fenetre et le coté gauche de l'écran) et window.screenY (distance entre la fenetre et le haut de l'écran) du javascript 1.2 qui spécifient les coordonnées de la fenetre.
par exemple :
<FORM NAME="myform"><INPUT TYPE="button" NAME="Button1" VALUE="Open Sesame!" onClick="window.open ('sesame.html', 'newWin', 'scrollbars=yes,status=yes,width=300,height=300,screenX=5,screenY=5')"></FORM>

Voila un petit code java qui permet de centrer ta popup
w et h sont la taille de l'ecran (ont pour valeur par default 640*480)

popw et poph sont les dimensions de ta popup

<script language="JavaScript"><!--
var w = 640, h = 480;

if (document.all || document.layers) {
w = screen.availWidth;
h = screen.availHeight;
}

var popW = 300, popH = 200;

var leftPos = (w-popW)/2, topPos = (h-popH)/2;

window.open('page,html','popup','width=' + popW + ',height=' + popH + ',top=' + topPos + ',left=' + leftPos);

//--></script>