Vous passez par un éditeur ou c'est de l'auto-édition?
Si c'est un éditeur il faut lui poser directement toutes ces questions.
Ce qu'il faut savoir avant de commencer, c'est le format et la taille du livre qui sera édité (si le livre rentre dans une collection particulière par exemple, il faudra respecter un certain "cahier des charges" ).
Le format et la définition va en dépendre.
La plupart du temps l'illustrateur ne se préoccupe que des illustrations qu'il fournit à l'éditeur puis le maquettiste se chargera de l'intégration du texte.
Mais en illustration heureusement qu'il ne faut pas se limiter au vectoriel, les rayons des libraires seraient bien tristes... vecto, photo, photoshop, papier, illustrations en volumes photographié... tout est permis.