Avant d'utiliser le RegSetValue(), il faut d'abord créer une clé avec RegCreateKey(), et ensuite tu passes le Handle de ta clé comme paramètre à RegSetValue.
Voilà un exemple :
HKEY hKey;
RegCreateKeyEx(
HKEY_CURRENT_USER, // handle to an open key
"Software\\MonProg", // address of subkey name
0, // reserved
NULL, // address of class string
REG_OPTION_NON_VOLATILE,// special options flag
KEY_ALL_ACCESS, // desired security access
NULL, // address of key security structure
&hKey, // address of buffer for opened handle
NULL); // address of disposition value buffer
RegSetValue(hKey, "Setup", REG_SZ, "Setup.exe", 255);
Je pense que ça devrait t'aider un minimum