Vous l'avez dit vous-même, cela se produit parce que le programme compilé est toujours en cours d'exécution.
Dans Windows, vous ne pouvez pas apporter de modifications au fichier EXE d'un programme lorsqu'il s'exécute.
C'est incroyablement ennuyeux, et l'une de ces choses qui (pour moi) rendent les fenêtres un peu moins confortables que par exemple Linux pour le développement.