Möglicherweise können Sie so etwas verwenden (ungetestet):
socat PTY,link=$HOME/.wine/dosdevices/com1,raw,echo=0 PTY,link=$HOME/tmp/dev/myserial,raw,echo=0
Dadurch werden zwei hintereinander abgestimmte PTY's erstellt, die ein wenig übertrieben sind, aber SoCat wird Daten zwischen ihnen kopieren. Das Weinprogramm würde eine Seite des Links als COM1 eröffnen, und Ihr Programm würde $ home/tmp/dev/myserial eröffnen, um mit COM1 zu kommunizieren.