Вы можете использовать что -то подобное (непроверенное):
socat PTY,link=$HOME/.wine/dosdevices/com1,raw,echo=0 PTY,link=$HOME/tmp/dev/myserial,raw,echo=0
Это создаст два пта, которые немного излишни, но SOCAT копирует данные между ними. Программа Wine откроет одну сторону ссылки в качестве COM1, а ваша программа откроет $ Home/TMP/DEV/MISERIAL для общения с COM1.