No sepueden utilizar juegos de Windows en DOSBox, inmediatamentete va a saltar el programa diciendo "This program cannot be run in DOS mode".
Hay algunos juegos que si son compatibles tanto con DOS como con Windows 9x (ahora se me ocurre el Fallout, pero hay varios mas). Lo que podes hacer es ver que juegos son y buscar por la web si no hay algún parche o utilidad, sea oficial o no, que dé al juego la posibilidad de correr en SO actuales, por ejemplo como los launchers de Mix 'n' Mojo para el Grim Fandango o los Monkey 3 y 4.
También hay otros métodos conocidos que te pueden servir, como ser deshabilitar la aceleración por hardware de sonido de DirectX, desactivar nucleos de un procesador con dos o más, el ScummVM en caso de que sea uno de lo juegos que soporta este pograma, etc.
De última podes crear una pequeña partición, de 2 GB es suficiente, donde puedas instalar 98.