Wie der Name schon sagt, ist DosBox ein Emulator einer MSDos Umgebung.

Du kannst damit nur solche Spiele spielen, die in MSDos laufen.
Zu Win95/Win98 Zeiten, gab es noch die MSDos Umgebung in die Windows Umgebung integriert. Da ist dann immer ein MSDos Fenster in Windows aufgegangen. Diese Spiele (zB Command and Conquer Alarmstufe Rot) kannst Du in der DosBox spielen.
Wenn Du aber Spiele spielen möchtest die als Betriebssystem Win95/Win98 vorraussetzen, dann kannst Du das mit der DosBox vergessen. Genau dann kommt eine solche Fehlermeldung.
Ggf. kannst Du für solche Spiele einen Patch für Win7 runterladen oder mal versuchen eine Windows95/98 Installation in einer Virtual Machine aufzubauen. Meistens kannst Du diese Spiele dann noch spielen.