Problemet låter konstigt, men låter inte som att varken RAM allokering eller CPU allokering till specifik process kommer att lösa ditt problem.
RAM allokering sker generellt sätt som först till kvarn, och går inte att prioritera då det är upp till programmet som körs att släppa RAMminne och inte till OSet att ge eller ta tillbaka det.
CPU går att prioritera via taskmanager men där igenom enbart fram tills programmet stängs igen.
Nu är jag inte helt säker på hur bootcamp på en Mac fungerar, men hade det varit samma situation på en PC som kör windows hade jag kollat på om drivrutinerna är korrekta.
Har du installerat bootcamp stödmjukvaran?
https://support.apple.com/sv-se/HT204923