Не знаю точно какая у вас операционная система, поэтому скажу как увеличить на XP. Жмете правой клавишей по значку Мой компьютер - Свойства - вкладка Дополнительно - Быстродействие Параметры - вкладка Дополнительно - Виртуальная память Изменить - посмотрите сколько указано и увеличьте примерно в 2 раза. Если опять будет выскакивать сообщение о нехватке памяти можно подкорректировать еще раз.