Si con 512 anda bien, problema solucionado.
Es raro, uno piensa en el controlador, la placa, el monitor y la memoria.
Eso a veces me pasaba cuando overclockeaba por demas las memorias (se volvian inestables), por lo que lo relaciono con algun tema de compatibilidad entre ambas o de alguna memoria en si.
Esto no es una respuesta, solo un pensamiento.
Sin embargo en mi viejo equipo tenia 1GB de RAM: 512 de 333 y 512 de 400. Y andaba bien, aunque limitado.
Saludos,
Conto