[Jan]

¿A qué tamaño estás renderizando?
¿Has probado a generar el mxs, cerrar el max y luego renderizar el mxs desde la linea de comandos?

[jomaga]

El problema esta claramente en el proceso de voxelizacion. Eso quiere decir que la resolucion no influye. El numero de poligonos que podrás renderizar sin la opcion -hd depende de la memoria Ram que tengas.
Para hacerte una idea, mi ordenador tiene 2 Gb de ram y puede con 4,5 millones de poligonos sin hd. Con hd no lo he probado. Si tu escena tiene 11 millones, necesitarás mucho mas que 1 Gb para renderizarla sin hd. De todas formas, espera la la version 1.0, ya que a lo mejor tiene optimizaciones de uso de memoria.