Qué determina la resolución máxima de un ordenador?

¿La resolución máxima de un ordenador? No está muy claro a qué te refieres, si especificas te puedo dar una respuesta concreta.

Mientras tanto

Si te refieres a la máxima resolución de pantalla que puede soportar el ordenador
Todo lo que importa es la cantidad de memoria gráfica. Los primeros ordenadores estaban limitados por eso por ejemplo mi primera tarjeta gráfica Tseng ET4000 tenía 512kb de memoria lo que me limitaba a 800x600 a 256 colores o 1024x768 a 16 colores. Desde que las tarjetas gráficas modernas tienen al menos un orden de magnitud más de memoria que eso, se puede obtener una imagen 2D bastante grande. Ahora el límite sería la salida digital de la pantalla tiene una resolución máxima permitida, la salida analógica teóricamente podría ofrecer cualquier resolución (sujeto a los límites físicos), pero como la tecnología analógica la calidad se degrada rápidamente a menos que los componentes de primera categoría se utilizan.

Si te refieres a la resolución máxima que la pantalla puede soportar
Los límites de fabricación. Actualmente la pantalla de mayor resolución que se puede comprar es la 5K de Dell. Podrías superar esto usando varias pantallas. Actualmente el récord es LambdaVision con 17600x6000.