¿Funciona un ordenador sin tarjeta gráfica? Por qué sí o por qué no?

Sí.

En general, un ordenador no necesita una tarjeta gráfica para funcionar, sólo necesita una tarjeta gráfica para que puedas interactuar con él directamente desde el dispositivo.
Un router moderno puede ser clasificado ciertamente como un ordenador y no tiene una tarjeta gráfica. Muchos servidores y dispositivos embebidos funcionan sin cabeza (sin monitor conectado a ellos) y si pudieras configurar todo en el servidor desde otro ordenador y simplemente poner la unidad, entonces podrían funcionar perfectamente sin una tarjeta gráfica.

Ahora sospecho que esto no es exactamente lo que tienes en mente.
Para poder mostrar una salida necesitas algún tipo de tarjeta gráfica. Seguro que puedes usar un software de escritorio remoto, pero no puedes configurarlo (o instalar el sistema operativo) inicialmente sin una pantalla y una tarjeta gráfica para ver las cosas.
Ahora, con eso dicho, también tienes que ser consciente y hacer una distinción muy importante. Hay tarjetas gráficas dedicadas y tarjetas gráficas integradas. Los gráficos integrados están incorporados en el chip gráfico. La mayoría de los procesadores Intel y la mayoría de los chips AMD de gama baja tienen chips gráficos integrados. Así que dependiendo de la CPU que tenga tu ordenador, puede que ya tenga el chip gráfico integrado y por lo tanto no necesite una tarjeta dedicada para visualizar.