Ah, excelente pregunta, para la que intentaré dar una respuesta medianamente informativa (pero necesariamente incompleta).
Cuando eras joven y hacías arte en tu aula de primaria, probablemente te enseñaron que había tres colores primarios, y que eran el rojo, el azul y el amarillo. Puede que hicieras un proyecto en el que te dieran un poco de cada pintura, y luego te pidieran que hicieras naranja mezclando rojo y amarillo, morado mezclando azul y rojo, y verde mezclando azul y amarillo. Puede que incluso hayas intentado hacer negro mezclando todos los colores, pero probablemente sólo hayas conseguido hacer una especie de color marrón turbio.
Pero más tarde puede que hayas tenido una impresora de inyección de tinta. Normalmente tiene tres (o a veces cuatro) tintas, pero misteriosamente no son rojo, azul y amarillo. Son tres colores diferentes: cian, magenta y amarillo (con un negro separado a veces añadido, que se utiliza para hacer negros realmente negros, en lugar de negros confusos). El cian y el amarillo forman el verde, pero el cian y el magenta forman el azul, y el magenta y el amarillo forman el rojo.
La forma en que esto funciona es porque la luz blanca contiene luz de todas las frecuencias diferentes. Cada uno de los tres pigmentos absorbe un conjunto de frecuencias de luz y refleja otras. Cuando se mezclan, las frecuencias absorbidas se "apilan". Understanding Color contiene la siguiente tabla que ilustra cómo funciona.
El uso de cian/magenta/amarillo como "primarios" de color suele denominarse espacio de color CMY (o más comúnmente CMYK si incluyen un canal de negro adicional). El rojo/azul/amarillo con el que creciste es una aproximación burda a esto. Ambas técnicas son lo que se conoce como un sistema de color "sustractivo". Cada pigmento quita parte de la luz que incide en el papel.
Pero si alguna vez ha mirado de cerca un televisor o una pantalla LCD, no verá puntos rojos/azules/amarillos, ni siquiera puntos cian/magenta/amarillos.
Verá algo que se parece más a esto:
Son puntos iluminados de rojo, verde y azul. No están reflejando la luz entrante, están emitiendo luz directamente. Por lo tanto, puedes formar el rojo, el verde y el azul con sólo iluminar uno de los tres puntos. ¿Pero qué ocurre si (digamos) enciendes el punto rojo y el verde? Si miras la tabla anterior en la columna "refleja", verás que si alguna combinación de pigmentos reflejara el rojo y el verde, verías el amarillo. Pero esta superficie no refleja, sino que emite la luz directamente, y el efecto es el mismo. Del mismo modo, si los puntos verdes y azules estuvieran encendidos, verías cian, si el rojo y el azul estuvieran encendidos, verías magenta, y si todos los puntos están encendidos, lo percibirías como blanco.
En otras palabras, los primarios RGB funcionan porque estamos hablando de emitir, en lugar de reflejar la luz. Forman un espacio de color "aditivo".
Y... en realidad el color es aún más complicado que eso. No es nada obvio por qué tres colores elegidos de forma diferente permitirían percibir todo tipo de colores diferentes que, de hecho, pueden estar formados por luz de frecuencias totalmente diferentes. Pero ese es un tema para otro día.