Voy a ampliar un poco (mucho aparentemente) la respuesta de Chris Verkruissen. Los BSD son una gran tecnología y son una tonelada de diversión para jugar. PERO: La gran tecnología ha invertido millones y millones y millones de dólares en Linux y Android. Cualquier alternativa va a venir con un caveat emptor: su kilometraje puede variar.
Para responder a su pregunta, usted necesita responder a esto primero: ¿Cuál es tu caso de uso? No intento disuadir a nadie, sólo quiero dar algo de contexto. He pasado mucho tiempo hackeando cosas que no son de Linux y aunque es divertido, si tienes un proyecto específico que estás tratando de lograr, es posible que quieras considerar cuidadosamente antes de gastar mucho tiempo en estas alternativas.
¿Estás buscando alimentar una tableta?
Las tabletas y otros dispositivos tienen hardware propietario y cada "placa" es diferente. Encontrar una alternativa a Android será muy, muy difícil. Esto es más o menos por diseño de la industria. Mantiene a la competencia fuera y permite a los grandes jugadores controlar la plataforma (por ejemplo, el Android corporativo). Usar un fork de AOSP que no sea de Google (ver más abajo) podría funcionar, pero tendrías que extraer blobs binarios y otras cosas muy técnicas que podrían no convenirte.
¿O acaso quieres trastear con una placa de desarrollo basada en Arm?
Tomemos como ejemplo FreeBSD. Aunque tienen *algo* de soporte para Arm, es una plataforma de segundo nivel. De las placas soportadas, muchas carecen de drivers. La última vez que lo comprobé no había ningún controlador SDIO para los chips WIFI, así que incluso en una RPi 3 (la placa mejor soportada) necesitarás un dongle WIFI USB externo.
NetBSD podría tener mejor soporte de hardware, pero tiene una comunidad más pequeña y encontrarás otras advertencias.
Dicho esto, si quieres montar una placa de desarrollo Arm, aprender a construir kernels y software de bajo nivel, entonces cualquiera de los *BSDs es una buena alternativa a Linux y Android. Sé bastante sobre C/Make/drivers/árboles de dispositivos/etc. porque he estado hackeando las características de bajo nivel del SO (a veces por necesidad, no sólo por deseo).
Si te gusta el sonido de hackear algo y tal vez contribuir con el código del kernel o de los drivers, entonces te sugiero que te metas en las listas de correo de los BSD que quieras probar. Yo estoy en la lista de correo de FreeBSD Arm. Suelen ser muy útiles. *Recomiendo encarecidamente esta ruta si quieres aprender sobre el desarrollo del kernel y los controladores*.
Los proyectos BSD siempre están buscando nuevos desarrolladores y puedes aprovechar la comunidad más pequeña y meterte de lleno en el código. Contribuir a la línea principal de Linux ya no es algo que vayas a hacer (las grandes tecnológicas lo tienen todo cerrado), pero los BSD están encantados de que vengas y participes.
¿Estás intentando potenciar un teléfono?
Hay algunas alternativas para teléfonos, como SailFish OS, pero Sailfish es más o menos Linux, y sólo soporta unos pocos teléfonos. Hay un binario soportado que se puede comprar, pero sólo en Europa.
Hay alternativas no Google a "GOOGLE+Android", como LineageOS, AOKP y demás. Todos ellos son técnicamente de la base de android llamada AOSP (Android Open Source Project) pero no contienen el spyware de Google; aunque se puede añadir como un blob propietario. Pero esos proyectos no cumplen con tu criterio de "No es Android".
No conozco ningún proyecto de teléfonos BSD más que el que siempre quise iniciar. En cambio, decidí tener hijos. 🙂
¿O quieres ejecutar un servidor plex en tu red privada?
Yo tenía un servidor Plex ejecutando FreeBSD en un Solid-Run Hummingboard (Arm). Utilicé un cable de red físico por lo que el problema del wifi señalado anteriormente no me afectó. Me lo pasé muy bien configurando FreeBSD y aprendiendo sobre redes TCP/IP de bajo nivel. Hay muchas posibilidades en los BSD, pero puede que no sea una ruta tan directa como instalar Ambian (en Arm), o Ubuntu (en x86) o lo que sea. ¿Cuál es tu objetivo/caso de uso?
¿O sólo quieres hackear en una VM o en algún viejo hardware Intel x86/x64?
Cualquier BSD será una buena opción para x86. Hay mucho soporte allí. He usado BSDs para mi sistema operativo primario en el pasado y he tenido algo de éxito. El soporte de escritorio/portátil en *BSD puede ser un éxito o un fracaso y rara vez vienen con un entorno de escritorio configurado, por lo que tendrá que ensuciarse las manos. Una vez configurados, se ejecutan de forma muy parecida a Linux. Una variante de FreeBSD viene con un escritorio: GhostBSD (FreeBSD + Gnome/Mate). Funciona bien en hardware de metal desnudo, pero hay problemas con el ratón cuando se ejecuta en una VM de VirtualBox. El problema del ratón era molesto, pero la mayoría de las veces lo solucioné. Sin embargo, no tengo esos problemas al ejecutar Ubuntu + Mate en una VM.
Si está buscando ejecutar un viejo PC como servidor, entonces OpenBSD, DragonFly, FreeBSD y NetBSD son todos una buena opción (sin ningún orden en particular). Como ejemplo, tengo un servidor AMD de 32 núcleos que conseguí barato porque no tenía el último soporte de virtualización. En lugar de virtualizarlo, utilizo FreeBSD Jails, que es algo parecido a una imagen chroot o docker. Ahora tengo un servidor de treinta y dos núcleos con 72 GB de Ram por 700 dólares. Usando mi servidor puedo construir kernels en 5 minutos, construir compiladores en 15 minutos y construir un sistema operativo completo en unos 40 minutos. Genial!
Otros SOs hackeables
Minix 3 - Minix 3 es muy bueno. Es una arquitectura de micronúcleo. Creo que tenían soporte para beaglebone black (eso fue hace bastante tiempo que lo comprobé). Lo corrí en una VM x86.
RTEMS - RTEMS es un ejecutivo en tiempo real. No es un SO de la misma manera que lo es Linux porque sólo hay un ejecutable binario y todo está enlazado en él. PERO, si estás soñando con crear tu propio satélite, o sistema de guía de misiles, RTEMS es una buena opción (No es broma, fue originalmente diseñado para misiles y ha sido utilizado en un número de satélites).
OpenIndiana - Hubo alguna discusión sobre Solaris en los comentarios de la respuesta de Chris. Hay un fork de Solaris (pre-Oracle) llamado IllumOS y tiene una comunidad de código abierto llamada OpenIndiana.
Conclusión
Me encanta hackear FreeBSD pero me he vuelto un poco más práctico a la hora de elegir mi SO para trabajos de hobby.
Por ejemplo, quiero tener un servidor web corriendo en una placa de desarrollo Arm para poder actualizar mi servidor FreeBSD y construir un nuevo ZFS zpool. He puesto Armbian (Linux) en mi Hummingboard para montar un servidor web porque quiero que funcione el WiFi y el SSD. La última vez que lo intenté con FreeBSD, la configuración de ese SSD en Arm tardó semanas y alguien tuvo que hacer un commit del kernel para que funcionara. Como mi caso de uso para este proyecto era "servidor web alternativo para poder arreglar mi servidor real", elegí el menor esfuerzo, que era Linux.