No necesitas Windows 10 para tener un modo picture-in-picture. Necesitas una aplicación. En Windows, puedes descargar Google Chrome para tener esa función. Windows 10 no reproduce vídeos, es la app del reproductor de vídeo que instalas en Windows la que reproduce el vídeo.
Aquí tienes la opción del navegador Google Chrome que tiene esa función de Picture in picture. Sólo tienes que abrir un archivo de vídeo en Google Chrome y luego hacer clic en los tres puntos de abajo para acceder a él.
En VLC, no existe la función Picture-in-picture, pero al menos puedes habilitar un efecto similar siguiendo lo descrito aquí:
Habilitar el modo Picture in Picture en VLC Media Player en Windows - Amit K Khanchandani
Pasos para habilitar el modo Picture in Picture en Vlc Media Player
- Herramientas -> Preferencias -> Vídeo -> marcar "Siempre en la parte superior"
- Herramientas -> Preferencias -> Vídeo -> desmarcar "Decoraciones de la ventana";
- Pulsar Ctrl+H para ocultar los elementos de control de VLC; pulsando Ctrl+H de nuevo se recuperan.
Después de hacer los cambios, reinicia VLC y simplemente cambia el tamaño de tu ventana de vlc y pulsa CTRL+H para ocultar los controles. No es intuitivo pero al menos tiene el efecto similar.