Para arrancar desde el USB necesitas hacer que tu placa base compruebe esa unidad antes de que compruebe la unidad interna para el software de arranque. Cada fabricante de placas base tiende a tener diferentes maneras de lograr esto, pero por lo general es alguna tecla que se presiona durante el proceso de arranque (Del / F2 / F8 / F10 / etc.) - usted tendría que comprobar con la documentación de su fabricante en particular si no muestra algún mensaje en la pantalla durante el arranque.
Asegúrese de que el USB es, de hecho, de arranque. El simple hecho de copiar archivos en él no lo hace. En algunos casos, incluso "quemar" un archivo ISO en él no lo hace tampoco. Necesita un software específico en un punto concreto al principio, que debería cargar el resto de los programas que contiene. Por eso debes usar una herramienta de creación de arranque cuando hagas estos USBs. Es posible que pueda ajustar la configuración a través de algo como GParted.
Una vez que tenga el USB como realmente de arranque, conéctelo y reinicie su máquina. Cambia el orden de arranque o selecciona manualmente la unidad para arrancar. Por el método de selección que descubriste en el primer párrafo. El proceso de instalación debería comenzar.
Ahora viene la parte "divertida"... ¿desea mantener Linux junto a Windows? Por defecto Windows va a sobrescribirlo. Necesitarías un área en blanco en la unidad interna para Windows si quieres que Linux permanezca, si no, puedes hacer que Windows tome el control por completo. Si sustituye a Linux, debería haber terminado - Windows debería arrancar ahora si retira el USB y reinicia.
Si quiere un arranque dual: Aunque tuvieras la zona en blanco (por ejemplo, has reducido la partición de Linux con un LiveCD) Windows no la establece automáticamente como una de sus opciones de arranque. Para conseguir que funcione de esa manera tendrías que editar el menú de arranque de Windows o reparar-instalar el gestor de arranque de Linux por defecto (normalmente grub). Hay varias maneras de hacer esto - haga una búsqueda en la web sobre "reparar grub" o "arranque dual de Linux después de la instalación de Windows".