Aquí's una cosa que puedes probar y podría ayudarte:
- Ir al menú de inicio
- Buscar y abrir la carpeta de inicio
- Borrar el acceso directo al navegador
- También puede haber una configuración en las opciones del navegador'
También puedes mirar las aplicaciones instaladas en el ordenador. Puede que haya una aplicación que cargue algo del navegador al iniciar. Si ves este tipo de aplicación, prueba a borrarla y ver qué pasa.
EDIT: Probablemente estés usando Chrome ya que es uno de los temas de esta pregunta. En ese caso, concretamente, ve a la barra de direcciones y escribe "chrome://settings/" y pulsa enter. Baja en la página de configuración hasta llegar a la sección "Sistema". Desmarca la opción que dice "Continuar ejecutando aplicaciones en segundo plano cuando Google Chrome está cerrado", cierra las ventanas de Chrome, si todavía hay un icono en la bandeja del sistema, cierra Chrome allí también. Prueba a ver qué pasa. Yo suelo dejar esto marcado. Parece que Chrome se inicia más rápido, pero probablemente se está comiendo la memoria en segundo plano, por lo que si no tienes mucha memoria RAM es posible que desees tratar de desmarcarlo.