Esto es más fácil con un ejemplo. Digamos que quieres configurar los archivos MP4 para que se abran con el reproductor VLC en lugar del predeterminado de macOS, QuickTime Player. Primero abre el menú del botón derecho de cualquier archivo MP4 en el Finder y haz clic en la opción Abrir con > Otro.... Esa opción también aparece en el menú Archivo, por cierto.
Selecciona VLC Player en la ventana del Finder que aparece, selecciona la casilla Abrir siempre con y haz clic en el botón Abrir. Ya está. VLC es ahora su nueva aplicación por defecto para abrir archivos MP4.
¿Qué pasa si la casilla Abrir siempre con no está, te preguntarás? Bueno, deberías poder verla una vez que hagas clic en el botón Opciones en la parte inferior izquierda de la ventana emergente del Finder.
¿Y qué haces si la aplicación de tu elección aparece en gris? Selecciona Todas las aplicaciones en el menú desplegable Habilitar para seleccionar esa aplicación y establecerla como predeterminada. Sin embargo, esto es probablemente inútil, ya que si Apple no incluye la aplicación en Aplicaciones recomendadas, lo más probable es que no esté programada para abrir archivos del tipo que has elegido.