O que eu faria no seu caso. Se eu fosse montar um pc peça por peça, já colocaria o linux direto, nem pensaria em Windows. Se fosse comprar um notebook ou pc pronto (que geralmente vem com Windows instalado), já deixaria o pendrive pronto, para excluir o Windows o quanto antes.