Cómo enviar los resultados de los procesos secundarios a archivos y terminales simultáneamente en Python

Al emplear subprocess.call(), es posible especificar descriptores de archivos como outf y errf para redirigir stdout y stderr a archivos específicos. Sin embargo, estos resultados no se mostrarán simultáneamente en la terminal.

Solución usando Popen y Threading:

Para superar esto, podemos aprovechar Popen directamente y utilizar el stdout=Argumento PIPE para leer desde la salida estándar del proceso hijo. Aquí se explica cómo:

import subprocess
from threading import Thread

def tee(infile, *files):
    # Forward output from `infile` to `files` in a separate thread
    def fanout(infile, *files):
        for line in iter(infile.readline, ""):
            for f in files:
                f.write(line)

    t = Thread(target=fanout, args=(infile,)   files)
    t.daemon = True
    t.start()
    return t

def teed_call(cmd_args, **kwargs):
    # Override `stdout` and `stderr` arguments with PIPE to capture standard outputs
    stdout, stderr = [kwargs.pop(s, None) for s in ["stdout", "stderr"]]
    p = subprocess.Popen(
        cmd_args,
        stdout=subprocess.PIPE if stdout is not None else None,
        stderr=subprocess.PIPE if stderr is not None else None,
        **kwargs
    )
    
    # Create threads to simultaneously write to files and terminal
    threads = []
    if stdout is not None:
        threads.append(tee(p.stdout, stdout, sys.stdout))
    if stderr is not None:
        threads.append(tee(p.stderr, stderr, sys.stderr))
        
    # Join the threads to ensure IO completion before proceeding
    for t in threads:
        t.join()

    return p.wait()

Usando esta función, podemos ejecutar procesos secundarios y escribir su salida tanto en archivos como en la terminal al mismo tiempo:

outf, errf = open("out.txt", "wb"), open("err.txt", "wb")
teed_call(["cat", __file__], stdout=None, stderr=errf)
teed_call(["echo", "abc"], stdout=outf, stderr=errf, bufsize=0)
teed_call(["gcc", "a b"], close_fds=True, stdout=outf, stderr=errf)