+def probar(intento, caso_de_prueba, mail):
+ def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
+ from difflib import unified_diff, HtmlDiff
+ #TODO diferenciar pruebas públicas de privadas
+ if longname is None: longname = name
+ diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
+ nota = ''
+ if diff:
+ prueba.pasada = False
+ nota = "- %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
+ if not prueba.casoDePrueba.privado:
+ mail.attachText(diff, name + '.diff')
+ diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
+ mail.attachText(diff, name + '.diff.html', 'html')
+ return nota
+ # Cosas útiles
+ global log, conn, conf, uid, gid
+ # Para manejo de SIGCHLD
+ global hijo_muerto
+ hijo_muerto = False
+ # Obtengo datos útiles del caso de prueba
+ tiempo_cpu = caso_de_prueba.tiempoCpu
+ if tiempo_cpu is None:
+ tiempo_cpu = conf.get('general', 'tiempo_cpu')
+ tiempo_cpu = int(tiempo_cpu)
+ # Creo prueba nueva
+ prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
+ inicio=datetime.datetime.now(), connection=conn)
+ log.debug('Iniciando prueba: %s', prueba)
+ log.debug('Caso de prueba: %s', prueba.casoDePrueba)
+ # Abro archivos para fds básicos
+ options = {
+ 'cwd': intento.chrootPath,
+ 'close_fds': True,
+ 'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu),
+ }
+ if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')):
+ options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
+ if os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')):
+ options['stdout'] = subprocess.PIPE
+ if os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')):
+ options['stderr'] = subprocess.PIPE
+ # Ejecuto programa
+ params = ['/tp']
+ if caso_de_prueba.parametros:
+ params += params2seq(caso_de_prueba.parametros)
+ log.debug('Ejecutando %s', ' '.join(params))
+ os.seteuid(0) # Dios! (para chroot)
+ try:
+ proc = subprocess.Popen(params, **options)
+ except Exception, e: # FIXME poner en el manejo de exceptiones estandar
+ try:
+ print e.child_traceback
+ raise
+ except:
+ raise
+ os.seteuid(uid) # Mortal de nuevo
+ if not hijo_muerto: # Recibido por el sigchld, para saber si murió
+ time.sleep(tiempo_cpu) # Controlo que no tarde mucho
+ # Si el proceso sigue andando lo tenemos que matar
+ if not hijo_muerto:
+ log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
+ tiempo_cpu)
+ os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
+ os.kill(proc.pid, signal.SIGKILL)
+ os.seteuid(uid) # Mortal de nuevo
+ log.debug('Prueba cancelada (kill)')
+ proc.wait()
+ prueba.observaciones = 'Excedió el límite de tiempo de ejecución ' \
+ '(%d seg)' % tiempo_cpu
+ prueba.fin = datetime.datetime.now()
+ prueba.pasada = False
+ mail.agregarResultado(prueba)
+ return prueba
+ proc.wait() # Para que no queden zombies
+ prueba.fin = datetime.datetime.now()
+ # Salió con una señal?
+ if proc.returncode < 0:
+ sig = -proc.returncode
+ sigs = {}
+ for s in [s for s in dir(signal) if s.startswith('SIG') and s.isalpha()]:
+ sigs[getattr(signal, s)] = s
+ log.debug('El programa salió con la señal %s', sigs[sig])
+ prueba.pasada = False
+ #TODO otras señales conocidas
+ if sig == signal.SIGXCPU:
+ prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
+ '(%d seg)' % tiempo_cpu
+ else:
+ prueba.observaciones = 'Salió con la señal %s' % sigs[sig]
+ mail.agregarResultado(prueba)
+ return prueba
+ # Si tenemos que verificar el código de retorno
+ if caso_de_prueba.codigoRetorno is not None:
+ #FIXME trucho lo de 256
+ # Si el código de error esperado es 256 => el código de error debe ser != 0
+ # Si no el código de error esperado debe ser igual al obtenido
+ if caso_de_prueba.codigoRetorno != proc.returncode \
+ or caso_de_prueba.codigoRetorno == 256 \
+ and proc.returncode != 0:
+ log.debug('Código de retorno incorrecto (debía ser %d y se obtuvo %d)',
+ caso_de_prueba.codigoRetorno, proc.returncode)
+ prueba.pasada = False
+ prueba.observaciones = 'Código de retorno incorrecto (debía ' \
+ 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
+ proc.returncode)
+ mail.agregarResultado(prueba)
+ return prueba
+ # Verifico salidas estándar/de error
+ prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo
+ obs = diff(prueba, mail, proc.stdout.readlines(),
+ file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
+ caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
+ obs += diff(prueba, mail, proc.stderr.readlines(),
+ file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),
+ caso_de_prueba.nombre + '.stderr', longname='La salida de error')
+ for f in caso_de_prueba.archivosSalida:
+ if f not in prueba.archivosSalida:
+ #TODO agregar error FALTA ARCHIVO
+ log.debug('Falta el archivo %s y no lo hizo.', f)
+ prueba.pasada = False
+ obs += "- Falta el archivo de salida '%s'.\n" % f
+ continue
+ obs += diff(prueba, mail,
+ file(os.path.join(intento.chrootPath, f)).readlines(),
+ file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
+ caso_de_prueba.nombre + '.' + f)
+ for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):
+ #TODO agregar error SOBRA ARCHIVO
+ log.debug('El programa debía generar el archivo %s y no lo hizo.', f)
+ prueba.pasada = False
+ obs += "- Se generó un archivo ('%s') que no se esperaba.\n" % f
+ log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
+ proc.pid, proc.returncode)
+ if obs:
+ prueba.observaciones = obs
+ mail.agregarResultado(prueba)
+ log.debug('Resultado de la prueba: %s', prueba)
+ return prueba
projects / software / sercom-old.git / blobdiff