X-Git-Url: https://git.llucax.com/software/sercom-old.git/blobdiff_plain/1a16acdc7bbf0f471ee002a364ecfa980f191379..866392c305577b376c8e16bef133ce4753f96f8c:/src/sc_test diff --git a/src/sc_test b/src/sc_test index 25a4b98..5643e61 100755 --- a/src/sc_test +++ b/src/sc_test @@ -53,6 +53,7 @@ def sigterm(signum, frame): global continuar, log continuar = False log.debug('Señal %d recibida', signum) + log.info('Finalizado') def compilar(intento, mail): global log @@ -61,13 +62,14 @@ def compilar(intento, mail): # Compilo log.debug('Ejecutando: make -f %s', makefile) intento.inicioCompila = datetime.datetime.now() - make = subprocess.Popen(('make', '-f', makefile), stderr=subprocess.PIPE, + stderr = file(os.path.join(intento.path, 'make.out'), 'w') + make = subprocess.Popen(('make', '-f', makefile), stderr=stderr, cwd=intento.path) make.wait() intento.finCompila = datetime.datetime.now() log.debug('Fin del comando: make -f %s', makefile) # Verifico compilación - stderr = make.stderr.read() + stderr = file(os.path.join(intento.path, 'make.out')).read() intento.compila = not make.returncode msg = 'Compilación: ' if intento.compila and not stderr: @@ -78,7 +80,8 @@ def compilar(intento, mail): msg += 'ERROR (código de retorno: %d)' % make.returncode mail.body += msg if stderr: - msg += '''Salida: + msg += ''' +Salida: ------------------------------------------------------------------------ %s ------------------------------------------------------------------------ @@ -90,31 +93,39 @@ def compilar(intento, mail): intento.observaciones = msg + '\n\n' log.debug(msg) -def preparar(intento): +def preparar(intento, caso_de_prueba): # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind? - os.mkdir(intento.chrootPath) + os.makedirs(intento.chrootPath(caso_de_prueba)) shutil.copy(os.path.join(intento.path, 'tp'), - os.path.join(intento.chrootPath, 'tp')) + os.path.join(intento.chrootPath(caso_de_prueba), 'tp')) -def limpiar(intento): +def limpiar(intento, caso_de_prueba): # Borro chroot entero - shutil.rmtree(intento.chrootPath) + #shutil.rmtree(intento.chrootPath) + os.unlink(os.path.join(intento.chrootPath(caso_de_prueba), 'tp')) def probar(intento, caso_de_prueba, mail): def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None): from difflib import unified_diff, HtmlDiff - #TODO diferenciar pruebas públicas de privadas if longname is None: longname = name diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname))) nota = '' if diff: prueba.pasada = False - nota = "- %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name) + nota += "* %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name) + nota += ('-' * 72) + '\n' + diff + ('-' * 72) + '\n' if not prueba.casoDePrueba.privado: mail.attachText(diff, name + '.diff') diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3) mail.attachText(diff, name + '.diff.html', 'html') return nota + def usa_stdin(): + return os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')) + def usa_stdout(): + return os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')) + def usa_stderr(): + return os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')) + # Cosas útiles global log, conn, conf, uid, gid # Para manejo de SIGCHLD @@ -132,16 +143,21 @@ def probar(intento, caso_de_prueba, mail): log.debug('Caso de prueba: %s', prueba.casoDePrueba) # Abro archivos para fds básicos options = { - 'cwd': intento.chrootPath, + 'cwd': intento.chrootPath(caso_de_prueba), 'close_fds': True, - 'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu), + 'preexec_fn': secure_process(intento.chrootPath(caso_de_prueba), uid, gid, tiempo_cpu), + 'stdin': None, + 'stdout': None, + 'stderr': None, } - if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')): + if usa_stdin(): options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r') - if os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')): - options['stdout'] = subprocess.PIPE - if os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')): - options['stderr'] = subprocess.PIPE + if usa_stdout(): + stdout_fn = intento.chrootPath(caso_de_prueba) + '.stdout' + options['stdout'] = file(stdout_fn, 'w') + if usa_stderr(): + stderr_fn = intento.chrootPath(caso_de_prueba) + '.stderr' + options['stderr'] = file(stderr_fn, 'w') # Ejecuto programa params = ['/tp'] if caso_de_prueba.parametros: @@ -152,7 +168,7 @@ def probar(intento, caso_de_prueba, mail): proc = subprocess.Popen(params, **options) except Exception, e: # FIXME poner en el manejo de exceptiones estandar try: - print e.child_traceback + log.debug('ERROR! Trace del hijo: %s', e.child_traceback) raise except: raise @@ -179,14 +195,18 @@ def probar(intento, caso_de_prueba, mail): # Salió con una señal? if proc.returncode < 0: sig = -proc.returncode - log.debug('El programa salió con la señal %d', sig) + # Conversor de nro de señal a string + sigs = {} + for s in [s for s in dir(signal) if s.startswith('SIG') and s.isalpha()]: + sigs[getattr(signal, s)] = s + log.debug('El programa salió con la señal %s', sigs[sig]) prueba.pasada = False #TODO otras señales conocidas if sig == signal.SIGXCPU: prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \ '(%d seg)' % tiempo_cpu else: - prueba.observaciones = 'Salió con la señal %d' % sig + prueba.observaciones = 'Salió con la señal %s' % sigs[sig] mail.agregarResultado(prueba) return prueba # Si tenemos que verificar el código de retorno @@ -207,28 +227,29 @@ def probar(intento, caso_de_prueba, mail): return prueba # Verifico salidas estándar/de error prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo - obs = diff(prueba, mail, proc.stdout.readlines(), - file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(), - caso_de_prueba.nombre + '.stdout', longname='La salida estándar') - obs += diff(prueba, mail, proc.stderr.readlines(), - file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(), + obs = '' + if usa_stdout(): + obs += diff(prueba, mail, file(stdout_fn).readlines(), + file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(), + caso_de_prueba.nombre + '.stdout', longname='La salida estándar') + if usa_stderr(): + obs += diff(prueba, mail, file(stderr_fn).readlines(), + file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(), caso_de_prueba.nombre + '.stderr', longname='La salida de error') for f in caso_de_prueba.archivosSalida: if f not in prueba.archivosSalida: - #TODO agregar error FALTA ARCHIVO log.debug('Falta el archivo %s y no lo hizo.', f) prueba.pasada = False - obs += "- Falta el archivo de salida '%s'.\n" % f + obs += "* Falta el archivo de salida '%s'.\n" % f continue obs += diff(prueba, mail, - file(os.path.join(intento.chrootPath, f)).readlines(), + file(os.path.join(intento.chrootPath(caso_de_prueba), f)).readlines(), file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(), caso_de_prueba.nombre + '.' + f) for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada): - #TODO agregar error SOBRA ARCHIVO log.debug('El programa debía generar el archivo %s y no lo hizo.', f) prueba.pasada = False - obs += "- Se generó un archivo ('%s') que no se esperaba.\n" % f + obs += "* Se generó un archivo ('%s') que no se esperaba.\n" % f log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)', proc.pid, proc.returncode) if obs: @@ -387,11 +408,16 @@ while continuar: log.debug('No hay intento para probar') time.sleep(intervalo) continue - log.info('Nuevo intento a probar (%s)', intento) + log.info('Nuevo intento a probar (%d %d.%d.%d %d%d%d [%d %d %d])', + intento.inscripto.padron, intento.entrega.nroEjercicio, + intento.entrega.entrega, intento.numero, intento.entrega.curso.anio, + intento.entrega.curso.cuatrimestre, intento.entrega.curso.curso, + intento.inscripto.id, intento.entrega.id, intento.id) mail = MailIntento(intento) # Compila compilar(intento, mail) if not intento.compila: + log.info('Intento[%d] no compila', intento.id) mail.send('NO COMPILA') continue # Ejecución de casos de prueba @@ -399,23 +425,27 @@ while continuar: resultado = True for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba: # Preparo chroot - preparar(intento) + preparar(intento, caso_de_prueba) # Pruebo y agrego prueba a la lista prueba = probar(intento, caso_de_prueba, mail) - resultado = resultado and prueba.pasada if not prueba.casoDePrueba.privado and not prueba.pasada: + log.info('Prueba %s[%d %d] no pasada', prueba.casoDePrueba.nombre, + prueba.casoDePrueba.id, prueba.id) resultado = False # Limpio chroot - limpiar(intento) + limpiar(intento, caso_de_prueba) intento.finPruebas = datetime.datetime.now() # Envío mail con resultado al alumno if resultado: mail.send('ACEPTADO') + log.info('Pruebas finalizadas (intento[%d] aceptado)', intento.id) else: mail.send('FALLA PRUEBAS') + log.info('Pruebas finalizadas (intento[%d] no aceptado)', intento.id) # Limpio directorio log.debug('Borrando ejecutable y código objeto (*.o)') os.remove(os.path.join(intento.path, 'tp')) - [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))] + for obj in glob.glob(os.path.join(intento.path, '*.o')): + os.remove(obj) # time.sleep(intervalo) #XXX Puede servir para enlentecer el server