X-Git-Url: https://git.llucax.com/software/sercom.git/blobdiff_plain/7a20432786bc102f1378926a0dd2a1e45159bb6b..7b2634702939393d800872ee15803b99bc6b0742:/sercom/tester.py diff --git a/sercom/tester.py b/sercom/tester.py index 225e13d..18b7e58 100644 --- a/sercom/tester.py +++ b/sercom/tester.py @@ -103,6 +103,24 @@ def unzip(bytes, default_dst='.', specific_dst=dict()): # {{{ zfile.close() #}}} +class Multizip(object): #{{{ + def __init__(self, *zip_streams): + self.zips = [ZipFile(StringIO(z), 'r') for z in zip_streams + if z is not None] + self.names = set() + for z in self.zips: + self.names |= set(z.namelist()) + def read(self, name): + for z in self.zips: + try: + return z.read(name) + except KeyError: + pass + raise KeyError(name) + def namelist(self): + return self.names +#}}} + class SecureProcess(object): #{{{ default = dict( max_tiempo_cpu = 120, @@ -208,8 +226,7 @@ class Tester(object): #{{{ self.ejecutar_tareas_prueba(entrega) self.clean_chroot(entrega) except ExecutionFailure, e: - entrega.exito = False - log.info(_(u'Entrega incorrecta: %s'), entrega) + pass except Exception, e: if isinstance(e, SystemExit): raise entrega.observaciones += error_interno @@ -217,17 +234,21 @@ class Tester(object): #{{{ except: entrega.observaciones += error_interno log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding - else: - entrega.exito = True - log.debug(_(u'Entrega correcta: %s'), entrega) finally: entrega.fin = datetime.now() + if entrega.exito is None: + entrega.exito = True + if entrega.exito: + log.info(_(u'Entrega correcta: %s'), entrega) + else: + log.info(_(u'Entrega incorrecta: %s'), entrega) #}}} def setup_chroot(self, entrega): #{{{ y clean_chroot() log.debug(_(u'Tester.setup_chroot(entrega=%s)'), entrega.shortrepr()) rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable', - '--archive', '--acls', '--delete-during', '--force', # TODO config + '--archive', '--acls', '--delete-during', '--force', + '--exclude', '/proc', # TODO config join(self.orig_chroot, ''), self.chroot) log.debug(_(u'Ejecutando como root: %s'), ' '.join(rsync)) os.seteuid(0) # Dios! (para chroot) @@ -264,25 +285,25 @@ class Tester(object): #{{{ #}}} def ejecutar_caso_de_prueba(self, path, entrega): #{{{ - log.debug(_(u'CasoDePrueba.ejecutar(path=%s, entrega=%s)'), path, - entrega.shortrepr()) + log.debug(_(u'CasoDePrueba.ejecutar(caso=%s, path=%s, entrega=%s)'), self, + path, entrega.shortrepr()) tareas = [t for t in entrega.instancia.ejercicio.enunciado.tareas if isinstance(t, TareaPrueba)] - prueba = entrega.add_prueba(self) + prueba = entrega.add_prueba(self, inicio=datetime.now()) try: try: for tarea in tareas: tarea.ejecutar(path, prueba) except ExecutionFailure, e: - prueba.exito = False - if self.rechazar_si_falla: - entrega.exito = False - if self.terminar_si_falla: - raise ExecutionFailure(e.comando, e.tarea, self) - else: - prueba.exito = True + pass finally: prueba.fin = datetime.now() + if prueba.exito is None: + prueba.exito = True + if not prueba.exito and self.rechazar_si_falla: + entrega.exito = False + if not prueba.exito and self.terminar_si_falla: + raise ExecutionFailure(prueba) CasoDePrueba.ejecutar = ejecutar_caso_de_prueba #}}} @@ -299,7 +320,7 @@ Tarea.ejecutar = ejecutar_tarea def ejecutar_comando_fuente(self, path, entrega): #{{{ log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path, entrega.shortrepr()) - comando_ejecutado = entrega.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando + comando_ejecutado = entrega.add_comando_ejecutado(self) basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom? unzip(self.archivos_entrada, path, # TODO try/except {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) @@ -314,12 +335,8 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ else: options['preexec_fn'].close_stdin = True a_guardar = set(self.archivos_a_guardar) - if self.archivos_a_comparar: - zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r') - a_comparar = set(zip_a_comparar.namelist()) - else: - zip_a_comparar = None - a_comparar = frozenset() + zip_a_comparar = Multizip(self.archivos_a_comparar) + a_comparar = set(zip_a_comparar.namelist()) a_usar = frozenset(a_guardar | a_comparar) if self.STDOUTERR in a_usar: options['stdout'] = file('%s.%s.stdouterr' % (basetmp, @@ -336,12 +353,14 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ comando_ejecutado.id), 'w') else: options['preexec_fn'].close_stderr = True - log.debug(_(u'Ejecutando como root: %s'), self.comando) + comando = self.comando # FIXME Acá tiene que diferenciarse de ComandoPrueba + comando_ejecutado.inicio = datetime.now() + log.debug(_(u'Ejecutando como root: %s'), comando) os.seteuid(0) # Dios! (para chroot) os.setegid(0) try: try: - proc = sp.Popen(self.comando, **options) + proc = sp.Popen(comando, **options) finally: os.setegid(user_info.gid) # Mortal de nuevo os.seteuid(user_info.uid) @@ -352,9 +371,10 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ log.error(_(u'Error en el hijo: %s'), e.child_traceback) raise proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo - comando_ejecutado.fin = datetime.now() # TODO debería rodear solo la ejecución del comando - if self.retorno != self.RET_ANY: - if self.retorno == self.RET_FAIL: + comando_ejecutado.fin = datetime.now() + retorno = self.retorno + if retorno != self.RET_ANY: + if retorno == self.RET_FAIL: if proc.returncode == 0: if self.rechazar_si_falla: entrega.exito = False @@ -366,24 +386,23 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ log.debug(_(u'Se esperaba que el programa termine ' u'con un error (código de retorno distinto de 0) pero ' u'terminó bien (código de retorno 0).\n')) - elif self.retorno != proc.returncode: + elif retorno != proc.returncode: if self.rechazar_si_falla: entrega.exito = False comando_ejecutado.exito = False if proc.returncode < 0: comando_ejecutado.observaciones += _(u'Se esperaba terminar ' u'con un código de retorno %s pero se obtuvo una señal %s ' - u'(%s).\n') % (self.retorno, -proc.returncode, - -proc.returncode) # TODO poner con texto + u'(%s).\n') % (retorno, -proc.returncode, -proc.returncode) # TODO poner con texto log.debug(_(u'Se esperaba terminar con un código ' u'de retorno %s pero se obtuvo una señal %s (%s).\n'), - self.retorno, -proc.returncode, -proc.returncode) + retorno, -proc.returncode, -proc.returncode) else: comando_ejecutado.observaciones += _(u'Se esperaba terminar ' u'con un código de retorno %s pero se obtuvo %s.\n') \ - % (self.retorno, proc.returncode) + % (retorno, proc.returncode) log.debug(_(u'Se esperaba terminar con un código de retorno ' - u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode) + u'%s pero se obtuvo %s.\n'), retorno, proc.returncode) if comando_ejecutado.exito is None: log.debug(_(u'Código de retorno OK')) if a_guardar: @@ -422,7 +441,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ if longname is None: longname = name new = file(new, 'r').readlines() - orig = zip_in.read(name).split('\n') + orig = zip_in.read(name).splitlines(True) udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname))) if udiff: @@ -437,27 +456,28 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3) zip_out.writestr(name + '.diff', udiff) - zip_out.writestr(name + '.diff.html', htmldiff) + zip_out.writestr(name + '.diff', htmldiff) return True else: return False if a_comparar: + condiff = False buffer = StringIO() zip = ZipFile(buffer, 'w') # Comparamos stdout/stderr if self.STDOUTERR in a_comparar: a_comparar.remove(self.STDOUTERR) - diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), + condiff |= diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), zip_a_comparar, zip, self.STDOUTERR, _(u'La salida estándar y de error combinada')) else: if self.STDOUT in a_comparar: a_comparar.remove(self.STDOUT) - diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id), + condiff |= diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id), zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar')) if self.STDERR in a_comparar: a_comparar.remove(self.STDERR) - diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id), + condiff |= diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id), zip_a_comparar, zip, self.STDERR, _(u'La salida de error')) # Comparamos otros for f in a_comparar: @@ -470,9 +490,10 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ log.debug(_(u'Se esperaba un archivo "%s" para comparar pero ' u'no fue encontrado'), f) else: - diff(join(path, f), zip_a_comparar, zip, f) + condiff |= diff(join(path, f), zip_a_comparar, zip, f) zip.close() - comando_ejecutado.diferencias = buffer.getvalue() + if condiff: + comando_ejecutado.diferencias = buffer.getvalue() if comando_ejecutado.exito is None: comando_ejecutado.exito = True elif self.terminar_si_falla: @@ -486,7 +507,8 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ # y setup/clean de test. log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path, prueba.shortrepr()) - comando_ejecutado = prueba.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando + caso_de_prueba = prueba.caso_de_prueba + comando_ejecutado = prueba.add_comando_ejecutado(self) basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom? #{{{ Código que solo va en ComandoPrueba (setup de directorio) rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable', @@ -502,11 +524,11 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ os.seteuid(user_info.uid) log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'), user_info.user, user_info.group, user_info.uid, user_info.gid) - unzip(prueba.caso_de_prueba.archivos_entrada, path, # TODO try/except - {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) #}}} unzip(self.archivos_entrada, path, # TODO try/except {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) + unzip(caso_de_prueba.archivos_entrada, path, # TODO try/except # FIXME Esto es propio de ComandoPrueba + {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) # FIXME Esto es propio de ComandoPrueba options = dict( close_fds=True, shell=True, @@ -518,19 +540,21 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ else: options['preexec_fn'].close_stdin = True a_guardar = set(self.archivos_a_guardar) - if self.archivos_a_comparar: - zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r') - a_comparar = set(zip_a_comparar.namelist()) - else: - zip_a_comparar = None - a_comparar = frozenset() + a_guardar |= set(caso_de_prueba.archivos_a_guardar) # FIXME Esto es propio de ComandoPrueba + log.debug('archivos a guardar: %s', a_guardar) + zip_a_comparar = Multizip(caso_de_prueba.archivos_a_comparar, # FIXME Esto es propio de ComandoPrueba + self.archivos_a_comparar) # FIXME Esto es propio de ComandoPrueba + a_comparar = set(zip_a_comparar.namelist()) + log.debug('archivos a comparar: %s', a_comparar) a_usar = frozenset(a_guardar | a_comparar) + log.debug('archivos a usar: %s', a_usar) if self.STDOUTERR in a_usar: options['stdout'] = file('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), 'w') options['stderr'] = sp.STDOUT else: if self.STDOUT in a_usar: + log.debug('capurando salida en: %s.%s.stdout', basetmp, comando_ejecutado.id) options['stdout'] = file('%s.%s.stdout' % (basetmp, comando_ejecutado.id), 'w') else: @@ -540,12 +564,14 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ comando_ejecutado.id), 'w') else: options['preexec_fn'].close_stderr = True - log.debug(_(u'Ejecutando como root: %s'), self.comando) + comando = self.comando + ' ' + caso_de_prueba.comando # FIXME Esto es propio de ComandoPrueba + comando_ejecutado.inicio = datetime.now() + log.debug(_(u'Ejecutando como root: %s'), comando) os.seteuid(0) # Dios! (para chroot) os.setegid(0) try: try: - proc = sp.Popen(self.comando, **options) + proc = sp.Popen(comando, **options) finally: os.setegid(user_info.gid) # Mortal de nuevo os.seteuid(user_info.uid) @@ -556,9 +582,12 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ log.error(_(u'Error en el hijo: %s'), e.child_traceback) raise proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo - comando_ejecutado.fin_tareas = datetime.now() # TODO debería rodear solo la ejecución del comando - if self.retorno != self.RET_ANY: - if self.retorno == self.RET_FAIL: + comando_ejecutado.fin = datetime.now() + retorno = self.retorno + if retorno == self.RET_PRUEBA: # FIXME Esto es propio de ComandoPrueba + retorno = caso_de_prueba.retorno # FIXME Esto es propio de ComandoPrueba + if retorno != self.RET_ANY: + if retorno == self.RET_FAIL: if proc.returncode == 0: if self.rechazar_si_falla: prueba.exito = False @@ -570,24 +599,23 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ log.debug(_(u'Se esperaba que el programa termine ' u'con un error (código de retorno distinto de 0) pero ' u'terminó bien (código de retorno 0).\n')) - elif self.retorno != proc.returncode: + elif retorno != proc.returncode: if self.rechazar_si_falla: prueba.exito = False comando_ejecutado.exito = False if proc.returncode < 0: comando_ejecutado.observaciones += _(u'Se esperaba terminar ' u'con un código de retorno %s pero se obtuvo una señal %s ' - u'(%s).\n') % (self.retorno, -proc.returncode, - -proc.returncode) # TODO poner con texto + u'(%s).\n') % (retorno, -proc.returncode, -proc.returncode) # TODO poner con texto log.debug(_(u'Se esperaba terminar con un código ' u'de retorno %s pero se obtuvo una señal %s (%s).\n'), - self.retorno, -proc.returncode, -proc.returncode) + retorno, -proc.returncode, -proc.returncode) else: comando_ejecutado.observaciones += _(u'Se esperaba terminar ' u'con un código de retorno %s pero se obtuvo %s.\n') \ - % (self.retorno, proc.returncode) + % (retorno, proc.returncode) log.debug(_(u'Se esperaba terminar con un código de retorno ' - u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode) + u'%s pero se obtuvo %s.\n'), retorno, proc.returncode) if comando_ejecutado.exito is None: log.debug(_(u'Código de retorno OK')) if a_guardar: @@ -626,7 +654,7 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ if longname is None: longname = name new = file(new, 'r').readlines() - orig = zip_in.read(name).split('\n') + orig = zip_in.read(name).splitlines(True) udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname))) if udiff: @@ -641,27 +669,29 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3) zip_out.writestr(name + '.diff', udiff) - zip_out.writestr(name + '.diff.html', htmldiff) + zip_out.writestr(name + '.html', htmldiff) return True else: return False if a_comparar: + condiff = False buffer = StringIO() zip = ZipFile(buffer, 'w') # Comparamos stdout/stderr if self.STDOUTERR in a_comparar: a_comparar.remove(self.STDOUTERR) - diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), + condiff |= diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), zip_a_comparar, zip, self.STDOUTERR, _(u'La salida estándar y de error combinada')) else: if self.STDOUT in a_comparar: + log.debug('comparando salida con: %s.%s.stdout', basetmp, comando_ejecutado.id) a_comparar.remove(self.STDOUT) - diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id), + condiff |= diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id), zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar')) if self.STDERR in a_comparar: a_comparar.remove(self.STDERR) - diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id), + condiff |= diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id), zip_a_comparar, zip, self.STDERR, _(u'La salida de error')) # Comparamos otros for f in a_comparar: @@ -674,9 +704,10 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{ log.debug(_(u'Se esperaba un archivo "%s" para comparar pero ' u'no fue encontrado'), f) else: - diff(join(path, f), zip_a_comparar, zip, f) + condiff |= diff(join(path, f), zip_a_comparar, zip, f) zip.close() - comando_ejecutado.diferencias = buffer.getvalue() + if condiff: + comando_ejecutado.diferencias = buffer.getvalue() if comando_ejecutado.exito is None: comando_ejecutado.exito = True elif self.terminar_si_falla: