X-Git-Url: https://git.llucax.com/z.facultad/75.52/sercom.git/blobdiff_plain/a25dd7bcac1cb574348a0de08ccf854c1194d374..56b48df0e8dedb8021b217cafb2a56ce583edab2:/sercom/tester.py?ds=sidebyside diff --git a/sercom/tester.py b/sercom/tester.py index d054df1..fdcc593 100644 --- a/sercom/tester.py +++ b/sercom/tester.py @@ -200,7 +200,7 @@ class Tester(object): #{{{ def test(self, entrega): #{{{ log.debug(_(u'Tester.test(entrega=%s)'), entrega) - entrega.inicio_tareas = datetime.now() + entrega.inicio = datetime.now() try: try: self.setup_chroot(entrega) @@ -208,7 +208,7 @@ class Tester(object): #{{{ self.ejecutar_tareas_prueba(entrega) self.clean_chroot(entrega) except ExecutionFailure, e: - entrega.correcta = False + entrega.exito = False log.info(_(u'Entrega incorrecta: %s'), entrega) except Exception, e: if isinstance(e, SystemExit): raise @@ -218,10 +218,10 @@ class Tester(object): #{{{ entrega.observaciones += error_interno log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding else: - entrega.correcta = True + entrega.exito = True log.debug(_(u'Entrega correcta: %s'), entrega) finally: - entrega.fin_tareas = datetime.now() + entrega.fin = datetime.now() #}}} def setup_chroot(self, entrega): #{{{ y clean_chroot() @@ -317,14 +317,14 @@ TareaPrueba.ejecutar = ejecutar_tarea_prueba def ejecutar_comando_fuente(self, path, entrega): #{{{ log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path, entrega.shortrepr()) - comando_ejecutado = entrega.add_comando_ejecutado(self) + comando_ejecutado = entrega.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom? unzip(self.archivos_entrada, path, # TODO try/except {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) options = dict( close_fds=True, shell=True, - preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/build') + preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/build') #FIXME!!! path ) if os.path.exists('%s.%s.stdin' % (basetmp, comando_ejecutado.id)): options['stdin'] = file('%s.%s.stdin' % (basetmp, comando_ejecutado.id), @@ -370,11 +370,12 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ log.error(_(u'Error en el hijo: %s'), e.child_traceback) raise proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo + comando_ejecutado.fin = datetime.now() # TODO debería rodear solo la ejecución del comando if self.retorno != self.RET_ANY: if self.retorno == self.RET_FAIL: if proc.returncode == 0: if self.rechazar_si_falla: - entrega.correcta = False + entrega.exito = False comando_ejecutado.exito = False comando_ejecutado.observaciones += _(u'Se esperaba que el ' u'programa termine con un error (código de retorno ' @@ -385,7 +386,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ u'terminó bien (código de retorno 0).\n')) elif self.retorno != proc.returncode: if self.rechazar_si_falla: - entrega.correcta = False + entrega.exito = False comando_ejecutado.exito = False if proc.returncode < 0: comando_ejecutado.observaciones += _(u'Se esperaba terminar ' @@ -403,7 +404,6 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode) if comando_ejecutado.exito is None: log.debug(_(u'Código de retorno OK')) - comando_ejecutado.fin = datetime.now() if a_guardar: buffer = StringIO() zip = ZipFile(buffer, 'w') @@ -425,7 +425,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ for f in a_guardar: if not os.path.exists(join(path, f)): if self.rechazar_si_falla: - entrega.correcta = False + entrega.exito = False comando_ejecutado.exito = False comando_ejecutado.observaciones += _(u'Se esperaba un archivo ' u'"%s" para guardar pero no fue encontrado.\n') % f @@ -434,7 +434,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ else: zip.write(join(path, f), f) zip.close() - comando_ejecutado.archivos_guardados = buffer.getvalue() + comando_ejecutado.archivos = buffer.getvalue() def diff(new, zip_in, zip_out, name, longname=None, origname='correcto', newname='entregado'): if longname is None: @@ -445,7 +445,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ tofile=name+'.'+newname))) if udiff: if self.rechazar_si_falla: - entrega.correcta = False + entrega.exito = False comando_ejecutado.exito = False comando_ejecutado.observaciones += _(u'%s no coincide con lo ' u'esperado (archivo "%s.diff").\n') % (longname, name) @@ -481,7 +481,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ for f in a_comparar: if not os.path.exists(join(path, f)): if self.rechazar_si_falla: - entrega.correcta = False + entrega.exito = False comando_ejecutado.exito = False comando_ejecutado.observaciones += _(u'Se esperaba un archivo ' u'"%s" para comparar pero no fue encontrado') % f @@ -490,7 +490,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ else: diff(join(path, f), zip_a_comparar, zip, f) zip.close() - comando_ejecutado.archivos_guardados = buffer.getvalue() + comando_ejecutado.diferencias = buffer.getvalue() if comando_ejecutado.exito is None: comando_ejecutado.exito = True elif self.terminar_si_falla: @@ -500,36 +500,206 @@ ComandoFuente.ejecutar = ejecutar_comando_fuente #}}} def ejecutar_comando_prueba(self, path, prueba): #{{{ + # Diferencia con comando fuente: s/entrega/prueba/ y s/build/test/ en path + # y setup/clean de test. log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path, prueba.shortrepr()) - rmtree(path) - os.mkdir(path) - unzip(prueba.caso_de_prueba.archivos_entrada, path) # TODO try/except - unzip(self.archivos_entrada, path) # TODO try/except - comando_ejecutado = prueba.add_comando_ejecutado(self) - # TODO ejecutar en chroot (path) - comando_ejecutado.fin = datetime.now() -# if no_anda_ejecucion: # TODO -# comando_ejecutado.exito = False -# comando_ejecutado.observaciones += 'No anduvo xxx' # TODO -# if self.rechazar_si_falla: -# entrega.exito = False -# if self.terminar_si_falla: # TODO -# raise ExecutionFailure(self) # TODO info de error -# for archivo in self.archivos_salida: -# pass # TODO hacer diff -# if archivos_mal: # TODO -# comando_ejecutado.exito = False -# comando_ejecutado.observaciones += 'No anduvo xxx' # TODO -# if self.rechazar_si_falla: -# entrega.exito = False -# if self.terminar_si_falla: # TODO -# raise ExecutionFailure(comando=self) # TODO info de error -# else: -# comando_ejecutado.exito = True -# comando_ejecutado.observaciones += 'xxx OK' # TODO - comando_ejecutado.exito = True - comando_ejecutado.observaciones += 'xxx OK' # TODO + comando_ejecutado = prueba.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando + basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom? + #{{{ Código que solo va en ComandoPrueba (setup de directorio) + rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable', + '--archive', '--acls', '--delete-during', '--force', # TODO config + 'var/chroot_pepe/home/sercom/build/', path) # FIXME!!!! path + log.debug(_(u'Ejecutando como root: %s'), ' '.join(rsync)) + os.seteuid(0) # Dios! (para chroot) + os.setegid(0) + try: + sp.check_call(rsync) + finally: + os.setegid(user_info.gid) # Mortal de nuevo + os.seteuid(user_info.uid) + log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'), + user_info.user, user_info.group, user_info.uid, user_info.gid) + unzip(prueba.caso_de_prueba.archivos_entrada, path, # TODO try/except + {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) + #}}} + unzip(self.archivos_entrada, path, # TODO try/except + {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) + options = dict( + close_fds=True, + shell=True, + preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/test') # FIXME!!!! path + ) + if os.path.exists('%s.%s.stdin' % (basetmp, comando_ejecutado.id)): + options['stdin'] = file('%s.%s.stdin' % (basetmp, comando_ejecutado.id), + 'r') + else: + options['preexec_fn'].close_stdin = True + a_guardar = set(self.archivos_a_guardar) + if self.archivos_a_comparar: + zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r') + a_comparar = set(zip_a_comparar.namelist()) + else: + zip_a_comparar = None + a_comparar = frozenset() + a_usar = frozenset(a_guardar | a_comparar) + if self.STDOUTERR in a_usar: + options['stdout'] = file('%s.%s.stdouterr' % (basetmp, + comando_ejecutado.id), 'w') + options['stderr'] = sp.STDOUT + else: + if self.STDOUT in a_usar: + options['stdout'] = file('%s.%s.stdout' % (basetmp, + comando_ejecutado.id), 'w') + else: + options['preexec_fn'].close_stdout = True + if self.STDERR in a_usar: + options['stderr'] = file('%s.%s.stderr' % (basetmp, + comando_ejecutado.id), 'w') + else: + options['preexec_fn'].close_stderr = True + log.debug(_(u'Ejecutando como root: %s'), self.comando) + os.seteuid(0) # Dios! (para chroot) + os.setegid(0) + try: + try: + proc = sp.Popen(self.comando, **options) + finally: + os.setegid(user_info.gid) # Mortal de nuevo + os.seteuid(user_info.uid) + log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'), + user_info.user, user_info.group, user_info.uid, user_info.gid) + except Exception, e: + if hasattr(e, 'child_traceback'): + log.error(_(u'Error en el hijo: %s'), e.child_traceback) + raise + proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo + comando_ejecutado.fin_tareas = datetime.now() # TODO debería rodear solo la ejecución del comando + if self.retorno != self.RET_ANY: + if self.retorno == self.RET_FAIL: + if proc.returncode == 0: + if self.rechazar_si_falla: + prueba.exito = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'Se esperaba que el ' + u'programa termine con un error (código de retorno ' + u'distinto de 0) pero terminó bien (código de retorno ' + u'0).\n') + log.debug(_(u'Se esperaba que el programa termine ' + u'con un error (código de retorno distinto de 0) pero ' + u'terminó bien (código de retorno 0).\n')) + elif self.retorno != proc.returncode: + if self.rechazar_si_falla: + prueba.exito = False + comando_ejecutado.exito = False + if proc.returncode < 0: + comando_ejecutado.observaciones += _(u'Se esperaba terminar ' + u'con un código de retorno %s pero se obtuvo una señal %s ' + u'(%s).\n') % (self.retorno, -proc.returncode, + -proc.returncode) # TODO poner con texto + log.debug(_(u'Se esperaba terminar con un código ' + u'de retorno %s pero se obtuvo una señal %s (%s).\n'), + self.retorno, -proc.returncode, -proc.returncode) + else: + comando_ejecutado.observaciones += _(u'Se esperaba terminar ' + u'con un código de retorno %s pero se obtuvo %s.\n') \ + % (self.retorno, proc.returncode) + log.debug(_(u'Se esperaba terminar con un código de retorno ' + u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode) + if comando_ejecutado.exito is None: + log.debug(_(u'Código de retorno OK')) + if a_guardar: + buffer = StringIO() + zip = ZipFile(buffer, 'w') + # Guardamos stdout/stderr + if self.STDOUTERR in a_guardar: + a_guardar.remove(self.STDOUTERR) + zip.write('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), + self.STDOUTERR) + else: + if self.STDOUT in a_guardar: + a_guardar.remove(self.STDOUT) + zip.write('%s.%s.stdout' % (basetmp, comando_ejecutado.id), + self.STDOUT) + if self.STDERR in a_guardar: + a_guardar.remove(self.STDERR) + zip.write('%s.%s.stderr' % (basetmp, comando_ejecutado.id), + self.STDERR) + # Guardamos otros + for f in a_guardar: + if not os.path.exists(join(path, f)): + if self.rechazar_si_falla: + prueba.exito = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'Se esperaba un archivo ' + u'"%s" para guardar pero no fue encontrado.\n') % f + log.debug(_(u'Se esperaba un archivo "%s" para guardar pero ' + u'no fue encontrado'), f) + else: + zip.write(join(path, f), f) + zip.close() + comando_ejecutado.archivos = buffer.getvalue() + def diff(new, zip_in, zip_out, name, longname=None, origname='correcto', + newname='entregado'): + if longname is None: + longname = name + new = file(new, 'r').readlines() + orig = zip_in.read(name).split('\n') + udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, + tofile=name+'.'+newname))) + if udiff: + if self.rechazar_si_falla: + prueba.exito = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'%s no coincide con lo ' + u'esperado (archivo "%s.diff").\n') % (longname, name) + log.debug(_(u'%s no coincide con lo esperado (archivo "%s.diff")'), + longname, name) + htmldiff = HtmlDiff().make_file(orig, new, + fromdesc=name+'.'+origname, todesc=name+'.'+newname, + context=True, numlines=3) + zip_out.writestr(name + '.diff', udiff) + zip_out.writestr(name + '.diff.html', htmldiff) + return True + else: + return False + if a_comparar: + buffer = StringIO() + zip = ZipFile(buffer, 'w') + # Comparamos stdout/stderr + if self.STDOUTERR in a_comparar: + a_comparar.remove(self.STDOUTERR) + diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), + zip_a_comparar, zip, self.STDOUTERR, + _(u'La salida estándar y de error combinada')) + else: + if self.STDOUT in a_comparar: + a_comparar.remove(self.STDOUT) + diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id), + zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar')) + if self.STDERR in a_comparar: + a_comparar.remove(self.STDERR) + diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id), + zip_a_comparar, zip, self.STDERR, _(u'La salida de error')) + # Comparamos otros + for f in a_comparar: + if not os.path.exists(join(path, f)): + if self.rechazar_si_falla: + prueba.exito = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'Se esperaba un archivo ' + u'"%s" para comparar pero no fue encontrado') % f + log.debug(_(u'Se esperaba un archivo "%s" para comparar pero ' + u'no fue encontrado'), f) + else: + diff(join(path, f), zip_a_comparar, zip, f) + zip.close() + comando_ejecutado.diferencias = buffer.getvalue() + if comando_ejecutado.exito is None: + comando_ejecutado.exito = True + elif self.terminar_si_falla: + raise ExecutionFailure(self) + ComandoPrueba.ejecutar = ejecutar_comando_prueba #}}}