X-Git-Url: https://git.llucax.com/software/sercom.git/blobdiff_plain/1b89907947b1f1ff3b5d2309e9451f5d6713eba7..b3826101ff09fe5242b584f37dc290b1bd028cac:/sercom/tester.py diff --git a/sercom/tester.py b/sercom/tester.py index bf78038..0b00a15 100644 --- a/sercom/tester.py +++ b/sercom/tester.py @@ -2,6 +2,7 @@ from sercom.model import Entrega, CasoDePrueba from sercom.model import TareaFuente, TareaPrueba, ComandoFuente, ComandoPrueba +from difflib import unified_diff, HtmlDiff from zipfile import ZipFile, BadZipfile from cStringIO import StringIO from shutil import rmtree @@ -9,8 +10,8 @@ from datetime import datetime from os.path import join from turbogears import config import subprocess as sp -import os, sys, pwd, grp import resource as rsrc +import os, sys, pwd, grp import logging log = logging.getLogger('sercom.tester') @@ -79,8 +80,6 @@ class ExecutionFailure(Error, RuntimeError): #{{{ self.caso_de_prueba = caso_de_prueba #}}} -class RsyncError(Error, EnvironmentError): pass - #}}} def unzip(bytes, default_dst='.', specific_dst=dict()): # {{{ @@ -166,10 +165,10 @@ class Tester(object): #{{{ self.home = home self.queue = queue # Ahora somos mortales (oid mortales) - log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'), - user_info.user, user_info.group, user_info.uid, user_info.gid) os.setegid(user_info.gid) os.seteuid(user_info.uid) + log.debug(_(u'usuario y grupo efectivos cambiados a %s:%s (%s:%s)'), + user_info.user, user_info.group, user_info.uid, user_info.gid) @property def build_path(self): @@ -214,10 +213,10 @@ class Tester(object): #{{{ except Exception, e: if isinstance(e, SystemExit): raise entrega.observaciones += error_interno - log.exception(_('Hubo una excepcion inesperada')) + log.exception(_('Hubo una excepcion inesperada')) # FIXME encoding except: entrega.observaciones += error_interno - log.exception(_('Hubo una excepcion inesperada desconocida')) + log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding else: entrega.correcta = True log.debug(_(u'Entrega correcta: %s'), entrega) @@ -236,10 +235,10 @@ class Tester(object): #{{{ try: sp.check_call(rsync) finally: - log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'), - user_info.user, user_info.group, user_info.uid, user_info.gid) os.setegid(user_info.gid) # Mortal de nuevo os.seteuid(user_info.uid) + log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'), + user_info.user, user_info.group, user_info.uid, user_info.gid) unzip(entrega.archivos, self.build_path) def clean_chroot(self, entrega): @@ -318,32 +317,41 @@ TareaPrueba.ejecutar = ejecutar_tarea_prueba def ejecutar_comando_fuente(self, path, entrega): #{{{ log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path, entrega.shortrepr()) - comando_ejecutado = entrega.add_comando_ejecutado(self) + comando_ejecutado = entrega.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando + basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom? unzip(self.archivos_entrada, path, # TODO try/except - dict(__stdin__='/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id)) # TODO /var/run/sercom + {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) options = dict( close_fds=True, shell=True, preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/build') ) - if os.path.exists('/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id): # TODO - options['stdin'] = file('/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id, 'r') # TODO + if os.path.exists('%s.%s.stdin' % (basetmp, comando_ejecutado.id)): + options['stdin'] = file('%s.%s.stdin' % (basetmp, comando_ejecutado.id), + 'r') else: options['preexec_fn'].close_stdin = True a_guardar = set(self.archivos_a_guardar) - if self.STDOUTERR in a_guardar: - options['stdout'] = file('/tmp/sercom.tester.%s.stdouterr' - % comando_ejecutado.id, 'w') #TODO /var/run/sercom? + if self.archivos_a_comparar: + zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r') + a_comparar = set(zip_a_comparar.namelist()) + else: + zip_a_comparar = None + a_comparar = frozenset() + a_usar = frozenset(a_guardar | a_comparar) + if self.STDOUTERR in a_usar: + options['stdout'] = file('%s.%s.stdouterr' % (basetmp, + comando_ejecutado.id), 'w') options['stderr'] = sp.STDOUT else: - if self.STDOUT in a_guardar: - options['stdout'] = file('/tmp/sercom.tester.%s.stdout' - % comando_ejecutado.id, 'w') #TODO /run/lib/sercom? + if self.STDOUT in a_usar: + options['stdout'] = file('%s.%s.stdout' % (basetmp, + comando_ejecutado.id), 'w') else: options['preexec_fn'].close_stdout = True - if self.STDERR in a_guardar: - options['stderr'] = file('/tmp/sercom.tester.%s.stderr' - % comando_ejecutado.id, 'w') #TODO /var/run/sercom? + if self.STDERR in a_usar: + options['stderr'] = file('%s.%s.stderr' % (basetmp, + comando_ejecutado.id), 'w') else: options['preexec_fn'].close_stderr = True log.debug(_(u'Ejecutando como root: %s'), self.comando) @@ -353,15 +361,16 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ try: proc = sp.Popen(self.comando, **options) finally: - log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'), - user_info.user, user_info.group, user_info.uid, user_info.gid) os.setegid(user_info.gid) # Mortal de nuevo os.seteuid(user_info.uid) + log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'), + user_info.user, user_info.group, user_info.uid, user_info.gid) except Exception, e: if hasattr(e, 'child_traceback'): log.error(_(u'Error en el hijo: %s'), e.child_traceback) raise proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo + comando_ejecutado.fin = datetime.now() # TODO debería rodear solo la ejecución del comando if self.retorno != self.RET_ANY: if self.retorno == self.RET_FAIL: if proc.returncode == 0: @@ -395,24 +404,23 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode) if comando_ejecutado.exito is None: log.debug(_(u'Código de retorno OK')) - comando_ejecutado.fin = datetime.now() if a_guardar: buffer = StringIO() zip = ZipFile(buffer, 'w') # Guardamos stdout/stderr if self.STDOUTERR in a_guardar: a_guardar.remove(self.STDOUTERR) - zip.write('/tmp/sercom.tester.%s.stdouterr' - % comando_ejecutado.id, '__stdouterr__') + zip.write('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), + self.STDOUTERR) else: if self.STDOUT in a_guardar: a_guardar.remove(self.STDOUT) - zip.write('/tmp/sercom.tester.%s.stdout' - % comando_ejecutado.id, '__stdout__') + zip.write('%s.%s.stdout' % (basetmp, comando_ejecutado.id), + self.STDOUT) if self.STDERR in a_guardar: a_guardar.remove(self.STDERR) - zip.write('/tmp/sercom.tester.%s.stderr' - % comando_ejecutado.id, '__stderr__') + zip.write('%s.%s.stderr' % (basetmp, comando_ejecutado.id), + self.STDERR) # Guardamos otros for f in a_guardar: if not os.path.exists(join(path, f)): @@ -420,40 +428,74 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ entrega.correcta = False comando_ejecutado.exito = False comando_ejecutado.observaciones += _(u'Se esperaba un archivo ' - u'"%s" pero no fue encontrado') % f - log.debug(_(u'Se esperaba un archivo "%s" pero no fue ' - u'encontrado'), f) + u'"%s" para guardar pero no fue encontrado.\n') % f + log.debug(_(u'Se esperaba un archivo "%s" para guardar pero ' + u'no fue encontrado'), f) else: zip.write(join(path, f), f) zip.close() comando_ejecutado.archivos_guardados = buffer.getvalue() + def diff(new, zip_in, zip_out, name, longname=None, origname='correcto', + newname='entregado'): + if longname is None: + longname = name + new = file(new, 'r').readlines() + orig = zip_in.read(name).split('\n') + udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, + tofile=name+'.'+newname))) + if udiff: + if self.rechazar_si_falla: + entrega.correcta = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'%s no coincide con lo ' + u'esperado (archivo "%s.diff").\n') % (longname, name) + log.debug(_(u'%s no coincide con lo esperado (archivo "%s.diff")'), + longname, name) + htmldiff = HtmlDiff().make_file(orig, new, + fromdesc=name+'.'+origname, todesc=name+'.'+newname, + context=True, numlines=3) + zip_out.writestr(name + '.diff', udiff) + zip_out.writestr(name + '.diff.html', htmldiff) + return True + else: + return False + if a_comparar: + buffer = StringIO() + zip = ZipFile(buffer, 'w') + # Comparamos stdout/stderr + if self.STDOUTERR in a_comparar: + a_comparar.remove(self.STDOUTERR) + diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id), + zip_a_comparar, zip, self.STDOUTERR, + _(u'La salida estándar y de error combinada')) + else: + if self.STDOUT in a_comparar: + a_comparar.remove(self.STDOUT) + diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id), + zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar')) + if self.STDERR in a_comparar: + a_comparar.remove(self.STDERR) + diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id), + zip_a_comparar, zip, self.STDERR, _(u'La salida de error')) + # Comparamos otros + for f in a_comparar: + if not os.path.exists(join(path, f)): + if self.rechazar_si_falla: + entrega.correcta = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'Se esperaba un archivo ' + u'"%s" para comparar pero no fue encontrado') % f + log.debug(_(u'Se esperaba un archivo "%s" para comparar pero ' + u'no fue encontrado'), f) + else: + diff(join(path, f), zip_a_comparar, zip, f) + zip.close() + comando_ejecutado.archivos_guardados = buffer.getvalue() if comando_ejecutado.exito is None: comando_ejecutado.exito = True elif self.terminar_si_falla: raise ExecutionFailure(self) -# if no_anda_ejecucion: # TODO -# comando_ejecutado.exito = False -# comando_ejecutado.observaciones += 'No anduvo xxx' # TODO mas info -# if self.rechazar_si_falla: -# entrega.exito = False -# if self.terminar_si_falla: # TODO -# raise ExecutionFailure(self) - # XXX ESTO EN REALIDAD EN COMANDOS FUENTE NO IRIA - # XXX SOLO HABRÍA QUE CAPTURAR stdout/stderr - # XXX PODRIA TENER ARCHIVOS DE SALIDA PERO SOLO PARA MOSTRAR COMO RESULTADO -# for archivo in self.archivos_salida: -# pass # TODO hacer diff -# if archivos_mal: # TODO -# comando_ejecutado.exito = False -# comando_ejecutado.observaciones += 'No anduvo xxx' # TODO mas info -# if self.rechazar_si_falla: -# entrega.exito = False -# if self.terminar_si_falla: # TODO -# raise ExecutionFailure(self) -# else: -# comando_ejecutado.exito = True -# comando_ejecutado.observaciones += 'xxx OK' # TODO ComandoFuente.ejecutar = ejecutar_comando_fuente #}}}