X-Git-Url: https://git.llucax.com/z.facultad/75.52/sercom.git/blobdiff_plain/0ce2283d282b1b2b162cb39ed0d0c940e0844d6d..bd5950ff9004f57d00fe13bb01105cba467a8115:/sercom/tester.py?ds=inline diff --git a/sercom/tester.py b/sercom/tester.py index e3d4226..0d7f498 100644 --- a/sercom/tester.py +++ b/sercom/tester.py @@ -2,6 +2,7 @@ from sercom.model import Entrega, CasoDePrueba from sercom.model import TareaFuente, TareaPrueba, ComandoFuente, ComandoPrueba +from difflib import unified_diff, HtmlDiff from zipfile import ZipFile, BadZipfile from cStringIO import StringIO from shutil import rmtree @@ -9,8 +10,8 @@ from datetime import datetime from os.path import join from turbogears import config import subprocess as sp -import os, sys, pwd, grp import resource as rsrc +import os, sys, pwd, grp import logging log = logging.getLogger('sercom.tester') @@ -72,7 +73,12 @@ sp.CalledProcessError = CalledProcessError class Error(StandardError): pass -class ExecutionFailure(Error, RuntimeError): pass +class ExecutionFailure(Error, RuntimeError): #{{{ + def __init__(self, comando, tarea=None, caso_de_prueba=None): + self.comando = comando + self.tarea = tarea + self.caso_de_prueba = caso_de_prueba +#}}} class RsyncError(Error, EnvironmentError): pass @@ -209,10 +215,10 @@ class Tester(object): #{{{ except Exception, e: if isinstance(e, SystemExit): raise entrega.observaciones += error_interno - log.exception(_('Hubo una excepcion inesperada')) + log.exception(_('Hubo una excepcion inesperada')) # FIXME encoding except: entrega.observaciones += error_interno - log.exception(_('Hubo una excepcion inesperada desconocida')) + log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding else: entrega.correcta = True log.debug(_(u'Entrega correcta: %s'), entrega) @@ -274,7 +280,7 @@ def ejecutar_caso_de_prueba(self, path, entrega): #{{{ if self.rechazar_si_falla: entrega.exito = False if self.terminar_si_falla: - raise ExecutionError(e.comando, e.tarea, prueba) + raise ExecutionFailure(e.comando, e.tarea, self) else: prueba.exito = True finally: @@ -292,7 +298,7 @@ def ejecutar_tarea_fuente(self, path, entrega): #{{{ if self.rechazar_si_falla: entrega.exito = False if self.terminar_si_falla: - raise ExecutionError(e.comando, tarea) + raise ExecutionFailure(e.comando, self) TareaFuente.ejecutar = ejecutar_tarea_fuente #}}} @@ -306,7 +312,7 @@ def ejecutar_tarea_prueba(self, path, prueba): #{{{ if self.rechazar_si_falla: prueba.exito = False if self.terminar_si_falla: - raise ExecutionError(e.comando, tarea) + raise ExecutionFailure(e.comando, self) TareaPrueba.ejecutar = ejecutar_tarea_prueba #}}} @@ -315,7 +321,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ entrega.shortrepr()) comando_ejecutado = entrega.add_comando_ejecutado(self) unzip(self.archivos_entrada, path, # TODO try/except - dict(__stdin__='/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id)) # TODO /var/run/sercom + {self.STDIN: '/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id}) # TODO /var/run/sercom options = dict( close_fds=True, shell=True, @@ -325,17 +331,25 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ options['stdin'] = file('/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id, 'r') # TODO else: options['preexec_fn'].close_stdin = True - if self.guardar_stdouterr: + a_guardar = set(self.archivos_a_guardar) + if self.archivos_a_comparar: + zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r') + a_comparar = set(zip_a_comparar.namelist()) + else: + zip_a_comparar = None + a_comparar = frozenset() + a_usar = frozenset(a_guardar | a_comparar) + if self.STDOUTERR in a_usar: options['stdout'] = file('/tmp/sercom.tester.%s.stdouterr' % comando_ejecutado.id, 'w') #TODO /var/run/sercom? options['stderr'] = sp.STDOUT else: - if self.guardar_stdout: + if self.STDOUT in a_usar: options['stdout'] = file('/tmp/sercom.tester.%s.stdout' % comando_ejecutado.id, 'w') #TODO /run/lib/sercom? else: options['preexec_fn'].close_stdout = True - if self.guardar_stderr: + if self.STDERR in a_usar: options['stderr'] = file('/tmp/sercom.tester.%s.stderr' % comando_ejecutado.id, 'w') #TODO /var/run/sercom? else: @@ -359,6 +373,8 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ if self.retorno != self.RET_ANY: if self.retorno == self.RET_FAIL: if proc.returncode == 0: + if self.rechazar_si_falla: + entrega.correcta = False comando_ejecutado.exito = False comando_ejecutado.observaciones += _(u'Se esperaba que el ' u'programa termine con un error (código de retorno ' @@ -368,6 +384,8 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ u'con un error (código de retorno distinto de 0) pero ' u'terminó bien (código de retorno 0).\n')) elif self.retorno != proc.returncode: + if self.rechazar_si_falla: + entrega.correcta = False comando_ejecutado.exito = False if proc.returncode < 0: comando_ejecutado.observaciones += _(u'Se esperaba terminar ' @@ -386,20 +404,101 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ if comando_ejecutado.exito is None: log.debug(_(u'Código de retorno OK')) comando_ejecutado.fin = datetime.now() - buffer = StringIO() - zip = ZipFile(buffer, 'w') - if self.guardar_stdouterr: - zip.write('/tmp/sercom.tester.%s.stdouterr' - % comando_ejecutado.id, '__stdouterr__') - else: - if self.guardar_stdout: - zip.write('/tmp/sercom.tester.%s.stdout' - % comando_ejecutado.id, '__stdout__') - if self.guardar_stderr: - zip.write('/tmp/sercom.tester.%s.stderr' - % comando_ejecutado.id, '__stderr__') - zip.close() - comando_ejecutado.archivos_guardados = buffer.getvalue() + if a_guardar: + buffer = StringIO() + zip = ZipFile(buffer, 'w') + # Guardamos stdout/stderr + if self.STDOUTERR in a_guardar: + a_guardar.remove(self.STDOUTERR) + zip.write('/tmp/sercom.tester.%s.stdouterr' + % comando_ejecutado.id, self.STDOUTERR) + else: + if self.STDOUT in a_guardar: + a_guardar.remove(self.STDOUT) + zip.write('/tmp/sercom.tester.%s.stdout' + % comando_ejecutado.id, self.STDOUT) + if self.STDERR in a_guardar: + a_guardar.remove(self.STDERR) + zip.write('/tmp/sercom.tester.%s.stderr' + % comando_ejecutado.id, self.STDERR) + # Guardamos otros + for f in a_guardar: + if not os.path.exists(join(path, f)): + if self.rechazar_si_falla: + entrega.correcta = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'Se esperaba un archivo ' + u'"%s" para guardar pero no fue encontrado.\n') % f + log.debug(_(u'Se esperaba un archivo "%s" para guardar pero ' + u'no fue encontrado'), f) + else: + zip.write(join(path, f), f) + zip.close() + comando_ejecutado.archivos_guardados = buffer.getvalue() + file('/tmp/guardado.zip', 'w').write(buffer.getvalue()) # XXX TODO FIXME sacar + def diff(new, zip_in, zip_out, name, longname=None, origname='correcto', + newname='entregado'): + if longname is None: + longname = name + new = file(new, 'r').readlines() + orig = zip_in.read(name).split('\n') + udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, + tofile=name+'.'+newname))) + if udiff: + if self.rechazar_si_falla: + entrega.correcta = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'%s no coincide con lo ' + u'esperado (archivo "%s.diff").\n') % (longname, name) + log.debug(_(u'%s no coincide con lo esperado (archivo "%s.diff")'), + longname, name) + htmldiff = HtmlDiff().make_file(orig, new, + fromdesc=name+'.'+origname, todesc=name+'.'+newname, + context=True, numlines=3) + zip_out.writestr(name + '.diff', udiff) + zip_out.writestr(name + '.diff.html', htmldiff) + return True + else: + return False + if a_comparar: + buffer = StringIO() + zip = ZipFile(buffer, 'w') + # Comparamos stdout/stderr + if self.STDOUTERR in a_comparar: + a_comparar.remove(self.STDOUTERR) + diff('/tmp/sercom.tester.%s.stdouterr' % comando_ejecutado.id, + zip_a_comparar, zip, self.STDOUTERR, + _(u'La salida estándar y de error combinada')) + else: + if self.STDOUT in a_comparar: + a_comparar.remove(self.STDOUT) + diff('/tmp/sercom.tester.%s.stdout' % comando_ejecutado.id, + zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar')) + if self.STDERR in a_comparar: + a_comparar.remove(self.STDERR) + diff('/tmp/sercom.tester.%s.stderr' % comando_ejecutado.id, + zip_a_comparar, zip, self.STDERR, _(u'La salida de error')) + # Comparamos otros + for f in a_comparar: + if not os.path.exists(join(path, f)): + if self.rechazar_si_falla: + entrega.correcta = False + comando_ejecutado.exito = False + comando_ejecutado.observaciones += _(u'Se esperaba un archivo ' + u'"%s" para comparar pero no fue encontrado') % f + log.debug(_(u'Se esperaba un archivo "%s" para comparar pero ' + u'no fue encontrado'), f) + else: + diff(join(path, f), zip_a_comparar, zip, f) + zip.close() + comando_ejecutado.archivos_guardados = buffer.getvalue() + file('/tmp/comparado.zip', 'w').write(buffer.getvalue()) # XXX TODO FIXME sacar + + + if comando_ejecutado.exito is None: + comando_ejecutado.exito = True + elif self.terminar_si_falla: + raise ExecutionFailure(self) # if no_anda_ejecucion: # TODO # comando_ejecutado.exito = False @@ -423,8 +522,6 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{ # else: # comando_ejecutado.exito = True # comando_ejecutado.observaciones += 'xxx OK' # TODO - comando_ejecutado.exito = True - comando_ejecutado.observaciones += 'xxx OK' # TODO ComandoFuente.ejecutar = ejecutar_comando_fuente #}}}