X-Git-Url: https://git.llucax.com/software/sercom.git/blobdiff_plain/bd2fce5dbca428c64c13bd1ea780f7279581d32a..64a15f7ee967cb0b8a822fc093d4676f80fc9b9a:/sercom/tester.py?ds=sidebyside

diff --git a/sercom/tester.py b/sercom/tester.py
index 6c30374..42d075f 100644
--- a/sercom/tester.py
+++ b/sercom/tester.py
@@ -2,6 +2,7 @@
 
 from sercom.model import Entrega, CasoDePrueba
 from sercom.model import TareaFuente, TareaPrueba, ComandoFuente, ComandoPrueba
+from difflib import unified_diff, HtmlDiff
 from zipfile import ZipFile, BadZipfile
 from cStringIO import StringIO
 from shutil import rmtree
@@ -9,8 +10,8 @@ from datetime import datetime
 from os.path import join
 from turbogears import config
 import subprocess as sp
-import os, sys, pwd, grp
 import resource as rsrc
+import os, sys, pwd, grp
 import logging
 
 log = logging.getLogger('sercom.tester')
@@ -72,7 +73,12 @@ sp.CalledProcessError = CalledProcessError
 
 class Error(StandardError): pass
 
-class ExecutionFailure(Error, RuntimeError): pass
+class ExecutionFailure(Error, RuntimeError): #{{{
+    def __init__(self, comando, tarea=None, caso_de_prueba=None):
+        self.comando = comando
+        self.tarea = tarea
+        self.caso_de_prueba = caso_de_prueba
+#}}}
 
 class RsyncError(Error, EnvironmentError): pass
 
@@ -209,10 +215,10 @@ class Tester(object): #{{{
             except Exception, e:
                 if isinstance(e, SystemExit): raise
                 entrega.observaciones += error_interno
-                log.exception(_(u'Hubo una excepción inesperada: %s'), e)
+                log.exception(_('Hubo una excepcion inesperada')) # FIXME encoding
             except:
                 entrega.observaciones += error_interno
-                log.exception(_(u'Hubo una excepción inesperada desconocida'))
+                log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding
             else:
                 entrega.correcta = True
                 log.debug(_(u'Entrega correcta: %s'), entrega)
@@ -274,7 +280,7 @@ def ejecutar_caso_de_prueba(self, path, entrega): #{{{
             if self.rechazar_si_falla:
                 entrega.exito = False
             if self.terminar_si_falla:
-                raise ExecutionError(e.comando, e.tarea, prueba)
+                raise ExecutionFailure(e.comando, e.tarea, self)
         else:
             prueba.exito = True
     finally:
@@ -292,7 +298,7 @@ def ejecutar_tarea_fuente(self, path, entrega): #{{{
         if self.rechazar_si_falla:
             entrega.exito = False
         if self.terminar_si_falla:
-            raise ExecutionError(e.comando, tarea)
+            raise ExecutionFailure(e.comando, self)
 TareaFuente.ejecutar = ejecutar_tarea_fuente
 #}}}
 
@@ -306,7 +312,7 @@ def ejecutar_tarea_prueba(self, path, prueba): #{{{
         if self.rechazar_si_falla:
             prueba.exito = False
         if self.terminar_si_falla:
-            raise ExecutionError(e.comando, tarea)
+            raise ExecutionFailure(e.comando, self)
 TareaPrueba.ejecutar = ejecutar_tarea_prueba
 #}}}
 
@@ -315,7 +321,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
         entrega.shortrepr())
     comando_ejecutado = entrega.add_comando_ejecutado(self)
     unzip(self.archivos_entrada, path, # TODO try/except
-        dict(__stdin__='/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id)) # TODO /var/run/sercom
+        {self.STDIN: '/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id}) # TODO /var/run/sercom
     options = dict(
         close_fds=True,
         shell=True,
@@ -325,17 +331,25 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
         options['stdin'] = file('/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id, 'r') # TODO
     else:
         options['preexec_fn'].close_stdin = True
-    if self.guardar_stdouterr:
+    a_guardar = set(self.archivos_a_guardar)
+    if self.archivos_a_comparar:
+        zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
+        a_comparar = set(zip_a_comparar.namelist())
+    else:
+        zip_a_comparar = None
+        a_comparar = frozenset()
+    a_usar = frozenset(a_guardar | a_comparar)
+    if self.STDOUTERR in a_usar:
         options['stdout'] = file('/tmp/sercom.tester.%s.stdouterr'
             % comando_ejecutado.id, 'w') #TODO /var/run/sercom?
         options['stderr'] = sp.STDOUT
     else:
-        if self.guardar_stdout:
+        if self.STDOUT in a_usar:
             options['stdout'] = file('/tmp/sercom.tester.%s.stdout'
                 % comando_ejecutado.id, 'w') #TODO /run/lib/sercom?
         else:
             options['preexec_fn'].close_stdout = True
-        if self.guardar_stderr:
+        if self.STDERR in a_usar:
             options['stderr'] = file('/tmp/sercom.tester.%s.stderr'
                 % comando_ejecutado.id, 'w') #TODO /var/run/sercom?
         else:
@@ -356,46 +370,132 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
+    if self.retorno != self.RET_ANY:
+        if self.retorno == self.RET_FAIL:
+            if proc.returncode == 0:
+                if self.rechazar_si_falla:
+                    entrega.correcta = False
+                comando_ejecutado.exito = False
+                comando_ejecutado.observaciones += _(u'Se esperaba que el '
+                    u'programa termine con un error (código de retorno '
+                    u'distinto de 0) pero terminó bien (código de retorno '
+                    u'0).\n')
+                log.debug(_(u'Se esperaba que el programa termine '
+                    u'con un error (código de retorno distinto de 0) pero '
+                    u'terminó bien (código de retorno 0).\n'))
+        elif self.retorno != proc.returncode:
+            if self.rechazar_si_falla:
+                entrega.correcta = False
+            comando_ejecutado.exito = False
+            if proc.returncode < 0:
+                comando_ejecutado.observaciones += _(u'Se esperaba terminar '
+                    u'con un código de retorno %s pero se obtuvo una señal %s '
+                    u'(%s).\n') % (self.retorno, -proc.returncode,
+                        -proc.returncode) # TODO poner con texto
+                log.debug(_(u'Se esperaba terminar con un código '
+                    u'de retorno %s pero se obtuvo una señal %s (%s).\n'),
+                    self.retorno, -proc.returncode, -proc.returncode)
+            else:
+                comando_ejecutado.observaciones += _(u'Se esperaba terminar '
+                    u'con un código de retorno %s pero se obtuvo %s.\n') \
+                    % (self.retorno, proc.returncode)
+                log.debug(_(u'Se esperaba terminar con un código de retorno '
+                    u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode)
+    if comando_ejecutado.exito is None:
+        log.debug(_(u'Código de retorno OK'))
     comando_ejecutado.fin = datetime.now()
-    buffer = StringIO()
-    zip = ZipFile(buffer, 'w')
-    if self.guardar_stdouterr:
-        zip.write('/tmp/sercom.tester.%s.stdouterr'
-            % comando_ejecutado.id, '__stdouterr__')
-    else:
-        if self.guardar_stdout:
-            azipwrite('/tmp/sercom.tester.%s.stdout'
-                % comando_ejecutado.id, '__stdout__')
-        if self.guardar_stderr:
-            zip.write('/tmp/sercom.tester.%s.stderr'
-                % comando_ejecutado.id, '__stderr__')
-    zip.close()
-    comando_ejecutado.archivos_guardados = buffer.getvalue()
+    if a_guardar:
+        buffer = StringIO()
+        zip = ZipFile(buffer, 'w')
+        # Guardamos stdout/stderr
+        if self.STDOUTERR in a_guardar:
+            a_guardar.remove(self.STDOUTERR)
+            zip.write('/tmp/sercom.tester.%s.stdouterr'
+                % comando_ejecutado.id, self.STDOUTERR)
+        else:
+            if self.STDOUT in a_guardar:
+                a_guardar.remove(self.STDOUT)
+                zip.write('/tmp/sercom.tester.%s.stdout'
+                    % comando_ejecutado.id, self.STDOUT)
+            if self.STDERR in a_guardar:
+                a_guardar.remove(self.STDERR)
+                zip.write('/tmp/sercom.tester.%s.stderr'
+                    % comando_ejecutado.id, self.STDERR)
+        # Guardamos otros
+        for f in a_guardar:
+            if not os.path.exists(join(path, f)):
+                if self.rechazar_si_falla:
+                    entrega.correcta = False
+                comando_ejecutado.exito = False
+                comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
+                    u'"%s" para guardar pero no fue encontrado.\n') % f
+                log.debug(_(u'Se esperaba un archivo "%s" para guardar pero '
+                    u'no fue encontrado'), f)
+            else:
+                zip.write(join(path, f), f)
+        zip.close()
+        comando_ejecutado.archivos_guardados = buffer.getvalue()
+    def diff(new, zip_in, zip_out, name, longname=None, origname='correcto',
+             newname='entregado'):
+        if longname is None:
+            longname = name
+        new = file(new, 'r').readlines()
+        orig = zip_in.read(name).split('\n')
+        udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
+            tofile=name+'.'+newname)))
+        if udiff:
+            if self.rechazar_si_falla:
+                entrega.correcta = False
+            comando_ejecutado.exito = False
+            comando_ejecutado.observaciones += _(u'%s no coincide con lo '
+                u'esperado (archivo "%s.diff").\n') % (longname, name)
+            log.debug(_(u'%s no coincide con lo esperado (archivo "%s.diff")'),
+                longname, name)
+            htmldiff = HtmlDiff().make_file(orig, new,
+                fromdesc=name+'.'+origname, todesc=name+'.'+newname,
+                context=True, numlines=3)
+            zip_out.writestr(name + '.diff', udiff)
+            zip_out.writestr(name + '.diff.html', htmldiff)
+            return True
+        else:
+            return False
+    if a_comparar:
+        buffer = StringIO()
+        zip = ZipFile(buffer, 'w')
+        # Comparamos stdout/stderr
+        if self.STDOUTERR in a_comparar:
+            a_comparar.remove(self.STDOUTERR)
+            diff('/tmp/sercom.tester.%s.stdouterr' % comando_ejecutado.id,
+                zip_a_comparar, zip, self.STDOUTERR,
+                _(u'La salida estándar y de error combinada'))
+        else:
+            if self.STDOUT in a_comparar:
+                a_comparar.remove(self.STDOUT)
+                diff('/tmp/sercom.tester.%s.stdout' % comando_ejecutado.id,
+                    zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
+            if self.STDERR in a_comparar:
+                a_comparar.remove(self.STDERR)
+                diff('/tmp/sercom.tester.%s.stderr' % comando_ejecutado.id,
+                    zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
+        # Comparamos otros
+        for f in a_comparar:
+            if not os.path.exists(join(path, f)):
+                if self.rechazar_si_falla:
+                    entrega.correcta = False
+                comando_ejecutado.exito = False
+                comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
+                    u'"%s" para comparar pero no fue encontrado') % f
+                log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
+                    u'no fue encontrado'), f)
+            else:
+                diff(join(path, f), zip_a_comparar, zip, f)
+        zip.close()
+        comando_ejecutado.archivos_guardados = buffer.getvalue()
+    if comando_ejecutado.exito is None:
+        comando_ejecutado.exito = True
+    elif self.terminar_si_falla:
+        raise ExecutionFailure(self)
 
-#    if no_anda_ejecucion: # TODO
-#        comando_ejecutado.exito = False
-#        comando_ejecutado.observaciones += 'No anduvo xxx' # TODO mas info
-#        if self.rechazar_si_falla:
-#            entrega.exito = False
-#        if self.terminar_si_falla: # TODO
-#            raise ExecutionFailure(self)
-    # XXX ESTO EN REALIDAD EN COMANDOS FUENTE NO IRIA
-    # XXX SOLO HABRÍA QUE CAPTURAR stdout/stderr
-    # XXX PODRIA TENER ARCHIVOS DE SALIDA PERO SOLO PARA MOSTRAR COMO RESULTADO
-#    for archivo in self.archivos_salida:
-#        pass # TODO hacer diff
-#    if archivos_mal: # TODO
-#        comando_ejecutado.exito = False
-#        comando_ejecutado.observaciones += 'No anduvo xxx' # TODO mas info
-#        if self.rechazar_si_falla:
-#            entrega.exito = False
-#        if self.terminar_si_falla: # TODO
-#            raise ExecutionFailure(self)
-#    else:
-#        comando_ejecutado.exito = True
-#        comando_ejecutado.observaciones += 'xxx OK' # TODO
-    comando_ejecutado.exito = True
-    comando_ejecutado.observaciones += 'xxx OK' # TODO
 ComandoFuente.ejecutar = ejecutar_comando_fuente
 #}}}