X-Git-Url: https://git.llucax.com/z.facultad/75.52/sercom.git/blobdiff_plain/64a15f7ee967cb0b8a822fc093d4676f80fc9b9a..dec414f2d451961a1e10dc99fddff0c21958dffe:/sercom/tester.py?ds=sidebyside

diff --git a/sercom/tester.py b/sercom/tester.py
index 42d075f..e278417 100644
--- a/sercom/tester.py
+++ b/sercom/tester.py
@@ -1,7 +1,7 @@
 # vim: set et sw=4 sts=4 encoding=utf-8 foldmethod=marker:
 
-from sercom.model import Entrega, CasoDePrueba
-from sercom.model import TareaFuente, TareaPrueba, ComandoFuente, ComandoPrueba
+from sercom.model import Entrega, CasoDePrueba, Tarea, TareaFuente, TareaPrueba
+from sercom.model import ComandoFuente, ComandoPrueba
 from difflib import unified_diff, HtmlDiff
 from zipfile import ZipFile, BadZipfile
 from cStringIO import StringIO
@@ -80,8 +80,6 @@ class ExecutionFailure(Error, RuntimeError): #{{{
         self.caso_de_prueba = caso_de_prueba
 #}}}
 
-class RsyncError(Error, EnvironmentError): pass
-
 #}}}
 
 def unzip(bytes, default_dst='.', specific_dst=dict()): # {{{
@@ -105,6 +103,24 @@ def unzip(bytes, default_dst='.', specific_dst=dict()): # {{{
     zfile.close()
 #}}}
 
+class Multizip(object): #{{{
+    def __init__(self, *zip_streams):
+        self.zips = [ZipFile(StringIO(z), 'r') for z in zip_streams
+            if z is not None]
+        self.names = set()
+        for z in self.zips:
+            self.names |= set(z.namelist())
+    def read(self, name):
+        for z in self.zips:
+            try:
+                return z.read(name)
+            except KeyError:
+                pass
+        raise KeyError(name)
+    def namelist(self):
+        return self.names
+#}}}
+
 class SecureProcess(object): #{{{
     default = dict(
         max_tiempo_cpu      = 120,
@@ -167,10 +183,10 @@ class Tester(object): #{{{
         self.home = home
         self.queue = queue
         # Ahora somos mortales (oid mortales)
-        log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'),
-            user_info.user, user_info.group, user_info.uid, user_info.gid)
         os.setegid(user_info.gid)
         os.seteuid(user_info.uid)
+        log.debug(_(u'usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+            user_info.user, user_info.group, user_info.uid, user_info.gid)
 
     @property
     def build_path(self):
@@ -202,7 +218,7 @@ class Tester(object): #{{{
 
     def test(self, entrega): #{{{
         log.debug(_(u'Tester.test(entrega=%s)'), entrega)
-        entrega.inicio_tareas = datetime.now()
+        entrega.inicio = datetime.now()
         try:
             try:
                 self.setup_chroot(entrega)
@@ -210,8 +226,7 @@ class Tester(object): #{{{
                 self.ejecutar_tareas_prueba(entrega)
                 self.clean_chroot(entrega)
             except ExecutionFailure, e:
-                entrega.correcta = False
-                log.info(_(u'Entrega incorrecta: %s'), entrega)
+                pass
             except Exception, e:
                 if isinstance(e, SystemExit): raise
                 entrega.observaciones += error_interno
@@ -219,11 +234,14 @@ class Tester(object): #{{{
             except:
                 entrega.observaciones += error_interno
                 log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding
-            else:
-                entrega.correcta = True
-                log.debug(_(u'Entrega correcta: %s'), entrega)
         finally:
-            entrega.fin_tareas = datetime.now()
+            entrega.fin = datetime.now()
+            if entrega.exito is None:
+                entrega.exito = True
+            if entrega.exito:
+                log.info(_(u'Entrega correcta: %s'), entrega)
+            else:
+                log.info(_(u'Entrega incorrecta: %s'), entrega)
     #}}}
 
     def setup_chroot(self, entrega): #{{{ y clean_chroot()
@@ -237,10 +255,10 @@ class Tester(object): #{{{
         try:
             sp.check_call(rsync)
         finally:
-            log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'),
-                user_info.user, user_info.group, user_info.uid, user_info.gid)
             os.setegid(user_info.gid) # Mortal de nuevo
             os.seteuid(user_info.uid)
+            log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+                user_info.user, user_info.group, user_info.uid, user_info.gid)
         unzip(entrega.archivos, self.build_path)
 
     def clean_chroot(self, entrega):
@@ -270,111 +288,95 @@ def ejecutar_caso_de_prueba(self, path, entrega): #{{{
         entrega.shortrepr())
     tareas = [t for t in entrega.instancia.ejercicio.enunciado.tareas
                 if isinstance(t, TareaPrueba)]
-    prueba = entrega.add_prueba(self)
+    prueba = entrega.add_prueba(self, inicio=datetime.now())
     try:
         try:
             for tarea in tareas:
                 tarea.ejecutar(path, prueba)
         except ExecutionFailure, e:
-            prueba.exito = False
-            if self.rechazar_si_falla:
-                entrega.exito = False
-            if self.terminar_si_falla:
-                raise ExecutionFailure(e.comando, e.tarea, self)
-        else:
-            prueba.exito = True
+            pass
     finally:
         prueba.fin = datetime.now()
+        if prueba.exito is None:
+            prueba.exito = True
+    if not prueba.exito and self.rechazar_si_falla:
+        entrega.exito = False
+    if not prueba.exito and self.terminar_si_falla:
+        raise ExecutionFailure(prueba)
 CasoDePrueba.ejecutar = ejecutar_caso_de_prueba
 #}}}
 
-def ejecutar_tarea_fuente(self, path, entrega): #{{{
-    log.debug(_(u'TareaFuente.ejecutar(path=%s, entrega=%s)'), path,
-        entrega.shortrepr())
-    try:
-        for cmd in self.comandos:
-            cmd.ejecutar(path, entrega)
-    except ExecutionFailure, e:
-        if self.rechazar_si_falla:
-            entrega.exito = False
-        if self.terminar_si_falla:
-            raise ExecutionFailure(e.comando, self)
-TareaFuente.ejecutar = ejecutar_tarea_fuente
+def ejecutar_tarea(self, path, ejecucion): #{{{
+    log.debug(_(u'Tarea.ejecutar(path=%s, ejecucion=%s)'), path,
+        ejecucion.shortrepr())
+    for cmd in self.comandos:
+        cmd.ejecutar(path, ejecucion)
+Tarea.ejecutar = ejecutar_tarea
 #}}}
 
-def ejecutar_tarea_prueba(self, path, prueba): #{{{
-    log.debug(_(u'TareaPrueba.ejecutar(path=%s, prueba=%s)'), path,
-        prueba.shortrepr())
-    try:
-        for cmd in self.comandos:
-            cmd.ejecutar(path, prueba)
-    except ExecutionFailure, e:
-        if self.rechazar_si_falla:
-            prueba.exito = False
-        if self.terminar_si_falla:
-            raise ExecutionFailure(e.comando, self)
-TareaPrueba.ejecutar = ejecutar_tarea_prueba
-#}}}
+# TODO generalizar ejecutar_comando_xxxx!!!
 
 def ejecutar_comando_fuente(self, path, entrega): #{{{
     log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path,
         entrega.shortrepr())
     comando_ejecutado = entrega.add_comando_ejecutado(self)
+    basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom?
     unzip(self.archivos_entrada, path, # TODO try/except
-        {self.STDIN: '/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id}) # TODO /var/run/sercom
+        {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
     options = dict(
         close_fds=True,
         shell=True,
-        preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/build')
+        preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/build') #FIXME!!! path
     )
-    if os.path.exists('/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id): # TODO
-        options['stdin'] = file('/tmp/sercom.tester.%s.stdin' % comando_ejecutado.id, 'r') # TODO
+    if os.path.exists('%s.%s.stdin' % (basetmp, comando_ejecutado.id)):
+        options['stdin'] = file('%s.%s.stdin' % (basetmp, comando_ejecutado.id),
+            'r')
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)
-    if self.archivos_a_comparar:
-        zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
-        a_comparar = set(zip_a_comparar.namelist())
-    else:
-        zip_a_comparar = None
-        a_comparar = frozenset()
+    zip_a_comparar = Multizip(self.archivos_a_comparar)
+    a_comparar = set(zip_a_comparar.namelist())
     a_usar = frozenset(a_guardar | a_comparar)
     if self.STDOUTERR in a_usar:
-        options['stdout'] = file('/tmp/sercom.tester.%s.stdouterr'
-            % comando_ejecutado.id, 'w') #TODO /var/run/sercom?
+        options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
+            comando_ejecutado.id), 'w')
         options['stderr'] = sp.STDOUT
     else:
         if self.STDOUT in a_usar:
-            options['stdout'] = file('/tmp/sercom.tester.%s.stdout'
-                % comando_ejecutado.id, 'w') #TODO /run/lib/sercom?
+            options['stdout'] = file('%s.%s.stdout' % (basetmp,
+                comando_ejecutado.id), 'w')
         else:
             options['preexec_fn'].close_stdout = True
         if self.STDERR in a_usar:
-            options['stderr'] = file('/tmp/sercom.tester.%s.stderr'
-                % comando_ejecutado.id, 'w') #TODO /var/run/sercom?
+            options['stderr'] = file('%s.%s.stderr' % (basetmp,
+                comando_ejecutado.id), 'w')
         else:
             options['preexec_fn'].close_stderr = True
-    log.debug(_(u'Ejecutando como root: %s'), self.comando)
+    comando = self.comando # FIXME Acá tiene que diferenciarse de ComandoPrueba
+    comando_ejecutado.inicio = datetime.now()
+    log.debug(_(u'Ejecutando como root: %s'), comando)
     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)
     try:
         try:
-            proc = sp.Popen(self.comando, **options)
+            proc = sp.Popen(comando, **options)
         finally:
-            log.debug(_(u'Cambiando usuario y grupo efectivos a %s:%s (%s:%s)'),
-                user_info.user, user_info.group, user_info.uid, user_info.gid)
             os.setegid(user_info.gid) # Mortal de nuevo
             os.seteuid(user_info.uid)
+            log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+                user_info.user, user_info.group, user_info.uid, user_info.gid)
     except Exception, e:
         if hasattr(e, 'child_traceback'):
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
-    if self.retorno != self.RET_ANY:
-        if self.retorno == self.RET_FAIL:
+    comando_ejecutado.fin = datetime.now()
+    retorno = self.retorno
+    if retorno != self.RET_ANY:
+        if retorno == self.RET_FAIL:
             if proc.returncode == 0:
                 if self.rechazar_si_falla:
-                    entrega.correcta = False
+                    entrega.exito = False
                 comando_ejecutado.exito = False
                 comando_ejecutado.observaciones += _(u'Se esperaba que el '
                     u'programa termine con un error (código de retorno '
@@ -383,49 +385,47 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
                 log.debug(_(u'Se esperaba que el programa termine '
                     u'con un error (código de retorno distinto de 0) pero '
                     u'terminó bien (código de retorno 0).\n'))
-        elif self.retorno != proc.returncode:
+        elif retorno != proc.returncode:
             if self.rechazar_si_falla:
-                entrega.correcta = False
+                entrega.exito = False
             comando_ejecutado.exito = False
             if proc.returncode < 0:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo una señal %s '
-                    u'(%s).\n') % (self.retorno, -proc.returncode,
-                        -proc.returncode) # TODO poner con texto
+                    u'(%s).\n') % (retorno, -proc.returncode, -proc.returncode) # TODO poner con texto
                 log.debug(_(u'Se esperaba terminar con un código '
                     u'de retorno %s pero se obtuvo una señal %s (%s).\n'),
-                    self.retorno, -proc.returncode, -proc.returncode)
+                    retorno, -proc.returncode, -proc.returncode)
             else:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo %s.\n') \
-                    % (self.retorno, proc.returncode)
+                    % (retorno, proc.returncode)
                 log.debug(_(u'Se esperaba terminar con un código de retorno '
-                    u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode)
+                    u'%s pero se obtuvo %s.\n'), retorno, proc.returncode)
     if comando_ejecutado.exito is None:
         log.debug(_(u'Código de retorno OK'))
-    comando_ejecutado.fin = datetime.now()
     if a_guardar:
         buffer = StringIO()
         zip = ZipFile(buffer, 'w')
         # Guardamos stdout/stderr
         if self.STDOUTERR in a_guardar:
             a_guardar.remove(self.STDOUTERR)
-            zip.write('/tmp/sercom.tester.%s.stdouterr'
-                % comando_ejecutado.id, self.STDOUTERR)
+            zip.write('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+                self.STDOUTERR)
         else:
             if self.STDOUT in a_guardar:
                 a_guardar.remove(self.STDOUT)
-                zip.write('/tmp/sercom.tester.%s.stdout'
-                    % comando_ejecutado.id, self.STDOUT)
+                zip.write('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+                    self.STDOUT)
             if self.STDERR in a_guardar:
                 a_guardar.remove(self.STDERR)
-                zip.write('/tmp/sercom.tester.%s.stderr'
-                    % comando_ejecutado.id, self.STDERR)
+                zip.write('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+                    self.STDERR)
         # Guardamos otros
         for f in a_guardar:
             if not os.path.exists(join(path, f)):
                 if self.rechazar_si_falla:
-                    entrega.correcta = False
+                    entrega.exito = False
                 comando_ejecutado.exito = False
                 comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
                     u'"%s" para guardar pero no fue encontrado.\n') % f
@@ -434,7 +434,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
             else:
                 zip.write(join(path, f), f)
         zip.close()
-        comando_ejecutado.archivos_guardados = buffer.getvalue()
+        comando_ejecutado.archivos = buffer.getvalue()
     def diff(new, zip_in, zip_out, name, longname=None, origname='correcto',
              newname='entregado'):
         if longname is None:
@@ -445,7 +445,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
             tofile=name+'.'+newname)))
         if udiff:
             if self.rechazar_si_falla:
-                entrega.correcta = False
+                entrega.exito = False
             comando_ejecutado.exito = False
             comando_ejecutado.observaciones += _(u'%s no coincide con lo '
                 u'esperado (archivo "%s.diff").\n') % (longname, name)
@@ -465,23 +465,23 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
         # Comparamos stdout/stderr
         if self.STDOUTERR in a_comparar:
             a_comparar.remove(self.STDOUTERR)
-            diff('/tmp/sercom.tester.%s.stdouterr' % comando_ejecutado.id,
+            diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
                 zip_a_comparar, zip, self.STDOUTERR,
                 _(u'La salida estándar y de error combinada'))
         else:
             if self.STDOUT in a_comparar:
                 a_comparar.remove(self.STDOUT)
-                diff('/tmp/sercom.tester.%s.stdout' % comando_ejecutado.id,
+                diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
                     zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
             if self.STDERR in a_comparar:
                 a_comparar.remove(self.STDERR)
-                diff('/tmp/sercom.tester.%s.stderr' % comando_ejecutado.id,
+                diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
                     zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
         # Comparamos otros
         for f in a_comparar:
             if not os.path.exists(join(path, f)):
                 if self.rechazar_si_falla:
-                    entrega.correcta = False
+                    entrega.exito = False
                 comando_ejecutado.exito = False
                 comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
                     u'"%s" para comparar pero no fue encontrado') % f
@@ -490,7 +490,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
             else:
                 diff(join(path, f), zip_a_comparar, zip, f)
         zip.close()
-        comando_ejecutado.archivos_guardados = buffer.getvalue()
+        comando_ejecutado.diferencias = buffer.getvalue()
     if comando_ejecutado.exito is None:
         comando_ejecutado.exito = True
     elif self.terminar_si_falla:
@@ -500,36 +500,209 @@ ComandoFuente.ejecutar = ejecutar_comando_fuente
 #}}}
 
 def ejecutar_comando_prueba(self, path, prueba): #{{{
+    # Diferencia con comando fuente: s/entrega/prueba/ y s/build/test/ en path
+    # y setup/clean de test.
     log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path,
         prueba.shortrepr())
-    rmtree(path)
-    os.mkdir(path)
-    unzip(prueba.caso_de_prueba.archivos_entrada, path) # TODO try/except
-    unzip(self.archivos_entrada, path) # TODO try/except
+    caso_de_prueba = prueba.caso_de_prueba
     comando_ejecutado = prueba.add_comando_ejecutado(self)
-    # TODO ejecutar en chroot (path)
+    basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom?
+    #{{{ Código que solo va en ComandoPrueba (setup de directorio)
+    rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',
+        '--archive', '--acls', '--delete-during', '--force', # TODO config
+        'var/chroot_pepe/home/sercom/build/', path) # FIXME!!!! path
+    log.debug(_(u'Ejecutando como root: %s'), ' '.join(rsync))
+    os.seteuid(0) # Dios! (para chroot)
+    os.setegid(0)
+    try:
+        sp.check_call(rsync)
+    finally:
+        os.setegid(user_info.gid) # Mortal de nuevo
+        os.seteuid(user_info.uid)
+        log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+            user_info.user, user_info.group, user_info.uid, user_info.gid)
+    #}}}
+    unzip(self.archivos_entrada, path, # TODO try/except
+        {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
+    unzip(caso_de_prueba.archivos_entrada, path, # TODO try/except     # FIXME Esto es propio de ComandoPrueba
+        {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) # FIXME Esto es propio de ComandoPrueba
+    options = dict(
+        close_fds=True,
+        shell=True,
+        preexec_fn=SecureProcess(self, 'var/chroot_pepe', '/home/sercom/test') # FIXME!!!! path
+    )
+    if os.path.exists('%s.%s.stdin' % (basetmp, comando_ejecutado.id)):
+        options['stdin'] = file('%s.%s.stdin' % (basetmp, comando_ejecutado.id),
+            'r')
+    else:
+        options['preexec_fn'].close_stdin = True
+    a_guardar = set(self.archivos_a_guardar)
+    a_guardar |= set(caso_de_prueba.archivos_a_guardar)           # FIXME Esto es propio de ComandoPrueba
+    zip_a_comparar = Multizip(caso_de_prueba.archivos_a_comparar, # FIXME Esto es propio de ComandoPrueba
+        self.archivos_a_comparar)                                 # FIXME Esto es propio de ComandoPrueba
+    a_comparar = set(zip_a_comparar.namelist())
+    a_usar = frozenset(a_guardar | a_comparar)
+    if self.STDOUTERR in a_usar:
+        options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
+            comando_ejecutado.id), 'w')
+        options['stderr'] = sp.STDOUT
+    else:
+        if self.STDOUT in a_usar:
+            options['stdout'] = file('%s.%s.stdout' % (basetmp,
+                comando_ejecutado.id), 'w')
+        else:
+            options['preexec_fn'].close_stdout = True
+        if self.STDERR in a_usar:
+            options['stderr'] = file('%s.%s.stderr' % (basetmp,
+                comando_ejecutado.id), 'w')
+        else:
+            options['preexec_fn'].close_stderr = True
+    comando = self.comando + ' ' + caso_de_prueba.comando # FIXME Esto es propio de ComandoPrueba
+    comando_ejecutado.inicio = datetime.now()
+    log.debug(_(u'Ejecutando como root: %s'), comando)
+    os.seteuid(0) # Dios! (para chroot)
+    os.setegid(0)
+    try:
+        try:
+            proc = sp.Popen(comando, **options)
+        finally:
+            os.setegid(user_info.gid) # Mortal de nuevo
+            os.seteuid(user_info.uid)
+            log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
+                user_info.user, user_info.group, user_info.uid, user_info.gid)
+    except Exception, e:
+        if hasattr(e, 'child_traceback'):
+            log.error(_(u'Error en el hijo: %s'), e.child_traceback)
+        raise
+    proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
     comando_ejecutado.fin = datetime.now()
-#    if no_anda_ejecucion: # TODO
-#        comando_ejecutado.exito = False
-#        comando_ejecutado.observaciones += 'No anduvo xxx' # TODO
-#        if self.rechazar_si_falla:
-#            entrega.exito = False
-#        if self.terminar_si_falla: # TODO
-#            raise ExecutionFailure(self) # TODO info de error
-#    for archivo in self.archivos_salida:
-#        pass # TODO hacer diff
-#    if archivos_mal: # TODO
-#        comando_ejecutado.exito = False
-#        comando_ejecutado.observaciones += 'No anduvo xxx' # TODO
-#        if self.rechazar_si_falla:
-#            entrega.exito = False
-#        if self.terminar_si_falla: # TODO
-#            raise ExecutionFailure(comando=self) # TODO info de error
-#    else:
-#        comando_ejecutado.exito = True
-#        comando_ejecutado.observaciones += 'xxx OK' # TODO
-    comando_ejecutado.exito = True
-    comando_ejecutado.observaciones += 'xxx OK' # TODO
+    retorno = self.retorno
+    if retorno == self.RET_PRUEBA:                # FIXME Esto es propio de ComandoPrueba
+        retorno = caso_de_prueba.retorno   # FIXME Esto es propio de ComandoPrueba
+    if retorno != self.RET_ANY:
+        if retorno == self.RET_FAIL:
+            if proc.returncode == 0:
+                if self.rechazar_si_falla:
+                    prueba.exito = False
+                comando_ejecutado.exito = False
+                comando_ejecutado.observaciones += _(u'Se esperaba que el '
+                    u'programa termine con un error (código de retorno '
+                    u'distinto de 0) pero terminó bien (código de retorno '
+                    u'0).\n')
+                log.debug(_(u'Se esperaba que el programa termine '
+                    u'con un error (código de retorno distinto de 0) pero '
+                    u'terminó bien (código de retorno 0).\n'))
+        elif retorno != proc.returncode:
+            if self.rechazar_si_falla:
+                prueba.exito = False
+            comando_ejecutado.exito = False
+            if proc.returncode < 0:
+                comando_ejecutado.observaciones += _(u'Se esperaba terminar '
+                    u'con un código de retorno %s pero se obtuvo una señal %s '
+                    u'(%s).\n') % (retorno, -proc.returncode, -proc.returncode) # TODO poner con texto
+                log.debug(_(u'Se esperaba terminar con un código '
+                    u'de retorno %s pero se obtuvo una señal %s (%s).\n'),
+                    retorno, -proc.returncode, -proc.returncode)
+            else:
+                comando_ejecutado.observaciones += _(u'Se esperaba terminar '
+                    u'con un código de retorno %s pero se obtuvo %s.\n') \
+                    % (retorno, proc.returncode)
+                log.debug(_(u'Se esperaba terminar con un código de retorno '
+                    u'%s pero se obtuvo %s.\n'), retorno, proc.returncode)
+    if comando_ejecutado.exito is None:
+        log.debug(_(u'Código de retorno OK'))
+    if a_guardar:
+        buffer = StringIO()
+        zip = ZipFile(buffer, 'w')
+        # Guardamos stdout/stderr
+        if self.STDOUTERR in a_guardar:
+            a_guardar.remove(self.STDOUTERR)
+            zip.write('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+                self.STDOUTERR)
+        else:
+            if self.STDOUT in a_guardar:
+                a_guardar.remove(self.STDOUT)
+                zip.write('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+                    self.STDOUT)
+            if self.STDERR in a_guardar:
+                a_guardar.remove(self.STDERR)
+                zip.write('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+                    self.STDERR)
+        # Guardamos otros
+        for f in a_guardar:
+            if not os.path.exists(join(path, f)):
+                if self.rechazar_si_falla:
+                    prueba.exito = False
+                comando_ejecutado.exito = False
+                comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
+                    u'"%s" para guardar pero no fue encontrado.\n') % f
+                log.debug(_(u'Se esperaba un archivo "%s" para guardar pero '
+                    u'no fue encontrado'), f)
+            else:
+                zip.write(join(path, f), f)
+        zip.close()
+        comando_ejecutado.archivos = buffer.getvalue()
+    def diff(new, zip_in, zip_out, name, longname=None, origname='correcto',
+             newname='entregado'):
+        if longname is None:
+            longname = name
+        new = file(new, 'r').readlines()
+        orig = zip_in.read(name).split('\n')
+        udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
+            tofile=name+'.'+newname)))
+        if udiff:
+            if self.rechazar_si_falla:
+                prueba.exito = False
+            comando_ejecutado.exito = False
+            comando_ejecutado.observaciones += _(u'%s no coincide con lo '
+                u'esperado (archivo "%s.diff").\n') % (longname, name)
+            log.debug(_(u'%s no coincide con lo esperado (archivo "%s.diff")'),
+                longname, name)
+            htmldiff = HtmlDiff().make_file(orig, new,
+                fromdesc=name+'.'+origname, todesc=name+'.'+newname,
+                context=True, numlines=3)
+            zip_out.writestr(name + '.diff', udiff)
+            zip_out.writestr(name + '.diff.html', htmldiff)
+            return True
+        else:
+            return False
+    if a_comparar:
+        buffer = StringIO()
+        zip = ZipFile(buffer, 'w')
+        # Comparamos stdout/stderr
+        if self.STDOUTERR in a_comparar:
+            a_comparar.remove(self.STDOUTERR)
+            diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+                zip_a_comparar, zip, self.STDOUTERR,
+                _(u'La salida estándar y de error combinada'))
+        else:
+            if self.STDOUT in a_comparar:
+                a_comparar.remove(self.STDOUT)
+                diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+                    zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
+            if self.STDERR in a_comparar:
+                a_comparar.remove(self.STDERR)
+                diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+                    zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
+        # Comparamos otros
+        for f in a_comparar:
+            if not os.path.exists(join(path, f)):
+                if self.rechazar_si_falla:
+                    prueba.exito = False
+                comando_ejecutado.exito = False
+                comando_ejecutado.observaciones += _(u'Se esperaba un archivo '
+                    u'"%s" para comparar pero no fue encontrado') % f
+                log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
+                    u'no fue encontrado'), f)
+            else:
+                diff(join(path, f), zip_a_comparar, zip, f)
+        zip.close()
+        comando_ejecutado.diferencias = buffer.getvalue()
+    if comando_ejecutado.exito is None:
+        comando_ejecutado.exito = True
+    elif self.terminar_si_falla:
+        raise ExecutionFailure(self)
+
 ComandoPrueba.ejecutar = ejecutar_comando_prueba
 #}}}