Arreglar integridad referencial de Correccion.

[z.facultad/75.52/sercom.git] / sercom / tester.py

diff --git a/sercom/tester.py b/sercom/tester.py
index 225e13d961a6bb81f5dd5f49ff9e5b4355448c9a..e278417789cd39d28755eed51f126132214ec7f5 100644 (file)
--- a/sercom/tester.py
+++ b/sercom/tester.py
@@ -103,6 +103,24 @@ def unzip(bytes, default_dst='.', specific_dst=dict()): # {{{
     zfile.close()
 #}}}
 
     zfile.close()
 #}}}
 

+class Multizip(object): #{{{
+    def __init__(self, *zip_streams):
+        self.zips = [ZipFile(StringIO(z), 'r') for z in zip_streams
+            if z is not None]
+        self.names = set()
+        for z in self.zips:
+            self.names |= set(z.namelist())
+    def read(self, name):
+        for z in self.zips:
+            try:
+                return z.read(name)
+            except KeyError:
+                pass
+        raise KeyError(name)
+    def namelist(self):
+        return self.names
+#}}}
+

 class SecureProcess(object): #{{{
     default = dict(
         max_tiempo_cpu      = 120,
 class SecureProcess(object): #{{{
     default = dict(
         max_tiempo_cpu      = 120,


@@ -208,8 +226,7 @@ class Tester(object): #{{{
                 self.ejecutar_tareas_prueba(entrega)
                 self.clean_chroot(entrega)
             except ExecutionFailure, e:
                 self.ejecutar_tareas_prueba(entrega)
                 self.clean_chroot(entrega)
             except ExecutionFailure, e:

-                entrega.exito = False
-                log.info(_(u'Entrega incorrecta: %s'), entrega)
+                pass

             except Exception, e:
                 if isinstance(e, SystemExit): raise
                 entrega.observaciones += error_interno
             except Exception, e:
                 if isinstance(e, SystemExit): raise
                 entrega.observaciones += error_interno


@@ -217,11 +234,14 @@ class Tester(object): #{{{
             except:
                 entrega.observaciones += error_interno
                 log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding
             except:
                 entrega.observaciones += error_interno
                 log.exception(_('Hubo una excepcion inesperada desconocida')) # FIXME encoding

-            else:
-                entrega.exito = True
-                log.debug(_(u'Entrega correcta: %s'), entrega)

         finally:
             entrega.fin = datetime.now()
         finally:
             entrega.fin = datetime.now()

+            if entrega.exito is None:
+                entrega.exito = True
+            if entrega.exito:
+                log.info(_(u'Entrega correcta: %s'), entrega)
+            else:
+                log.info(_(u'Entrega incorrecta: %s'), entrega)

     #}}}
 
     def setup_chroot(self, entrega): #{{{ y clean_chroot()
     #}}}
 
     def setup_chroot(self, entrega): #{{{ y clean_chroot()


@@ -268,21 +288,21 @@ def ejecutar_caso_de_prueba(self, path, entrega): #{{{
         entrega.shortrepr())
     tareas = [t for t in entrega.instancia.ejercicio.enunciado.tareas
                 if isinstance(t, TareaPrueba)]
         entrega.shortrepr())
     tareas = [t for t in entrega.instancia.ejercicio.enunciado.tareas
                 if isinstance(t, TareaPrueba)]

-    prueba = entrega.add_prueba(self)
+    prueba = entrega.add_prueba(self, inicio=datetime.now())

     try:
         try:
             for tarea in tareas:
                 tarea.ejecutar(path, prueba)
         except ExecutionFailure, e:
     try:
         try:
             for tarea in tareas:
                 tarea.ejecutar(path, prueba)
         except ExecutionFailure, e:

-            prueba.exito = False
-            if self.rechazar_si_falla:
-                entrega.exito = False
-            if self.terminar_si_falla:
-                raise ExecutionFailure(e.comando, e.tarea, self)
-        else:
-            prueba.exito = True
+            pass

     finally:
         prueba.fin = datetime.now()
     finally:
         prueba.fin = datetime.now()

+        if prueba.exito is None:
+            prueba.exito = True
+    if not prueba.exito and self.rechazar_si_falla:
+        entrega.exito = False
+    if not prueba.exito and self.terminar_si_falla:
+        raise ExecutionFailure(prueba)

 CasoDePrueba.ejecutar = ejecutar_caso_de_prueba
 #}}}
 
 CasoDePrueba.ejecutar = ejecutar_caso_de_prueba
 #}}}
 


@@ -299,7 +319,7 @@ Tarea.ejecutar = ejecutar_tarea
 def ejecutar_comando_fuente(self, path, entrega): #{{{
     log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path,
         entrega.shortrepr())
 def ejecutar_comando_fuente(self, path, entrega): #{{{
     log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path,
         entrega.shortrepr())

-    comando_ejecutado = entrega.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando
+    comando_ejecutado = entrega.add_comando_ejecutado(self)

     basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom?
     unzip(self.archivos_entrada, path, # TODO try/except
         {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
     basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom?
     unzip(self.archivos_entrada, path, # TODO try/except
         {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})


@@ -314,12 +334,8 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)

-    if self.archivos_a_comparar:
-        zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
-        a_comparar = set(zip_a_comparar.namelist())
-    else:
-        zip_a_comparar = None
-        a_comparar = frozenset()
+    zip_a_comparar = Multizip(self.archivos_a_comparar)
+    a_comparar = set(zip_a_comparar.namelist())

     a_usar = frozenset(a_guardar | a_comparar)
     if self.STDOUTERR in a_usar:
         options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
     a_usar = frozenset(a_guardar | a_comparar)
     if self.STDOUTERR in a_usar:
         options['stdout'] = file('%s.%s.stdouterr' % (basetmp,


@@ -336,12 +352,14 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
                 comando_ejecutado.id), 'w')
         else:
             options['preexec_fn'].close_stderr = True
                 comando_ejecutado.id), 'w')
         else:
             options['preexec_fn'].close_stderr = True

-    log.debug(_(u'Ejecutando como root: %s'), self.comando)
+    comando = self.comando # FIXME Acá tiene que diferenciarse de ComandoPrueba
+    comando_ejecutado.inicio = datetime.now()
+    log.debug(_(u'Ejecutando como root: %s'), comando)

     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)
     try:
         try:
     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)
     try:
         try:

-            proc = sp.Popen(self.comando, **options)
+            proc = sp.Popen(comando, **options)

         finally:
             os.setegid(user_info.gid) # Mortal de nuevo
             os.seteuid(user_info.uid)
         finally:
             os.setegid(user_info.gid) # Mortal de nuevo
             os.seteuid(user_info.uid)


@@ -352,9 +370,10 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo

-    comando_ejecutado.fin = datetime.now() # TODO debería rodear solo la ejecución del comando
-    if self.retorno != self.RET_ANY:
-        if self.retorno == self.RET_FAIL:
+    comando_ejecutado.fin = datetime.now()
+    retorno = self.retorno
+    if retorno != self.RET_ANY:
+        if retorno == self.RET_FAIL:

             if proc.returncode == 0:
                 if self.rechazar_si_falla:
                     entrega.exito = False
             if proc.returncode == 0:
                 if self.rechazar_si_falla:
                     entrega.exito = False


@@ -366,24 +385,23 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
                 log.debug(_(u'Se esperaba que el programa termine '
                     u'con un error (código de retorno distinto de 0) pero '
                     u'terminó bien (código de retorno 0).\n'))
                 log.debug(_(u'Se esperaba que el programa termine '
                     u'con un error (código de retorno distinto de 0) pero '
                     u'terminó bien (código de retorno 0).\n'))

-        elif self.retorno != proc.returncode:
+        elif retorno != proc.returncode:

             if self.rechazar_si_falla:
                 entrega.exito = False
             comando_ejecutado.exito = False
             if proc.returncode < 0:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo una señal %s '
             if self.rechazar_si_falla:
                 entrega.exito = False
             comando_ejecutado.exito = False
             if proc.returncode < 0:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo una señal %s '

-                    u'(%s).\n') % (self.retorno, -proc.returncode,
-                        -proc.returncode) # TODO poner con texto
+                    u'(%s).\n') % (retorno, -proc.returncode, -proc.returncode) # TODO poner con texto

                 log.debug(_(u'Se esperaba terminar con un código '
                     u'de retorno %s pero se obtuvo una señal %s (%s).\n'),
                 log.debug(_(u'Se esperaba terminar con un código '
                     u'de retorno %s pero se obtuvo una señal %s (%s).\n'),

-                    self.retorno, -proc.returncode, -proc.returncode)
+                    retorno, -proc.returncode, -proc.returncode)

             else:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo %s.\n') \
             else:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo %s.\n') \

-                    % (self.retorno, proc.returncode)
+                    % (retorno, proc.returncode)

                 log.debug(_(u'Se esperaba terminar con un código de retorno '
                 log.debug(_(u'Se esperaba terminar con un código de retorno '

-                    u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode)
+                    u'%s pero se obtuvo %s.\n'), retorno, proc.returncode)

     if comando_ejecutado.exito is None:
         log.debug(_(u'Código de retorno OK'))
     if a_guardar:
     if comando_ejecutado.exito is None:
         log.debug(_(u'Código de retorno OK'))
     if a_guardar:


@@ -486,7 +504,8 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
     # y setup/clean de test.
     log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path,
         prueba.shortrepr())
     # y setup/clean de test.
     log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path,
         prueba.shortrepr())

-    comando_ejecutado = prueba.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando
+    caso_de_prueba = prueba.caso_de_prueba
+    comando_ejecutado = prueba.add_comando_ejecutado(self)

     basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom?
     #{{{ Código que solo va en ComandoPrueba (setup de directorio)
     rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',
     basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom?
     #{{{ Código que solo va en ComandoPrueba (setup de directorio)
     rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',


@@ -502,11 +521,11 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
         os.seteuid(user_info.uid)
         log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
             user_info.user, user_info.group, user_info.uid, user_info.gid)
         os.seteuid(user_info.uid)
         log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
             user_info.user, user_info.group, user_info.uid, user_info.gid)

-    unzip(prueba.caso_de_prueba.archivos_entrada, path, # TODO try/except
-        {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})

     #}}}
     unzip(self.archivos_entrada, path, # TODO try/except
         {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
     #}}}
     unzip(self.archivos_entrada, path, # TODO try/except
         {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})

+    unzip(caso_de_prueba.archivos_entrada, path, # TODO try/except     # FIXME Esto es propio de ComandoPrueba
+        {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) # FIXME Esto es propio de ComandoPrueba

     options = dict(
         close_fds=True,
         shell=True,
     options = dict(
         close_fds=True,
         shell=True,


@@ -518,12 +537,10 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)

-    if self.archivos_a_comparar:
-        zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
-        a_comparar = set(zip_a_comparar.namelist())
-    else:
-        zip_a_comparar = None
-        a_comparar = frozenset()
+    a_guardar |= set(caso_de_prueba.archivos_a_guardar)           # FIXME Esto es propio de ComandoPrueba
+    zip_a_comparar = Multizip(caso_de_prueba.archivos_a_comparar, # FIXME Esto es propio de ComandoPrueba
+        self.archivos_a_comparar)                                 # FIXME Esto es propio de ComandoPrueba
+    a_comparar = set(zip_a_comparar.namelist())

     a_usar = frozenset(a_guardar | a_comparar)
     if self.STDOUTERR in a_usar:
         options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
     a_usar = frozenset(a_guardar | a_comparar)
     if self.STDOUTERR in a_usar:
         options['stdout'] = file('%s.%s.stdouterr' % (basetmp,


@@ -540,12 +557,14 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
                 comando_ejecutado.id), 'w')
         else:
             options['preexec_fn'].close_stderr = True
                 comando_ejecutado.id), 'w')
         else:
             options['preexec_fn'].close_stderr = True

-    log.debug(_(u'Ejecutando como root: %s'), self.comando)
+    comando = self.comando + ' ' + caso_de_prueba.comando # FIXME Esto es propio de ComandoPrueba
+    comando_ejecutado.inicio = datetime.now()
+    log.debug(_(u'Ejecutando como root: %s'), comando)

     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)
     try:
         try:
     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)
     try:
         try:

-            proc = sp.Popen(self.comando, **options)
+            proc = sp.Popen(comando, **options)

         finally:
             os.setegid(user_info.gid) # Mortal de nuevo
             os.seteuid(user_info.uid)
         finally:
             os.setegid(user_info.gid) # Mortal de nuevo
             os.seteuid(user_info.uid)


@@ -556,9 +575,12 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo

-    comando_ejecutado.fin_tareas = datetime.now() # TODO debería rodear solo la ejecución del comando
-    if self.retorno != self.RET_ANY:
-        if self.retorno == self.RET_FAIL:
+    comando_ejecutado.fin = datetime.now()
+    retorno = self.retorno
+    if retorno == self.RET_PRUEBA:                # FIXME Esto es propio de ComandoPrueba
+        retorno = caso_de_prueba.retorno   # FIXME Esto es propio de ComandoPrueba
+    if retorno != self.RET_ANY:
+        if retorno == self.RET_FAIL:

             if proc.returncode == 0:
                 if self.rechazar_si_falla:
                     prueba.exito = False
             if proc.returncode == 0:
                 if self.rechazar_si_falla:
                     prueba.exito = False


@@ -570,24 +592,23 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
                 log.debug(_(u'Se esperaba que el programa termine '
                     u'con un error (código de retorno distinto de 0) pero '
                     u'terminó bien (código de retorno 0).\n'))
                 log.debug(_(u'Se esperaba que el programa termine '
                     u'con un error (código de retorno distinto de 0) pero '
                     u'terminó bien (código de retorno 0).\n'))

-        elif self.retorno != proc.returncode:
+        elif retorno != proc.returncode:

             if self.rechazar_si_falla:
                 prueba.exito = False
             comando_ejecutado.exito = False
             if proc.returncode < 0:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo una señal %s '
             if self.rechazar_si_falla:
                 prueba.exito = False
             comando_ejecutado.exito = False
             if proc.returncode < 0:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo una señal %s '

-                    u'(%s).\n') % (self.retorno, -proc.returncode,
-                        -proc.returncode) # TODO poner con texto
+                    u'(%s).\n') % (retorno, -proc.returncode, -proc.returncode) # TODO poner con texto

                 log.debug(_(u'Se esperaba terminar con un código '
                     u'de retorno %s pero se obtuvo una señal %s (%s).\n'),
                 log.debug(_(u'Se esperaba terminar con un código '
                     u'de retorno %s pero se obtuvo una señal %s (%s).\n'),

-                    self.retorno, -proc.returncode, -proc.returncode)
+                    retorno, -proc.returncode, -proc.returncode)

             else:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo %s.\n') \
             else:
                 comando_ejecutado.observaciones += _(u'Se esperaba terminar '
                     u'con un código de retorno %s pero se obtuvo %s.\n') \

-                    % (self.retorno, proc.returncode)
+                    % (retorno, proc.returncode)

                 log.debug(_(u'Se esperaba terminar con un código de retorno '
                 log.debug(_(u'Se esperaba terminar con un código de retorno '

-                    u'%s pero se obtuvo %s.\n'), self.retorno, proc.returncode)
+                    u'%s pero se obtuvo %s.\n'), retorno, proc.returncode)

     if comando_ejecutado.exito is None:
         log.debug(_(u'Código de retorno OK'))
     if a_guardar:
     if comando_ejecutado.exito is None:
         log.debug(_(u'Código de retorno OK'))
     if a_guardar: