si el grupo no existe lo pongo vacio en notascsv

[software/sercom.git] / sercom / tester.py

diff --git a/sercom/tester.py b/sercom/tester.py
index 51c861e4a84b3e57f76a2b855985c0b015de04d4..18b7e586a36d904936340ef39b9abf2612d30ae4 100644 (file)
--- a/sercom/tester.py
+++ b/sercom/tester.py
@@ -103,6 +103,24 @@ def unzip(bytes, default_dst='.', specific_dst=dict()): # {{{
     zfile.close()
 #}}}
 
     zfile.close()
 #}}}
 

+class Multizip(object): #{{{
+    def __init__(self, *zip_streams):
+        self.zips = [ZipFile(StringIO(z), 'r') for z in zip_streams
+            if z is not None]
+        self.names = set()
+        for z in self.zips:
+            self.names |= set(z.namelist())
+    def read(self, name):
+        for z in self.zips:
+            try:
+                return z.read(name)
+            except KeyError:
+                pass
+        raise KeyError(name)
+    def namelist(self):
+        return self.names
+#}}}
+

 class SecureProcess(object): #{{{
     default = dict(
         max_tiempo_cpu      = 120,
 class SecureProcess(object): #{{{
     default = dict(
         max_tiempo_cpu      = 120,


@@ -229,7 +247,8 @@ class Tester(object): #{{{
     def setup_chroot(self, entrega): #{{{ y clean_chroot()
         log.debug(_(u'Tester.setup_chroot(entrega=%s)'), entrega.shortrepr())
         rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',
     def setup_chroot(self, entrega): #{{{ y clean_chroot()
         log.debug(_(u'Tester.setup_chroot(entrega=%s)'), entrega.shortrepr())
         rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',

-            '--archive', '--acls', '--delete-during', '--force', # TODO config
+            '--archive', '--acls', '--delete-during', '--force',
+            '--exclude', '/proc', # TODO config

             join(self.orig_chroot, ''), self.chroot)
         log.debug(_(u'Ejecutando como root: %s'), ' '.join(rsync))
         os.seteuid(0) # Dios! (para chroot)
             join(self.orig_chroot, ''), self.chroot)
         log.debug(_(u'Ejecutando como root: %s'), ' '.join(rsync))
         os.seteuid(0) # Dios! (para chroot)


@@ -266,11 +285,11 @@ class Tester(object): #{{{
 #}}}
 
 def ejecutar_caso_de_prueba(self, path, entrega): #{{{
 #}}}
 
 def ejecutar_caso_de_prueba(self, path, entrega): #{{{

-    log.debug(_(u'CasoDePrueba.ejecutar(path=%s, entrega=%s)'), path,
-        entrega.shortrepr())
+    log.debug(_(u'CasoDePrueba.ejecutar(caso=%s, path=%s, entrega=%s)'), self,
+        path, entrega.shortrepr())

     tareas = [t for t in entrega.instancia.ejercicio.enunciado.tareas
                 if isinstance(t, TareaPrueba)]
     tareas = [t for t in entrega.instancia.ejercicio.enunciado.tareas
                 if isinstance(t, TareaPrueba)]

-    prueba = entrega.add_prueba(self)
+    prueba = entrega.add_prueba(self, inicio=datetime.now())

     try:
         try:
             for tarea in tareas:
     try:
         try:
             for tarea in tareas:


@@ -301,7 +320,7 @@ Tarea.ejecutar = ejecutar_tarea
 def ejecutar_comando_fuente(self, path, entrega): #{{{
     log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path,
         entrega.shortrepr())
 def ejecutar_comando_fuente(self, path, entrega): #{{{
     log.debug(_(u'ComandoFuente.ejecutar(path=%s, entrega=%s)'), path,
         entrega.shortrepr())

-    comando_ejecutado = entrega.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando
+    comando_ejecutado = entrega.add_comando_ejecutado(self)

     basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom?
     unzip(self.archivos_entrada, path, # TODO try/except
         {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
     basetmp = '/tmp/sercom.tester.fuente' # FIXME TODO /var/run/sercom?
     unzip(self.archivos_entrada, path, # TODO try/except
         {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})


@@ -316,12 +335,8 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)

-    if self.archivos_a_comparar:
-        zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
-        a_comparar = set(zip_a_comparar.namelist())
-    else:
-        zip_a_comparar = None
-        a_comparar = frozenset()
+    zip_a_comparar = Multizip(self.archivos_a_comparar)
+    a_comparar = set(zip_a_comparar.namelist())

     a_usar = frozenset(a_guardar | a_comparar)
     if self.STDOUTERR in a_usar:
         options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
     a_usar = frozenset(a_guardar | a_comparar)
     if self.STDOUTERR in a_usar:
         options['stdout'] = file('%s.%s.stdouterr' % (basetmp,


@@ -339,6 +354,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
         else:
             options['preexec_fn'].close_stderr = True
     comando = self.comando # FIXME Acá tiene que diferenciarse de ComandoPrueba
         else:
             options['preexec_fn'].close_stderr = True
     comando = self.comando # FIXME Acá tiene que diferenciarse de ComandoPrueba

+    comando_ejecutado.inicio = datetime.now()

     log.debug(_(u'Ejecutando como root: %s'), comando)
     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)
     log.debug(_(u'Ejecutando como root: %s'), comando)
     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)


@@ -355,7 +371,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo

-    comando_ejecutado.fin = datetime.now() # TODO debería rodear solo la ejecución del comando
+    comando_ejecutado.fin = datetime.now()

     retorno = self.retorno
     if retorno != self.RET_ANY:
         if retorno == self.RET_FAIL:
     retorno = self.retorno
     if retorno != self.RET_ANY:
         if retorno == self.RET_FAIL:


@@ -425,7 +441,7 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
         if longname is None:
             longname = name
         new = file(new, 'r').readlines()
         if longname is None:
             longname = name
         new = file(new, 'r').readlines()

-        orig = zip_in.read(name).split('\n')
+        orig = zip_in.read(name).splitlines(True)

         udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
             tofile=name+'.'+newname)))
         if udiff:
         udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
             tofile=name+'.'+newname)))
         if udiff:


@@ -440,27 +456,28 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
                 fromdesc=name+'.'+origname, todesc=name+'.'+newname,
                 context=True, numlines=3)
             zip_out.writestr(name + '.diff', udiff)
                 fromdesc=name+'.'+origname, todesc=name+'.'+newname,
                 context=True, numlines=3)
             zip_out.writestr(name + '.diff', udiff)

-            zip_out.writestr(name + '.diff.html', htmldiff)
+            zip_out.writestr(name + '.diff', htmldiff)

             return True
         else:
             return False
     if a_comparar:
             return True
         else:
             return False
     if a_comparar:

+        condiff = False

         buffer = StringIO()
         zip = ZipFile(buffer, 'w')
         # Comparamos stdout/stderr
         if self.STDOUTERR in a_comparar:
             a_comparar.remove(self.STDOUTERR)
         buffer = StringIO()
         zip = ZipFile(buffer, 'w')
         # Comparamos stdout/stderr
         if self.STDOUTERR in a_comparar:
             a_comparar.remove(self.STDOUTERR)

-            diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+            condiff |= diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),

                 zip_a_comparar, zip, self.STDOUTERR,
                 _(u'La salida estándar y de error combinada'))
         else:
             if self.STDOUT in a_comparar:
                 a_comparar.remove(self.STDOUT)
                 zip_a_comparar, zip, self.STDOUTERR,
                 _(u'La salida estándar y de error combinada'))
         else:
             if self.STDOUT in a_comparar:
                 a_comparar.remove(self.STDOUT)

-                diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+                condiff |= diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),

                     zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
             if self.STDERR in a_comparar:
                 a_comparar.remove(self.STDERR)
                     zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
             if self.STDERR in a_comparar:
                 a_comparar.remove(self.STDERR)

-                diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+                condiff |= diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),

                     zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
         # Comparamos otros
         for f in a_comparar:
                     zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
         # Comparamos otros
         for f in a_comparar:


@@ -473,9 +490,10 @@ def ejecutar_comando_fuente(self, path, entrega): #{{{
                 log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
                     u'no fue encontrado'), f)
             else:
                 log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
                     u'no fue encontrado'), f)
             else:

-                diff(join(path, f), zip_a_comparar, zip, f)
+                condiff |= diff(join(path, f), zip_a_comparar, zip, f)

         zip.close()
         zip.close()

-        comando_ejecutado.diferencias = buffer.getvalue()
+        if condiff:
+            comando_ejecutado.diferencias = buffer.getvalue()

     if comando_ejecutado.exito is None:
         comando_ejecutado.exito = True
     elif self.terminar_si_falla:
     if comando_ejecutado.exito is None:
         comando_ejecutado.exito = True
     elif self.terminar_si_falla:


@@ -489,7 +507,8 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
     # y setup/clean de test.
     log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path,
         prueba.shortrepr())
     # y setup/clean de test.
     log.debug(_(u'ComandoPrueba.ejecutar(path=%s, prueba=%s)'), path,
         prueba.shortrepr())

-    comando_ejecutado = prueba.add_comando_ejecutado(self) # TODO debería rodear solo la ejecución del comando
+    caso_de_prueba = prueba.caso_de_prueba
+    comando_ejecutado = prueba.add_comando_ejecutado(self)

     basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom?
     #{{{ Código que solo va en ComandoPrueba (setup de directorio)
     rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',
     basetmp = '/tmp/sercom.tester.prueba' # FIXME TODO /var/run/sercom?
     #{{{ Código que solo va en ComandoPrueba (setup de directorio)
     rsync = ('rsync', '--stats', '--itemize-changes', '--human-readable',


@@ -505,11 +524,11 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
         os.seteuid(user_info.uid)
         log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
             user_info.user, user_info.group, user_info.uid, user_info.gid)
         os.seteuid(user_info.uid)
         log.debug(_(u'Usuario y grupo efectivos cambiados a %s:%s (%s:%s)'),
             user_info.user, user_info.group, user_info.uid, user_info.gid)

-    unzip(prueba.caso_de_prueba.archivos_entrada, path, # TODO try/except
-        {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})

     #}}}
     unzip(self.archivos_entrada, path, # TODO try/except
         {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})
     #}}}
     unzip(self.archivos_entrada, path, # TODO try/except
         {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)})

+    unzip(caso_de_prueba.archivos_entrada, path, # TODO try/except     # FIXME Esto es propio de ComandoPrueba
+        {self.STDIN: '%s.%s.stdin' % (basetmp, comando_ejecutado.id)}) # FIXME Esto es propio de ComandoPrueba

     options = dict(
         close_fds=True,
         shell=True,
     options = dict(
         close_fds=True,
         shell=True,


@@ -521,20 +540,21 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)
     else:
         options['preexec_fn'].close_stdin = True
     a_guardar = set(self.archivos_a_guardar)

-    a_guardar |= set(prueba.caso_de_prueba.archivos_a_guardar) # FIXME Esto es propio de ComandoPrueba
-    if self.archivos_a_comparar:
-        zip_a_comparar = ZipFile(StringIO(self.archivos_a_comparar), 'r')
-        a_comparar = set(zip_a_comparar.namelist())
-    else:
-        zip_a_comparar = None
-        a_comparar = frozenset()
+    a_guardar |= set(caso_de_prueba.archivos_a_guardar)           # FIXME Esto es propio de ComandoPrueba
+    log.debug('archivos a guardar: %s', a_guardar)
+    zip_a_comparar = Multizip(caso_de_prueba.archivos_a_comparar, # FIXME Esto es propio de ComandoPrueba
+        self.archivos_a_comparar)                                 # FIXME Esto es propio de ComandoPrueba
+    a_comparar = set(zip_a_comparar.namelist())
+    log.debug('archivos a comparar: %s', a_comparar)

     a_usar = frozenset(a_guardar | a_comparar)
     a_usar = frozenset(a_guardar | a_comparar)

+    log.debug('archivos a usar: %s', a_usar)

     if self.STDOUTERR in a_usar:
         options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
             comando_ejecutado.id), 'w')
         options['stderr'] = sp.STDOUT
     else:
         if self.STDOUT in a_usar:
     if self.STDOUTERR in a_usar:
         options['stdout'] = file('%s.%s.stdouterr' % (basetmp,
             comando_ejecutado.id), 'w')
         options['stderr'] = sp.STDOUT
     else:
         if self.STDOUT in a_usar:

+            log.debug('capurando salida en: %s.%s.stdout', basetmp, comando_ejecutado.id)

             options['stdout'] = file('%s.%s.stdout' % (basetmp,
                 comando_ejecutado.id), 'w')
         else:
             options['stdout'] = file('%s.%s.stdout' % (basetmp,
                 comando_ejecutado.id), 'w')
         else:


@@ -544,7 +564,8 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
                 comando_ejecutado.id), 'w')
         else:
             options['preexec_fn'].close_stderr = True
                 comando_ejecutado.id), 'w')
         else:
             options['preexec_fn'].close_stderr = True

-    comando = self.comando + ' ' + prueba.caso_de_prueba.comando # FIXME Esto es propio de ComandoPrueba
+    comando = self.comando + ' ' + caso_de_prueba.comando # FIXME Esto es propio de ComandoPrueba
+    comando_ejecutado.inicio = datetime.now()

     log.debug(_(u'Ejecutando como root: %s'), comando)
     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)
     log.debug(_(u'Ejecutando como root: %s'), comando)
     os.seteuid(0) # Dios! (para chroot)
     os.setegid(0)


@@ -561,10 +582,10 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo
             log.error(_(u'Error en el hijo: %s'), e.child_traceback)
         raise
     proc.wait() #TODO un sleep grande nos caga todo, ver sercom viejo

-    comando_ejecutado.fin_tareas = datetime.now() # TODO debería rodear solo la ejecución del comando
+    comando_ejecutado.fin = datetime.now()

     retorno = self.retorno
     if retorno == self.RET_PRUEBA:                # FIXME Esto es propio de ComandoPrueba
     retorno = self.retorno
     if retorno == self.RET_PRUEBA:                # FIXME Esto es propio de ComandoPrueba

-        retorno = prueba.caso_de_prueba.retorno   # FIXME Esto es propio de ComandoPrueba
+        retorno = caso_de_prueba.retorno   # FIXME Esto es propio de ComandoPrueba

     if retorno != self.RET_ANY:
         if retorno == self.RET_FAIL:
             if proc.returncode == 0:
     if retorno != self.RET_ANY:
         if retorno == self.RET_FAIL:
             if proc.returncode == 0:


@@ -633,7 +654,7 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
         if longname is None:
             longname = name
         new = file(new, 'r').readlines()
         if longname is None:
             longname = name
         new = file(new, 'r').readlines()

-        orig = zip_in.read(name).split('\n')
+        orig = zip_in.read(name).splitlines(True)

         udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
             tofile=name+'.'+newname)))
         if udiff:
         udiff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname,
             tofile=name+'.'+newname)))
         if udiff:


@@ -648,27 +669,29 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
                 fromdesc=name+'.'+origname, todesc=name+'.'+newname,
                 context=True, numlines=3)
             zip_out.writestr(name + '.diff', udiff)
                 fromdesc=name+'.'+origname, todesc=name+'.'+newname,
                 context=True, numlines=3)
             zip_out.writestr(name + '.diff', udiff)

-            zip_out.writestr(name + '.diff.html', htmldiff)
+            zip_out.writestr(name + '.html', htmldiff)

             return True
         else:
             return False
     if a_comparar:
             return True
         else:
             return False
     if a_comparar:

+        condiff = False

         buffer = StringIO()
         zip = ZipFile(buffer, 'w')
         # Comparamos stdout/stderr
         if self.STDOUTERR in a_comparar:
             a_comparar.remove(self.STDOUTERR)
         buffer = StringIO()
         zip = ZipFile(buffer, 'w')
         # Comparamos stdout/stderr
         if self.STDOUTERR in a_comparar:
             a_comparar.remove(self.STDOUTERR)

-            diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),
+            condiff |= diff('%s.%s.stdouterr' % (basetmp, comando_ejecutado.id),

                 zip_a_comparar, zip, self.STDOUTERR,
                 _(u'La salida estándar y de error combinada'))
         else:
             if self.STDOUT in a_comparar:
                 zip_a_comparar, zip, self.STDOUTERR,
                 _(u'La salida estándar y de error combinada'))
         else:
             if self.STDOUT in a_comparar:

+                log.debug('comparando salida con: %s.%s.stdout', basetmp, comando_ejecutado.id)

                 a_comparar.remove(self.STDOUT)
                 a_comparar.remove(self.STDOUT)

-                diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),
+                condiff |= diff('%s.%s.stdout' % (basetmp, comando_ejecutado.id),

                     zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
             if self.STDERR in a_comparar:
                 a_comparar.remove(self.STDERR)
                     zip_a_comparar, zip, self.STDOUT, _(u'La salida estándar'))
             if self.STDERR in a_comparar:
                 a_comparar.remove(self.STDERR)

-                diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),
+                condiff |= diff('%s.%s.stderr' % (basetmp, comando_ejecutado.id),

                     zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
         # Comparamos otros
         for f in a_comparar:
                     zip_a_comparar, zip, self.STDERR, _(u'La salida de error'))
         # Comparamos otros
         for f in a_comparar:


@@ -681,9 +704,10 @@ def ejecutar_comando_prueba(self, path, prueba): #{{{
                 log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
                     u'no fue encontrado'), f)
             else:
                 log.debug(_(u'Se esperaba un archivo "%s" para comparar pero '
                     u'no fue encontrado'), f)
             else:

-                diff(join(path, f), zip_a_comparar, zip, f)
+                condiff |= diff(join(path, f), zip_a_comparar, zip, f)

         zip.close()
         zip.close()

-        comando_ejecutado.diferencias = buffer.getvalue()
+        if condiff:
+            comando_ejecutado.diferencias = buffer.getvalue()

     if comando_ejecutado.exito is None:
         comando_ejecutado.exito = True
     elif self.terminar_si_falla:
     if comando_ejecutado.exito is None:
         comando_ejecutado.exito = True
     elif self.terminar_si_falla: