Se usa una forma lambda para comparar por padron.

[software/sercom-old.git] / src / sc_test

diff --git a/src/sc_test b/src/sc_test
index 25a4b9806fc3864306b563cf6ecc37fb1f1a2119..5643e611714f379401467a8caedfca8ab90063d0 100755 (executable)
--- a/src/sc_test
+++ b/src/sc_test
@@ -53,6 +53,7 @@ def sigterm(signum, frame):
     global continuar, log
     continuar = False
     log.debug('Señal %d recibida', signum)
     global continuar, log
     continuar = False
     log.debug('Señal %d recibida', signum)

+    log.info('Finalizado')

 
 def compilar(intento, mail):
     global log
 
 def compilar(intento, mail):
     global log


@@ -61,13 +62,14 @@ def compilar(intento, mail):
     # Compilo
     log.debug('Ejecutando: make -f %s', makefile)
     intento.inicioCompila = datetime.datetime.now()
     # Compilo
     log.debug('Ejecutando: make -f %s', makefile)
     intento.inicioCompila = datetime.datetime.now()

-    make = subprocess.Popen(('make', '-f', makefile), stderr=subprocess.PIPE,
+    stderr = file(os.path.join(intento.path, 'make.out'), 'w')
+    make = subprocess.Popen(('make', '-f', makefile), stderr=stderr,

         cwd=intento.path)
     make.wait()
     intento.finCompila = datetime.datetime.now()
     log.debug('Fin del comando: make -f %s', makefile)
     # Verifico compilación
         cwd=intento.path)
     make.wait()
     intento.finCompila = datetime.datetime.now()
     log.debug('Fin del comando: make -f %s', makefile)
     # Verifico compilación

-    stderr = make.stderr.read()
+    stderr = file(os.path.join(intento.path, 'make.out')).read()

     intento.compila = not make.returncode
     msg = 'Compilación: '
     if intento.compila and not stderr:
     intento.compila = not make.returncode
     msg = 'Compilación: '
     if intento.compila and not stderr:


@@ -78,7 +80,8 @@ def compilar(intento, mail):
         msg += 'ERROR (código de retorno: %d)' % make.returncode
     mail.body += msg
     if stderr:
         msg += 'ERROR (código de retorno: %d)' % make.returncode
     mail.body += msg
     if stderr:

-        msg += '''Salida:
+        msg += '''
+Salida:

 ------------------------------------------------------------------------
 %s
 ------------------------------------------------------------------------
 ------------------------------------------------------------------------
 %s
 ------------------------------------------------------------------------


@@ -90,31 +93,39 @@ def compilar(intento, mail):
     intento.observaciones = msg + '\n\n'
     log.debug(msg)
 
     intento.observaciones = msg + '\n\n'
     log.debug(msg)
 

-def preparar(intento):
+def preparar(intento, caso_de_prueba):

     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?

-    os.mkdir(intento.chrootPath)
+    os.makedirs(intento.chrootPath(caso_de_prueba))

     shutil.copy(os.path.join(intento.path, 'tp'),
     shutil.copy(os.path.join(intento.path, 'tp'),

-        os.path.join(intento.chrootPath, 'tp'))
+        os.path.join(intento.chrootPath(caso_de_prueba), 'tp'))

 
 

-def limpiar(intento):
+def limpiar(intento, caso_de_prueba):

     # Borro chroot entero
     # Borro chroot entero

-    shutil.rmtree(intento.chrootPath)
+    #shutil.rmtree(intento.chrootPath)
+    os.unlink(os.path.join(intento.chrootPath(caso_de_prueba), 'tp'))

 
 def probar(intento, caso_de_prueba, mail):
     def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
         from difflib import unified_diff, HtmlDiff
 
 def probar(intento, caso_de_prueba, mail):
     def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
         from difflib import unified_diff, HtmlDiff

-        #TODO diferenciar pruebas públicas de privadas

         if longname is None: longname = name
         diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
         nota = ''
         if diff:
             prueba.pasada = False
         if longname is None: longname = name
         diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
         nota = ''
         if diff:
             prueba.pasada = False

-            nota = "- %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
+            nota += "* %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
+            nota += ('-' * 72) + '\n' + diff + ('-' * 72) + '\n'

             if not prueba.casoDePrueba.privado:
                 mail.attachText(diff, name + '.diff')
                 diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
                 mail.attachText(diff, name + '.diff.html', 'html')
         return nota
             if not prueba.casoDePrueba.privado:
                 mail.attachText(diff, name + '.diff')
                 diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
                 mail.attachText(diff, name + '.diff.html', 'html')
         return nota

+    def usa_stdin():
+        return os.path.exists(os.path.join(caso_de_prueba.path, 'stdin'))
+    def usa_stdout():
+        return os.path.exists(os.path.join(caso_de_prueba.path, 'stdout'))
+    def usa_stderr():
+        return os.path.exists(os.path.join(caso_de_prueba.path, 'stderr'))
+

     # Cosas útiles
     global log, conn, conf, uid, gid
     # Para manejo de SIGCHLD
     # Cosas útiles
     global log, conn, conf, uid, gid
     # Para manejo de SIGCHLD


@@ -132,16 +143,21 @@ def probar(intento, caso_de_prueba, mail):
     log.debug('Caso de prueba: %s', prueba.casoDePrueba)
     # Abro archivos para fds básicos
     options = {
     log.debug('Caso de prueba: %s', prueba.casoDePrueba)
     # Abro archivos para fds básicos
     options = {

-        'cwd': intento.chrootPath,
+        'cwd': intento.chrootPath(caso_de_prueba),

         'close_fds': True,
         'close_fds': True,

-        'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu),
+        'preexec_fn': secure_process(intento.chrootPath(caso_de_prueba), uid, gid, tiempo_cpu),
+        'stdin': None,
+        'stdout': None,
+        'stderr': None,

     }
     }

-    if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')):
+    if usa_stdin():

         options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
         options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')

-    if os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')):
-        options['stdout'] = subprocess.PIPE
-    if os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')):
-        options['stderr'] = subprocess.PIPE
+    if usa_stdout():
+        stdout_fn = intento.chrootPath(caso_de_prueba) + '.stdout'
+        options['stdout'] = file(stdout_fn,  'w')
+    if usa_stderr():
+        stderr_fn = intento.chrootPath(caso_de_prueba) + '.stderr'
+        options['stderr'] = file(stderr_fn,  'w')

     # Ejecuto programa
     params = ['/tp']
     if caso_de_prueba.parametros:
     # Ejecuto programa
     params = ['/tp']
     if caso_de_prueba.parametros:


@@ -152,7 +168,7 @@ def probar(intento, caso_de_prueba, mail):
         proc = subprocess.Popen(params, **options)
     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
         try:
         proc = subprocess.Popen(params, **options)
     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
         try:

-            print e.child_traceback
+            log.debug('ERROR! Trace del hijo: %s', e.child_traceback)

             raise
         except:
             raise
             raise
         except:
             raise


@@ -179,14 +195,18 @@ def probar(intento, caso_de_prueba, mail):
     # Salió con una señal?
     if proc.returncode < 0:
         sig = -proc.returncode
     # Salió con una señal?
     if proc.returncode < 0:
         sig = -proc.returncode

-        log.debug('El programa salió con la señal %d', sig)
+        # Conversor de nro de señal a string
+        sigs = {}
+        for s in [s for s in dir(signal) if s.startswith('SIG') and s.isalpha()]:
+            sigs[getattr(signal, s)] = s
+        log.debug('El programa salió con la señal %s', sigs[sig])

         prueba.pasada = False
         #TODO otras señales conocidas
         if sig == signal.SIGXCPU:
             prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
                 '(%d seg)' % tiempo_cpu
         else:
         prueba.pasada = False
         #TODO otras señales conocidas
         if sig == signal.SIGXCPU:
             prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
                 '(%d seg)' % tiempo_cpu
         else:

-            prueba.observaciones = 'Salió con la señal %d' % sig
+            prueba.observaciones = 'Salió con la señal %s' % sigs[sig]

         mail.agregarResultado(prueba)
         return prueba
     # Si tenemos que verificar el código de retorno
         mail.agregarResultado(prueba)
         return prueba
     # Si tenemos que verificar el código de retorno


@@ -207,28 +227,29 @@ def probar(intento, caso_de_prueba, mail):
             return prueba
     # Verifico salidas estándar/de error
     prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo
             return prueba
     # Verifico salidas estándar/de error
     prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo

-    obs = diff(prueba, mail, proc.stdout.readlines(),
-        file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
-        caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
-    obs += diff(prueba, mail, proc.stderr.readlines(),
-        file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),
+    obs = ''
+    if usa_stdout():
+        obs += diff(prueba, mail, file(stdout_fn).readlines(),
+            file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
+            caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
+    if usa_stderr():
+        obs += diff(prueba, mail, file(stderr_fn).readlines(),
+            file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),

         caso_de_prueba.nombre + '.stderr', longname='La salida de error')
     for f in caso_de_prueba.archivosSalida:
         if f not in prueba.archivosSalida:
         caso_de_prueba.nombre + '.stderr', longname='La salida de error')
     for f in caso_de_prueba.archivosSalida:
         if f not in prueba.archivosSalida:

-            #TODO agregar error FALTA ARCHIVO

             log.debug('Falta el archivo %s y no lo hizo.', f)
             prueba.pasada = False
             log.debug('Falta el archivo %s y no lo hizo.', f)
             prueba.pasada = False

-            obs += "- Falta el archivo de salida '%s'.\n" % f
+            obs += "* Falta el archivo de salida '%s'.\n" % f

             continue
         obs += diff(prueba, mail,
             continue
         obs += diff(prueba, mail,

-            file(os.path.join(intento.chrootPath, f)).readlines(),
+            file(os.path.join(intento.chrootPath(caso_de_prueba), f)).readlines(),

             file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
             caso_de_prueba.nombre + '.' + f)
     for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):
             file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
             caso_de_prueba.nombre + '.' + f)
     for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):

-        #TODO agregar error SOBRA ARCHIVO

         log.debug('El programa debía generar el archivo %s y no lo hizo.', f)
         prueba.pasada = False
         log.debug('El programa debía generar el archivo %s y no lo hizo.', f)
         prueba.pasada = False

-        obs += "- Se generó un archivo ('%s') que no se esperaba.\n" % f
+        obs += "* Se generó un archivo ('%s') que no se esperaba.\n" % f

     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
         proc.pid, proc.returncode)
     if obs:
     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
         proc.pid, proc.returncode)
     if obs:


@@ -387,11 +408,16 @@ while continuar:
         log.debug('No hay intento para probar')
         time.sleep(intervalo)
         continue
         log.debug('No hay intento para probar')
         time.sleep(intervalo)
         continue

-    log.info('Nuevo intento a probar (%s)', intento)
+    log.info('Nuevo intento a probar (%d %d.%d.%d %d%d%d [%d %d %d])',
+        intento.inscripto.padron, intento.entrega.nroEjercicio,
+        intento.entrega.entrega, intento.numero, intento.entrega.curso.anio,
+        intento.entrega.curso.cuatrimestre, intento.entrega.curso.curso,
+        intento.inscripto.id, intento.entrega.id, intento.id)

     mail = MailIntento(intento)
     # Compila
     compilar(intento, mail)
     if not intento.compila:
     mail = MailIntento(intento)
     # Compila
     compilar(intento, mail)
     if not intento.compila:

+        log.info('Intento[%d] no compila', intento.id)

         mail.send('NO COMPILA')
         continue
     # Ejecución de casos de prueba
         mail.send('NO COMPILA')
         continue
     # Ejecución de casos de prueba


@@ -399,23 +425,27 @@ while continuar:
     resultado = True
     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
         # Preparo chroot
     resultado = True
     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
         # Preparo chroot

-        preparar(intento)
+        preparar(intento, caso_de_prueba)

         # Pruebo y agrego prueba a la lista
         prueba = probar(intento, caso_de_prueba, mail)
         # Pruebo y agrego prueba a la lista
         prueba = probar(intento, caso_de_prueba, mail)

-        resultado = resultado and prueba.pasada

         if not prueba.casoDePrueba.privado and not prueba.pasada:
         if not prueba.casoDePrueba.privado and not prueba.pasada:

+            log.info('Prueba %s[%d %d] no pasada', prueba.casoDePrueba.nombre,
+                prueba.casoDePrueba.id, prueba.id)

             resultado = False
         # Limpio chroot
             resultado = False
         # Limpio chroot

-        limpiar(intento)
+        limpiar(intento, caso_de_prueba)

     intento.finPruebas = datetime.datetime.now()
     # Envío mail con resultado al alumno
     if resultado:
         mail.send('ACEPTADO')
     intento.finPruebas = datetime.datetime.now()
     # Envío mail con resultado al alumno
     if resultado:
         mail.send('ACEPTADO')

+        log.info('Pruebas finalizadas (intento[%d] aceptado)', intento.id)

     else:
         mail.send('FALLA PRUEBAS')
     else:
         mail.send('FALLA PRUEBAS')

+        log.info('Pruebas finalizadas (intento[%d] no aceptado)', intento.id)

     # Limpio directorio
     log.debug('Borrando ejecutable y código objeto (*.o)')
     os.remove(os.path.join(intento.path, 'tp'))
     # Limpio directorio
     log.debug('Borrando ejecutable y código objeto (*.o)')
     os.remove(os.path.join(intento.path, 'tp'))

-    [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))]
+    for obj in glob.glob(os.path.join(intento.path, '*.o')):
+        os.remove(obj)

     # time.sleep(intervalo) #XXX Puede servir para enlentecer el server
 
     # time.sleep(intervalo) #XXX Puede servir para enlentecer el server