Se agrega un comentario sobre sc_dbq.

[software/sercom-old.git] / src / sc_test

diff --git a/src/sc_test b/src/sc_test
index e532a7fb4f8ac12b89352915cfe51116c54345e0..25a4b9806fc3864306b563cf6ecc37fb1f1a2119 100755 (executable)
--- a/src/sc_test
+++ b/src/sc_test
@@ -7,12 +7,15 @@ import os
 import pwd
 import time
 import signal
 import pwd
 import time
 import signal

+import glob

 import shutil
 import datetime
 import subprocess
 import shutil
 import datetime
 import subprocess

+import email.MIMEMultipart

 # Módulos locales
 import sercom
 # Módulos locales
 import sercom

-from sercom.dbo import *
+import sercom.sqlo
+from sercom.sqlo import *

 
 class secure_process:
     def __init__(self, chroot, uid, gid, cpu):
 
 class secure_process:
     def __init__(self, chroot, uid, gid, cpu):


@@ -36,11 +39,13 @@ class secure_process:
         resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
         resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
         resource.setrlimit(resource.RLIMIT_NPROC, x2(0))
         resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
         resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
         resource.setrlimit(resource.RLIMIT_NPROC, x2(0))

-        sleep(0) # para tratar de forzar un sync para que entre al sleep del padre
+        # Tratamos de forzar un sync para que entre al sleep del padre
+        time.sleep(0)

 
 def sigchld(signum, frame):
     """Signal handler para SIGCHILD."""
 
 def sigchld(signum, frame):
     """Signal handler para SIGCHILD."""

-    global hijo_muerto
+    global hijo_muerto, log
+    log.debug('Murió el hijo')

     hijo_muerto = True
 
 def sigterm(signum, frame):
     hijo_muerto = True
 
 def sigterm(signum, frame):


@@ -49,40 +54,72 @@ def sigterm(signum, frame):
     continuar = False
     log.debug('Señal %d recibida', signum)
 
     continuar = False
     log.debug('Señal %d recibida', signum)
 

-def compilar(intento, intento_dir, entrega_dir, log):
+def compilar(intento, mail):
+    global log

     # Busco makefile
     # Busco makefile

-    makefile = os.path.join(entrega_dir, 'Makefile')
-    if not os.path.exists(makefile):
-        makefile = os.path.join(data_dir, 'Makefile')
+    makefile = os.path.join(intento.entrega.ejercicio.path, 'Makefile')

     # Compilo
     log.debug('Ejecutando: make -f %s', makefile)
     intento.inicioCompila = datetime.datetime.now()
     # Compilo
     log.debug('Ejecutando: make -f %s', makefile)
     intento.inicioCompila = datetime.datetime.now()

-    make = subprocess.Popen(('make', '-f', makefile), stdout=subprocess.PIPE,
-        stderr=subprocess.PIPE, cwd=intento_dir)
+    make = subprocess.Popen(('make', '-f', makefile), stderr=subprocess.PIPE,
+        cwd=intento.path)

     make.wait()
     intento.finCompila = datetime.datetime.now()
     log.debug('Fin del comando: make -f %s', makefile)
     # Verifico compilación
     make.wait()
     intento.finCompila = datetime.datetime.now()
     log.debug('Fin del comando: make -f %s', makefile)
     # Verifico compilación

-    if make.returncode:
-        log.debug('Error al compilar, código de retorno: %d, salida estándar: '
-            '%s, salida de error: %s)', make.returncode, make.stdout.read(),
-            make.stderr.read())
-        intento.compila = False
-        #TODO enviar_respuesta(R_ERR, $mail, "ERROR AL COMPILAR!\n\n$err\n\nCódigo de retorno: $ret\n", $intento);
-        return False
-    log.debug('Compilado OK')
-    intento.compila = True
-    #TODO mail acumulativo
-    return True
+    stderr = make.stderr.read()
+    intento.compila = not make.returncode
+    msg = 'Compilación: '
+    if intento.compila and not stderr:
+        msg += 'BIEN'
+    elif intento.compila:
+        msg += 'CON ADVERTENCIAS'
+    else:
+        msg += 'ERROR (código de retorno: %d)' % make.returncode
+    mail.body += msg
+    if stderr:
+        msg += '''Salida:
+------------------------------------------------------------------------
+%s
+------------------------------------------------------------------------
+
+''' % stderr
+        mail.body += "\n(se adjunta salida, archivo 'make.stderr')\n"
+        mail.attachText(stderr, 'make.stderr')
+    mail.body += '\n\n'
+    intento.observaciones = msg + '\n\n'
+    log.debug(msg)

 
 

-def preparar(intento_dir, chroot_dir):
+def preparar(intento):

     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?

-    ejecutable = os.path.join(chroot_dir, 'tp')
-    os.mkdir(chroot_dir)
-    shutil.move(os.path.join(intento_dir, 'tp'), ejecutable)
+    os.mkdir(intento.chrootPath)
+    shutil.copy(os.path.join(intento.path, 'tp'),
+        os.path.join(intento.chrootPath, 'tp'))

 
 

-def probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log):
-    global hijo_muerto # Viene del SIGCHLD
+def limpiar(intento):
+    # Borro chroot entero
+    shutil.rmtree(intento.chrootPath)
+
+def probar(intento, caso_de_prueba, mail):
+    def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
+        from difflib import unified_diff, HtmlDiff
+        #TODO diferenciar pruebas públicas de privadas
+        if longname is None: longname = name
+        diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
+        nota = ''
+        if diff:
+            prueba.pasada = False
+            nota = "- %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
+            if not prueba.casoDePrueba.privado:
+                mail.attachText(diff, name + '.diff')
+                diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
+                mail.attachText(diff, name + '.diff.html', 'html')
+        return nota
+    # Cosas útiles
+    global log, conn, conf, uid, gid
+    # Para manejo de SIGCHLD
+    global hijo_muerto
+    hijo_muerto = False

     # Obtengo datos útiles del caso de prueba
     tiempo_cpu = caso_de_prueba.tiempoCpu
     if tiempo_cpu is None:
     # Obtengo datos útiles del caso de prueba
     tiempo_cpu = caso_de_prueba.tiempoCpu
     if tiempo_cpu is None:


@@ -90,13 +127,21 @@ def probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log):
     tiempo_cpu = int(tiempo_cpu)
     # Creo prueba nueva
     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
     tiempo_cpu = int(tiempo_cpu)
     # Creo prueba nueva
     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,

-        inicio=datetime.datetime.now(), connection = conn)
-    log.debug('Prueba: %s', prueba)
+        inicio=datetime.datetime.now(), connection=conn)
+    log.debug('Iniciando prueba: %s', prueba)
+    log.debug('Caso de prueba: %s', prueba.casoDePrueba)

     # Abro archivos para fds básicos
     # Abro archivos para fds básicos

-    #XXX sacar nombres de archivos de prueba????
-    #stdin = file(os.path.join(intento_dir, 'stdin'), 'r')
-    stdout = file(os.path.join(intento_dir, 'stdout'), 'w')
-    stderr = file(os.path.join(intento_dir, 'stderr'), 'w')
+    options = {
+        'cwd': intento.chrootPath,
+        'close_fds': True,
+        'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu),
+    }
+    if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')):
+        options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
+    if os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')):
+        options['stdout'] = subprocess.PIPE
+    if os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')):
+        options['stderr'] = subprocess.PIPE

     # Ejecuto programa
     params = ['/tp']
     if caso_de_prueba.parametros:
     # Ejecuto programa
     params = ['/tp']
     if caso_de_prueba.parametros:


@@ -104,8 +149,7 @@ def probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log):
     log.debug('Ejecutando %s', ' '.join(params))
     os.seteuid(0) # Dios! (para chroot)
     try:
     log.debug('Ejecutando %s', ' '.join(params))
     os.seteuid(0) # Dios! (para chroot)
     try:

-        proc = subprocess.Popen(params, stdout=stdout, stderr=stderr, #stdin=stdin,
-            preexec_fn=secure_process(chroot_dir, uid, gid, tiempo_cpu))
+        proc = subprocess.Popen(params, **options)

     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
         try:
             print e.child_traceback
     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
         try:
             print e.child_traceback


@@ -114,9 +158,9 @@ def probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log):
             raise
     os.seteuid(uid) # Mortal de nuevo
     if not hijo_muerto: # Recibido por el sigchld, para saber si murió
             raise
     os.seteuid(uid) # Mortal de nuevo
     if not hijo_muerto: # Recibido por el sigchld, para saber si murió

-        time.sleep(tiempo_cpu)
+        time.sleep(tiempo_cpu) # Controlo que no tarde mucho

     # Si el proceso sigue andando lo tenemos que matar
     # Si el proceso sigue andando lo tenemos que matar

-    if proc.poll() is None:
+    if not hijo_muerto:

         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
             tiempo_cpu)
         os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
             tiempo_cpu)
         os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)


@@ -128,9 +172,10 @@ def probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log):
             '(%d seg)' % tiempo_cpu
         prueba.fin = datetime.datetime.now()
         prueba.pasada = False
             '(%d seg)' % tiempo_cpu
         prueba.fin = datetime.datetime.now()
         prueba.pasada = False

+        mail.agregarResultado(prueba)

         return prueba
     proc.wait() # Para que no queden zombies
         return prueba
     proc.wait() # Para que no queden zombies

-    prueba.fin = str(datetime.datetime.now())
+    prueba.fin = datetime.datetime.now()

     # Salió con una señal?
     if proc.returncode < 0:
         sig = -proc.returncode
     # Salió con una señal?
     if proc.returncode < 0:
         sig = -proc.returncode


@@ -142,6 +187,7 @@ def probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log):
                 '(%d seg)' % tiempo_cpu
         else:
             prueba.observaciones = 'Salió con la señal %d' % sig
                 '(%d seg)' % tiempo_cpu
         else:
             prueba.observaciones = 'Salió con la señal %d' % sig

+        mail.agregarResultado(prueba)

         return prueba
     # Si tenemos que verificar el código de retorno
     if caso_de_prueba.codigoRetorno is not None:
         return prueba
     # Si tenemos que verificar el código de retorno
     if caso_de_prueba.codigoRetorno is not None:


@@ -157,11 +203,38 @@ def probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log):
             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
                 proc.returncode)
             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
                 proc.returncode)

-    #TODO verificar salidas, hacer diff
+            mail.agregarResultado(prueba)
+            return prueba
+    # Verifico salidas estándar/de error
+    prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo
+    obs = diff(prueba, mail, proc.stdout.readlines(),
+        file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
+        caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
+    obs += diff(prueba, mail, proc.stderr.readlines(),
+        file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),
+        caso_de_prueba.nombre + '.stderr', longname='La salida de error')
+    for f in caso_de_prueba.archivosSalida:
+        if f not in prueba.archivosSalida:
+            #TODO agregar error FALTA ARCHIVO
+            log.debug('Falta el archivo %s y no lo hizo.', f)
+            prueba.pasada = False
+            obs += "- Falta el archivo de salida '%s'.\n" % f
+            continue
+        obs += diff(prueba, mail,
+            file(os.path.join(intento.chrootPath, f)).readlines(),
+            file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
+            caso_de_prueba.nombre + '.' + f)
+    for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):
+        #TODO agregar error SOBRA ARCHIVO
+        log.debug('El programa debía generar el archivo %s y no lo hizo.', f)
+        prueba.pasada = False
+        obs += "- Se generó un archivo ('%s') que no se esperaba.\n" % f

     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
         proc.pid, proc.returncode)
     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
         proc.pid, proc.returncode)

-    prueba.pasada = True
-    log.debug('Prueba OK: %s', prueba)
+    if obs:
+        prueba.observaciones = obs
+    mail.agregarResultado(prueba)
+    log.debug('Resultado de la prueba: %s', prueba)

     return prueba
 
 def params2seq(params):
     return prueba
 
 def params2seq(params):


@@ -229,14 +302,69 @@ def params2seq(params):
         seq.append(buff)
     return seq
 
         seq.append(buff)
     return seq
 

-# Conecto señales
+class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
+    def __init__(self, intento):
+        global conf
+        from email.MIMEMultipart import MIMEMultipart
+        from email.MIMEMessage import MIMEMessage
+        from email.MIMEText import MIMEText
+        MIMEMultipart.__init__(self)
+        self.subject = '[%s] Resultado del intento %d (ejercicio %d.%d)' % \
+            (conf.get('mail', 'prefijo'), intento.numero,
+                intento.entrega.nroEjercicio, intento.entrega.entrega)
+        self['From'] = conf.get('mail', 'from')
+        self['To'] = intento.mailRespuesta
+        self['Reply-To'] = conf.get('mail', 'admin')
+        self['Return-Path'] = conf.get('mail', 'admin')
+        self['X-Mailer'] = 'sercom ' + sercom.VERSION
+        self['X-Priority'] = '5'
+        self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \
+            'soportar MIME.\n\n'
+        self.prologue = '' # Garantiza que termine en \n el mensaje
+        self.attach(MIMEMessage(MIMEText('', 'plain', 'iso-8859-1')))
+        self.resultado = None
+    def __set_body(self, body):
+        self.get_payload(0).get_payload(0).set_payload(body)
+    def __get_body(self):
+        return self.get_payload(0).get_payload(0).get_payload()
+    body = property(__get_body, __set_body, doc='Cuerpo del mensaje.')
+    def attachText(self, text, nombre=None, subtype='plain'):
+        from email.MIMEText import MIMEText
+        attach = MIMEText(text, subtype, 'iso-8859-1')
+        if nombre:
+            attach.add_header('Content-Disposition', 'attachment', filename=nombre)
+        self.attach(attach)
+    def send(self, resultado=None):
+        import smtplib
+        global conf
+        smtp = smtplib.SMTP(conf.get('mail', 'smtp'))
+        if resultado:
+            self.subject += ': ' + resultado
+        self['Subject'] = self.subject
+        smtp.sendmail(self['From'], self['To'], self.as_string())
+        smtp.close()
+    def agregarResultado(self, prueba):
+        if not prueba.casoDePrueba.privado:
+            if prueba.pasada:
+                result = 'BIEN'
+            else:
+                result = 'ERROR'
+            self.body += '''
+Prueba '%s': %s
+%s
+''' % (prueba.casoDePrueba.nombre, result, prueba.observaciones or '')
+        pass
+
+
+# Manejadores de señales

 signal.signal(signal.SIGTERM, sigterm)
 signal.signal(signal.SIGINT, sigterm)
 signal.signal(signal.SIGCHLD, sigchld)
 signal.signal(signal.SIGTERM, sigterm)
 signal.signal(signal.SIGINT, sigterm)
 signal.signal(signal.SIGCHLD, sigchld)

-hijo_muerto = False
+hijo_muerto = False # Cambia con SIGCHLD
+continuar = True # Cambia con SIGTERM o SIGINT

 
 # Inicializo
 
 # Inicializo

-conf, conn, log =  sercom.init('test')
+conf, conn, log = sercom.init('test')

 log.info('Iniciado')
 
 # Obtengo id de usuario con el cual ejecutar las pruebas
 log.info('Iniciado')
 
 # Obtengo id de usuario con el cual ejecutar las pruebas


@@ -245,12 +373,13 @@ uid, gid = pwd.getpwnam(conf.get('general', 'user'))[2:4]
 # Cambio UID efectivo
 os.seteuid(uid)
 
 # Cambio UID efectivo
 os.seteuid(uid)
 

-# Algunas variables de configuración útiles
-data_dir = conf.get('general', 'data_dir')
+# Atajo

 intervalo = float(conf.get('general', 'intervalo'))
 
 intervalo = float(conf.get('general', 'intervalo'))
 

+# Utilizo el directorio de datos como base para todos los SQLObjects
+sercom.sqlo.dir_base = conf.get('general', 'data_dir')
+

 # Hasta que nos maten
 # Hasta que nos maten

-continuar = True # Cambia con una señal

 while continuar:
     # Busco intento a probar
     intento = Intento.getProximoAProbar(conn)
 while continuar:
     # Busco intento a probar
     intento = Intento.getProximoAProbar(conn)


@@ -259,25 +388,34 @@ while continuar:
         time.sleep(intervalo)
         continue
     log.info('Nuevo intento a probar (%s)', intento)
         time.sleep(intervalo)
         continue
     log.info('Nuevo intento a probar (%s)', intento)

-    # Obtengo paths
-    intento_dir = os.path.join(data_dir, intento.path('intentos'))
-    entrega_dir = os.path.join(data_dir, 'ejercicios', str(intento.entrega.ejercicioID))
-    chroot_dir = os.path.join(intento_dir, 'chroot')
+    mail = MailIntento(intento)

     # Compila
     # Compila

-    if not compilar(intento, intento_dir, entrega_dir, log):
+    compilar(intento, mail)
+    if not intento.compila:
+        mail.send('NO COMPILA')

         continue
         continue

-    # Prepara archivos
-    preparar(intento_dir, chroot_dir)

     # Ejecución de casos de prueba
     intento.inicioPruebas = datetime.datetime.now()
     # Ejecución de casos de prueba
     intento.inicioPruebas = datetime.datetime.now()

-    pruebas = []
+    resultado = True

     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:

-        pruebas.append(probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log))
+        # Preparo chroot
+        preparar(intento)
+        # Pruebo y agrego prueba a la lista
+        prueba = probar(intento, caso_de_prueba, mail)
+        resultado = resultado and prueba.pasada
+        if not prueba.casoDePrueba.privado and not prueba.pasada:
+            resultado = False
+        # Limpio chroot
+        limpiar(intento)

     intento.finPruebas = datetime.datetime.now()
     intento.finPruebas = datetime.datetime.now()

-    #TODO make clean
-    #TODO Armar mail de respuesta al alumno
-    for prueba in pruebas:
-        #TODO Si es publica, veo si se hizo ok o no y voy creando mail
-        pass
-    time.sleep(intervalo)
+    # Envío mail con resultado al alumno
+    if resultado:
+        mail.send('ACEPTADO')
+    else:
+        mail.send('FALLA PRUEBAS')
+    # Limpio directorio
+    log.debug('Borrando ejecutable y código objeto (*.o)')
+    os.remove(os.path.join(intento.path, 'tp'))
+    [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))]
+    # time.sleep(intervalo) #XXX Puede servir para enlentecer el server