Se agrega un comentario sobre sc_dbq.

[software/sercom-old.git] / src / sc_test

diff --git a/src/sc_test b/src/sc_test
index 2e4be200312e48e41f49a5e65c85316bbcee8fa8..25a4b9806fc3864306b563cf6ecc37fb1f1a2119 100755 (executable)
--- a/src/sc_test
+++ b/src/sc_test
@@ -54,9 +54,6 @@ def sigterm(signum, frame):
     continuar = False
     log.debug('Señal %d recibida', signum)
 
     continuar = False
     log.debug('Señal %d recibida', signum)
 

-def chroot_dir(intento):
-    return os.path.join(intento.path, 'chroot')
-

 def compilar(intento, mail):
     global log
     # Busco makefile
 def compilar(intento, mail):
     global log
     # Busco makefile


@@ -95,15 +92,29 @@ def compilar(intento, mail):
 
 def preparar(intento):
     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
 
 def preparar(intento):
     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?

-    os.mkdir(chroot_dir(intento))
+    os.mkdir(intento.chrootPath)

     shutil.copy(os.path.join(intento.path, 'tp'),
     shutil.copy(os.path.join(intento.path, 'tp'),

-        os.path.join(chroot_dir(intento), 'tp'))
+        os.path.join(intento.chrootPath, 'tp'))

 
 def limpiar(intento):
     # Borro chroot entero
 
 def limpiar(intento):
     # Borro chroot entero

-    shutil.rmtree(chroot_dir(intento))
+    shutil.rmtree(intento.chrootPath)

 
 def probar(intento, caso_de_prueba, mail):
 
 def probar(intento, caso_de_prueba, mail):

+    def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
+        from difflib import unified_diff, HtmlDiff
+        #TODO diferenciar pruebas públicas de privadas
+        if longname is None: longname = name
+        diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
+        nota = ''
+        if diff:
+            prueba.pasada = False
+            nota = "- %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
+            if not prueba.casoDePrueba.privado:
+                mail.attachText(diff, name + '.diff')
+                diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
+                mail.attachText(diff, name + '.diff.html', 'html')
+        return nota

     # Cosas útiles
     global log, conn, conf, uid, gid
     # Para manejo de SIGCHLD
     # Cosas útiles
     global log, conn, conf, uid, gid
     # Para manejo de SIGCHLD


@@ -118,12 +129,12 @@ def probar(intento, caso_de_prueba, mail):
     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
         inicio=datetime.datetime.now(), connection=conn)
     log.debug('Iniciando prueba: %s', prueba)
     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
         inicio=datetime.datetime.now(), connection=conn)
     log.debug('Iniciando prueba: %s', prueba)

+    log.debug('Caso de prueba: %s', prueba.casoDePrueba)

     # Abro archivos para fds básicos
     # Abro archivos para fds básicos

-    #XXX sacar nombres de archivos de prueba????

     options = {
     options = {

-        'cwd': chroot_dir(intento),
+        'cwd': intento.chrootPath,

         'close_fds': True,
         'close_fds': True,

-        'preexec_fn': secure_process(chroot_dir(intento), uid, gid, tiempo_cpu),
+        'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu),

     }
     if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')):
         options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
     }
     if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')):
         options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')


@@ -147,7 +158,7 @@ def probar(intento, caso_de_prueba, mail):
             raise
     os.seteuid(uid) # Mortal de nuevo
     if not hijo_muerto: # Recibido por el sigchld, para saber si murió
             raise
     os.seteuid(uid) # Mortal de nuevo
     if not hijo_muerto: # Recibido por el sigchld, para saber si murió

-        time.sleep(tiempo_cpu)
+        time.sleep(tiempo_cpu) # Controlo que no tarde mucho

     # Si el proceso sigue andando lo tenemos que matar
     if not hijo_muerto:
         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
     # Si el proceso sigue andando lo tenemos que matar
     if not hijo_muerto:
         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',


@@ -161,9 +172,10 @@ def probar(intento, caso_de_prueba, mail):
             '(%d seg)' % tiempo_cpu
         prueba.fin = datetime.datetime.now()
         prueba.pasada = False
             '(%d seg)' % tiempo_cpu
         prueba.fin = datetime.datetime.now()
         prueba.pasada = False

+        mail.agregarResultado(prueba)

         return prueba
     proc.wait() # Para que no queden zombies
         return prueba
     proc.wait() # Para que no queden zombies

-    prueba.fin = str(datetime.datetime.now())
+    prueba.fin = datetime.datetime.now()

     # Salió con una señal?
     if proc.returncode < 0:
         sig = -proc.returncode
     # Salió con una señal?
     if proc.returncode < 0:
         sig = -proc.returncode


@@ -175,6 +187,7 @@ def probar(intento, caso_de_prueba, mail):
                 '(%d seg)' % tiempo_cpu
         else:
             prueba.observaciones = 'Salió con la señal %d' % sig
                 '(%d seg)' % tiempo_cpu
         else:
             prueba.observaciones = 'Salió con la señal %d' % sig

+        mail.agregarResultado(prueba)

         return prueba
     # Si tenemos que verificar el código de retorno
     if caso_de_prueba.codigoRetorno is not None:
         return prueba
     # Si tenemos que verificar el código de retorno
     if caso_de_prueba.codigoRetorno is not None:


@@ -190,11 +203,38 @@ def probar(intento, caso_de_prueba, mail):
             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
                 proc.returncode)
             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
                 proc.returncode)

-    #TODO verificar salidas, hacer diff
+            mail.agregarResultado(prueba)
+            return prueba
+    # Verifico salidas estándar/de error
+    prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo
+    obs = diff(prueba, mail, proc.stdout.readlines(),
+        file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
+        caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
+    obs += diff(prueba, mail, proc.stderr.readlines(),
+        file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),
+        caso_de_prueba.nombre + '.stderr', longname='La salida de error')
+    for f in caso_de_prueba.archivosSalida:
+        if f not in prueba.archivosSalida:
+            #TODO agregar error FALTA ARCHIVO
+            log.debug('Falta el archivo %s y no lo hizo.', f)
+            prueba.pasada = False
+            obs += "- Falta el archivo de salida '%s'.\n" % f
+            continue
+        obs += diff(prueba, mail,
+            file(os.path.join(intento.chrootPath, f)).readlines(),
+            file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
+            caso_de_prueba.nombre + '.' + f)
+    for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):
+        #TODO agregar error SOBRA ARCHIVO
+        log.debug('El programa debía generar el archivo %s y no lo hizo.', f)
+        prueba.pasada = False
+        obs += "- Se generó un archivo ('%s') que no se esperaba.\n" % f

     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
         proc.pid, proc.returncode)
     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
         proc.pid, proc.returncode)

-    prueba.pasada = True
-    log.debug('Prueba OK: %s', prueba)
+    if obs:
+        prueba.observaciones = obs
+    mail.agregarResultado(prueba)
+    log.debug('Resultado de la prueba: %s', prueba)

     return prueba
 
 def params2seq(params):
     return prueba
 
 def params2seq(params):


@@ -269,14 +309,14 @@ class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
         from email.MIMEMessage import MIMEMessage
         from email.MIMEText import MIMEText
         MIMEMultipart.__init__(self)
         from email.MIMEMessage import MIMEMessage
         from email.MIMEText import MIMEText
         MIMEMultipart.__init__(self)

-        self.subject = '[%s] Resultado del intento %d del ejercicio %d.%d' % \
+        self.subject = '[%s] Resultado del intento %d (ejercicio %d.%d)' % \

             (conf.get('mail', 'prefijo'), intento.numero,
                 intento.entrega.nroEjercicio, intento.entrega.entrega)
         self['From'] = conf.get('mail', 'from')
         self['To'] = intento.mailRespuesta
         self['Reply-To'] = conf.get('mail', 'admin')
         self['Return-Path'] = conf.get('mail', 'admin')
             (conf.get('mail', 'prefijo'), intento.numero,
                 intento.entrega.nroEjercicio, intento.entrega.entrega)
         self['From'] = conf.get('mail', 'from')
         self['To'] = intento.mailRespuesta
         self['Reply-To'] = conf.get('mail', 'admin')
         self['Return-Path'] = conf.get('mail', 'admin')

-        self['X-Mailer'] = 'sercom 0.3'
+        self['X-Mailer'] = 'sercom ' + sercom.VERSION

         self['X-Priority'] = '5'
         self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \
             'soportar MIME.\n\n'
         self['X-Priority'] = '5'
         self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \
             'soportar MIME.\n\n'


@@ -288,9 +328,9 @@ class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
     def __get_body(self):
         return self.get_payload(0).get_payload(0).get_payload()
     body = property(__get_body, __set_body, doc='Cuerpo del mensaje.')
     def __get_body(self):
         return self.get_payload(0).get_payload(0).get_payload()
     body = property(__get_body, __set_body, doc='Cuerpo del mensaje.')

-    def attachText(self, text, nombre=None):
+    def attachText(self, text, nombre=None, subtype='plain'):

         from email.MIMEText import MIMEText
         from email.MIMEText import MIMEText

-        attach = MIMEText(text, 'plain', 'iso-8859-1')
+        attach = MIMEText(text, subtype, 'iso-8859-1')

         if nombre:
             attach.add_header('Content-Disposition', 'attachment', filename=nombre)
         self.attach(attach)
         if nombre:
             attach.add_header('Content-Disposition', 'attachment', filename=nombre)
         self.attach(attach)


@@ -303,6 +343,18 @@ class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
         self['Subject'] = self.subject
         smtp.sendmail(self['From'], self['To'], self.as_string())
         smtp.close()
         self['Subject'] = self.subject
         smtp.sendmail(self['From'], self['To'], self.as_string())
         smtp.close()

+    def agregarResultado(self, prueba):
+        if not prueba.casoDePrueba.privado:
+            if prueba.pasada:
+                result = 'BIEN'
+            else:
+                result = 'ERROR'
+            self.body += '''
+Prueba '%s': %s
+%s
+''' % (prueba.casoDePrueba.nombre, result, prueba.observaciones or '')
+        pass
+

 
 # Manejadores de señales
 signal.signal(signal.SIGTERM, sigterm)
 
 # Manejadores de señales
 signal.signal(signal.SIGTERM, sigterm)


@@ -344,19 +396,23 @@ while continuar:
         continue
     # Ejecución de casos de prueba
     intento.inicioPruebas = datetime.datetime.now()
         continue
     # Ejecución de casos de prueba
     intento.inicioPruebas = datetime.datetime.now()

-    pruebas = []
+    resultado = True

     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
         # Preparo chroot
         preparar(intento)
         # Pruebo y agrego prueba a la lista
         prueba = probar(intento, caso_de_prueba, mail)
     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
         # Preparo chroot
         preparar(intento)
         # Pruebo y agrego prueba a la lista
         prueba = probar(intento, caso_de_prueba, mail)

-        mail.body += 'Prueba %s: %s (%s)\n' % (prueba.casoDePrueba.nombre, prueba.pasada, prueba.observaciones)
-        pruebas.append(prueba)
+        resultado = resultado and prueba.pasada
+        if not prueba.casoDePrueba.privado and not prueba.pasada:
+            resultado = False

         # Limpio chroot
         limpiar(intento)
         # Limpio chroot
         limpiar(intento)

-    #TODO Si es publica, veo si se hizo ok o no y voy creando mail

     intento.finPruebas = datetime.datetime.now()
     intento.finPruebas = datetime.datetime.now()

-    mail.send('NO SEP')
+    # Envío mail con resultado al alumno
+    if resultado:
+        mail.send('ACEPTADO')
+    else:
+        mail.send('FALLA PRUEBAS')

     # Limpio directorio
     log.debug('Borrando ejecutable y código objeto (*.o)')
     os.remove(os.path.join(intento.path, 'tp'))
     # Limpio directorio
     log.debug('Borrando ejecutable y código objeto (*.o)')
     os.remove(os.path.join(intento.path, 'tp'))