From 85dc36ad3e1915b75b1209694eefe1ff2df28b2a Mon Sep 17 00:00:00 2001 From: Leandro Lucarella Date: Wed, 2 Mar 2005 18:56:59 +0000 Subject: [PATCH 1/1] =?utf8?q?Se=20completa=20el=20envio=20de=20mail=20y?= =?utf8?q?=20la=20comparaci=C3=B3n=20de=20salidas.?= MIME-Version: 1.0 Content-Type: text/plain; charset=utf8 Content-Transfer-Encoding: 8bit --- src/sc_test | 99 +++++++++++++++++++++++++++++++++++----------- src/sercom/sqlo.py | 35 +++++++++++++--- 2 files changed, 106 insertions(+), 28 deletions(-) diff --git a/src/sc_test b/src/sc_test index 2e4be20..59b4eff 100755 --- a/src/sc_test +++ b/src/sc_test @@ -54,9 +54,6 @@ def sigterm(signum, frame): continuar = False log.debug('Señal %d recibida', signum) -def chroot_dir(intento): - return os.path.join(intento.path, 'chroot') - def compilar(intento, mail): global log # Busco makefile @@ -95,15 +92,29 @@ def compilar(intento, mail): def preparar(intento): # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind? - os.mkdir(chroot_dir(intento)) + os.mkdir(intento.chrootPath) shutil.copy(os.path.join(intento.path, 'tp'), - os.path.join(chroot_dir(intento), 'tp')) + os.path.join(intento.chrootPath, 'tp')) def limpiar(intento): # Borro chroot entero - shutil.rmtree(chroot_dir(intento)) + shutil.rmtree(intento.chrootPath) def probar(intento, caso_de_prueba, mail): + def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None): + from difflib import unified_diff, HtmlDiff + #TODO diferenciar pruebas públicas de privadas + if longname is None: longname = name + diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname))) + nota = '' + if diff: + prueba.pasada = False + nota = "- %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name) + if not prueba.casoDePrueba.privado: + mail.attachText(diff, name + '.diff') + diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3) + mail.attachText(diff, name + '.diff.html', 'html') + return nota # Cosas útiles global log, conn, conf, uid, gid # Para manejo de SIGCHLD @@ -118,12 +129,12 @@ def probar(intento, caso_de_prueba, mail): prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba, inicio=datetime.datetime.now(), connection=conn) log.debug('Iniciando prueba: %s', prueba) + log.debug('Caso de prueba: %s', prueba.casoDePrueba) # Abro archivos para fds básicos - #XXX sacar nombres de archivos de prueba???? options = { - 'cwd': chroot_dir(intento), + 'cwd': intento.chrootPath, 'close_fds': True, - 'preexec_fn': secure_process(chroot_dir(intento), uid, gid, tiempo_cpu), + 'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu), } if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')): options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r') @@ -147,7 +158,7 @@ def probar(intento, caso_de_prueba, mail): raise os.seteuid(uid) # Mortal de nuevo if not hijo_muerto: # Recibido por el sigchld, para saber si murió - time.sleep(tiempo_cpu) + time.sleep(tiempo_cpu) # Controlo que no tarde mucho # Si el proceso sigue andando lo tenemos que matar if not hijo_muerto: log.debug('La prueba tardó más del tiempo permitido (%d segundos)', @@ -161,9 +172,10 @@ def probar(intento, caso_de_prueba, mail): '(%d seg)' % tiempo_cpu prueba.fin = datetime.datetime.now() prueba.pasada = False + mail.agregarResultado(prueba) return prueba proc.wait() # Para que no queden zombies - prueba.fin = str(datetime.datetime.now()) + prueba.fin = datetime.datetime.now() # Salió con una señal? if proc.returncode < 0: sig = -proc.returncode @@ -175,6 +187,7 @@ def probar(intento, caso_de_prueba, mail): '(%d seg)' % tiempo_cpu else: prueba.observaciones = 'Salió con la señal %d' % sig + mail.agregarResultado(prueba) return prueba # Si tenemos que verificar el código de retorno if caso_de_prueba.codigoRetorno is not None: @@ -190,11 +203,37 @@ def probar(intento, caso_de_prueba, mail): prueba.observaciones = 'Código de retorno incorrecto (debía ' \ 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno, proc.returncode) - #TODO verificar salidas, hacer diff + mail.agregarResultado(prueba) + return prueba + # Verifico salidas estándar/de error + prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo + obs = diff(prueba, mail, proc.stdout.readlines(), + file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(), + 'stdout', longname='La salida estándar') + obs += diff(prueba, mail, proc.stderr.readlines(), + file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(), + 'stderr', longname='La salida de error') + for f in caso_de_prueba.archivosSalida: + if f not in prueba.archivosSalida: + #TODO agregar error FALTA ARCHIVO + log.debug('Falta el archivo %s y no lo hizo.', f) + prueba.pasada = False + obs += "- Falta el archivo de salida '%s'.\n" % f + continue + obs += diff(prueba, mail, + file(os.path.join(intento.chrootPath, f)).readlines(), + file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(), f) + for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada): + #TODO agregar error SOBRA ARCHIVO + log.debug('El programa debía generar el archivo %s y no lo hizo.', f) + prueba.pasada = False + obs += "- Se generó un archivo ('%s') que no se esperaba.\n" % f log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)', proc.pid, proc.returncode) - prueba.pasada = True - log.debug('Prueba OK: %s', prueba) + if obs: + prueba.observaciones = obs + mail.agregarResultado(prueba) + log.debug('Resultado de la prueba: %s', prueba) return prueba def params2seq(params): @@ -269,7 +308,7 @@ class MailIntento(email.MIMEMultipart.MIMEMultipart, object): from email.MIMEMessage import MIMEMessage from email.MIMEText import MIMEText MIMEMultipart.__init__(self) - self.subject = '[%s] Resultado del intento %d del ejercicio %d.%d' % \ + self.subject = '[%s] Resultado del intento %d (ejercicio %d.%d)' % \ (conf.get('mail', 'prefijo'), intento.numero, intento.entrega.nroEjercicio, intento.entrega.entrega) self['From'] = conf.get('mail', 'from') @@ -288,9 +327,9 @@ class MailIntento(email.MIMEMultipart.MIMEMultipart, object): def __get_body(self): return self.get_payload(0).get_payload(0).get_payload() body = property(__get_body, __set_body, doc='Cuerpo del mensaje.') - def attachText(self, text, nombre=None): + def attachText(self, text, nombre=None, subtype='plain'): from email.MIMEText import MIMEText - attach = MIMEText(text, 'plain', 'iso-8859-1') + attach = MIMEText(text, subtype, 'iso-8859-1') if nombre: attach.add_header('Content-Disposition', 'attachment', filename=nombre) self.attach(attach) @@ -303,6 +342,18 @@ class MailIntento(email.MIMEMultipart.MIMEMultipart, object): self['Subject'] = self.subject smtp.sendmail(self['From'], self['To'], self.as_string()) smtp.close() + def agregarResultado(self, prueba): + if not prueba.casoDePrueba.privado: + if prueba.pasada: + result = 'BIEN' + else: + result = 'ERROR' + self.body += ''' +Prueba '%s': %s +%s +''' % (prueba.casoDePrueba.nombre, result, prueba.observaciones or '') + pass + # Manejadores de señales signal.signal(signal.SIGTERM, sigterm) @@ -344,19 +395,23 @@ while continuar: continue # Ejecución de casos de prueba intento.inicioPruebas = datetime.datetime.now() - pruebas = [] + resultado = True for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba: # Preparo chroot preparar(intento) # Pruebo y agrego prueba a la lista prueba = probar(intento, caso_de_prueba, mail) - mail.body += 'Prueba %s: %s (%s)\n' % (prueba.casoDePrueba.nombre, prueba.pasada, prueba.observaciones) - pruebas.append(prueba) + resultado = resultado and prueba.pasada + if not prueba.casoDePrueba.privado and not prueba.pasada: + resultado = False # Limpio chroot limpiar(intento) - #TODO Si es publica, veo si se hizo ok o no y voy creando mail intento.finPruebas = datetime.datetime.now() - mail.send('NO SEP') + # Envío mail con resultado al alumno + if resultado: + mail.send('ACEPTADO') + else: + mail.send('FALLA PRUEBAS') # Limpio directorio log.debug('Borrando ejecutable y código objeto (*.o)') os.remove(os.path.join(intento.path, 'tp')) diff --git a/src/sercom/sqlo.py b/src/sercom/sqlo.py index f4824df..de62085 100644 --- a/src/sercom/sqlo.py +++ b/src/sercom/sqlo.py @@ -1,5 +1,7 @@ from sqlobject import * from sqlobject.sqlbuilder import * +import errno +import os from os import path __all__ = ('Curso', 'Inscripto', 'Docente', 'Ejercicio', 'Entrega', @@ -96,17 +98,29 @@ class CasoDePrueba(BaseSQLObject): def _get_path(self): return path.join(self.ejercicio.path, 'casos_de_prueba', self.nombre) + def _get_pathEntradas(self): + return path.join(self.path, 'entradas') + + def _get_pathSalidas(self): + return path.join(self.path, 'salidas') + def _get_archivosEntrada(self): try: - return os.listdir(path.join(self.path, 'entradas')) - except: - return [] + return frozenset(os.listdir(self.pathEntradas)) + except OSError, (err, msg): + if err == errno.ENOENT: + return frozenset() + else: + raise def _get_archivosSalida(self): try: - return os.listdir(path.join(self.path, 'salidas')) - except: - return [] + return frozenset(os.listdir(self.pathSalidas)) + except OSError, (err, msg): + if err == errno.ENOENT: + return frozenset() + else: + raise class Intento(BaseSQLObject): # Clave @@ -141,6 +155,9 @@ class Intento(BaseSQLObject): '%s.%s.%s' % (curso.curso, entrega.nroEjercicio, entrega.entrega), '%s.%s' % (self.inscripto.padron, self.numero)) + def _get_chrootPath(self): + return path.join(self.path, 'chroot') + def _get_pruebasPasadas(self): for p in self.pruebas: if not p.pasada: @@ -179,4 +196,10 @@ class Prueba(BaseSQLObject): pasada = BoolCol(default = None) observaciones = StringCol(default = None) + def _get_archivosSalida(self): + ent = self.casoDePrueba.archivosEntrada + sal = self.casoDePrueba.archivosSalida + return frozenset([f for f in os.listdir(self.intento.chrootPath) \ + if f in sal or f not in ent and f <> 'tp']) + # vim: set et sw=4 sts=4 : -- 2.43.0