X-Git-Url: https://git.llucax.com/software/sercom-old.git/blobdiff_plain/10b02f2e34911972a0ee7e441d6e25a86f27604a..4d996d9a8b118836ad4de537ead8144b78bf530f:/src/sc_test diff --git a/src/sc_test b/src/sc_test index 08096c6..5643e61 100755 --- a/src/sc_test +++ b/src/sc_test @@ -11,10 +11,11 @@ import glob import shutil import datetime import subprocess +import email.MIMEMultipart # Módulos locales import sercom -import sercom.dbo -from sercom.dbo import * +import sercom.sqlo +from sercom.sqlo import * class secure_process: def __init__(self, chroot, uid, gid, cpu): @@ -52,46 +53,79 @@ def sigterm(signum, frame): global continuar, log continuar = False log.debug('Señal %d recibida', signum) + log.info('Finalizado') -def chroot_dir(intento): - return os.path.join(intento.path, 'chroot') - -def compilar(intento): +def compilar(intento, mail): global log # Busco makefile makefile = os.path.join(intento.entrega.ejercicio.path, 'Makefile') # Compilo log.debug('Ejecutando: make -f %s', makefile) intento.inicioCompila = datetime.datetime.now() - make = subprocess.Popen(('make', '-f', makefile), stdout=subprocess.PIPE, - stderr=subprocess.PIPE, cwd=intento.path) + stderr = file(os.path.join(intento.path, 'make.out'), 'w') + make = subprocess.Popen(('make', '-f', makefile), stderr=stderr, + cwd=intento.path) make.wait() intento.finCompila = datetime.datetime.now() log.debug('Fin del comando: make -f %s', makefile) # Verifico compilación - if make.returncode: - log.debug('Error al compilar, código de retorno: %d, salida estándar: ' - '%s, salida de error: %s)', make.returncode, make.stdout.read(), - make.stderr.read()) - intento.compila = False - #TODO enviar_respuesta(R_ERR, $mail, "ERROR AL COMPILAR!\n\n$err\n\nCódigo de retorno: $ret\n", $intento); - return False - log.debug('Compilado OK') - intento.compila = True - #TODO mail acumulativo - return True + stderr = file(os.path.join(intento.path, 'make.out')).read() + intento.compila = not make.returncode + msg = 'Compilación: ' + if intento.compila and not stderr: + msg += 'BIEN' + elif intento.compila: + msg += 'CON ADVERTENCIAS' + else: + msg += 'ERROR (código de retorno: %d)' % make.returncode + mail.body += msg + if stderr: + msg += ''' +Salida: +------------------------------------------------------------------------ +%s +------------------------------------------------------------------------ + +''' % stderr + mail.body += "\n(se adjunta salida, archivo 'make.stderr')\n" + mail.attachText(stderr, 'make.stderr') + mail.body += '\n\n' + intento.observaciones = msg + '\n\n' + log.debug(msg) -def preparar(intento): +def preparar(intento, caso_de_prueba): # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind? - os.mkdir(chroot_dir(intento)) + os.makedirs(intento.chrootPath(caso_de_prueba)) shutil.copy(os.path.join(intento.path, 'tp'), - os.path.join(chroot_dir(intento), 'tp')) + os.path.join(intento.chrootPath(caso_de_prueba), 'tp')) -def limpiar(intento): +def limpiar(intento, caso_de_prueba): # Borro chroot entero - shutil.rmtree(chroot_dir(intento)) + #shutil.rmtree(intento.chrootPath) + os.unlink(os.path.join(intento.chrootPath(caso_de_prueba), 'tp')) + +def probar(intento, caso_de_prueba, mail): + def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None): + from difflib import unified_diff, HtmlDiff + if longname is None: longname = name + diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname))) + nota = '' + if diff: + prueba.pasada = False + nota += "* %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name) + nota += ('-' * 72) + '\n' + diff + ('-' * 72) + '\n' + if not prueba.casoDePrueba.privado: + mail.attachText(diff, name + '.diff') + diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3) + mail.attachText(diff, name + '.diff.html', 'html') + return nota + def usa_stdin(): + return os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')) + def usa_stdout(): + return os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')) + def usa_stderr(): + return os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')) -def probar(intento, caso_de_prueba): # Cosas útiles global log, conn, conf, uid, gid # Para manejo de SIGCHLD @@ -106,19 +140,24 @@ def probar(intento, caso_de_prueba): prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba, inicio=datetime.datetime.now(), connection=conn) log.debug('Iniciando prueba: %s', prueba) + log.debug('Caso de prueba: %s', prueba.casoDePrueba) # Abro archivos para fds básicos - #XXX sacar nombres de archivos de prueba???? options = { - 'cwd': chroot_dir(intento), + 'cwd': intento.chrootPath(caso_de_prueba), 'close_fds': True, - 'preexec_fn': secure_process(chroot_dir(intento), uid, gid, tiempo_cpu), + 'preexec_fn': secure_process(intento.chrootPath(caso_de_prueba), uid, gid, tiempo_cpu), + 'stdin': None, + 'stdout': None, + 'stderr': None, } - if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')): + if usa_stdin(): options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r') - if os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')): - options['stdout'] = subprocess.PIPE - if os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')): - options['stderr'] = subprocess.PIPE + if usa_stdout(): + stdout_fn = intento.chrootPath(caso_de_prueba) + '.stdout' + options['stdout'] = file(stdout_fn, 'w') + if usa_stderr(): + stderr_fn = intento.chrootPath(caso_de_prueba) + '.stderr' + options['stderr'] = file(stderr_fn, 'w') # Ejecuto programa params = ['/tp'] if caso_de_prueba.parametros: @@ -129,13 +168,13 @@ def probar(intento, caso_de_prueba): proc = subprocess.Popen(params, **options) except Exception, e: # FIXME poner en el manejo de exceptiones estandar try: - print e.child_traceback + log.debug('ERROR! Trace del hijo: %s', e.child_traceback) raise except: raise os.seteuid(uid) # Mortal de nuevo if not hijo_muerto: # Recibido por el sigchld, para saber si murió - time.sleep(tiempo_cpu) + time.sleep(tiempo_cpu) # Controlo que no tarde mucho # Si el proceso sigue andando lo tenemos que matar if not hijo_muerto: log.debug('La prueba tardó más del tiempo permitido (%d segundos)', @@ -149,20 +188,26 @@ def probar(intento, caso_de_prueba): '(%d seg)' % tiempo_cpu prueba.fin = datetime.datetime.now() prueba.pasada = False + mail.agregarResultado(prueba) return prueba proc.wait() # Para que no queden zombies - prueba.fin = str(datetime.datetime.now()) + prueba.fin = datetime.datetime.now() # Salió con una señal? if proc.returncode < 0: sig = -proc.returncode - log.debug('El programa salió con la señal %d', sig) + # Conversor de nro de señal a string + sigs = {} + for s in [s for s in dir(signal) if s.startswith('SIG') and s.isalpha()]: + sigs[getattr(signal, s)] = s + log.debug('El programa salió con la señal %s', sigs[sig]) prueba.pasada = False #TODO otras señales conocidas if sig == signal.SIGXCPU: prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \ '(%d seg)' % tiempo_cpu else: - prueba.observaciones = 'Salió con la señal %d' % sig + prueba.observaciones = 'Salió con la señal %s' % sigs[sig] + mail.agregarResultado(prueba) return prueba # Si tenemos que verificar el código de retorno if caso_de_prueba.codigoRetorno is not None: @@ -178,11 +223,39 @@ def probar(intento, caso_de_prueba): prueba.observaciones = 'Código de retorno incorrecto (debía ' \ 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno, proc.returncode) - #TODO verificar salidas, hacer diff + mail.agregarResultado(prueba) + return prueba + # Verifico salidas estándar/de error + prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo + obs = '' + if usa_stdout(): + obs += diff(prueba, mail, file(stdout_fn).readlines(), + file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(), + caso_de_prueba.nombre + '.stdout', longname='La salida estándar') + if usa_stderr(): + obs += diff(prueba, mail, file(stderr_fn).readlines(), + file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(), + caso_de_prueba.nombre + '.stderr', longname='La salida de error') + for f in caso_de_prueba.archivosSalida: + if f not in prueba.archivosSalida: + log.debug('Falta el archivo %s y no lo hizo.', f) + prueba.pasada = False + obs += "* Falta el archivo de salida '%s'.\n" % f + continue + obs += diff(prueba, mail, + file(os.path.join(intento.chrootPath(caso_de_prueba), f)).readlines(), + file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(), + caso_de_prueba.nombre + '.' + f) + for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada): + log.debug('El programa debía generar el archivo %s y no lo hizo.', f) + prueba.pasada = False + obs += "* Se generó un archivo ('%s') que no se esperaba.\n" % f log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)', proc.pid, proc.returncode) - prueba.pasada = True - log.debug('Prueba OK: %s', prueba) + if obs: + prueba.observaciones = obs + mail.agregarResultado(prueba) + log.debug('Resultado de la prueba: %s', prueba) return prueba def params2seq(params): @@ -250,6 +323,60 @@ def params2seq(params): seq.append(buff) return seq +class MailIntento(email.MIMEMultipart.MIMEMultipart, object): + def __init__(self, intento): + global conf + from email.MIMEMultipart import MIMEMultipart + from email.MIMEMessage import MIMEMessage + from email.MIMEText import MIMEText + MIMEMultipart.__init__(self) + self.subject = '[%s] Resultado del intento %d (ejercicio %d.%d)' % \ + (conf.get('mail', 'prefijo'), intento.numero, + intento.entrega.nroEjercicio, intento.entrega.entrega) + self['From'] = conf.get('mail', 'from') + self['To'] = intento.mailRespuesta + self['Reply-To'] = conf.get('mail', 'admin') + self['Return-Path'] = conf.get('mail', 'admin') + self['X-Mailer'] = 'sercom ' + sercom.VERSION + self['X-Priority'] = '5' + self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \ + 'soportar MIME.\n\n' + self.prologue = '' # Garantiza que termine en \n el mensaje + self.attach(MIMEMessage(MIMEText('', 'plain', 'iso-8859-1'))) + self.resultado = None + def __set_body(self, body): + self.get_payload(0).get_payload(0).set_payload(body) + def __get_body(self): + return self.get_payload(0).get_payload(0).get_payload() + body = property(__get_body, __set_body, doc='Cuerpo del mensaje.') + def attachText(self, text, nombre=None, subtype='plain'): + from email.MIMEText import MIMEText + attach = MIMEText(text, subtype, 'iso-8859-1') + if nombre: + attach.add_header('Content-Disposition', 'attachment', filename=nombre) + self.attach(attach) + def send(self, resultado=None): + import smtplib + global conf + smtp = smtplib.SMTP(conf.get('mail', 'smtp')) + if resultado: + self.subject += ': ' + resultado + self['Subject'] = self.subject + smtp.sendmail(self['From'], self['To'], self.as_string()) + smtp.close() + def agregarResultado(self, prueba): + if not prueba.casoDePrueba.privado: + if prueba.pasada: + result = 'BIEN' + else: + result = 'ERROR' + self.body += ''' +Prueba '%s': %s +%s +''' % (prueba.casoDePrueba.nombre, result, prueba.observaciones or '') + pass + + # Manejadores de señales signal.signal(signal.SIGTERM, sigterm) signal.signal(signal.SIGINT, sigterm) @@ -271,7 +398,7 @@ os.seteuid(uid) intervalo = float(conf.get('general', 'intervalo')) # Utilizo el directorio de datos como base para todos los SQLObjects -sercom.dbo.dir_base = conf.get('general', 'data_dir') +sercom.sqlo.dir_base = conf.get('general', 'data_dir') # Hasta que nos maten while continuar: @@ -281,29 +408,44 @@ while continuar: log.debug('No hay intento para probar') time.sleep(intervalo) continue - log.info('Nuevo intento a probar (%s)', intento) + log.info('Nuevo intento a probar (%d %d.%d.%d %d%d%d [%d %d %d])', + intento.inscripto.padron, intento.entrega.nroEjercicio, + intento.entrega.entrega, intento.numero, intento.entrega.curso.anio, + intento.entrega.curso.cuatrimestre, intento.entrega.curso.curso, + intento.inscripto.id, intento.entrega.id, intento.id) + mail = MailIntento(intento) # Compila - if not compilar(intento): - #TODO mandar mail + compilar(intento, mail) + if not intento.compila: + log.info('Intento[%d] no compila', intento.id) + mail.send('NO COMPILA') continue # Ejecución de casos de prueba intento.inicioPruebas = datetime.datetime.now() - pruebas = [] + resultado = True for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba: # Preparo chroot - preparar(intento) + preparar(intento, caso_de_prueba) # Pruebo y agrego prueba a la lista - pruebas.append(probar(intento, caso_de_prueba)) + prueba = probar(intento, caso_de_prueba, mail) + if not prueba.casoDePrueba.privado and not prueba.pasada: + log.info('Prueba %s[%d %d] no pasada', prueba.casoDePrueba.nombre, + prueba.casoDePrueba.id, prueba.id) + resultado = False # Limpio chroot - limpiar(intento) + limpiar(intento, caso_de_prueba) intento.finPruebas = datetime.datetime.now() + # Envío mail con resultado al alumno + if resultado: + mail.send('ACEPTADO') + log.info('Pruebas finalizadas (intento[%d] aceptado)', intento.id) + else: + mail.send('FALLA PRUEBAS') + log.info('Pruebas finalizadas (intento[%d] no aceptado)', intento.id) # Limpio directorio log.debug('Borrando ejecutable y código objeto (*.o)') os.remove(os.path.join(intento.path, 'tp')) - [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))] - #TODO Armar mail de respuesta al alumno - for prueba in pruebas: - #TODO Si es publica, veo si se hizo ok o no y voy creando mail - pass - time.sleep(intervalo) + for obj in glob.glob(os.path.join(intento.path, '*.o')): + os.remove(obj) + # time.sleep(intervalo) #XXX Puede servir para enlentecer el server