src/sc_test

   1 #!/usr/bin/env python2.4
   2 # -*- encoding: iso-8859-1 -*-
   3 # vim: set et sw=4 sts=4 :
   4
   5 # Módulos estándar
   6 import os
   7 import pwd
   8 import time
   9 import signal
  10 import glob
  11 import shutil
  12 import datetime
  13 import subprocess
  14 import email.MIMEMultipart
  15 # Módulos locales
  16 import sercom
  17 import sercom.sqlo
  18 from sercom.sqlo import *
  19
  20 class secure_process:
  21     def __init__(self, chroot, uid, gid, cpu):
  22         self.chroot = chroot
  23         self.uid = uid
  24         self.gid = gid
  25         self.cpu = cpu
  26     def __call__(self):
  27         from os import chroot, setuid, setgid
  28         import resource
  29         chroot(self.chroot)
  30         setgid(self.gid)
  31         setuid(self.uid)
  32         x2 = lambda val: (val, val) # Devuelve una tupla con val 2 veces
  33         resource.setrlimit(resource.RLIMIT_AS, x2(20*1024*1024))
  34         resource.setrlimit(resource.RLIMIT_CORE, x2(0))
  35         resource.setrlimit(resource.RLIMIT_CPU, x2(self.cpu))
  36         resource.setrlimit(resource.RLIMIT_DATA, x2(20*1024*1024))
  37         resource.setrlimit(resource.RLIMIT_FSIZE, x2(20*1024*1024)) #XXX Obtener de archivos esperados?
  38         #resource.setrlimit(resource.RLIMIT_LOCKS, x2(100)) XXX NO EXISTE EN python
  39         resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
  40         resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
  41         resource.setrlimit(resource.RLIMIT_NPROC, x2(0))
  42         # Tratamos de forzar un sync para que entre al sleep del padre
  43         time.sleep(0)
  44
  45 def sigchld(signum, frame):
  46     """Signal handler para SIGCHILD."""
  47     global hijo_muerto, log
  48     log.debug('Murió el hijo')
  49     hijo_muerto = True
  50
  51 def sigterm(signum, frame):
  52     """Signal handler para SIGTERM y SIGINT."""
  53     global continuar, log
  54     continuar = False
  55     log.debug('Señal %d recibida', signum)
  56     log.info('Finalizado')
  57
  58 def compilar(intento, mail):
  59     global log
  60     # Busco makefile
  61     makefile = os.path.join(intento.entrega.ejercicio.path, 'Makefile')
  62     # Compilo
  63     log.debug('Ejecutando: make -f %s', makefile)
  64     intento.inicioCompila = datetime.datetime.now()
  65     stderr = file(os.path.join(intento.path, 'make.out'), 'w')
  66     make = subprocess.Popen(('make', '-f', makefile), stderr=stderr,
  67         cwd=intento.path)
  68     make.wait()
  69     intento.finCompila = datetime.datetime.now()
  70     log.debug('Fin del comando: make -f %s', makefile)
  71     # Verifico compilación
  72     stderr = file(os.path.join(intento.path, 'make.out')).read()
  73     intento.compila = not make.returncode
  74     msg = 'Compilación: '
  75     if intento.compila and not stderr:
  76         msg += 'BIEN'
  77     elif intento.compila:
  78         msg += 'CON ADVERTENCIAS'
  79     else:
  80         msg += 'ERROR (código de retorno: %d)' % make.returncode
  81     mail.body += msg
  82     if stderr:
  83         msg += '''
  84 Salida:
  85 ------------------------------------------------------------------------
  86 %s
  87 ------------------------------------------------------------------------
  88
  89 ''' % stderr
  90         mail.body += "\n(se adjunta salida, archivo 'make.stderr')\n"
  91         mail.attachText(stderr, 'make.stderr')
  92     mail.body += '\n\n'
  93     intento.observaciones = msg + '\n\n'
  94     log.debug(msg)
  95
  96 def preparar(intento, caso_de_prueba):
  97     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
  98     os.makedirs(intento.chrootPath(caso_de_prueba))
  99     shutil.copy(os.path.join(intento.path, 'tp'),
 100         os.path.join(intento.chrootPath(caso_de_prueba), 'tp'))
 101     for f in caso_de_prueba.archivosEntrada:
 102         shutil.copy(os.path.join(caso_de_prueba.pathEntradas, f),
 103             os.path.join(intento.chrootPath(caso_de_prueba), f))
 104
 105 def limpiar(intento, caso_de_prueba):
 106     # Borro chroot entero
 107     #shutil.rmtree(intento.chrootPath)
 108     os.unlink(os.path.join(intento.chrootPath(caso_de_prueba), 'tp'))
 109
 110 def probar(intento, caso_de_prueba, mail):
 111     def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
 112         from difflib import unified_diff, HtmlDiff
 113         if longname is None: longname = name
 114         diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
 115         nota = ''
 116         if diff:
 117             prueba.pasada = False
 118             nota += "* %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
 119             nota += ('-' * 72) + '\n' + diff + ('-' * 72) + '\n'
 120             if not prueba.casoDePrueba.privado:
 121                 mail.attachText(diff, name + '.diff')
 122                 diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
 123                 mail.attachText(diff, name + '.diff.html', 'html')
 124         return nota
 125     def usa_stdin():
 126         return os.path.exists(os.path.join(caso_de_prueba.path, 'stdin'))
 127     def usa_stdout():
 128         return os.path.exists(os.path.join(caso_de_prueba.path, 'stdout'))
 129     def usa_stderr():
 130         return os.path.exists(os.path.join(caso_de_prueba.path, 'stderr'))
 131
 132     # Cosas útiles
 133     global log, conn, conf, uid, gid
 134     # Para manejo de SIGCHLD
 135     global hijo_muerto
 136     hijo_muerto = False
 137     # Obtengo datos útiles del caso de prueba
 138     tiempo_cpu = caso_de_prueba.tiempoCpu
 139     if tiempo_cpu is None:
 140         tiempo_cpu = conf.get('general', 'tiempo_cpu')
 141     tiempo_cpu = int(tiempo_cpu)
 142     # Creo prueba nueva
 143     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
 144         inicio=datetime.datetime.now(), connection=conn)
 145     log.debug('Iniciando prueba: %s', prueba)
 146     log.debug('Caso de prueba: %s', prueba.casoDePrueba)
 147     # Abro archivos para fds básicos
 148     options = {
 149         'cwd': intento.chrootPath(caso_de_prueba),
 150         'close_fds': True,
 151         'preexec_fn': secure_process(intento.chrootPath(caso_de_prueba), uid, gid, tiempo_cpu),
 152         'stdin': None,
 153         'stdout': None,
 154         'stderr': None,
 155     }
 156     if usa_stdin():
 157         options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
 158     if usa_stdout():
 159         stdout_fn = intento.chrootPath(caso_de_prueba) + '.stdout'
 160         options['stdout'] = file(stdout_fn,  'w')
 161     if usa_stderr():
 162         stderr_fn = intento.chrootPath(caso_de_prueba) + '.stderr'
 163         options['stderr'] = file(stderr_fn,  'w')
 164     # Ejecuto programa
 165     params = ['/tp']
 166     if caso_de_prueba.parametros:
 167         params += params2seq(caso_de_prueba.parametros)
 168     log.debug('Ejecutando %s', ' '.join(params))
 169     os.seteuid(0) # Dios! (para chroot)
 170     try:
 171         proc = subprocess.Popen(params, **options)
 172     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
 173         try:
 174             log.debug('ERROR! Trace del hijo: %s', e.child_traceback)
 175             raise
 176         except:
 177             raise
 178     os.seteuid(uid) # Mortal de nuevo
 179     if not hijo_muerto: # Recibido por el sigchld, para saber si murió
 180         time.sleep(tiempo_cpu) # Controlo que no tarde mucho
 181     # Si el proceso sigue andando lo tenemos que matar
 182     if not hijo_muerto:
 183         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
 184             tiempo_cpu)
 185         os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
 186         os.kill(proc.pid, signal.SIGKILL)
 187         os.seteuid(uid) # Mortal de nuevo
 188         log.debug('Prueba cancelada (kill)')
 189         proc.wait()
 190         prueba.observaciones = 'Excedió el límite de tiempo de ejecución ' \
 191             '(%d seg)' % tiempo_cpu
 192         prueba.fin = datetime.datetime.now()
 193         prueba.pasada = False
 194         mail.agregarResultado(prueba)
 195         return prueba
 196     proc.wait() # Para que no queden zombies
 197     prueba.fin = datetime.datetime.now()
 198     # Salió con una señal?
 199     if proc.returncode < 0:
 200         sig = -proc.returncode
 201         # Conversor de nro de señal a string
 202         sigs = {}
 203         for s in [s for s in dir(signal) if s.startswith('SIG') and s.isalpha()]:
 204             sigs[getattr(signal, s)] = s
 205         log.debug('El programa salió con la señal %s', sigs[sig])
 206         prueba.pasada = False
 207         #TODO otras señales conocidas
 208         if sig == signal.SIGXCPU:
 209             prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
 210                 '(%d seg)' % tiempo_cpu
 211         else:
 212             prueba.observaciones = 'Salió con la señal %s' % sigs[sig]
 213         mail.agregarResultado(prueba)
 214         return prueba
 215     # Si tenemos que verificar el código de retorno
 216     if caso_de_prueba.codigoRetorno is not None:
 217         #FIXME trucho lo de 256
 218         # Si el código de error esperado es 256 => el código de error debe ser != 0
 219         # Si no el código de error esperado debe ser igual al obtenido
 220         if caso_de_prueba.codigoRetorno != proc.returncode \
 221                 or caso_de_prueba.codigoRetorno == 256 \
 222                     and proc.returncode != 0:
 223             log.debug('Código de retorno incorrecto (debía ser %d y se obtuvo %d)',
 224                 caso_de_prueba.codigoRetorno, proc.returncode)
 225             prueba.pasada = False
 226             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
 227                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
 228                 proc.returncode)
 229             mail.agregarResultado(prueba)
 230             return prueba
 231     # Verifico salidas estándar/de error
 232     prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo
 233     obs = ''
 234     if usa_stdout():
 235         obs += diff(prueba, mail, file(stdout_fn).readlines(),
 236             file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
 237             caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
 238     if usa_stderr():
 239         obs += diff(prueba, mail, file(stderr_fn).readlines(),
 240             file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),
 241         caso_de_prueba.nombre + '.stderr', longname='La salida de error')
 242     for f in caso_de_prueba.archivosSalida:
 243         if f not in prueba.archivosSalida:
 244             log.debug('El programa no generó el archivo de salida "%s"', f)
 245             prueba.pasada = False
 246             obs += "* El programa no generó el archivo de salida '%s'.\n" % f
 247             continue
 248         obs += diff(prueba, mail,
 249             file(os.path.join(intento.chrootPath(caso_de_prueba), f)).readlines(),
 250             file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
 251             caso_de_prueba.nombre + '.' + f)
 252     for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):
 253         log.debug('Se generó un archivo "%s" que no se esperaba', f)
 254         prueba.pasada = False
 255         obs += "* Se generó un archivo ('%s') que no se esperaba.\n" % f
 256     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
 257         proc.pid, proc.returncode)
 258     if obs:
 259         prueba.observaciones = obs
 260     mail.agregarResultado(prueba)
 261     log.debug('Resultado de la prueba: %s', prueba)
 262     return prueba
 263
 264 def params2seq(params):
 265     r"""Parsea un string de forma similar al bash, separando por espacios y
 266     teniendo en cuenta comillas simples y dobles para agrupar. Para poner
 267     comillas se puede usar el \ como caracter de escape (\' y \") y también
 268     interpreta \n y \t. Devuelve una lista con los parámetros encontrados."""
 269     # Constantes
 270     SEP, TOKEN, DQUOTE, SQUOTE = ' ', None, '"', "'"
 271     seq = []
 272     buff = ''
 273     escape = False
 274     state = SEP
 275     for c in params:
 276         # Es un caracter escapado
 277         if escape:
 278             if c == 'n':
 279                 buff += '\n'
 280             elif c == 't':
 281                 buff += '\t'
 282             else:
 283                 buff += c
 284             escape = False
 285             continue
 286         # Es una secuencia de escape
 287         if c == '\\':
 288             escape = True
 289             continue
 290         # Si está buscando espacios
 291         if state == SEP:
 292             if c == SEP:
 293                 continue
 294             else:
 295                 state = TOKEN # Encontró
 296         if state == TOKEN:
 297             if c == DQUOTE:
 298                 state = DQUOTE
 299                 continue
 300             if c == SQUOTE:
 301                 state = SQUOTE
 302                 continue
 303             if c == SEP:
 304                 state = SEP
 305                 seq.append(buff)
 306                 buff = ''
 307                 continue
 308             buff += c
 309             continue
 310         if state == DQUOTE:
 311             if c == DQUOTE:
 312                 state = TOKEN
 313                 continue
 314             buff += c
 315             continue
 316         if state == SQUOTE:
 317             if c == SQUOTE:
 318                 state = TOKEN
 319                 continue
 320             buff += c
 321             continue
 322         raise Exception, 'No tiene sentido'
 323     if state == DQUOTE or state == SQUOTE:
 324         raise Exception, 'Parse error, falta cerrar comilla (%s)' % state
 325     if buff:
 326         seq.append(buff)
 327     return seq
 328
 329 class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
 330     def __init__(self, intento):
 331         global conf
 332         from email.MIMEMultipart import MIMEMultipart
 333         from email.MIMEMessage import MIMEMessage
 334         from email.MIMEText import MIMEText
 335         MIMEMultipart.__init__(self)
 336         self.subject = '[%s] Resultado del intento %d (ejercicio %d.%d)' % \
 337             (conf.get('mail', 'prefijo'), intento.numero,
 338                 intento.entrega.nroEjercicio, intento.entrega.entrega)
 339         self['From'] = conf.get('mail', 'from')
 340         self['To'] = intento.mailRespuesta
 341         self['Reply-To'] = conf.get('mail', 'admin')
 342         self['Return-Path'] = conf.get('mail', 'admin')
 343         self['X-Mailer'] = 'sercom ' + sercom.VERSION
 344         self['X-Priority'] = '5'
 345         self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \
 346             'soportar MIME.\n\n'
 347         self.prologue = '' # Garantiza que termine en \n el mensaje
 348         self.attach(MIMEMessage(MIMEText('', 'plain', 'iso-8859-1')))
 349         self.resultado = None
 350     def __set_body(self, body):
 351         self.get_payload(0).get_payload(0).set_payload(body)
 352     def __get_body(self):
 353         return self.get_payload(0).get_payload(0).get_payload()
 354     body = property(__get_body, __set_body, doc='Cuerpo del mensaje.')
 355     def attachText(self, text, nombre=None, subtype='plain'):
 356         from email.MIMEText import MIMEText
 357         attach = MIMEText(text, subtype, 'iso-8859-1')
 358         if nombre:
 359             attach.add_header('Content-Disposition', 'attachment', filename=nombre)
 360         self.attach(attach)
 361     def send(self, resultado=None):
 362         import smtplib
 363         global conf
 364         smtp = smtplib.SMTP(conf.get('mail', 'smtp'))
 365         if resultado:
 366             self.subject += ': ' + resultado
 367         self['Subject'] = self.subject
 368         smtp.sendmail(self['From'], self['To'], self.as_string())
 369         smtp.close()
 370     def agregarResultado(self, prueba):
 371         if not prueba.casoDePrueba.privado:
 372             if prueba.pasada:
 373                 result = 'BIEN'
 374             else:
 375                 result = 'ERROR'
 376             self.body += '''
 377 Prueba '%s': %s
 378 %s
 379 ''' % (prueba.casoDePrueba.nombre, result, prueba.observaciones or '')
 380         pass
 381
 382
 383 # Manejadores de señales
 384 signal.signal(signal.SIGTERM, sigterm)
 385 signal.signal(signal.SIGINT, sigterm)
 386 signal.signal(signal.SIGCHLD, sigchld)
 387 hijo_muerto = False # Cambia con SIGCHLD
 388 continuar = True # Cambia con SIGTERM o SIGINT
 389
 390 # Inicializo
 391 conf, conn, log = sercom.init('test')
 392 log.info('Iniciado')
 393
 394 # Obtengo id de usuario con el cual ejecutar las pruebas
 395 uid, gid = pwd.getpwnam(conf.get('general', 'user'))[2:4]
 396
 397 # Cambio UID efectivo
 398 os.seteuid(uid)
 399
 400 # Atajo
 401 intervalo = float(conf.get('general', 'intervalo'))
 402
 403 # Utilizo el directorio de datos como base para todos los SQLObjects
 404 sercom.sqlo.dir_base = conf.get('general', 'data_dir')
 405
 406 # Hasta que nos maten
 407 while continuar:
 408     # Busco intento a probar
 409     intento = Intento.getProximoAProbar(conn)
 410     if not intento:
 411         log.debug('No hay intento para probar')
 412         time.sleep(intervalo)
 413         continue
 414     log.info('Nuevo intento a probar (%d %d.%d.%d %d%d%d [%d %d %d])',
 415         intento.inscripto.padron, intento.entrega.nroEjercicio,
 416         intento.entrega.entrega, intento.numero, intento.entrega.curso.anio,
 417         intento.entrega.curso.cuatrimestre, intento.entrega.curso.curso,
 418         intento.inscripto.id, intento.entrega.id, intento.id)
 419     mail = MailIntento(intento)
 420     # Compila
 421     compilar(intento, mail)
 422     if not intento.compila:
 423         log.info('Intento[%d] no compila', intento.id)
 424         mail.send('NO COMPILA')
 425         continue
 426     # Ejecución de casos de prueba
 427     intento.inicioPruebas = datetime.datetime.now()
 428     resultado = True
 429     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
 430         # Preparo chroot
 431         preparar(intento, caso_de_prueba)
 432         # Pruebo y agrego prueba a la lista
 433         prueba = probar(intento, caso_de_prueba, mail)
 434         if not prueba.casoDePrueba.privado and not prueba.pasada:
 435             log.info('Prueba %s[%d %d] no pasada', prueba.casoDePrueba.nombre,
 436                 prueba.casoDePrueba.id, prueba.id)
 437             resultado = False
 438         # Limpio chroot
 439         limpiar(intento, caso_de_prueba)
 440     intento.finPruebas = datetime.datetime.now()
 441     # Envío mail con resultado al alumno
 442     if resultado:
 443         mail.send('ACEPTADO')
 444         log.info('Pruebas finalizadas (intento[%d] aceptado)', intento.id)
 445     else:
 446         mail.send('FALLA PRUEBAS')
 447         log.info('Pruebas finalizadas (intento[%d] no aceptado)', intento.id)
 448     # Limpio directorio
 449     log.debug('Borrando ejecutable y código objeto (*.o)')
 450     os.remove(os.path.join(intento.path, 'tp'))
 451     for obj in glob.glob(os.path.join(intento.path, '*.o')):
 452         os.remove(obj)
 453     # time.sleep(intervalo) #XXX Puede servir para enlentecer el server
 454