src/sc_test

   1 #!/usr/bin/env python2.4
   2 # -*- encoding: iso-8859-1 -*-
   3 # vim: set et sw=4 sts=4 :
   4
   5 # Módulos estándar
   6 import os
   7 import pwd
   8 import time
   9 import signal
  10 import glob
  11 import shutil
  12 import datetime
  13 import subprocess
  14 import email.MIMEMultipart
  15 # Módulos locales
  16 import sercom
  17 import sercom.sqlo
  18 from sercom.sqlo import *
  19
  20 class secure_process:
  21     def __init__(self, chroot, uid, gid, cpu):
  22         self.chroot = chroot
  23         self.uid = uid
  24         self.gid = gid
  25         self.cpu = cpu
  26     def __call__(self):
  27         from os import chroot, setuid, setgid
  28         import resource
  29         chroot(self.chroot)
  30         setgid(self.gid)
  31         setuid(self.uid)
  32         x2 = lambda val: (val, val) # Devuelve una tupla con val 2 veces
  33         resource.setrlimit(resource.RLIMIT_AS, x2(20*1024*1024))
  34         resource.setrlimit(resource.RLIMIT_CORE, x2(0))
  35         resource.setrlimit(resource.RLIMIT_CPU, x2(self.cpu))
  36         resource.setrlimit(resource.RLIMIT_DATA, x2(20*1024*1024))
  37         resource.setrlimit(resource.RLIMIT_FSIZE, x2(20*1024*1024)) #XXX Obtener de archivos esperados?
  38         #resource.setrlimit(resource.RLIMIT_LOCKS, x2(100)) XXX NO EXISTE EN python
  39         resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
  40         resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
  41         resource.setrlimit(resource.RLIMIT_NPROC, x2(0))
  42         # Tratamos de forzar un sync para que entre al sleep del padre
  43         time.sleep(0)
  44
  45 def sigchld(signum, frame):
  46     """Signal handler para SIGCHILD."""
  47     global hijo_muerto, log
  48     log.debug('Murió el hijo')
  49     hijo_muerto = True
  50
  51 def sigterm(signum, frame):
  52     """Signal handler para SIGTERM y SIGINT."""
  53     global continuar, log
  54     continuar = False
  55     log.debug('Señal %d recibida', signum)
  56
  57 def compilar(intento, mail):
  58     global log
  59     # Busco makefile
  60     makefile = os.path.join(intento.entrega.ejercicio.path, 'Makefile')
  61     # Compilo
  62     log.debug('Ejecutando: make -f %s', makefile)
  63     intento.inicioCompila = datetime.datetime.now()
  64     make = subprocess.Popen(('make', '-f', makefile), stderr=subprocess.PIPE,
  65         cwd=intento.path)
  66     make.wait()
  67     intento.finCompila = datetime.datetime.now()
  68     log.debug('Fin del comando: make -f %s', makefile)
  69     # Verifico compilación
  70     stderr = make.stderr.read()
  71     intento.compila = not make.returncode
  72     msg = 'Compilación: '
  73     if intento.compila and not stderr:
  74         msg += 'BIEN'
  75     elif intento.compila:
  76         msg += 'CON ADVERTENCIAS'
  77     else:
  78         msg += 'ERROR (código de retorno: %d)' % make.returncode
  79     mail.body += msg
  80     if stderr:
  81         msg += '''
  82 Salida:
  83 ------------------------------------------------------------------------
  84 %s
  85 ------------------------------------------------------------------------
  86
  87 ''' % stderr
  88         mail.body += "\n(se adjunta salida, archivo 'make.stderr')\n"
  89         mail.attachText(stderr, 'make.stderr')
  90     mail.body += '\n\n'
  91     intento.observaciones = msg + '\n\n'
  92     log.debug(msg)
  93
  94 def preparar(intento):
  95     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
  96     os.mkdir(intento.chrootPath)
  97     shutil.copy(os.path.join(intento.path, 'tp'),
  98         os.path.join(intento.chrootPath, 'tp'))
  99
 100 def limpiar(intento):
 101     # Borro chroot entero
 102     shutil.rmtree(intento.chrootPath)
 103
 104 def probar(intento, caso_de_prueba, mail):
 105     def diff(prueba, mail, orig, new, name, origname='alumno', newname='catedra', longname=None):
 106         from difflib import unified_diff, HtmlDiff
 107         #TODO diferenciar pruebas públicas de privadas
 108         if longname is None: longname = name
 109         diff = ''.join(list(unified_diff(orig, new, fromfile=name+'.'+origname, tofile=name+'.'+newname)))
 110         nota = ''
 111         if diff:
 112             prueba.pasada = False
 113             nota = "- %s no coincide con lo esperado (archivo '%s.diff').\n" % (longname, name)
 114             if not prueba.casoDePrueba.privado:
 115                 mail.attachText(diff, name + '.diff')
 116                 diff = HtmlDiff().make_file(orig, new, fromdesc=name+'.'+origname, todesc=name+'.'+newname, context=True, numlines=3)
 117                 mail.attachText(diff, name + '.diff.html', 'html')
 118         return nota
 119     # Cosas útiles
 120     global log, conn, conf, uid, gid
 121     # Para manejo de SIGCHLD
 122     global hijo_muerto
 123     hijo_muerto = False
 124     # Obtengo datos útiles del caso de prueba
 125     tiempo_cpu = caso_de_prueba.tiempoCpu
 126     if tiempo_cpu is None:
 127         tiempo_cpu = conf.get('general', 'tiempo_cpu')
 128     tiempo_cpu = int(tiempo_cpu)
 129     # Creo prueba nueva
 130     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
 131         inicio=datetime.datetime.now(), connection=conn)
 132     log.debug('Iniciando prueba: %s', prueba)
 133     log.debug('Caso de prueba: %s', prueba.casoDePrueba)
 134     # Abro archivos para fds básicos
 135     options = {
 136         'cwd': intento.chrootPath,
 137         'close_fds': True,
 138         'preexec_fn': secure_process(intento.chrootPath, uid, gid, tiempo_cpu),
 139     }
 140     if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')):
 141         options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
 142     if os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')):
 143         options['stdout'] = subprocess.PIPE
 144     if os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')):
 145         options['stderr'] = subprocess.PIPE
 146     # Ejecuto programa
 147     params = ['/tp']
 148     if caso_de_prueba.parametros:
 149         params += params2seq(caso_de_prueba.parametros)
 150     log.debug('Ejecutando %s', ' '.join(params))
 151     os.seteuid(0) # Dios! (para chroot)
 152     try:
 153         proc = subprocess.Popen(params, **options)
 154     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
 155         try:
 156             print e.child_traceback
 157             raise
 158         except:
 159             raise
 160     os.seteuid(uid) # Mortal de nuevo
 161     if not hijo_muerto: # Recibido por el sigchld, para saber si murió
 162         time.sleep(tiempo_cpu) # Controlo que no tarde mucho
 163     # Si el proceso sigue andando lo tenemos que matar
 164     if not hijo_muerto:
 165         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
 166             tiempo_cpu)
 167         os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
 168         os.kill(proc.pid, signal.SIGKILL)
 169         os.seteuid(uid) # Mortal de nuevo
 170         log.debug('Prueba cancelada (kill)')
 171         proc.wait()
 172         prueba.observaciones = 'Excedió el límite de tiempo de ejecución ' \
 173             '(%d seg)' % tiempo_cpu
 174         prueba.fin = datetime.datetime.now()
 175         prueba.pasada = False
 176         mail.agregarResultado(prueba)
 177         return prueba
 178     proc.wait() # Para que no queden zombies
 179     prueba.fin = datetime.datetime.now()
 180     # Salió con una señal?
 181     if proc.returncode < 0:
 182         sig = -proc.returncode
 183         sigs = {}
 184         for s in [s for s in dir(signal) if s.startswith('SIG') and s.isalpha()]:
 185             sigs[getattr(signal, s)] = s
 186         log.debug('El programa salió con la señal %s', sigs[sig])
 187         prueba.pasada = False
 188         #TODO otras señales conocidas
 189         if sig == signal.SIGXCPU:
 190             prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
 191                 '(%d seg)' % tiempo_cpu
 192         else:
 193             prueba.observaciones = 'Salió con la señal %s' % sigs[sig]
 194         mail.agregarResultado(prueba)
 195         return prueba
 196     # Si tenemos que verificar el código de retorno
 197     if caso_de_prueba.codigoRetorno is not None:
 198         #FIXME trucho lo de 256
 199         # Si el código de error esperado es 256 => el código de error debe ser != 0
 200         # Si no el código de error esperado debe ser igual al obtenido
 201         if caso_de_prueba.codigoRetorno != proc.returncode \
 202                 or caso_de_prueba.codigoRetorno == 256 \
 203                     and proc.returncode != 0:
 204             log.debug('Código de retorno incorrecto (debía ser %d y se obtuvo %d)',
 205                 caso_de_prueba.codigoRetorno, proc.returncode)
 206             prueba.pasada = False
 207             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
 208                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
 209                 proc.returncode)
 210             mail.agregarResultado(prueba)
 211             return prueba
 212     # Verifico salidas estándar/de error
 213     prueba.pasada = True # Asumo que está bien, ya habrá tiempo para cambiarlo
 214     obs = diff(prueba, mail, proc.stdout.readlines(),
 215         file(os.path.join(caso_de_prueba.path, 'stdout')).readlines(),
 216         caso_de_prueba.nombre + '.stdout', longname='La salida estándar')
 217     obs += diff(prueba, mail, proc.stderr.readlines(),
 218         file(os.path.join(caso_de_prueba.path, 'stderr')).readlines(),
 219         caso_de_prueba.nombre + '.stderr', longname='La salida de error')
 220     for f in caso_de_prueba.archivosSalida:
 221         if f not in prueba.archivosSalida:
 222             #TODO agregar error FALTA ARCHIVO
 223             log.debug('Falta el archivo %s y no lo hizo.', f)
 224             prueba.pasada = False
 225             obs += "- Falta el archivo de salida '%s'.\n" % f
 226             continue
 227         obs += diff(prueba, mail,
 228             file(os.path.join(intento.chrootPath, f)).readlines(),
 229             file(os.path.join(caso_de_prueba.pathSalidas, f)).readlines(),
 230             caso_de_prueba.nombre + '.' + f)
 231     for f in prueba.archivosSalida - (caso_de_prueba.archivosSalida | caso_de_prueba.archivosEntrada):
 232         #TODO agregar error SOBRA ARCHIVO
 233         log.debug('El programa debía generar el archivo %s y no lo hizo.', f)
 234         prueba.pasada = False
 235         obs += "- Se generó un archivo ('%s') que no se esperaba.\n" % f
 236     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
 237         proc.pid, proc.returncode)
 238     if obs:
 239         prueba.observaciones = obs
 240     mail.agregarResultado(prueba)
 241     log.debug('Resultado de la prueba: %s', prueba)
 242     return prueba
 243
 244 def params2seq(params):
 245     r"""Parsea un string de forma similar al bash, separando por espacios y
 246     teniendo en cuenta comillas simples y dobles para agrupar. Para poner
 247     comillas se puede usar el \ como caracter de escape (\' y \") y también
 248     interpreta \n y \t. Devuelve una lista con los parámetros encontrados."""
 249     # Constantes
 250     SEP, TOKEN, DQUOTE, SQUOTE = ' ', None, '"', "'"
 251     seq = []
 252     buff = ''
 253     escape = False
 254     state = SEP
 255     for c in params:
 256         # Es un caracter escapado
 257         if escape:
 258             if c == 'n':
 259                 buff += '\n'
 260             elif c == 't':
 261                 buff += '\t'
 262             else:
 263                 buff += c
 264             escape = False
 265             continue
 266         # Es una secuencia de escape
 267         if c == '\\':
 268             escape = True
 269             continue
 270         # Si está buscando espacios
 271         if state == SEP:
 272             if c == SEP:
 273                 continue
 274             else:
 275                 state = TOKEN # Encontró
 276         if state == TOKEN:
 277             if c == DQUOTE:
 278                 state = DQUOTE
 279                 continue
 280             if c == SQUOTE:
 281                 state = SQUOTE
 282                 continue
 283             if c == SEP:
 284                 state = SEP
 285                 seq.append(buff)
 286                 buff = ''
 287                 continue
 288             buff += c
 289             continue
 290         if state == DQUOTE:
 291             if c == DQUOTE:
 292                 state = TOKEN
 293                 continue
 294             buff += c
 295             continue
 296         if state == SQUOTE:
 297             if c == SQUOTE:
 298                 state = TOKEN
 299                 continue
 300             buff += c
 301             continue
 302         raise Exception, 'No tiene sentido'
 303     if state == DQUOTE or state == SQUOTE:
 304         raise Exception, 'Parse error, falta cerrar comilla (%s)' % state
 305     if buff:
 306         seq.append(buff)
 307     return seq
 308
 309 class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
 310     def __init__(self, intento):
 311         global conf
 312         from email.MIMEMultipart import MIMEMultipart
 313         from email.MIMEMessage import MIMEMessage
 314         from email.MIMEText import MIMEText
 315         MIMEMultipart.__init__(self)
 316         self.subject = '[%s] Resultado del intento %d (ejercicio %d.%d)' % \
 317             (conf.get('mail', 'prefijo'), intento.numero,
 318                 intento.entrega.nroEjercicio, intento.entrega.entrega)
 319         self['From'] = conf.get('mail', 'from')
 320         self['To'] = intento.mailRespuesta
 321         self['Reply-To'] = conf.get('mail', 'admin')
 322         self['Return-Path'] = conf.get('mail', 'admin')
 323         self['X-Mailer'] = 'sercom ' + sercom.VERSION
 324         self['X-Priority'] = '5'
 325         self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \
 326             'soportar MIME.\n\n'
 327         self.prologue = '' # Garantiza que termine en \n el mensaje
 328         self.attach(MIMEMessage(MIMEText('', 'plain', 'iso-8859-1')))
 329         self.resultado = None
 330     def __set_body(self, body):
 331         self.get_payload(0).get_payload(0).set_payload(body)
 332     def __get_body(self):
 333         return self.get_payload(0).get_payload(0).get_payload()
 334     body = property(__get_body, __set_body, doc='Cuerpo del mensaje.')
 335     def attachText(self, text, nombre=None, subtype='plain'):
 336         from email.MIMEText import MIMEText
 337         attach = MIMEText(text, subtype, 'iso-8859-1')
 338         if nombre:
 339             attach.add_header('Content-Disposition', 'attachment', filename=nombre)
 340         self.attach(attach)
 341     def send(self, resultado=None):
 342         import smtplib
 343         global conf
 344         smtp = smtplib.SMTP(conf.get('mail', 'smtp'))
 345         if resultado:
 346             self.subject += ': ' + resultado
 347         self['Subject'] = self.subject
 348         smtp.sendmail(self['From'], self['To'], self.as_string())
 349         smtp.close()
 350     def agregarResultado(self, prueba):
 351         if not prueba.casoDePrueba.privado:
 352             if prueba.pasada:
 353                 result = 'BIEN'
 354             else:
 355                 result = 'ERROR'
 356             self.body += '''
 357 Prueba '%s': %s
 358 %s
 359 ''' % (prueba.casoDePrueba.nombre, result, prueba.observaciones or '')
 360         pass
 361
 362
 363 # Manejadores de señales
 364 signal.signal(signal.SIGTERM, sigterm)
 365 signal.signal(signal.SIGINT, sigterm)
 366 signal.signal(signal.SIGCHLD, sigchld)
 367 hijo_muerto = False # Cambia con SIGCHLD
 368 continuar = True # Cambia con SIGTERM o SIGINT
 369
 370 # Inicializo
 371 conf, conn, log = sercom.init('test')
 372 log.info('Iniciado')
 373
 374 # Obtengo id de usuario con el cual ejecutar las pruebas
 375 uid, gid = pwd.getpwnam(conf.get('general', 'user'))[2:4]
 376
 377 # Cambio UID efectivo
 378 os.seteuid(uid)
 379
 380 # Atajo
 381 intervalo = float(conf.get('general', 'intervalo'))
 382
 383 # Utilizo el directorio de datos como base para todos los SQLObjects
 384 sercom.sqlo.dir_base = conf.get('general', 'data_dir')
 385
 386 # Hasta que nos maten
 387 while continuar:
 388     # Busco intento a probar
 389     intento = Intento.getProximoAProbar(conn)
 390     if not intento:
 391         log.debug('No hay intento para probar')
 392         time.sleep(intervalo)
 393         continue
 394     log.info('Nuevo intento a probar (%s)', intento)
 395     mail = MailIntento(intento)
 396     # Compila
 397     compilar(intento, mail)
 398     if not intento.compila:
 399         mail.send('NO COMPILA')
 400         continue
 401     # Ejecución de casos de prueba
 402     intento.inicioPruebas = datetime.datetime.now()
 403     resultado = True
 404     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
 405         # Preparo chroot
 406         preparar(intento)
 407         # Pruebo y agrego prueba a la lista
 408         prueba = probar(intento, caso_de_prueba, mail)
 409         if not prueba.casoDePrueba.privado and not prueba.pasada:
 410             resultado = False
 411         # Limpio chroot
 412         limpiar(intento)
 413     intento.finPruebas = datetime.datetime.now()
 414     # Envío mail con resultado al alumno
 415     if resultado:
 416         mail.send('ACEPTADO')
 417     else:
 418         mail.send('FALLA PRUEBAS')
 419     # Limpio directorio
 420     log.debug('Borrando ejecutable y código objeto (*.o)')
 421     os.remove(os.path.join(intento.path, 'tp'))
 422     [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))]
 423     # time.sleep(intervalo) #XXX Puede servir para enlentecer el server
 424