src/sc_test

   1 #!/usr/bin/env python2.4
   2 # -*- encoding: iso-8859-1 -*-
   3 # vim: set et sw=4 sts=4 :
   4
   5 # Módulos estándar
   6 import os
   7 import pwd
   8 import time
   9 import signal
  10 import glob
  11 import shutil
  12 import datetime
  13 import subprocess
  14 import email.MIMEMultipart
  15 # Módulos locales
  16 import sercom
  17 import sercom.sqlo
  18 from sercom.sqlo import *
  19
  20 class secure_process:
  21     def __init__(self, chroot, uid, gid, cpu):
  22         self.chroot = chroot
  23         self.uid = uid
  24         self.gid = gid
  25         self.cpu = cpu
  26     def __call__(self):
  27         from os import chroot, setuid, setgid
  28         import resource
  29         chroot(self.chroot)
  30         setgid(self.gid)
  31         setuid(self.uid)
  32         x2 = lambda val: (val, val) # Devuelve una tupla con val 2 veces
  33         resource.setrlimit(resource.RLIMIT_AS, x2(20*1024*1024))
  34         resource.setrlimit(resource.RLIMIT_CORE, x2(0))
  35         resource.setrlimit(resource.RLIMIT_CPU, x2(self.cpu))
  36         resource.setrlimit(resource.RLIMIT_DATA, x2(20*1024*1024))
  37         resource.setrlimit(resource.RLIMIT_FSIZE, x2(20*1024*1024)) #XXX Obtener de archivos esperados?
  38         #resource.setrlimit(resource.RLIMIT_LOCKS, x2(100)) XXX NO EXISTE EN python
  39         resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
  40         resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
  41         resource.setrlimit(resource.RLIMIT_NPROC, x2(0))
  42         # Tratamos de forzar un sync para que entre al sleep del padre
  43         time.sleep(0)
  44
  45 def sigchld(signum, frame):
  46     """Signal handler para SIGCHILD."""
  47     global hijo_muerto, log
  48     log.debug('Murió el hijo')
  49     hijo_muerto = True
  50
  51 def sigterm(signum, frame):
  52     """Signal handler para SIGTERM y SIGINT."""
  53     global continuar, log
  54     continuar = False
  55     log.debug('Señal %d recibida', signum)
  56
  57 def chroot_dir(intento):
  58     return os.path.join(intento.path, 'chroot')
  59
  60 def compilar(intento, mail):
  61     global log
  62     # Busco makefile
  63     makefile = os.path.join(intento.entrega.ejercicio.path, 'Makefile')
  64     # Compilo
  65     log.debug('Ejecutando: make -f %s', makefile)
  66     intento.inicioCompila = datetime.datetime.now()
  67     make = subprocess.Popen(('make', '-f', makefile), stderr=subprocess.PIPE,
  68         cwd=intento.path)
  69     make.wait()
  70     intento.finCompila = datetime.datetime.now()
  71     log.debug('Fin del comando: make -f %s', makefile)
  72     # Verifico compilación
  73     stderr = make.stderr.read()
  74     intento.compila = not make.returncode
  75     msg = 'Compilación: '
  76     if intento.compila and not stderr:
  77         msg += 'BIEN'
  78     elif intento.compila:
  79         msg += 'CON ADVERTENCIAS'
  80     else:
  81         msg += 'ERROR (código de retorno: %d)' % make.returncode
  82     mail.body += msg
  83     if stderr:
  84         msg += '''Salida:
  85 ------------------------------------------------------------------------
  86 %s
  87 ------------------------------------------------------------------------
  88
  89 ''' % stderr
  90         mail.body += "\n(se adjunta salida, archivo 'make.stderr')\n"
  91         mail.attachText(stderr, 'make.stderr')
  92     mail.body += '\n\n'
  93     intento.observaciones = msg + '\n\n'
  94     log.debug(msg)
  95
  96 def preparar(intento):
  97     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
  98     os.mkdir(chroot_dir(intento))
  99     shutil.copy(os.path.join(intento.path, 'tp'),
 100         os.path.join(chroot_dir(intento), 'tp'))
 101
 102 def limpiar(intento):
 103     # Borro chroot entero
 104     shutil.rmtree(chroot_dir(intento))
 105
 106 def probar(intento, caso_de_prueba, mail):
 107     # Cosas útiles
 108     global log, conn, conf, uid, gid
 109     # Para manejo de SIGCHLD
 110     global hijo_muerto
 111     hijo_muerto = False
 112     # Obtengo datos útiles del caso de prueba
 113     tiempo_cpu = caso_de_prueba.tiempoCpu
 114     if tiempo_cpu is None:
 115         tiempo_cpu = conf.get('general', 'tiempo_cpu')
 116     tiempo_cpu = int(tiempo_cpu)
 117     # Creo prueba nueva
 118     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
 119         inicio=datetime.datetime.now(), connection=conn)
 120     log.debug('Iniciando prueba: %s', prueba)
 121     # Abro archivos para fds básicos
 122     #XXX sacar nombres de archivos de prueba????
 123     options = {
 124         'cwd': chroot_dir(intento),
 125         'close_fds': True,
 126         'preexec_fn': secure_process(chroot_dir(intento), uid, gid, tiempo_cpu),
 127     }
 128     if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')):
 129         options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r')
 130     if os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')):
 131         options['stdout'] = subprocess.PIPE
 132     if os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')):
 133         options['stderr'] = subprocess.PIPE
 134     # Ejecuto programa
 135     params = ['/tp']
 136     if caso_de_prueba.parametros:
 137         params += params2seq(caso_de_prueba.parametros)
 138     log.debug('Ejecutando %s', ' '.join(params))
 139     os.seteuid(0) # Dios! (para chroot)
 140     try:
 141         proc = subprocess.Popen(params, **options)
 142     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
 143         try:
 144             print e.child_traceback
 145             raise
 146         except:
 147             raise
 148     os.seteuid(uid) # Mortal de nuevo
 149     if not hijo_muerto: # Recibido por el sigchld, para saber si murió
 150         time.sleep(tiempo_cpu)
 151     # Si el proceso sigue andando lo tenemos que matar
 152     if not hijo_muerto:
 153         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
 154             tiempo_cpu)
 155         os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
 156         os.kill(proc.pid, signal.SIGKILL)
 157         os.seteuid(uid) # Mortal de nuevo
 158         log.debug('Prueba cancelada (kill)')
 159         proc.wait()
 160         prueba.observaciones = 'Excedió el límite de tiempo de ejecución ' \
 161             '(%d seg)' % tiempo_cpu
 162         prueba.fin = datetime.datetime.now()
 163         prueba.pasada = False
 164         return prueba
 165     proc.wait() # Para que no queden zombies
 166     prueba.fin = str(datetime.datetime.now())
 167     # Salió con una señal?
 168     if proc.returncode < 0:
 169         sig = -proc.returncode
 170         log.debug('El programa salió con la señal %d', sig)
 171         prueba.pasada = False
 172         #TODO otras señales conocidas
 173         if sig == signal.SIGXCPU:
 174             prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
 175                 '(%d seg)' % tiempo_cpu
 176         else:
 177             prueba.observaciones = 'Salió con la señal %d' % sig
 178         return prueba
 179     # Si tenemos que verificar el código de retorno
 180     if caso_de_prueba.codigoRetorno is not None:
 181         #FIXME trucho lo de 256
 182         # Si el código de error esperado es 256 => el código de error debe ser != 0
 183         # Si no el código de error esperado debe ser igual al obtenido
 184         if caso_de_prueba.codigoRetorno != proc.returncode \
 185                 or caso_de_prueba.codigoRetorno == 256 \
 186                     and proc.returncode != 0:
 187             log.debug('Código de retorno incorrecto (debía ser %d y se obtuvo %d)',
 188                 caso_de_prueba.codigoRetorno, proc.returncode)
 189             prueba.pasada = False
 190             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
 191                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
 192                 proc.returncode)
 193     #TODO verificar salidas, hacer diff
 194     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
 195         proc.pid, proc.returncode)
 196     prueba.pasada = True
 197     log.debug('Prueba OK: %s', prueba)
 198     return prueba
 199
 200 def params2seq(params):
 201     r"""Parsea un string de forma similar al bash, separando por espacios y
 202     teniendo en cuenta comillas simples y dobles para agrupar. Para poner
 203     comillas se puede usar el \ como caracter de escape (\' y \") y también
 204     interpreta \n y \t. Devuelve una lista con los parámetros encontrados."""
 205     # Constantes
 206     SEP, TOKEN, DQUOTE, SQUOTE = ' ', None, '"', "'"
 207     seq = []
 208     buff = ''
 209     escape = False
 210     state = SEP
 211     for c in params:
 212         # Es un caracter escapado
 213         if escape:
 214             if c == 'n':
 215                 buff += '\n'
 216             elif c == 't':
 217                 buff += '\t'
 218             else:
 219                 buff += c
 220             escape = False
 221             continue
 222         # Es una secuencia de escape
 223         if c == '\\':
 224             escape = True
 225             continue
 226         # Si está buscando espacios
 227         if state == SEP:
 228             if c == SEP:
 229                 continue
 230             else:
 231                 state = TOKEN # Encontró
 232         if state == TOKEN:
 233             if c == DQUOTE:
 234                 state = DQUOTE
 235                 continue
 236             if c == SQUOTE:
 237                 state = SQUOTE
 238                 continue
 239             if c == SEP:
 240                 state = SEP
 241                 seq.append(buff)
 242                 buff = ''
 243                 continue
 244             buff += c
 245             continue
 246         if state == DQUOTE:
 247             if c == DQUOTE:
 248                 state = TOKEN
 249                 continue
 250             buff += c
 251             continue
 252         if state == SQUOTE:
 253             if c == SQUOTE:
 254                 state = TOKEN
 255                 continue
 256             buff += c
 257             continue
 258         raise Exception, 'No tiene sentido'
 259     if state == DQUOTE or state == SQUOTE:
 260         raise Exception, 'Parse error, falta cerrar comilla (%s)' % state
 261     if buff:
 262         seq.append(buff)
 263     return seq
 264
 265 class MailIntento(email.MIMEMultipart.MIMEMultipart, object):
 266     def __init__(self, intento):
 267         global conf
 268         from email.MIMEMultipart import MIMEMultipart
 269         from email.MIMEMessage import MIMEMessage
 270         from email.MIMEText import MIMEText
 271         MIMEMultipart.__init__(self)
 272         self.subject = '[%s] Resultado del intento %d del ejercicio %d.%d' % \
 273             (conf.get('mail', 'prefijo'), intento.numero,
 274                 intento.entrega.nroEjercicio, intento.entrega.entrega)
 275         self['From'] = conf.get('mail', 'from')
 276         self['To'] = intento.mailRespuesta
 277         self['Reply-To'] = conf.get('mail', 'admin')
 278         self['Return-Path'] = conf.get('mail', 'admin')
 279         self['X-Mailer'] = 'sercom 0.3'
 280         self['X-Priority'] = '5'
 281         self.epilogue = 'Para ver correctamente este e-mail su cliente debe ' \
 282             'soportar MIME.\n\n'
 283         self.prologue = '' # Garantiza que termine en \n el mensaje
 284         self.attach(MIMEMessage(MIMEText('', 'plain', 'iso-8859-1')))
 285         self.resultado = None
 286     def __set_body(self, body):
 287         self.get_payload(0).get_payload(0).set_payload(body)
 288     def __get_body(self):
 289         return self.get_payload(0).get_payload(0).get_payload()
 290     body = property(__get_body, __set_body, doc='Cuerpo del mensaje.')
 291     def attachText(self, text, nombre=None):
 292         from email.MIMEText import MIMEText
 293         attach = MIMEText(text, 'plain', 'iso-8859-1')
 294         if nombre:
 295             attach.add_header('Content-Disposition', 'attachment', filename=nombre)
 296         self.attach(attach)
 297     def send(self, resultado=None):
 298         import smtplib
 299         global conf
 300         smtp = smtplib.SMTP(conf.get('mail', 'smtp'))
 301         if resultado:
 302             self.subject += ': ' + resultado
 303         self['Subject'] = self.subject
 304         smtp.sendmail(self['From'], self['To'], self.as_string())
 305         smtp.close()
 306
 307 # Manejadores de señales
 308 signal.signal(signal.SIGTERM, sigterm)
 309 signal.signal(signal.SIGINT, sigterm)
 310 signal.signal(signal.SIGCHLD, sigchld)
 311 hijo_muerto = False # Cambia con SIGCHLD
 312 continuar = True # Cambia con SIGTERM o SIGINT
 313
 314 # Inicializo
 315 conf, conn, log = sercom.init('test')
 316 log.info('Iniciado')
 317
 318 # Obtengo id de usuario con el cual ejecutar las pruebas
 319 uid, gid = pwd.getpwnam(conf.get('general', 'user'))[2:4]
 320
 321 # Cambio UID efectivo
 322 os.seteuid(uid)
 323
 324 # Atajo
 325 intervalo = float(conf.get('general', 'intervalo'))
 326
 327 # Utilizo el directorio de datos como base para todos los SQLObjects
 328 sercom.sqlo.dir_base = conf.get('general', 'data_dir')
 329
 330 # Hasta que nos maten
 331 while continuar:
 332     # Busco intento a probar
 333     intento = Intento.getProximoAProbar(conn)
 334     if not intento:
 335         log.debug('No hay intento para probar')
 336         time.sleep(intervalo)
 337         continue
 338     log.info('Nuevo intento a probar (%s)', intento)
 339     mail = MailIntento(intento)
 340     # Compila
 341     compilar(intento, mail)
 342     if not intento.compila:
 343         mail.send('NO COMPILA')
 344         continue
 345     # Ejecución de casos de prueba
 346     intento.inicioPruebas = datetime.datetime.now()
 347     pruebas = []
 348     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
 349         # Preparo chroot
 350         preparar(intento)
 351         # Pruebo y agrego prueba a la lista
 352         prueba = probar(intento, caso_de_prueba, mail)
 353         mail.body += 'Prueba %s: %s (%s)\n' % (prueba.casoDePrueba.nombre, prueba.pasada, prueba.observaciones)
 354         pruebas.append(prueba)
 355         # Limpio chroot
 356         limpiar(intento)
 357     #TODO Si es publica, veo si se hizo ok o no y voy creando mail
 358     intento.finPruebas = datetime.datetime.now()
 359     mail.send('NO SEP')
 360     # Limpio directorio
 361     log.debug('Borrando ejecutable y código objeto (*.o)')
 362     os.remove(os.path.join(intento.path, 'tp'))
 363     [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))]
 364     # time.sleep(intervalo) #XXX Puede servir para enlentecer el server
 365