src/sc_test

   1 #!/usr/bin/env python2.4
   2 # -*- encoding: iso-8859-1 -*-
   3 # vim: set et sw=4 sts=4 :
   4
   5 # Módulos estándar
   6 import os
   7 import pwd
   8 import time
   9 import signal
  10 import shutil
  11 import datetime
  12 import subprocess
  13 # Módulos locales
  14 import sercom
  15 from sercom.dbo import *
  16
  17 class secure_process:
  18     def __init__(self, chroot, uid, gid, cpu):
  19         self.chroot = chroot
  20         self.uid = uid
  21         self.gid = gid
  22         self.cpu = cpu
  23     def __call__(self):
  24         from os import chroot, setuid, setgid
  25         import resource
  26         chroot(self.chroot)
  27         setgid(self.gid)
  28         setuid(self.uid)
  29         x2 = lambda val: (val, val) # Devuelve una tupla con val 2 veces
  30         resource.setrlimit(resource.RLIMIT_AS, x2(20*1024*1024))
  31         resource.setrlimit(resource.RLIMIT_CORE, x2(0))
  32         resource.setrlimit(resource.RLIMIT_CPU, x2(self.cpu))
  33         resource.setrlimit(resource.RLIMIT_DATA, x2(20*1024*1024))
  34         resource.setrlimit(resource.RLIMIT_FSIZE, x2(20*1024*1024)) #XXX Obtener de archivos esperados?
  35         #resource.setrlimit(resource.RLIMIT_LOCKS, x2(100)) XXX NO EXISTE EN python
  36         resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
  37         resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
  38         resource.setrlimit(resource.RLIMIT_NPROC, x2(0))
  39         sleep(0) # para tratar de forzar un sync para que entre al sleep del padre
  40
  41 def sigchld(signum, frame):
  42     """Signal handler para SIGCHILD."""
  43     global hijo_muerto
  44     hijo_muerto = True
  45
  46 def sigterm(signum, frame):
  47     """Signal handler para SIGTERM y SIGINT."""
  48     global continuar, log
  49     continuar = False
  50     log.debug('Señal %d recibida', signum)
  51
  52 def compilar(intento, intento_dir, entrega_dir, log):
  53     # Busco makefile
  54     makefile = os.path.join(entrega_dir, 'Makefile')
  55     if not os.path.exists(makefile):
  56         makefile = os.path.join(data_dir, 'Makefile')
  57     # Compilo
  58     log.debug('Ejecutando: make -f %s', makefile)
  59     intento.inicioCompila = datetime.datetime.now()
  60     make = subprocess.Popen(('make', '-f', makefile), stdout=subprocess.PIPE,
  61         stderr=subprocess.PIPE, cwd=intento_dir)
  62     make.wait()
  63     intento.finCompila = datetime.datetime.now()
  64     log.debug('Fin del comando: make -f %s', makefile)
  65     # Verifico compilación
  66     if make.returncode:
  67         log.debug('Error al compilar, código de retorno: %d, salida estándar: '
  68             '%s, salida de error: %s)', make.returncode, make.stdout.read(),
  69             make.stderr.read())
  70         intento.compila = False
  71         #TODO enviar_respuesta(R_ERR, $mail, "ERROR AL COMPILAR!\n\n$err\n\nCódigo de retorno: $ret\n", $intento);
  72         return False
  73     log.debug('Compilado OK')
  74     intento.compila = True
  75     #TODO mail acumulativo
  76     return True
  77
  78 def preparar(intento_dir, chroot_dir):
  79     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
  80     ejecutable = os.path.join(chroot_dir, 'tp')
  81     os.mkdir(chroot_dir)
  82     shutil.move(os.path.join(intento_dir, 'tp'), ejecutable)
  83
  84 def probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log):
  85     global hijo_muerto # Viene del SIGCHLD
  86     # Obtengo datos útiles del caso de prueba
  87     tiempo_cpu = caso_de_prueba.tiempoCpu
  88     if tiempo_cpu is None:
  89         tiempo_cpu = conf.get('general', 'tiempo_cpu')
  90     tiempo_cpu = int(tiempo_cpu)
  91     # Creo prueba nueva
  92     prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
  93         inicio=datetime.datetime.now(), connection = conn)
  94     log.debug('Prueba: %s', prueba)
  95     # Abro archivos para fds básicos
  96     #XXX sacar nombres de archivos de prueba????
  97     #stdin = file(os.path.join(intento_dir, 'stdin'), 'r')
  98     stdout = file(os.path.join(intento_dir, 'stdout'), 'w')
  99     stderr = file(os.path.join(intento_dir, 'stderr'), 'w')
 100     # Ejecuto programa
 101     params = ['/tp']
 102     if caso_de_prueba.parametros:
 103         params += params2seq(caso_de_prueba.parametros)
 104     log.debug('Ejecutando %s', ' '.join(params))
 105     os.seteuid(0) # Dios! (para chroot)
 106     try:
 107         proc = subprocess.Popen(params, stdout=stdout, stderr=stderr, #stdin=stdin,
 108             preexec_fn=secure_process(chroot_dir, uid, gid, tiempo_cpu))
 109     except Exception, e: # FIXME poner en el manejo de exceptiones estandar
 110         try:
 111             print e.child_traceback
 112             raise
 113         except:
 114             raise
 115     os.seteuid(uid) # Mortal de nuevo
 116     if not hijo_muerto: # Recibido por el sigchld, para saber si murió
 117         time.sleep(tiempo_cpu)
 118     # Si el proceso sigue andando lo tenemos que matar
 119     if proc.poll() is None:
 120         log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
 121             tiempo_cpu)
 122         os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
 123         os.kill(proc.pid, signal.SIGKILL)
 124         os.seteuid(uid) # Mortal de nuevo
 125         log.debug('Prueba cancelada (kill)')
 126         proc.wait()
 127         prueba.observaciones = 'Excedió el límite de tiempo de ejecución ' \
 128             '(%d seg)' % tiempo_cpu
 129         prueba.fin = datetime.datetime.now()
 130         prueba.pasada = False
 131         return prueba
 132     proc.wait() # Para que no queden zombies
 133     prueba.fin = str(datetime.datetime.now())
 134     # Salió con una señal?
 135     if proc.returncode < 0:
 136         sig = -proc.returncode
 137         log.debug('El programa salió con la señal %d', sig)
 138         prueba.pasada = False
 139         #TODO otras señales conocidas
 140         if sig == signal.SIGXCPU:
 141             prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
 142                 '(%d seg)' % tiempo_cpu
 143         else:
 144             prueba.observaciones = 'Salió con la señal %d' % sig
 145         return prueba
 146     # Si tenemos que verificar el código de retorno
 147     if caso_de_prueba.codigoRetorno is not None:
 148         #FIXME trucho lo de 256
 149         # Si el código de error esperado es 256 => el código de error debe ser != 0
 150         # Si no el código de error esperado debe ser igual al obtenido
 151         if caso_de_prueba.codigoRetorno != proc.returncode \
 152                 or caso_de_prueba.codigoRetorno == 256 \
 153                     and proc.returncode != 0:
 154             log.debug('Código de retorno incorrecto (debía ser %d y se obtuvo %d)',
 155                 caso_de_prueba.codigoRetorno, proc.returncode)
 156             prueba.pasada = False
 157             prueba.observaciones = 'Código de retorno incorrecto (debía ' \
 158                 'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
 159                 proc.returncode)
 160     #TODO verificar salidas, hacer diff
 161     log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
 162         proc.pid, proc.returncode)
 163     prueba.pasada = True
 164     log.debug('Prueba OK: %s', prueba)
 165     return prueba
 166
 167 def params2seq(params):
 168     r"""Parsea un string de forma similar al bash, separando por espacios y
 169     teniendo en cuenta comillas simples y dobles para agrupar. Para poner
 170     comillas se puede usar el \ como caracter de escape (\' y \") y también
 171     interpreta \n y \t. Devuelve una lista con los parámetros encontrados."""
 172     # Constantes
 173     SEP, TOKEN, DQUOTE, SQUOTE = ' ', None, '"', "'"
 174     seq = []
 175     buff = ''
 176     escape = False
 177     state = SEP
 178     for c in params:
 179         # Es un caracter escapado
 180         if escape:
 181             if c == 'n':
 182                 buff += '\n'
 183             elif c == 't':
 184                 buff += '\t'
 185             else:
 186                 buff += c
 187             escape = False
 188             continue
 189         # Es una secuencia de escape
 190         if c == '\\':
 191             escape = True
 192             continue
 193         # Si está buscando espacios
 194         if state == SEP:
 195             if c == SEP:
 196                 continue
 197             else:
 198                 state = TOKEN # Encontró
 199         if state == TOKEN:
 200             if c == DQUOTE:
 201                 state = DQUOTE
 202                 continue
 203             if c == SQUOTE:
 204                 state = SQUOTE
 205                 continue
 206             if c == SEP:
 207                 state = SEP
 208                 seq.append(buff)
 209                 buff = ''
 210                 continue
 211             buff += c
 212             continue
 213         if state == DQUOTE:
 214             if c == DQUOTE:
 215                 state = TOKEN
 216                 continue
 217             buff += c
 218             continue
 219         if state == SQUOTE:
 220             if c == SQUOTE:
 221                 state = TOKEN
 222                 continue
 223             buff += c
 224             continue
 225         raise Exception, 'No tiene sentido'
 226     if state == DQUOTE or state == SQUOTE:
 227         raise Exception, 'Parse error, falta cerrar comilla (%s)' % state
 228     if buff:
 229         seq.append(buff)
 230     return seq
 231
 232 # Conecto señales
 233 signal.signal(signal.SIGTERM, sigterm)
 234 signal.signal(signal.SIGINT, sigterm)
 235 signal.signal(signal.SIGCHLD, sigchld)
 236 hijo_muerto = False
 237
 238 # Inicializo
 239 conf, conn, log =  sercom.init('test')
 240 log.info('Iniciado')
 241
 242 # Obtengo id de usuario con el cual ejecutar las pruebas
 243 uid, gid = pwd.getpwnam(conf.get('general', 'user'))[2:4]
 244
 245 # Cambio UID efectivo
 246 os.seteuid(uid)
 247
 248 # Algunas variables de configuración útiles
 249 data_dir = conf.get('general', 'data_dir')
 250 intervalo = float(conf.get('general', 'intervalo'))
 251
 252 # Hasta que nos maten
 253 continuar = True # Cambia con una señal
 254 while continuar:
 255     # Busco intento a probar
 256     intento = Intento.getProximoAProbar(conn)
 257     if not intento:
 258         log.debug('No hay intento para probar')
 259         time.sleep(intervalo)
 260         continue
 261     log.info('Nuevo intento a probar (%s)', intento)
 262     # Obtengo paths
 263     intento_dir = os.path.join(data_dir, intento.path('intentos'))
 264     entrega_dir = os.path.join(data_dir, 'ejercicios', str(intento.entrega.ejercicioID))
 265     chroot_dir = os.path.join(intento_dir, 'chroot')
 266     # Compila
 267     if not compilar(intento, intento_dir, entrega_dir, log):
 268         continue
 269     # Prepara archivos
 270     preparar(intento_dir, chroot_dir)
 271     # Ejecución de casos de prueba
 272     intento.inicioPruebas = datetime.datetime.now()
 273     pruebas = []
 274     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
 275         pruebas.append(probar(intento, caso_de_prueba, uid, gid, chroot_dir, conf, conn, log))
 276     intento.finPruebas = datetime.datetime.now()
 277     #TODO make clean
 278     #TODO Armar mail de respuesta al alumno
 279     for prueba in pruebas:
 280         #TODO Si es publica, veo si se hizo ok o no y voy creando mail
 281         pass
 282     time.sleep(intervalo)
 283