src/sc_test

   1 #!/usr/bin/env python2.4
   2 # -*- encoding: iso-8859-1 -*-
   3 # vim: set et sw=4 sts=4 :
   4
   5 # Módulos estándar
   6 import os
   7 import sys
   8 import pwd
   9 import time
  10 import signal
  11 import locale
  12 import shutil
  13 import datetime
  14 import logging
  15 import logging.config
  16 import subprocess
  17 import ConfigParser
  18 # Módulos externos
  19 import sqlobject
  20 # Módulos locales
  21 from sercom.dbo import *
  22
  23 class secure:
  24     def __init__(self, chroot, uid, gid, cpu):
  25         self.chroot = chroot
  26         self.uid = uid
  27         self.gid = gid
  28         self.cpu = cpu
  29     def __call__(self):
  30         def x2(val):
  31             return (val, val)
  32         from os import chroot, setuid, setgid
  33         import resource
  34         chroot(self.chroot)
  35         setgid(self.gid)
  36         setuid(self.uid)
  37         resource.setrlimit(resource.RLIMIT_AS, x2(20*1024*1024))
  38         resource.setrlimit(resource.RLIMIT_CORE, x2(0))
  39         resource.setrlimit(resource.RLIMIT_CPU, x2(self.cpu))
  40         resource.setrlimit(resource.RLIMIT_DATA, x2(20*1024*1024))
  41         resource.setrlimit(resource.RLIMIT_FSIZE, x2(20*1024*1024)) #XXX Obtener de archivos esperados?
  42         #resource.setrlimit(resource.RLIMIT_LOCKS, x2(100)) XXX NO EXISTE EN python
  43         resource.setrlimit(resource.RLIMIT_MEMLOCK, x2(100))
  44         resource.setrlimit(resource.RLIMIT_NOFILE, x2(100))
  45         resource.setrlimit(resource.RLIMIT_NPROC, x2(0))
  46
  47 def logger():
  48     log = None
  49     for log_conf in ('log.ini', os.path.expanduser('~/.sercom/log.ini'), '/etc/sercom/log.ini'):
  50         if (os.access(log_conf, os.R_OK)):
  51             logging.config.fileConfig(log_conf)
  52             log = logging.getLogger('test')
  53     return log
  54
  55 def sigchld(signum, frame):
  56     """Signal handler para SIGCHILD."""
  57     #global hijo_muerto
  58     #hijo_muerto = True
  59     pass
  60
  61 def sigterm(signum, frame):
  62     """Signal handler para SIGTERM y SIGINT."""
  63     global continuar, log
  64     continuar = False
  65     log.debug('Señal %d recibida', signum)
  66
  67
  68 # Seteo locale
  69 locale.setlocale(locale.LC_ALL, '')
  70
  71 # Obtengo configuración
  72 conf = ConfigParser.SafeConfigParser()
  73 if not conf.read(('/etc/sercom/sercom.ini', os.path.expanduser('~/.sercom/sercom.ini'), 'sercom.ini')):
  74     sys.stderr.write('No se pudo obtener configuración!\n')
  75     sys.exit(1)
  76
  77 # Obtengo id de usuario con el cual ejecutar las pruebas
  78 (uid, gid) = pwd.getpwnam(conf.get('general', 'user'))[2:4]
  79
  80 # Cambio UID efectivo
  81 os.seteuid(uid)
  82
  83 # Seteo umask para que el grupo pueda leer
  84 os.umask(00027)
  85
  86 # Conecto señales
  87 signal.signal(signal.SIGCHLD, sigchld)
  88 signal.signal(signal.SIGTERM, sigterm)
  89 signal.signal(signal.SIGINT, sigterm)
  90
  91 # Conexión a la DB
  92 conn = sqlobject.connectionForURI(conf.get('dbo', 'database'))
  93
  94 # Cargo config del logger
  95 log = logger()
  96 if not log:
  97     print >>sys.stderr, 'No se pudo cargar archivo de configuración de log.'
  98     sys.exit(1)
  99 log.info('Iniciado')
 100
 101 # Algunas variables de configuración útiles
 102 data_dir = conf.get('general', 'data_dir')
 103 intervalo = float(conf.get('general', 'intervalo'))
 104
 105 # Hasta que nos maten
 106 continuar = True # Cambia con una señal
 107 while continuar:
 108     # Busco intento a probar
 109     intento = Intento.getProximoAProbar(conn)
 110     if not intento:
 111         log.debug('No hay intento para probar')
 112         time.sleep(intervalo)
 113         continue
 114     log.info('Nuevo intento a probar (%s)', intento)
 115     # Obtengo paths
 116     intento_dir = os.path.join(data_dir, intento.path('intentos'))
 117     entrega_dir = os.path.join(data_dir, 'ejercicios', str(intento.entrega.ejercicioID))
 118     print entrega_dir
 119     # Busco makefile
 120     makefile = os.path.join(entrega_dir, 'Makefile')
 121     if not os.path.exists(makefile):
 122         makefile = os.path.join(data_dir, 'Makefile')
 123     shutil.copy(makefile, intento_dir)
 124     # Compilo
 125     log.debug('Ejecutando: make -f %s', makefile)
 126     intento.inicioCompila = datetime.datetime.now()
 127     make = subprocess.Popen(('make', '-f', makefile), stdout=subprocess.PIPE,
 128         stderr=subprocess.PIPE, cwd=intento_dir)
 129     make.wait()
 130     intento.finCompila = datetime.datetime.now()
 131     log.debug('Fin del comando: make -f %s', makefile)
 132     # Verifico compilación
 133     if make.returncode:
 134         log.debug('Error al compilar, código de retorno: %d, salida estándar: '
 135             '%s, salida de error: %s)', make.returncode, make.stdout.read(),
 136             make.stderr.read())
 137         intento.compila = False
 138         #TODO enviar_respuesta(R_ERR, $mail, "ERROR AL COMPILAR!\n\n$err\n\nCódigo de retorno: $ret\n", $intento);
 139         continue;
 140     else:
 141         log.debug('Compilado OK')
 142         intento.compila = True
 143         #TODO mail acumulativo
 144     # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind?
 145     chroot_dir = os.path.join(intento_dir, 'chroot')
 146     ejecutable = os.path.join(chroot_dir, 'tp')
 147     os.mkdir(chroot_dir)
 148     shutil.move(os.path.join(intento_dir, 'tp'), ejecutable)
 149     # Cambio permisos - XXX al pedo? Hice seteuid()
 150     os.chmod(chroot_dir, 02770)
 151     os.chown(chroot_dir, uid, gid)
 152     os.chmod(ejecutable, 0550)
 153     os.chown(ejecutable, uid, gid)
 154     # Ejecución de casos de prueba
 155     intento.inicioPruebas = datetime.datetime.now()
 156     for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba:
 157         # Obtengo datos útiles del caso de prueba
 158         tiempo_cpu = caso_de_prueba.tiempoCpu
 159         if tiempo_cpu is None:
 160             tiempo_cpu = conf.get('general', 'tiempo_cpu')
 161         tiempo_cpu = int(tiempo_cpu)
 162         # Creo prueba nueva
 163         prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba,
 164             inicio=datetime.datetime.now(), connection = conn)
 165         log.debug('Prueba: %s', prueba)
 166         # Abro archivos para fds básicos
 167         #XXX sacar nombres de archivos de prueba????
 168         #stdin = file(os.path.join(intento_dir, 'stdin'), 'r')
 169         stdout = file(os.path.join(intento_dir, 'stdout'), 'w')
 170         stderr = file(os.path.join(intento_dir, 'stderr'), 'w')
 171         # Ejecuto programa
 172         log.debug('Ejecutando /tp %s', caso_de_prueba.parametros)
 173         os.seteuid(0) # Dios! (para chroot)
 174         # FIXME caso_de_prueba.parametros
 175         try:
 176             proc = subprocess.Popen('/tp', stdout=stdout, stderr=stderr, #stdin=stdin,
 177                 preexec_fn=secure(chroot_dir, uid, gid, tiempo_cpu))
 178         except Exception, e: # FIXME poner en el manejo de exceptiones estandar
 179             try:
 180                 print e, e.child_traceback
 181             except:
 182                 print e
 183         os.seteuid(uid) # Mortal de nuevo
 184         time.sleep(tiempo_cpu)
 185         # Si el proceso sigue andando lo tenemos que matar
 186         if proc.poll() is None:
 187             log.debug('La prueba tardó más del tiempo permitido (%d segundos)',
 188                 tiempo_cpu)
 189             os.seteuid(0) # Dios! (corre como Dios, hay que matarlo como Dios)
 190             os.kill(proc.pid, signal.SIGKILL)
 191             os.seteuid(uid) # Mortal de nuevo
 192             log.debug('Prueba cancelada (kill)')
 193             proc.wait()
 194             prueba.observaciones = 'Excedió el límite de tiempo de ejecución ' \
 195                 '(%d seg)' % tiempo_cpu
 196             prueba.fin = datetime.datetime.now()
 197             prueba.pasada = False
 198             continue
 199         proc.wait() # Para que no queden zombies
 200         prueba.fin = str(datetime.datetime.now())
 201         # Salió con una señal?
 202         if proc.returncode < 0:
 203             sig = -proc.returncode
 204             log.debug('El programa salió con la señal %d', sig)
 205             prueba.pasada = False
 206             #TODO otras señales conocidas
 207             if sig == signal.SIGXCPU:
 208                 prueba.observaciones = 'Excedió el límite de tiempo de CPU ' \
 209                     '(%d seg)' % tiempo_cpu
 210             else:
 211                 prueba.observaciones = 'Salió con la señal %d' % sig
 212             continue
 213         # Si tenemos que verificar el código de retorno
 214         if caso_de_prueba.codigoRetorno is not None:
 215             #FIXME trucho lo de 256
 216             # Si el código de error esperado es 256 => el código de error debe ser != 0
 217             # Si no el código de error esperado debe ser igual al obtenido
 218             if caso_de_prueba.codigoRetorno != proc.returncode \
 219                     or caso_de_prueba.codigoRetorno == 256 \
 220                         and proc.returncode != 0:
 221                 log.debug('Código de retorno incorrecto (debía ser %d y se obtuvo %d)',
 222                     caso_de_prueba.codigoRetorno, proc.returncode)
 223                 prueba.pasada = False
 224                 prueba.observaciones = 'Código de retorno incorrecto (debía ' \
 225                     'ser %d y se obtuvo %d)' % (caso_de_prueba.codigoRetorno,
 226                     proc.returncode)
 227         #TODO verificar salidas, hacer diff
 228         log.debug('Fin de ejecución de caso de prueba (hijo: %d, ret: %d)',
 229             proc.pid, proc.returncode)
 230         prueba.pasada = True
 231         log.debug('Prueba OK: %s', prueba)
 232     intento.finPruebas = datetime.datetime.now()
 233     #TODO make clean
 234     #TODO Armar mail de respuesta al alumno
 235     for prueba in Prueba.selectBy(intentoID=intento.id, connection=conn):
 236         #TODO Si es publica, veo si se hizo ok o no y voy creando mail
 237         pass
 238     time.sleep(intervalo)
 239