From: Leandro Lucarella Date: Thu, 24 Feb 2005 03:38:50 +0000 (+0000) Subject: * Se simplifica mucho el manejo de paths. X-Git-Tag: svn_import~88 X-Git-Url: https://git.llucax.com/software/sercom-old.git/commitdiff_plain/10b02f2e34911972a0ee7e441d6e25a86f27604a?ds=sidebyside * Se simplifica mucho el manejo de paths. * Se utilizan más variables globales. * Se avanza algo en el manejo de entrada/salida de las pruebas. * Se limpia el chroot con cada caso de prueba. * Probablemente algún bugfix. --- diff --git a/src/sc_test b/src/sc_test index d30a0c0..08096c6 100755 --- a/src/sc_test +++ b/src/sc_test @@ -13,6 +13,7 @@ import datetime import subprocess # Módulos locales import sercom +import sercom.dbo from sercom.dbo import * class secure_process: @@ -42,8 +43,7 @@ class secure_process: def sigchld(signum, frame): """Signal handler para SIGCHILD.""" - global hijo_muerto - global log + global hijo_muerto, log log.debug('Murió el hijo') hijo_muerto = True @@ -53,16 +53,18 @@ def sigterm(signum, frame): continuar = False log.debug('Señal %d recibida', signum) -def compilar(intento, data_dir, ejercicio_dir, intento_dir, log): +def chroot_dir(intento): + return os.path.join(intento.path, 'chroot') + +def compilar(intento): + global log # Busco makefile - makefile = os.path.join(ejercicio_dir, 'Makefile') - if not os.path.exists(makefile): - makefile = os.path.join(data_dir, 'Makefile') + makefile = os.path.join(intento.entrega.ejercicio.path, 'Makefile') # Compilo log.debug('Ejecutando: make -f %s', makefile) intento.inicioCompila = datetime.datetime.now() make = subprocess.Popen(('make', '-f', makefile), stdout=subprocess.PIPE, - stderr=subprocess.PIPE, cwd=intento_dir) + stderr=subprocess.PIPE, cwd=intento.path) make.wait() intento.finCompila = datetime.datetime.now() log.debug('Fin del comando: make -f %s', makefile) @@ -79,15 +81,22 @@ def compilar(intento, data_dir, ejercicio_dir, intento_dir, log): #TODO mail acumulativo return True -def preparar(intento_dir, chroot_dir): +def preparar(intento): # Creo chroot - TODO copiarlo de algún lado donde ande el valgrind? - ejecutable = os.path.join(chroot_dir, 'tp') - os.mkdir(chroot_dir) - shutil.move(os.path.join(intento_dir, 'tp'), ejecutable) + os.mkdir(chroot_dir(intento)) + shutil.copy(os.path.join(intento.path, 'tp'), + os.path.join(chroot_dir(intento), 'tp')) -def probar(intento, caso_de_prueba, uid, gid, intento_dir, ejercicio_dir, chroot_dir, conf, conn, log): - global hijo_muerto # Viene del SIGCHLD - hijo_muerto = False # Reseteo variable de SIGCHLD +def limpiar(intento): + # Borro chroot entero + shutil.rmtree(chroot_dir(intento)) + +def probar(intento, caso_de_prueba): + # Cosas útiles + global log, conn, conf, uid, gid + # Para manejo de SIGCHLD + global hijo_muerto + hijo_muerto = False # Obtengo datos útiles del caso de prueba tiempo_cpu = caso_de_prueba.tiempoCpu if tiempo_cpu is None: @@ -95,13 +104,21 @@ def probar(intento, caso_de_prueba, uid, gid, intento_dir, ejercicio_dir, chroot tiempo_cpu = int(tiempo_cpu) # Creo prueba nueva prueba = Prueba(intento=intento, casoDePrueba=caso_de_prueba, - inicio=datetime.datetime.now(), connection = conn) - log.debug('Prueba: %s', prueba) + inicio=datetime.datetime.now(), connection=conn) + log.debug('Iniciando prueba: %s', prueba) # Abro archivos para fds básicos #XXX sacar nombres de archivos de prueba???? - stdin = file(os.path.join(ejercicio_dir, 'casos_de_prueba', caso_de_prueba.nombre, 'stdin'), 'r') - stdout = file(os.path.join(intento_dir, 'stdout'), 'w') - stderr = file(os.path.join(intento_dir, 'stderr'), 'w') + options = { + 'cwd': chroot_dir(intento), + 'close_fds': True, + 'preexec_fn': secure_process(chroot_dir(intento), uid, gid, tiempo_cpu), + } + if os.path.exists(os.path.join(caso_de_prueba.path, 'stdin')): + options['stdin'] = file(os.path.join(caso_de_prueba.path, 'stdin'), 'r') + if os.path.exists(os.path.join(caso_de_prueba.path, 'stdout')): + options['stdout'] = subprocess.PIPE + if os.path.exists(os.path.join(caso_de_prueba.path, 'stderr')): + options['stderr'] = subprocess.PIPE # Ejecuto programa params = ['/tp'] if caso_de_prueba.parametros: @@ -109,8 +126,7 @@ def probar(intento, caso_de_prueba, uid, gid, intento_dir, ejercicio_dir, chroot log.debug('Ejecutando %s', ' '.join(params)) os.seteuid(0) # Dios! (para chroot) try: - proc = subprocess.Popen(params, stdout=stdout, stderr=stderr, stdin=stdin, - cwd=chroot_dir, close_fds=True, preexec_fn=secure_process(chroot_dir, uid, gid, tiempo_cpu)) + proc = subprocess.Popen(params, **options) except Exception, e: # FIXME poner en el manejo de exceptiones estandar try: print e.child_traceback @@ -234,14 +250,15 @@ def params2seq(params): seq.append(buff) return seq -# Conecto señales +# Manejadores de señales signal.signal(signal.SIGTERM, sigterm) signal.signal(signal.SIGINT, sigterm) signal.signal(signal.SIGCHLD, sigchld) -hijo_muerto = False +hijo_muerto = False # Cambia con SIGCHLD +continuar = True # Cambia con SIGTERM o SIGINT # Inicializo -conf, conn, log = sercom.init('test') +conf, conn, log = sercom.init('test') log.info('Iniciado') # Obtengo id de usuario con el cual ejecutar las pruebas @@ -250,12 +267,13 @@ uid, gid = pwd.getpwnam(conf.get('general', 'user'))[2:4] # Cambio UID efectivo os.seteuid(uid) -# Algunas variables de configuración útiles -data_dir = conf.get('general', 'data_dir') +# Atajo intervalo = float(conf.get('general', 'intervalo')) +# Utilizo el directorio de datos como base para todos los SQLObjects +sercom.dbo.dir_base = conf.get('general', 'data_dir') + # Hasta que nos maten -continuar = True # Cambia con una señal while continuar: # Busco intento a probar intento = Intento.getProximoAProbar(conn) @@ -264,27 +282,25 @@ while continuar: time.sleep(intervalo) continue log.info('Nuevo intento a probar (%s)', intento) - # Obtengo paths - intento_dir = os.path.join(data_dir, intento.path('intentos')) - ejercicio_dir = os.path.join(data_dir, 'ejercicios', str(intento.entrega.ejercicioID)) - chroot_dir = os.path.join(intento_dir, 'chroot') # Compila - if not compilar(intento, data_dir, ejercicio_dir, intento_dir, log): + if not compilar(intento): #TODO mandar mail continue - # Prepara archivos - preparar(intento_dir, chroot_dir) # Ejecución de casos de prueba intento.inicioPruebas = datetime.datetime.now() pruebas = [] for caso_de_prueba in intento.entrega.ejercicio.casosDePrueba: - pruebas.append(probar(intento, caso_de_prueba, uid, gid, intento_dir, ejercicio_dir, chroot_dir, conf, conn, log)) + # Preparo chroot + preparar(intento) + # Pruebo y agrego prueba a la lista + pruebas.append(probar(intento, caso_de_prueba)) + # Limpio chroot + limpiar(intento) intento.finPruebas = datetime.datetime.now() # Limpio directorio - log.debug('Borrando chroot') - shutil.rmtree(chroot_dir) - log.debug('Borrando código objeto (*.o)') - [os.remove(obj) for obj in glob.glob(os.path.join(intento_dir, '*.o'))] + log.debug('Borrando ejecutable y código objeto (*.o)') + os.remove(os.path.join(intento.path, 'tp')) + [os.remove(obj) for obj in glob.glob(os.path.join(intento.path, '*.o'))] #TODO Armar mail de respuesta al alumno for prueba in pruebas: #TODO Si es publica, veo si se hizo ok o no y voy creando mail diff --git a/src/sercom/dbo.py b/src/sercom/dbo.py index 7a09f81..d01e0f7 100644 --- a/src/sercom/dbo.py +++ b/src/sercom/dbo.py @@ -1,9 +1,13 @@ from sqlobject import * from sqlobject.sqlbuilder import * +from os import path __all__ = ('Curso', 'Inscripto', 'Docente', 'Ejercicio', 'Entrega', 'CasoDePrueba', 'Intento', 'Correccion', 'Prueba') +# Directorio con los datos por default +dir_base = '.' + class BaseSQLObject(SQLObject): @classmethod @@ -59,6 +63,9 @@ class Ejercicio(BaseSQLObject): entregas = MultipleJoin('Entrega') cursos = RelatedJoin('Curso', intermediateTable = 'entrega') + def _get_path(self): + return path.join(dir_base, 'ejercicios', str(self.id)) + class Entrega(BaseSQLObject): # Clave curso = ForeignKey('Curso') @@ -86,6 +93,9 @@ class CasoDePrueba(BaseSQLObject): # Joins pruebas = MultipleJoin('Prueba') + def _get_path(self): + return path.join(self.ejercicio.path, 'casos_de_prueba', self.nombre) + class Intento(BaseSQLObject): # Clave inscripto = ForeignKey('Inscripto') @@ -112,11 +122,11 @@ class Intento(BaseSQLObject): except IndexError: return None - def path(self, dir_base): - from os.path import join + def _get_path(self): curso = self.inscripto.curso entrega = self.entrega - return join(dir_base, '%s.%s' % (curso.anio, curso.cuatrimestre), + return path.join(dir_base, 'intentos', + '%s.%s' % (curso.anio, curso.cuatrimestre), '%s.%s.%s' % (curso.curso, entrega.nroEjercicio, entrega.entrega), '%s.%s' % (self.inscripto.padron, self.numero))