X-Git-Url: https://git.llucax.com/z.facultad/75.00/informe.git/blobdiff_plain/4279cad3e5dcffabee70e6105912b09708713e3a..587f418dec03ac930616a59882c5f1a71319d692:/source/solucion.rst diff --git a/source/solucion.rst b/source/solucion.rst index b19fd36..71703ff 100644 --- a/source/solucion.rst +++ b/source/solucion.rst @@ -58,10 +58,10 @@ noticias de D_ [#benchmod]_) programas triviales sintetizados con el único propósito de mostrar problemas con el recolector de basura. Otros programas de este estilo fueron escritos explícitamente para este trabajo. -Además se han recolectado [#benchmod]_ algunos pequeños programas portados de -otros lenguajes de programación, que si bien son pequeños y tienen como -objetivo ejercitar el recolector de basura, son programas reales que resuelven -un problema concreto, lo que otorga un juego de pruebas un poco más amplio que +Además se han recolectado algunos pequeños programas portados de otros +lenguajes de programación, que si bien son pequeños y tienen como objetivo +ejercitar el recolector de basura, son programas reales que resuelven un +problema concreto, lo que otorga un juego de pruebas un poco más amplio que los programas triviales. .. [#benchmod] Cabe destacar que en general todos los programas recolectados @@ -101,9 +101,9 @@ originalmente fue concebido para mostrar un problema con la concatenación de arreglos (como se aprecia en la sentencia ``version(loseMemory)``), ejercita los aspectos más utilizados del del recolector: manipulación de arreglos y petición e memoria. Es una de las pruebas que más estresa al recolector ya -que todo el trabajo que realiza el programa es utilizar servicios de éste. +que todo el trabajo que realiza el programa es utilizar sus servicios. -El código fuente del programa es el siguiente:: +Código fuente:: const IT = 300; const N1 = 20_000; @@ -128,7 +128,6 @@ El código fuente del programa es el siguiente:: int main(char[][] args) { - Population testPop1 = new Population; Population testPop2 = new Population; Individual[N2] indi; @@ -162,8 +161,8 @@ El objetivo de estos programas es medir el impacto de las pausas del recolector. Se espera medir dos tipos de pausa principales, por un lado el tiempo máximo de pausa real, que puede involucrar a más de un hilo y por otro el tiempo de *stop-the-world*, es decir, el tiempo en que los hilos son -efectivamente pausados por el recolector para tomar una *foto* de la pila -y registros para agregarlos al *root set*. +efectivamente pausados por el recolector para realizar una tarea que necesite +trabajar con una versión estática de la memoria del programa. Se espera ``concpu`` sea capaz de explotar cualquier reducción en el tiempo de *stop-the-world*, ya que los hilos solo son interrumpidos por este tipo de @@ -172,7 +171,7 @@ máximo de pausa, que podrían sufrir los hilos incluso cuando el *mundo* sigue su marcha, debido al *lock* global del recolector y que los hilos usan servicios de éste. -El código de ``concpu`` es el siguiente:: +Código fuente de ``concpu``:: import tango.core.Thread: Thread; import tango.core.Atomic: Atomic; @@ -267,8 +266,8 @@ servicios del recolector, por lo tanto un programa multi-hilo en el cual los hilos (aparentemente) no comparten ningún estado, se puede ver considerablemente afectado por el recolector (siendo este efecto más visible en ambientes *multi-core* por el nivel de sincronización extra que significa -a nivel de *hardware*). Cabe destacar que, sin embargo, en Linux_ no es tan -notorio. +a nivel de *hardware*). Cabe destacar, sin embargo, que en Linux_ el efecto no +es tan notorio comparado al reporte de David Schima. ``split`` @@ -280,7 +279,7 @@ mostrar lo ineficiente que puede ser concatenar datos a un mismo arreglo repetidas veces y ha desembocado en una pequeña optimización que sirvió para paliar el problema de forma razonablemente efectiva [PAN09]_. -El código es el siguiente:: +Código fuente:: import tango.io.device.File: File; import tango.text.Util: delimit; @@ -312,7 +311,7 @@ accesibles desde el *root set* del grafo de conectividad. __ http://www.digitalmars.com/webnews/newsgroups.php?art_group=digitalmars.D&article_id=46407 -El código del programa es el siguiente:: +Código fuente:: import tango.math.random.Random; @@ -359,7 +358,7 @@ y fue hallada__ en el grupo de noticias. __ http://shootout.alioth.debian.org/ __ http://www.digitalmars.com/webnews/newsgroups.php?art_group=digitalmars.D&article_id=43991 -El código fuente es el siguiente:: +Código fuente:: import tango.util.Convert; alias char[] string; @@ -426,9 +425,9 @@ distribuida. Son programas relativamente pequeños (entre 400 y 1000 líneas de código fuente cada uno) que realizan una tarea secuencial que asigna estructuras de datos dinámicamente. Las estructuras están usualmente organizadas como listas o árboles, y muy raramente como arreglos. Los -programas pasan la mayor parte del tiempo alocando datos y el resto usando los -datos alocados, por lo que en general están acotados en tiempo por el uso de -memoria (y no de procesador). +programas pasan la mayor parte del tiempo solicitando memoria para almacenar +datos y el resto usando los datos almacenados, por lo que en general están +acotados en tiempo por el uso de memoria (y no de procesador). __ http://www.irisa.fr/caps/people/truong/M2COct99/Benchmarks/Olden/Welcome.html __ http://www.martincarlisle.com/olden.html @@ -441,7 +440,7 @@ propósito, como DaCapo__ [BLA06]_, sin embargo, dada la falta de programas disponibles en general, y de un conjunto de pruebas especialmente diseñado para evaluar el recolector de basura en D_, se decide utilizarlas en este trabajo de todos modos. Sin embargo sus resultados deben ser interpretados con -una pizca de sal por lo mencionado anteriormente. +una pizca de suspicacia por lo mencionado anteriormente. __ http://www-ali.cs.umass.edu/DaCapo/benchmarks.html __ http://www.dacapobench.org/ @@ -522,8 +521,8 @@ GPL_) es, lamentablemente, el único programa real hallado que, a pesar de estar incompleto, es lo suficientemente grande, mantenido y estable como para ser incluido en el banco de pruebas. Se trata de un compilador de D_ escrito en D_ y está incompleto porque no puede generar código (falta implementar el -análisis semántico y la generación de código), por lo que es principalmente -utilizado para generar documentación a partir del código. +análisis semántico y la generación de código). Es principalmente utilizado +para generar documentación a partir del código. El programa está compuesto por: @@ -542,10 +541,10 @@ objetos extremadamente pequeños y de tamaños poco convencionales (no múltiplo de palabras, por ejemplo). A su vez, el texto interpretado es convertido a una representación interna en forma de árbol (o *árbol de sintaxis abstracta*) modelado por tipos *livianos* y polimórficos que están organizados en arreglos -dinámicos contiguos y asociativos (que usan muchos servicios del recolector), -y que finalmente son manipulados para obtener y generar la información -necesaria, creando y dejando *morir* objetos constantemente (pero no como única -forma de procesamiento, como otras pruebas sintetizadas). +dinámicos contiguos y asociativos (que usan muchos servicios del recolector). +Finalmente estos objetos son manipulados para obtener y generar la información +necesaria, creando y dejando de usar objetos constantemente (pero no como +única forma de procesamiento, como otras pruebas sintetizadas). Por último, a diferencia de muchos otros programas escritos en D_, que dadas algunas de las ineficiencias del recolector invierten mucho trabajo en limitar @@ -621,11 +620,11 @@ tedioso y complejo, además ineficiente, por lo tanto esta opción también se descarta. Finalmente, lo que parece ser más apropiado para un recolector, es permitir la -configuración en tiempo de inicialización. Es decir, configurar el recolectar -sin necesidad de recompilar ni el programa del usuario ni el recolector, pero -antes de que el programa del usuario inicie, de manera que una vez iniciado el -recolector con ciertos parámetros, éstos no cambien nunca más en durante la -vida del programa. +configuración en *tiempo de inicialización*. Es decir, configurar el +recolectar sin necesidad de recompilar ni el programa del usuario ni el +recolector, pero antes de que el programa del usuario inicie, de manera que +una vez iniciado el recolector con ciertos parámetros, éstos no cambien nunca +más en durante la vida del programa. Este esquema provee la mejor relación entre configurabilidad, conveniencia, eficiencia y simplicidad. Una posibilidad para lograr esto es utilizar @@ -664,7 +663,7 @@ interpretado de la siguiente manera (en formato similar a :term:`BNF`): name: `namec` `namec`* value: `valuec`* namec: `valuec` - '=' - valuec: [0x01-0xFF] - ':' + valuec: [0x01-0xFF] - ':' Es decir, se compone de una lista de opciones separadas por **:**. Cada opción se especifica con un nombre, opcionalmente seguido por un valor (separados por @@ -698,53 +697,53 @@ el formato del valor de la opción de tener uno especial): número, se crea un *pool* con ese tamaño en MiB. Si, en cambio, se especifica una cadena del tipo ``3x1``, el primer número indica la cantidad de *pools* y el segundo el tamaño en MiB de cada uno (3 *pools* de 1MiB en - este caso). Ver :ref:`sol_pre_alloc` para más detalles sobre la utilidad de - esta opción. + este caso). Ver :ref:`sol_pre_alloc` más adelante para más detalles sobre + la utilidad de esta opción. ``min_free`` - El valor de esta opción indica el porcentaje mínimo porcentaje del *heap* - que debe quedar libre luego de una recolección. Siendo un porcentaje, solo - se aceptan valores entre 0 y 100, siendo su valor por omisión 5. Ver - :ref:`sol_ocup` para más detalles sobre su propósito. + El valor de esta opción indica el porcentaje mínimo del *heap* que debe + quedar libre luego de una recolección. Siendo un porcentaje, solo se + aceptan valores entre 0 y 100, siendo su valor por omisión 5. Ver + :ref:`sol_ocup` más adelante para más detalles sobre su propósito. ``malloc_stats_file`` Esta opción sirve para especificar un archivo en el cual escribir un reporte de todas la operaciones de pedido de memoria realizadas por el - programa (durante su tiempo de vida). Ver :ref:`sol_stats` para más - detalles sobre la información provista y el formato del reporte. + programa (durante su tiempo de vida). Ver :ref:`sol_stats` más adelante + para más detalles sobre la información provista y el formato del reporte. ``collect_stats_file`` Esta opción sirve para especificar un archivo en el cual escribir un reporte de todas las recolecciones hechas durante el tiempo de vida del - programa. Ver :ref:`sol_stats` para más detalles sobre la información - provista y el formato del reporte. + programa. Ver :ref:`sol_stats` más adelante para más detalles sobre la + información provista y el formato del reporte. ``conservative`` Esta opción booleana permite desactivar el escaneo preciso del *heap*, forzando al recolector a ser completamente conservativo (excepto por los bloques con el atributo ``NO_SCAN`` que siguen sin ser escaneados). Ver - :ref:`sol_precise` para más detalles sobre la existencia de esta opción. + :ref:`sol_precise` más adelante para más detalles sobre la existencia de esta opción. ``fork`` Esta opción booleana (activada por omisión) permite seleccionar si el recolector debe correr la fase de marcado en paralelo o no (es decir, si el recolector corre de forma concurrente con el *mutator*). Para más detalles - ver :ref:`sol_fork`. + ver :ref:`sol_fork` más adelante. ``eager_alloc`` Esta opción booleana (activada por omisión), sólo puede estar activa si - ``fork`` también está activa y sirve para indicar al recolector que reserve - un nuevo *pool* de memoria cuando una petición no puede ser satisfecha, - justo antes de lanzar la recolección concurrente. Ver - :ref:`sol_eager_alloc` para más detalles sobre el propósito de esta opción. + ``fork`` también lo está y sirve para indicar al recolector que reserve un + nuevo *pool* de memoria cuando una petición no puede ser satisfecha, justo + antes de lanzar la recolección concurrente. Ver :ref:`sol_eager_alloc` más + adelante para más detalles sobre el propósito de esta opción. ``early_collect`` Esta opción booleana (desactivada por omisión), también sólo puede estar activa si ``fork`` está activa y sirve para indicar al recolector que lance una recolección (concurrente) antes de que la memoria libre se termine (la recolección temprana será disparada cuando el porcentaje de memoria libre - sea menor a ``min_free``). Ver :ref:`sol_early_collect` para más detalles - sobre el propósito de esta opción. + sea menor a ``min_free``). Ver :ref:`sol_early_collect` más adelante para + más detalles sobre el propósito de esta opción. Cualquier opción o valor no reconocido es ignorado por el recolector. Se utilizan los valores por omisión de las opciones que no fueron especificadas, @@ -756,7 +755,7 @@ shell*): .. code-block:: none - D_GC_OPTS=conservative:eager_alloc=0:early_collect=1:pre_alloc=2x5 ./programa + D_GC_OPTS=conservative:eager_alloc=0:early_collect=1:pre_alloc=2x5 ./prog En este ejemplo, se activan las opciones ``conservative`` y ``early_collect``, se desactiva ``eager_alloc`` y se crean 2 *pools* de 5MiB cada uno al @@ -848,14 +847,13 @@ Mejora del factor de ocupación del *heap* ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ El factor de ocupación del *heap* debe ser apropiado por dos razones. Por un lado, si el *heap* está demasiado ocupado todo el tiempo, serán necesarias -muchas recolecciones que, aunque pequeñas dado que la memoria utilizada es -poca, puede llegar a ser extremadamente ineficiente en casos patológicos (ver -:ref:`dgc_bad_ocup`). Por otro lado, si el tamaño del *heap* es extremadamente -grande (en comparación con el tamaño real del grupo de trabajo del programa), -se harán pocas recolecciones pero cada una es muy costosa, porque el algoritmo -de marcado y barrido es :math:`O(\lvert Heap \rvert)` (ver -:ref:`gc_mark_sweep`). Además la afinidad del caché va a ser extremadamente -pobre. +muchas recolecciones, lo que puede llegar a ser extremadamente ineficiente en +casos patológicos (ver :ref:`dgc_bad_ocup`). Por otro lado, si el tamaño del +*heap* es extremadamente grande (en comparación con el tamaño real del grupo +de trabajo del programa), se harán pocas recolecciones pero cada una es muy +costosa, porque el algoritmo de marcado y barrido es :math:`O(\lvert Heap +\rvert)` (ver :ref:`gc_mark_sweep`). Además la afinidad del caché va a ser +extremadamente pobre. Para mantener el factor de ocupación dentro de límites razonables, se agrega la opción ``min_free`` (ver :ref:`sol_config_spec`). Esta opción indica el @@ -882,8 +880,9 @@ complejidad agregada. Probablemente el caso más significativo, y por tanto el único que vale la pena mencionar, es la conversión de marcado iterativo a marcado recursivo y luego a un esquema híbrido. Como se describe en :ref:`dgc_bad`, el marcado iterativo -tiene sus ventajas, pero tiene desventajas también. Al convertirlo a puramente -recursivo, es impracticable por resultar en errores de desbordamiento de pila. +tiene sus ventajas, pero tiene desventajas también. La conversión a puramente +recursivo resulta impracticable dado que desemboca en errores de +desbordamiento de pila. Por lo tanto se prueba con un esquema híbrido, poniendo un límite a la recursividad, volviendo al algoritmo iterativo cuando se alcanza este límite. @@ -924,9 +923,9 @@ sobre el algoritmo original (ver :ref:`dgc_algo_mark`):: Al analizar los resultados de de esta modificación, se observa una mejoría muy level, para valores de ``MAX_DEPTH`` mayores a cero (en algunos casos bastante -mayores) y en general para ``MAX_DEPTH`` cero (es decir, usando el algoritmo -de forma completamente iterativa) los resultados son peores, dado que se paga -el trabajo extra sin ganancia alguna. En la figura :vref:`fig:sol-mark-rec` se +mayores). En general para ``MAX_DEPTH`` cero (es decir, usando el algoritmo de +forma completamente iterativa) los resultados son peores, dado que se paga el +trabajo extra sin ganancia alguna. En la figura :vref:`fig:sol-mark-rec` se puede ver, por ejemplo, el tiempo total de ejecución de Dil_ al generar la documentación completa del código de Tango_, según varía el valor de ``MAX_DEPTH``. @@ -950,7 +949,7 @@ programa que esté al borde de consumir todo el *stack*, el recolector podría hacer fallar al programa de una forma inesperada para el usuario, problema que sería muy difícil de depurar para éste), y que los resultados obtenidos no son rotundamente superiores a los resultados sin esta modificación, se opta por no -incluir este cambio. Tampoco vale la pena incluirlo como una opción con valor +incluir el cambio. Tampoco vale la pena incluirlo como una opción con valor por omisión 0 porque, como se ha dicho, para este caso el resultado es incluso peor que sin la modificación. @@ -971,8 +970,8 @@ recolección de estadísticas. Hay muchos aspectos que pueden ser analizados a la hora de evaluar un recolector, y es por esto que se busca que la recolección de datos sea lo más completa posible. -Con este objetivo, se decide recolectar datos sobre lo que, probablemente, -sean las operaciones más importantes del recolector: asignación de memoria +Con este objetivo, se decide recolectar datos sobre lo que probablemente sean +las operaciones más importantes del recolector: asignación de memoria y recolección. Todos los datos recolectados son almacenados en archivos que se especifican @@ -1028,7 +1027,7 @@ interés para analizar como se comporta el recolector. El punto 8 es completamente inútil, ya que el compilador nunca provee esta información, pero se la deja por si en algún momento comienza a hacerlo. Los -puntos 9 a 12 provee información sobre el tipo del objeto almacenado, útil +puntos 9 a 12 proveen información sobre el tipo del objeto almacenado, útil para un marcado preciso (ver :ref:`sol_precise`). El punto 6 indica, indirectamente, cuales de los objetos asignados son @@ -1050,12 +1049,12 @@ recolección [#solcollect]_ (es decir, cada vez que se llama a la función *stop-the-world*). 5. Cantidad de memoria usada antes de la recolección. 6. Cantidad de memoria libre antes de la recolección. -7. Cantidad de memoria desperdiciada antes de la recolección. +7. Cantidad de memoria desperdiciada [#solwaste]_ antes de la recolección. 8. Cantidad de memoria utilizada por el mismo recolector antes de la recolección (para sus estructuras internas). 9. Cantidad de memoria usada después de la recolección. 10. Cantidad de memoria libre después de la recolección. -11. Cantidad de memoria desperdiciada [#solwaste]_ después de la recolección. +11. Cantidad de memoria desperdiciada después de la recolección. 12. Cantidad de memoria utilizada por el mismo recolector después de la recolección. @@ -1085,11 +1084,11 @@ Marcado preciso ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ Para agregar el soporte de marcado preciso se aprovecha el trabajo realizado -por Vincent Lang (ver :ref:`dgc_via_art`) [DBZ3463]_, dado que se basa en `D -1.0`_ y Tango_, al igual que este trabajo. Dado el objetivo y entorno común, -se abre la posibilidad de adaptar sus cambios a este trabajo, utilizando una -versión modificada de DMD_ (dado que los cambios aún no son integrados al -compilador oficial). +por Vincent Lang (ver :ref:`dgc_via_art`) [DBZ3463]_, gracias a que se basa en +`D 1.0`_ y Tango_, al igual que este trabajo. Dado el objetivo y entorno +común, se abre la posibilidad de adaptar sus cambios a este trabajo, +utilizando una versión modificada de DMD_ (dado que los cambios aún no están +integrados al compilador oficial todavía). .. TODO: Apéndice con parches a DMD y Tango? @@ -1255,7 +1254,7 @@ objeto ocupará el doble de memoria. El algoritmo de marcado se cambia de la siguiente forma:: // Agregado - global conservative_scan = [1, 1, 0] + global conservative_ptrmap = [1, 1, 0] // Agregado function must_scan_word(pos, bits) is @@ -1267,7 +1266,7 @@ El algoritmo de marcado se cambia de la siguiente forma:: pointer = begin while pointer < end foreach word_pos in 0..number_of_words_in_type // - if not must_scan_word(n, scan_bits) // Agregado + if not must_scan_word(word_pos, scan_bits) // Agregado continue // [pool, page, block] = find_block(pointer) if block is not null and block.mark is false @@ -1292,7 +1291,7 @@ El algoritmo de marcado se cambia de la siguiente forma:: else // objeto pequeño // begin = block.begin // end = block.end // Modificado - ptrmap = global conservative_scan // + ptrmap = global conservative_ptrmap // if NO_SCAN not in block.attrs // end -= size_t.sizeof // ptrmap = cast(size_t*) *end // @@ -1300,17 +1299,17 @@ El algoritmo de marcado se cambia de la siguiente forma:: function mark_static_data() is mark_range(static_data.begin, static_data.end, - global conservative_scan) // Agregado + global conservative_ptrmap) // Agregado function mark_stacks() is foreach thread in threads mark_range(thread.stack.begin, thread.stack.end, - global conservative_scan) // Agregado + global conservative_ptrmap) // Agregado function mark_user_roots() is foreach root_range in user_roots mark_range(root_range.begin, root_range.end, - global conservative_scan) // Agregado + global conservative_ptrmap) // Agregado Las funciones de asignación de memoria se modifican de forma similar, para guardar el puntero a la información de tipos. Esta implementación utiliza solo @@ -1388,7 +1387,7 @@ puede ser muy eficiente, y la copia de memoria es proporcional a la cantidad de cambios que hayan. :manpage:`fork(2)` tiene otra propiedad importante de mencionar: detiene todos -los hilos de ejecución en el proceso hijo. Es decir, el proceso hijo se crear +los hilos de ejecución en el proceso hijo. Es decir, el proceso hijo se crea con un solo hilo (el hilo que ejecutó la operación de :manpage:`fork(2)`). Algoritmo @@ -1397,7 +1396,7 @@ Lo que propone el algoritmo es muy sencillo, utilizar la llamada al sistema :manpage:`fork(2)` para crear una *fotografía* de la memoria del proceso en un nuevo proceso. En el proceso padre sigue corriendo el *mutator* y en el proceso hijo se corre la fase de marcado. El *mutator* puede modificar el -grafo de conectividad pero los cambios quedan aislados el hijo (el marcado), +grafo de conectividad pero los cambios quedan aislados del hijo (el marcado), que tiene una visión consistente e inmutable de la memoria. El sistema operativo duplica las páginas que modifica el padre bajo demanda, por lo tanto la cantidad de memoria física realmente copiada es proporcional a la cantidad @@ -1412,17 +1411,16 @@ se preserva: Es decir, el *mutator* no puede *resucitar* una celda *muerta* y esta invariante se mantiene al correr la fase de marcado sobre una vista inmutable de la memoria. El único efecto introducido es que el algoritmo toma una -aproximación más conservativa. Es decir, lo que sí puede pasar es que una -celda que pasó a estar *muerta* una vez que la fase de marcado se inició, pero -antes de que ésta termine, la celda no se reciclará hasta la próxima -recolección, dado que este algoritmo no incluye una comunicación entre -*mutator* y recolector para notificar cambios en el grafo de conectividad. -Pero esto no afecta la corrección del algoritmo, ya que un recolector es -correcto cuando nunca recicla celdas *vivas*. +aproximación más conservativa; una celda que pasó a estar *muerta* luego de +que se inicie la fase de marcado, pero antes de que termine, puede no ser +reciclada hasta la próxima recolección, dado que este algoritmo no incluye una +comunicación entre *mutator* y recolector para notificar cambios en el grafo +de conectividad. Pero esto no afecta la corrección del algoritmo, ya que un +recolector es correcto cuando nunca recicla celdas *vivas*. La única comunicación necesaria entre el *mutator* y el recolector son los bits de marcado (ver :ref:`dgc_impl`), dado que la fase de barrido debe correr -en el proceso padre. No es necesaria ningún tipo de sincronización entre +en el proceso padre. No es necesario ningún tipo de sincronización entre *mutator* y recolector más allá de que uno espera a que el otro finalice. Además de almacenar el conjunto de bits ``mark`` en memoria compartida entre @@ -1667,8 +1665,8 @@ empezar la fase de marcado no sean barridas por tener ese bit activo:: block.mark = true // return pool -Finalmente, el punto número tres puede ser solucionado con el siguiente -pequeño cambio:: +Finalmente, el punto número 3 puede ser solucionado con el siguiente pequeño +cambio:: funciones new_pool(number_of_pages = 1) is pool = alloc(pool.sizeof) @@ -1697,7 +1695,7 @@ recolectada por la fase de barrido cuando termine el marcado). Estas modificaciones son las que hacen que el algoritmo siga siendo correcto, asegurando que no se van a liberar celdas *vivas* (a expensas de diferir la -liberación de algunas celdas *muertas* por algún tiempo). +liberación de algunas celdas *muertas* por un tiempo). .. _sol_early_collect: @@ -1711,9 +1709,9 @@ recolección es controlado por la opción ``min_free`` (ver :ref:`sol_ocup`). De esta forma también puede correr de forma realmente concurrente el *mutator* y el recolector, al menos hasta que se acabe la memoria, en cuyo caso, a menos -que la opción ``eager_alloc`` (ver :ref:`sol_eager_alloc`) también esté -activada, se deberá esperar a que la fase de marcado termine para recuperar -memoria en la fase de barrido. +que la opción ``eager_alloc`` también esté activada (ver +:ref:`sol_eager_alloc`), se deberá esperar a que la fase de marcado termine +para recuperar memoria en la fase de barrido. Para facilitar la comprensión de esta mejora se muestran sólo los cambios necesarios si no se utiliza la opción ``eager_alloc``:: @@ -1842,7 +1840,7 @@ opciones del compilador DMD_: ``-release`` No genera el código para verificar pre y post-condiciones, invariantes de representación, operaciones fuera de los límites de un arreglo y - *assert*\ 's en general (ver :ref:`d_dbc`). + *assert*\ s en general (ver :ref:`d_dbc`). Parámetros de los programas ^^^^^^^^^^^^^^^^^^^^^^^^^^^ @@ -1860,19 +1858,18 @@ que se especifique lo contrario), que se detallan a continuación. ``concpu`` ``40 4 bible.txt`` - Procesa 40 veces un archivo de texto plano (de 4MiB de tamaño) [#solbible]_ - utilizando 4 hilos (más el principal). + Procesa 40 veces un archivo de texto plano (de 4MiB de tamaño) utilizando + 4 hilos (más el principal). ``split`` ``bible.txt 2`` - Procesa dos veces un archivo de texto plano (de 4MiB de tamaño) - [#solbible]_. + Procesa dos veces un archivo de texto plano (de 4MiB de tamaño). ``sbtree`` ``16`` - Construyen árboles con profundidad máxima 16. + Construye árboles con profundidad máxima 16. ``bh`` ``-b 4000`` @@ -1882,7 +1879,7 @@ que se especifique lo contrario), que se detallan a continuación. ``bisort`` ``-s 2097151`` - Ordena alrededor de 2 millones de números (exactamente :math:`2^21 + Ordena alrededor de 2 millones de números (exactamente :math:`2^{21} = 2097151`). ``em3d`` @@ -2037,7 +2034,7 @@ que ya había una en curso. Además, ciertas pruebas se corren variando la cantidad de procesadores utilizados, para medir el impacto de la concurrencia en ambientes con un procesador solo y con múltiples procesadores. Para esto se utiliza el comando -:manpage:`taskset`, que establece la *afinidad* de un proceso, *atándolo* +:manpage:`taskset(1)`, que establece la *afinidad* de un proceso, *atándolo* a correr en un cierto conjunto de procesadores. Si bien las pruebas se realizan utilizando 1, 2, 3 y 4 procesadores, los resultados presentados en general se limitan a 1 y 4 procesadores, ya que no se observan diferencias @@ -2051,34 +2048,6 @@ En los casos donde se utilizan otro tipo de métricas para evaluar aspectos particulares sobre alguna modificación se describe como se realiza la medición donde se utiliza la métrica especial. -Variabilidad de los resultados entre ejecuciones -^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ -Es de esperarse que haya una cierta variación en los resultados entre -corridas, dada la indeterminación inherente a los sistemas operativos de -tiempo compartido, que compiten por los recursos de la computadora. - -Para minimizar esta variación se utilizan varias herramientas. En primer -lugar, se corren las pruebas estableciendo máxima prioridad (-19 en Linux_) al -proceso utilizando el comando :manpage:`nice(1)`. La variación en la -frecuencia del reloj los procesadores (para ahorrar energía) puede ser otra -fuente de variación, por lo que se usa el comando :manpage:`cpufreq-set(1)` -para establecer la máxima frecuencia disponible de manera fija. - -Sin embargo, a pesar de tomar estas precauciones, se sigue observando una -amplia variabilidad entre corridas. Además se observa una variación más -importante de la esperada no solo en el tiempo, también en el consumo de -memoria, lo que es más extraño. Esta variación se debe principalmente a que -Linux_ asigna el espacio de direcciones a los procesos con una componente -azarosa (por razones de seguridad). Además, por omisión, la llamada al sistema -:manpage:`mmap(2)` asigna direcciones de memoria altas primero, entregando -direcciones más bajas en llamadas subsiguientes [LWN90311]_. - -El comando :manpage:`setarch(8)` sirve para controlar éste y otros aspectos de -Linux_. La opción ``-L`` hace que se utilice un esquema de asignación de -direcciones antiguo, que no tiene una componente aleatoria y asigna primero -direcciones bajas. La opción ``-R`` solamente desactiva la componente azarosa -al momento de asignar direcciones. - .. flt:: t:sol-setarch :type: table @@ -2134,35 +2103,6 @@ al momento de asignar direcciones. voronoi 0.001 0.000 0.000 ======== ======== ======== ======== -Ambas opciones, reducen notablemente la variación en los resultados (ver -cuadro :vref:`t:sol-setarch`). Esto probablemente se debe a la naturaleza -conservativa del recolector, dado que la probabilidad de tener *falsos -positivos* depende directamente de los valores de las direcciones de memoria, -aunque las pruebas en la que hay concurrencia involucrada, se siguen viendo -grandes variaciones, que probablemente estén vinculadas a problemas de -sincronización que se ven expuestos gracias al indeterminismo inherente a los -programas multi-hilo. - -Si bien se obtienen resultados más estables utilizando un esquema diferente al -utilizado por omisión, se decide no hacerlo dado que las mediciones serían -menos realistas. Los usuarios en general no usan esta opción y se presentaría -una visión más acotada sobre el comportamiento de los programas. Sin embargo, -para evaluar el este efecto en los resultados, siempre que sea posible se -analizan los resultados de un gran número de corridas observando -principalmente su mínima, media, máxima y desvío estándar. - - - -Resultados para pruebas sintizadas -~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ - -A continuación se presentan los resultados obtenidos para las pruebas -sintetizadas (ver :ref:`sol_bench_synth`). Se recuerda que este conjunto de -resultados es útil para analizar ciertos aspectos puntuales de las -modificaciones propuestas, pero en general distan mucho de como se comporta un -programa real, por lo que los resultados deben ser analizados teniendo esto -presente. - .. flt:: fig:sol-bigarr-1cpu Resultados para ``bigarr`` (utilizando 1 procesador) @@ -2202,6 +2142,86 @@ presente. .. image:: plots/pause-bigarr-1cpu.pdf +Variabilidad de los resultados entre ejecuciones +^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ +Es de esperarse que haya una cierta variación en los resultados entre +corridas, dada la indeterminación inherente a los sistemas operativos de +tiempo compartido, que compiten por los recursos de la computadora. + +Para minimizar esta variación se utilizan varias herramientas. En primer +lugar, se corren las pruebas estableciendo máxima prioridad (-19 en Linux_) al +proceso utilizando el comando :manpage:`nice(1)`. La variación en la +frecuencia del reloj los procesadores (para ahorrar energía) puede ser otra +fuente de variación, por lo que se usa el comando :manpage:`cpufreq-set(1)` +para establecer la máxima frecuencia disponible de manera fija. + +Sin embargo, a pesar de tomar estas precauciones, se sigue observando una +amplia variabilidad entre corridas. Además se observa una variación más +importante de la esperada no solo en el tiempo, también en el consumo de +memoria, lo que es más extraño. Esta variación se debe principalmente a que +Linux_ asigna el espacio de direcciones a los procesos con una componente +azarosa (por razones de seguridad). Además, por omisión, la llamada al sistema +:manpage:`mmap(2)` asigna direcciones de memoria altas primero, entregando +direcciones más bajas en llamadas subsiguientes [LWN90311]_. + +El comando :manpage:`setarch(8)` sirve para controlar éste y otros aspectos de +Linux_. La opción ``-L`` hace que se utilice un esquema de asignación de +direcciones antiguo, que no tiene una componente aleatoria y asigna primero +direcciones bajas. La opción ``-R`` solamente desactiva la componente azarosa +al momento de asignar direcciones. + +Ambas opciones, reducen notablemente la variación en los resultados (ver +cuadro :vref:`t:sol-setarch`). Esto probablemente se debe a la naturaleza +conservativa del recolector, dado que la probabilidad de tener *falsos +positivos* depende directamente de los valores de las direcciones de memoria, +aunque las pruebas en la que hay concurrencia involucrada, se siguen viendo +grandes variaciones, que probablemente estén vinculadas a problemas de +sincronización que se ven expuestos gracias al indeterminismo inherente a los +programas multi-hilo. + +Si bien se obtienen resultados más estables utilizando un esquema diferente al +utilizado por omisión, se decide no hacerlo dado que las mediciones serían +menos realistas. Los usuarios en general no usan esta opción y se presentaría +una visión más acotada sobre el comportamiento de los programas. Sin embargo, +para evaluar el este efecto en los resultados, siempre que sea posible se +analizan los resultados de un gran número de corridas observando +principalmente su mínima, media, máxima y desvío estándar. + + + +Resultados para pruebas sintizadas +~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ + +A continuación se presentan los resultados obtenidos para las pruebas +sintetizadas (ver :ref:`sol_bench_synth`). Se recuerda que este conjunto de +resultados es útil para analizar ciertos aspectos puntuales de las +modificaciones propuestas, pero en general distan mucho de como se comporta un +programa real, por lo que los resultados deben ser analizados teniendo esto +presente. + +``bigarr`` +^^^^^^^^^^ +En la figura :vref:`fig:sol-bigarr-1cpu` se pueden observar los resultados +para ``bigarr`` al utilizar un solo procesador. En ella se puede notar que el +tiempo total de ejecución en general aumenta al utilizar CDGC, esto es +esperable, dado esta prueba se limitan a usar servicios del recolector. Dado +que esta ejecución utiliza solo un procesador y por lo tanto no se puede sacar +provecho a la concurrencia, es de esperarse que el trabajo extra realizado por +las modificaciones se vea reflejado en los resultados. En la +:vref:`fig:sol-bigarr-4cpu` (resultados al utilizar 4 procesadores) se puede +observar como al usar solamente *eager allocation* se recupera un poco el +tiempo de ejecución, probablemente debido al incremento en la concurrencia +(aunque no se observa el mismo efecto al usar *early collection*). + +Observando el tiempo total de ejecución, no se esperaba un incremento tan +notorio al pasar de TBGC a una configuración equivalente de CDGC **cons**, +haciendo un breve análisis de las posibles causas, lo más probable parece ser +el incremento en la complejidad de la fase de marcado dada capacidad para +marcar de forma precisa (aunque no se use la opción, se paga el precio de la +complejidad extra y sin obtener los beneficios). Además se puede observar +como el agregado de precisión al marcado mejora un poco las cosas (donde sí se +obtiene rédito de la complejidad extra en el marcado). + .. flt:: fig:sol-bigarr-4cpu Resultados para ``bigarr`` (utilizando 4 procesadores) @@ -2241,6 +2261,28 @@ presente. .. image:: plots/pause-bigarr-4cpu.pdf +En general se observa que al usar *eager allocation* el consumo de memoria +y los tiempos de pausa se disparan mientras que la cantidad de recolecciones +disminuye drásticamente. Lo que se observa es que el programa es +más veloz pidiendo memoria que recolectándola, por lo que crece mucho el +consumo de memoria. Como consecuencia la fase de barrido (que no corre en +paralelo al *mutator* como la fase de marcado) empieza a ser predominante en +el tiempo de pausa por ser tan grande la cantidad de memoria a barrer. Este +efecto se ve tanto al usar 1 como 4 procesadores, aunque el efecto es mucho +más nocivo al usar 1 debido a la alta variabilidad que impone la competencia +entre el *mutator* y recolector al correr de forma concurrente. + +Sin embargo, el tiempo de *stop-the-world* es siempre considerablemente más +pequeño al utilizar marcado concurrente en CDGC, incluso cuando se utiliza +*eager allocation*, aunque en este caso aumenta un poco, también debido al +incremento en el consumo de memoria, ya que el sistema operativo tiene que +copiar tablas de memoria más grandes al efectuar el *fork* (ver +:ref:`sol_fork`). + +.. raw:: latex + + \clearpage + .. flt:: fig:sol-concpu-1cpu Resultados para ``concpu`` (utilizando 1 procesador) @@ -2319,6 +2361,53 @@ presente. .. image:: plots/pause-concpu-4cpu.pdf +``concpu`` +^^^^^^^^^^ +En la figura :vref:`fig:sol-concpu-1cpu` se pueden observar los resultados +para ``concpu`` al utilizar un solo procesador. En ella se aprecia que el +tiempo total de ejecución disminuye levemente al usar marcado concurrente +mientras no se utilice *eager allocation* (si se utiliza vuelve a aumentar, +incluso más que sin marcado concurrente). + +Con respecto a la cantidad de recolecciones, uso máximo de memoria y tiempo de +*stop-the-world* se ve un efecto similar al descripto para ``bigarr`` (aunque +magnificado), pero sorprendentemente el tiempo total de pausa se dispara, +además con una variabilidad sorprendente, cuando se usa marcado concurrente +(pero no *eager allocation*). Una posible explicación podría ser que al +realizarse el *fork*, el sistema operativo muy probablemente entregue el +control del único procesador disponible al resto de los hilos que compiten por +él, por lo que queda mucho tiempo pausado en esa operación aunque realmente no +esté haciendo trabajo alguno (simplemente no tiene tiempo de procesador para +correr). Este efecto se cancela al usar *eager allocation* dado que el +*mutator* nunca se bloquea esperando que el proceso de marcado finalice. + +Además se observa una caída importante en la cantidad de recolecciones al +utilizar marcado concurrente. Esto probablemente se deba a que solo un hilo +pide memoria (y por lo tanto dispara recolecciones), mientras los demás hilos +también estén corriendo. Al pausarse todos los hilos por menos tiempo, el +trabajo se hace más rápido (lo que explica la disminución del tiempo total de +ejecución) y son necesarias menos recolecciones, por terminar más rápido +también el hilo que las dispara. + +En la :vref:`fig:sol-concpu-4cpu` se pueden ver los resultados al utilizar +4 procesadores, donde el panorama cambia sustancialmente. El efecto mencionado +en el párrafo anterior no se observa más (pues el sistema operativo tiene más +procesadores para asignar a los hilos) pero todos los resultados se vuelven +más variables. Los tiempos de *stop-the-world* y pausa real (salvo por lo +recién mencionado) crecen notablemente, al igual que su variación. No se +encuentra una razón evidente para esto; podría ser un error en la medición +dado que al utilizar todos los procesadores disponibles del *hardware*, +cualquier otro proceso que compita por tiempo de procesador puede afectarla +más fácilmente. + +El tiempo total de ejecución crece considerablemente, como se espera, dado que +el programa aprovecha los múltiples hilos que pueden correr en paralelo en +procesadores diferentes. + +Sin embargo, no se encuentra una razón clara para explicar el crecimiento +dramático en la cantidad de recolecciones solo al no usar marcado concurrente +para 4 procesadores. + .. flt:: fig:sol-conalloc-1cpu Resultados para ``conalloc`` (utilizando 1 procesador) @@ -2436,6 +2525,48 @@ presente. .. image:: plots/pause-split-1cpu.pdf +``conalloc`` +^^^^^^^^^^^^ +En la figura :vref:`fig:sol-conalloc-1cpu` se pueden observar los resultados +para ``conalloc`` al utilizar un solo procesador. Los cambios con respecto +a lo observado para ``concpu`` son mínimos. El efecto de la mejoría al usar +marcado concurrente pero no *eager allocation* no se observa más, dado que +``conalloc`` pide memoria en todos los hilos, se crea un cuello de botella. Se +ve claramente como tampoco baja la cantidad de recolecciones hecha debido +a esto y se invierte la variabilidad entre los tiempos pico de pausa real +y *stop-the-world* (sin una razón obvia, pero probablemente relacionado que +todos los hilos piden memoria). + +Al utilizar 4 procesadores (figura :vref:`fig:sol-conalloc-4cpu`), más allá de +las diferencias mencionadas para 1 procesador, no se observan grandes cambios +con respecto a lo observado para ``concpu``, excepto que los tiempos de pausa +(real y *stop-the-world*) son notablemente más pequeños, lo que pareciera +confirmar un error en la medición de ``concpu``. + +``split`` +^^^^^^^^^ +Este es el primer caso donde se aprecia la sustancial mejora proporcionada por +una pequeña optimización, el caché de ``findSize()`` (ver +:ref:`sol_minor_findsize`). En la figura :vref:`fig:sol-split-1cpu` se puede +observar con claridad como, para cualquier configuración de CDGC, hay una +caída notable en el tiempo total de ejecución. Sin embargo, a excepción de +cuando se utiliza *eager allocation*, la cantidad de recolecciones y memoria +usada permanece igual. + +La utilización de *eager allocation* mejora (aunque de forma apenas +apreciable) el tiempo de ejecución, la cantidad de recolecciones baja a un +tercio y el tiempo de pausa real cae dramáticamente. Al usar marcado +concurrente ya se observa una caída determinante en el tiempo de +*stop-the-world*. Todo esto sin verse afectado el uso máximo de memoria, +incluso al usar *eager allocation*. + +Se omiten los resultados para más de un procesador por ser prácticamente +idénticos para este análisis. + +.. raw:: latex + + \clearpage + .. flt:: fig:sol-mcore-1cpu Resultados para ``mcore`` (utilizando 1 procesador) @@ -2553,131 +2684,6 @@ presente. .. image:: plots/pause-rnddata-1cpu.pdf -``bigarr`` -^^^^^^^^^^ -En la figura :vref:`fig:sol-bigarr-1cpu` se pueden observar los resultados -para ``bigarr`` al utilizar un solo procesador. En ella se puede notar que el -tiempo total de ejecución en general aumenta al utilizar CDGC, esto es -esperable, dado esta prueba se limitan a usar servicios del recolector. Dado -que esta ejecución utiliza solo un procesador y por lo tanto no se puede sacar -provecho a la concurrencia, es de esperarse que el trabajo extra realizado por -las modificaciones se vea reflejado en los resultados. En la -:vref:`fig:sol-bigarr-4cpu` (resultados al utilizar 4 procesadores) se puede -observar como al usar solamente *eager allocation* se recupera un poco el -tiempo de ejecución, probablemente debido al incremento en la concurrencia -(aunque no se observa el mismo efecto al usar *early collection*). - -Observando el tiempo total de ejecución, no se esperaba un incremento tan -notorio al pasar de TBGC a una configuración equivalente de CDGC **cons**, -haciendo un breve análisis de las posibles causas, lo más probable parece ser -el incremento en la complejidad de la fase de marcado dada capacidad para -marcar de forma precisa (aunque no se use la opción, se paga el precio de la -complejidad extra y sin obtener los beneficios). Además se puede observar -como el agregado de precisión al marcado mejora un poco las cosas (donde sí se -obtiene rédito de la complejidad extra en el marcado). - -En general se observa que al usar *eager allocation* el consumo de memoria -y los tiempos de pausa se disparan mientras que la cantidad de recolecciones -disminuye drásticamente. Lo que se observa es que el programa es -más veloz pidiendo memoria que recolectándola, por lo que crece mucho el -consumo de memoria. Como consecuencia la fase de barrido (que no corre en -paralelo al *mutator* como la fase de marcado) empieza a ser predominante en -el tiempo de pausa por ser tan grande la cantidad de memoria a barrer. Este -efecto se ve tanto al usar 1 como 4 procesadores, aunque el efecto es mucho -más nocivo al usar 1 debido a la alta variabilidad que impone la competencia -entre el *mutator* y recolector al correr de forma concurrente. - -Sin embargo, el tiempo de *stop-the-world* es siempre considerablemente más -pequeño al utilizar marcado concurrente en CDGC, incluso cuando se utiliza -*eager allocation*, aunque en este caso aumenta un poco, también debido al -incremento en el consumo de memoria, ya que el sistema operativo tiene que -copiar tablas de memoria más grandes al efectuar el *fork* (ver -:ref:`sol_fork`). - -``concpu`` -^^^^^^^^^^ -En la figura :vref:`fig:sol-concpu-1cpu` se pueden observar los resultados -para ``concpu`` al utilizar un solo procesador. En ella se aprecia que el -tiempo total de ejecución disminuye levemente al usar marcado concurrente -mientras no se utilice *eager allocation* pero aumenta al utilizarlo. - -Con respecto a la cantidad de recolecciones, uso máximo de memoria y tiempo de -*stop-the-world* se ve un efecto similar al descripto para ``bigarr`` (aunque -magnificado), pero sorprendentemente el tiempo total de pausa se dispara, -además con una variabilidad sorprendente, cuando se usa marcado concurrente -(pero no *eager allocation*). Una posible explicación podría ser que al -realizarse el *fork*, el sistema operativo muy probablemente entregue el -control del único procesador disponible al resto de los hilos que compiten por -él, por lo que queda mucho tiempo pausado en esa operación aunque realmente no -esté haciendo trabajo alguno (simplemente no tiene tiempo de procesador para -correr). Este efecto se cancela al usar *eager allocation* dado que el -*mutator* nunca se bloquea esperando que el proceso de marcado finalice. - -Además se observa una caída importante en la cantidad de recolecciones al -utilizar marcado concurrente. Esto probablemente se deba a que solo un hilo -pide memoria (y por lo tanto dispara recolecciones), mientras los demás hilos -también estén corriendo. Al pausarse todos los hilos por menos tiempo, el -trabajo se hace más rápido (lo que explica la disminución del tiempo total de -ejecución) y son necesarias menos recolecciones, por terminar más rápido -también el hilo que las dispara. - -En la :vref:`fig:sol-concpu-4cpu` se pueden ver los resultados al utilizar -4 procesadores, donde el panorama cambia sustancialmente. El efecto mencionado -en el párrafo anterior no se observa más (pues el sistema operativo tiene más -procesadores para asignar a los hilos) pero todos los resultados se vuelven -más variables. Los tiempos de *stop-the-world* y pausa real (salvo por lo -recién mencionado) crecen notablemente, al igual que su variación. No se -encuentra una razón evidente para esto; podría ser un error en la medición -dado que al utilizar todos los procesadores disponibles del *hardware*, -cualquier otro proceso que compita por tiempo de procesador puede afectarla -más fácilmente. - -El tiempo total de ejecución crece considerablemente, como se espera, dado que -el programa aprovecha los múltiples hilos que pueden correr en paralelo en -procesadores diferentes. - -Sin embargo, no se encuentra una razón clara para explicar el crecimiento -dramático en la cantidad de recolecciones solo al no usar marcado concurrente -para 4 procesadores. - -``conalloc`` -^^^^^^^^^^^^ -En la figura :vref:`fig:sol-conalloc-1cpu` se pueden observar los resultados -para ``conalloc`` al utilizar un solo procesador. Los cambios con respecto -a lo observado para ``concpu`` son mínimos. El efecto de la mejoría al usar -marcado concurrente pero no *eager allocation* no se observa más, dado que -``conalloc`` pide memoria en todos los hilos, se crea un cuello de botella. Se -ve claramente como tampoco baja la cantidad de recolecciones hecha debido -a esto y se invierte la variabilidad entre los tiempos pico de pausa real -y *stop-the-world* (sin una razón obvia, pero probablemente relacionado que -todos los hilos piden memoria). - -Al utilizar 4 procesadores (figura :vref:`fig:sol-conalloc-4cpu`), más allá de -las diferencias mencionadas para 1 procesador, no se observan grandes cambios -con respecto a lo observado para ``concpu``, excepto que los tiempos de pausa -(real y *stop-the-world*) son notablemente más pequeños, lo que pareciera -confirmar un error en la medición de ``concpu``. - -``split`` -^^^^^^^^^ -Este es el primer caso donde se aprecia la sustancial mejora proporcionada por -una pequeña optimización, el caché de ``findSize()`` (ver -:ref:`sol_minor_findsize`). En la figura :vref:`fig:sol-split-1cpu` se puede -observar con claridad como, para cualquier configuración de CDGC, hay una -caída notable en el tiempo total de ejecución. Sin embargo, a excepción de -cuando se utiliza *eager allocation*, la cantidad de recolecciones y memoria -usada permanece igual. - -La utilización de *eager allocation* mejora (aunque de forma apenas -apreciable) el tiempo de ejecución, la cantidad de recolecciones baja a un -tercio y el tiempo de pausa real cae dramáticamente. Al usar marcado -concurrente ya se observa una caída determinante en el tiempo de -*stop-the-world*. Todo esto sin verse afectado el uso máximo de memoria, -incluso al usar *eager allocation*. - -Se omiten los resultados para más de un procesador por ser prácticamente -idénticos para este análisis. - ``mcore`` ^^^^^^^^^ El caso de ``mcore`` es interesante por ser, funcionalmente, una combinación @@ -2689,8 +2695,8 @@ Los efectos observados (en la figura :vref:`fig:sol-mcore-1cpu` para al ser una suma de los efectos observados para ``concpu`` y ``split``, con el agregado de una particularidad extra por la mencionada competencia entre hilos. A diferencia de ``concpu`` donde el incremento de procesadores resulta -en un decremento en el tiempo total de ejecución, en este caso resulta en una -disminución, dado que se necesita mucha sincronización entre hilos, por +en un decremento en el tiempo total de ejecución, en este caso resulta en un +incremento, dado que se necesita mucha sincronización entre hilos, por utilizar todos de forma intensiva los servicios del recolector (y por lo tanto competir por su *lock* global). @@ -2743,10 +2749,6 @@ objetos grandes y otra objetos pequeños, pero esta diferencia parece no afectar la forma en la que se comportan los cambios introducidos en este trabajo. - -Resultados para pruebas pequeñas -~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ - .. flt:: fig:sol-bh-1cpu Resultados para ``bh`` (utilizando 1 procesador) @@ -2786,6 +2788,14 @@ Resultados para pruebas pequeñas .. image:: plots/pause-bh-1cpu.pdf +.. raw:: latex + + \clearpage + + +Resultados para pruebas pequeñas +~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ + A continuación se presentan los resultados obtenidos para las pruebas pequeñas (ver :ref:`sol_bench_small`). Se recuerda que si bien este conjunto de pruebas se compone de programas reales, que efectúan una tarea útil, están diseñados @@ -2811,12 +2821,6 @@ suspicacia. Preciso 302.54 472.26 169.72 (36%) ============== ============== ============== ================= -En la figura :vref:`fig:sol-bh-1cpu` se pueden observar los resultados -para ``bh`` al utilizar un solo procesador. Ya en una prueba un poco más -realista se puede observar el efecto positivo del marcado preciso, en especial -en la cantidad de recolecciones efectuadas (aunque no se traduzca en un menor -consumo de memoria). - .. flt:: fig:sol-bisort-1cpu Resultados para ``bisort`` (utilizando 1 procesador) @@ -2856,6 +2860,12 @@ consumo de memoria). .. image:: plots/pause-bisort-1cpu.pdf +En la figura :vref:`fig:sol-bh-1cpu` se pueden observar los resultados +para ``bh`` al utilizar un solo procesador. Ya en una prueba un poco más +realista se puede observar el efecto positivo del marcado preciso, en especial +en la cantidad de recolecciones efectuadas (aunque no se traduzca en un menor +consumo de memoria). + Sin embargo se observa también un efecto nocivo del marcado preciso en el consumo de memoria que intuitivamente debería disminuir, pero crece, y de forma considerable (unas 3 veces en promedio). La razón de esta particularidad @@ -2867,6 +2877,36 @@ realmente asignada por el recolector (y la memoria desperdiciada) cuando se usa marcado conservativo y preciso. Estos valores fueron tomados usando la opción ``malloc_stats_file`` (ver :ref:`sol_stats`). +Más allá de esto, los resultados son muy similares a los obtenidos para +pruebas sintetizadas que se limitan a ejercitar el recolector (como ``bigarr`` +y ``sbtree``), lo que habla de lo mucho que también lo hace este pequeño +programa. + +No se muestran los resultados para más de un procesador por ser extremadamente +similares a los obtenidos utilizando solo uno. + +``bisort`` +^^^^^^^^^^ +La figura :vref:`fig:sol-bisort-1cpu` muestra los resultados para ``bisort`` +al utilizar 1 procesador. En este caso el parecido es con los resultados para +la prueba sintetizada ``split``, con la diferencia que el tiempo de ejecución +total prácticamente no varía entre TBGC y CDGC, ni entre las diferentes +configuraciones del último (evidentemente en este caso no se aprovecha el +caché de ``findSize()``). + +Otra diferencia notable es la considerable reducción del tiempo de pausa real +al utilizar *early collection* (más de 3 veces menor en promedio comparado +a cuando se marca de forma conservativa, y más de 2 veces menor que cuando se +hace de forma precisa), lo que indica que la predicción de cuando se va +a necesitar una recolección es más efectiva que para ``split``. + +No se muestran los resultados para más de un procesador por ser extremadamente +similares a los obtenidos utilizando solo uno. + +.. raw:: latex + + \clearpage + .. flt:: fig:sol-em3d-1cpu Resultados para ``em3d`` (utilizando 1 procesador) @@ -2906,22 +2946,15 @@ opción ``malloc_stats_file`` (ver :ref:`sol_stats`). .. image:: plots/pause-em3d-1cpu.pdf -Más allá de esto, los resultados son muy similares a los obtenidos para -pruebas sintetizadas que se limitan a ejercitar el recolector (como ``bigarr`` -y ``sbtree``), lo que habla de lo mucho que también lo hace este pequeño -programa. - -No se muestran los resultados para más de un procesador por ser extremadamente -similares a los obtenidos utilizando solo uno. +``em3d`` +^^^^^^^^ +Los resultados para ``em3d`` (figura :vref:`fig:sol-em3d-1cpu`) son +sorprendentemente similares a los de ``bisort``. La única diferencia es que en +este caso el marcado preciso y el uso de *early collection* no parecen +ayudar; por el contrario, aumentan levemente el tiempo de pausa real. -``bisort`` -^^^^^^^^^^ -La figura :vref:`fig:sol-bisort-1cpu` muestra los resultados para ``bisort`` -al utilizar 1 procesador. En este caso el parecido es con los resultados para -la prueba sintetizada ``split``, con la diferencia que el tiempo de ejecución -total prácticamente no varía entre TBGC y CDGC, ni entre las diferentes -configuraciones del último (evidentemente en este caso no se aprovecha el -caché de ``findSize()``). +Una vez más no se muestran los resultados para más de un procesador por ser +extremadamente similares a los obtenidos utilizando solo uno. .. flt:: fig:sol-tsp-1cpu @@ -2962,22 +2995,6 @@ caché de ``findSize()``). .. image:: plots/pause-tsp-1cpu.pdf -Otra diferencia notable es la considerable reducción del tiempo de pausa real -al utilizar *early collection* (más de 3 veces menor en promedio comparado -a cuando se marca de forma conservativa, y más de 2 veces menor que cuando se -hace de forma precisa), lo que indica que la predicción de cuando se va -a necesitar una recolección es más efectiva que para ``split``. - -No se muestran los resultados para más de un procesador por ser extremadamente -similares a los obtenidos utilizando solo uno. - -``em3d`` -^^^^^^^^ -Los resultados para ``em3d`` (figura :vref:`fig:sol-em3d-1cpu`) son -sorprendentemente similares a los de ``bisort``. La única diferencia es que en -este caso el marcado preciso y el uso de *early collection** no parecen -ayudar; por el contrario, aumentan levemente el tiempo de pausa real. - .. flt:: fig:sol-voronoi-1cpu Resultados para ``voronoi`` (utilizando 1 procesador) @@ -3056,9 +3073,6 @@ ayudar; por el contrario, aumentan levemente el tiempo de pausa real. .. image:: plots/pause-voronoi-4cpu.pdf -Una vez más no se muestran los resultados para más de un procesador por ser -extremadamente similares a los obtenidos utilizando solo uno. - ``tsp`` ^^^^^^^^ Los resultados para ``tsp`` (figura :vref:`fig:sol-tsp-1cpu`) son @@ -3167,6 +3181,7 @@ utilizando CDGC con la opción ``min_free=0`` se obtiene una media del orden de los 80 segundos, bastante más alta que el tiempo obtenido para TBGC. .. flt:: fig:sol-dil-4cpu + :placement: t Resultados para ``dil`` (utilizando 4 procesadores) @@ -3216,6 +3231,7 @@ memoria desperdiciada entre el modo conservativo y preciso. .. flt:: t:sol-prec-mem-dil :type: table + :placement: b Memoria pedida y asignada para ``dil`` según modo de marcado @@ -3235,11 +3251,11 @@ del *heap*; se recuerda que el *stack* y memoria estática se siguen marcado de forma conservativa, incluso en modo preciso. También se puede observar una gran disminución del tiempo total de ejecución -(cerca de un 60%, y más de un 200% comparado con TBGC) alrededor de la mitad) -al empezar a usar *eager allocation*, acompañado como es usual de una baja en -la cantidad de recolecciones realizadas (esta vez mayor, de más de 3 veces) -y de una caída drástica del tiempo de pausa real (alrededor de 40 veces más -pequeño); todo esto con un incremento marginal en el consumo total de memoria +al empezar a usar *eager allocation* (cerca de un 60%, y más de un 200% +comparado con TBGC), acompañado como es usual de una baja en la cantidad de +recolecciones realizadas (esta vez mayor, de más de 3 veces) y de una caída +drástica del tiempo de pausa real (alrededor de 40 veces más pequeño); todo +esto con un incremento marginal en el consumo total de memoria (aproximadamente un 5%). En este caso el uso de *early collection* apenas ayuda a bajar el tiempo de pausa real en un 20% en promedio aproximadamente. El tiempo de *stop-the-world* cae dramáticamente al empezar a realizar la fase @@ -3266,15 +3282,14 @@ buena recepción por parte de la comunidad a las modificaciones propuestas. Una vez agregado el marcado concurrente se hace un anuncio en el grupo de noticias que también muestra buenos comentarios y aceptación, en particular por parte de Sean Kelly, encargado de mantener el *runtime* de `D 2.0`_, que -comienza a trabajar en adaptar el recolector con idea de tal vez incluirlo en -el futuro [NGA19235]_. Poco después Sean Kelly publica una versión preliminar -de la adaptación en la lista de correos que coordina el desarrollo del -*runtime* de `D 2.0`_ [DRT117]_. - -También se ha mostrado interés de incluirlo en Tango_, aunque no se han ha -comenzado aún con la adaptación, pero debería ser trivial dado que este -trabajo se desarrolla usando Tango_ (y el recolector está basado en el de -Tango_) [TT1997]_. +comienza a trabajar en adaptar el recolector con idea de tal vez incluirlo de +manera oficial en el futuro [NGA19235]_. Poco después Sean Kelly publica una +versión preliminar de la adaptación en la lista de correos que coordina el +desarrollo del *runtime* de `D 2.0`_ [DRT117]_. + +También se ha mostrado interés de incluirlo en Tango_, por lo que se han +publicado los cambios necesarios en el sistema de seguimiento de mejoras +y se encuentran actualmente en etapa de revisión [TT1997]_. .. include:: links.rst