La desaceleración paralela es un fenómeno en la computación paralela donde la paralelización de un algoritmo paralelo más allá de cierto punto hace que el programa se ejecute más lento (toma más tiempo para ejecutarse hasta completarse). [1]
La ralentización paralela suele ser el resultado de un cuello de botella en las comunicaciones. A medida que se agregan más nodos de procesador , cada nodo de procesamiento dedica progresivamente más tiempo a la comunicación que al procesamiento útil. En algún momento, la sobrecarga de comunicaciones creada al agregar otro nodo de procesamiento supera la potencia de procesamiento aumentada que proporciona el nodo, y se produce una desaceleración paralela.
La desaceleración paralela ocurre cuando el algoritmo requiere una comunicación significativa, particularmente de resultados intermedios. Algunos problemas, conocidos como problemas vergonzosamente paralelos , no requieren dicha comunicación y, por lo tanto, no se ven afectados por la desaceleración.
Referencias
- ↑ Kukanov, Alexey (4 de marzo de 2008). "Por qué una simple prueba puede conseguir una ralentización paralela" . Consultado el 15 de febrero de 2015 .
Ver también
- El mes del hombre mítico , una situación análoga a un equipo de programadores donde la productividad se ve afectada por la comunicación humana.