JVM (embarrasingly) de procesamiento paralelo librerías / herramientas
-
22-09-2019 - |
Pregunta
Busco algo que hará que sea fácil de ejecutar (correctamente codificado) vergonzosamente paralelas código JVM en un clúster (por lo que puedo usar Clojure + embrujamiento).
He utilizado paralelo Python en el pasado para hacer esto. Tenemos un nuevo grupo de PBS y nuestro administrador pronto configurar nodos IPython que utilizan PBS como el back-end. Ambos sistemas hacen que sea casi una obviedad para ejecutar ciertos tipos de código en un clúster.
Me hizo que el error de utilizar Hadoop en el pasado (Hadoop no es adecuado para el tipo de datos que utilizo) - la latencia hizo incluso pequeñas series ejecutan durante 1-2 minutos
.es JPPF o Gridgain mejor para lo que necesito? ¿Hay alguien aquí tiene alguna experiencia con cualquiera? ¿Hay alguna otra cosa que puede recomendar?
Solución
Clojure se informó a trabajar en terracota , sujeto a algunos parches.
Otros consejos
Salida cascalog - http://github.com/nathanmarz/cascalog
Editar:
enlace de arriba no más vivo es, por lo que añadir enlace github
Le sugiero que busque en Skandium , licencias alternativas a GPL se puede negociar con los desarrolladores que lo soliciten.