Spark On AWS Lambda

Spark runtime on AWS Lambda

Serverless ComputingOpen Source Infrastructure & CloudOpen Source

About

Le cadre Apache Spark on AWS Lambda (SoAL) est une installation autonome de Spark fonctionnant sur AWS Lambda. Spark est emballé dans un conteneur Docker, et AWS Lambda est utilisé pour exécuter l'image Spark. L'image Spark intègre un script PySpark. Lors du traitement de fichiers plus petits de moins de 500 Mo par charge utile, certains services basés sur un cluster entraînent des coûts de démarrage de la JVM. Cette stratégie basée sur des conteneurs réduit les coûts généraux associés à la mise en route de nombreux nœuds tout en traitant les données sur un seul nœud. Utilise le cadre SoAL pour des pipelines basés sur des événements avec des fichiers plus petits si tu recherches une option moins coûteuse, selon les clients.

Open Source Health

Not enough history
Stars
113
Forks
39
License
MIT-0
Last commit
1 years ago
Python

Related Categories

Tu utilises Spark On AWS Lambda ?

Suis son coût avec le reste de ton stack et reçois un rappel avant son renouvellement.

Ajouter à mon stack

Vendor

Aws Samples

Publisher of IAM Identity Center Team, Serverless Patterns and Siem On Amazon Opensearch Service

View vendor profile

More by Aws Samples