Dolma

Data and tools for generating and inspecting OLMo pre-training data.

LLM-OrchestrierungOpen Source KI & Maschinelles LernenOpen Source

Über

Dolma ist ein offenes Dataset mit 3 Billionen Tokens aus einer vielfältigen Mischung von Webinhalten, akademischen Publikationen, Code, Büchern und Enzyklopädie-Materialien. Es wurde als Trainingskorpus für OLMo, ein Sprachmodell des Allen Institute for AI (AI2), erstellt.

Nutzt du Dolma?

Behalte die Kosten neben dem Rest deines Stacks im Blick und lass dich vor der Verlängerung erinnern.

Zu meinem Stack hinzufügen

Open-source health

Stars
1,543
Forks
202
License
Apache-2.0
Last commit
2 months ago
Python

Verwandte Kategorien

Anbieter

Allenai

Publisher of Dont Stop Pretraining, Objaverse Xl and Procthor

Vendor-Profil anzeigen

Mehr von Allenai