Datasets:
text stringlengths 250 44.8k | lang stringclasses 1
value | score float32 2.06 10 |
|---|---|---|
Abram het toe met sy vrou, al hulle besittings en Lot, Egipte verlaat en noordwaarts na die Negev getrek.
Abram was baie ryk aan lewende hawe, silwer en goud.
Hulle het van plek tot plek deur die Negev getrek op pad na Bet-El toe, na die plek tussen Bet-El en Ai, waar hy voorheen kamp opgeslaan het.
Dis die plek waar A... | afr | 7 |
Die Here het vir Noag gesê: Jy en jou gesin moet in die ark ingaan, want onder al die mense op die aarde is dit jy alleen wat opreg lewe.
Jy moet ook sewe mannetjies en sewe wyfies van elke diersoort wat Ek goedgekeur het as geskik om te eet en te offer saamvat. Neem ook een mannetjie en een wyfie uit elk van die ander... | afr | 7 |
Maar God het gedink aan Noag en al die mense en diere by hom in die ark. Hy het n sterk wind oor die water laat waai en die watervloed het begin afneem.
Die onderaardse waterbronne het opgehou om uit te borrel en die stortreën het bedaar.
Geleidelik het die vloedwaters gesak. Na dae het die watervlak só gesak.
dat die ... | afr | 7 |
So is die skepping van die hemel en die aarde en alles wat daarin is, voltooi.
Op die sewende dag was God klaar met alles wat Hy gemaak het en Hy het op die sewende dag na al sy werk gerus.
God het ook die sewende dag geseën. Hy het bepaal dat dit afgesonder moet word van die ander dae omdat Hy op daardie dag gerus het... | afr | 7 |
Die volgende is n lys van die nakomelinge van Noag se drie seuns, Sem, Gam en Jafet, ná die vloed.
Die nageslag van Jafet was Gomer, Magog, die Mediërs, die Grieke, Tubal, Mesek en Tiras.
Die nageslag van Gomer was Askenas, Rifat en Togarma.
Die nageslag van die Grieke was Elisa, Tarsis, die Kittiërs en die Rodaners .
... | afr | 7 |
Die volgende is n lys van Adam se afstammelinge. Toe God mense geskep het, het Hy hulle na sy beeld gemaak.
Hy het hulle manlik en vroulik gemaak. Hy het hulle toe mens genoem en hulle geseën.
Toe Adam jaar oud was, is sy seun Set gebore. Hy was die ewebeeld van sy pa.
Ná die geboorte van Set het Adam nog jaar gelewe. ... | afr | 7 |
Mettertyd het die mense op die aarde baie vermeerder. Daar is ook dogters vir hulle gebore.
Die godeseuns het opgemerk hoe mooi die dogters van die mense was. Hulle het van hulle as vroue gekies.
Toe sê die Here : My gees sal nie vir altyd in die mensdom wees nie, want hulle is sterflik. Voortaan sal hulle leeftyd hoog... | afr | 7 |
Daar was n tyd toe die hele wêreld net een taal gepraat het en dieselfde woorde gebruik het.
Soos wat die mense se woongebied ooswaarts uitgebrei het, het hulle op n vlakte in die land Sinar afgekom en daar gaan woon.
Na n tyd het hulle vir mekaar gesê: Kom ons maak stene wat goed gebak is. Hulle gebruik toe stene in p... | afr | 7 |
Omtrent hierdie tyd het daar oorlog in die omgewing uitgebreek. Koning Amrafel van Sinar , koning Arjok van Ellasar, koning Kedorlaomer van Elam en koning Tidal van Gojim.
het opgetrek teen koning Bera van Sodom, koning Birsa van Gomorra, koning Sinab van Adma, koning Semeber van Sebojim en die koning van Bela .
Die ko... | afr | 7 |
Maar Sarai, Abram se vrou, het nog geen kinders gehad nie. Sarai het n Egiptiese slavin gehad met die naam Hagar.
Sarai sê toe vir Abram: Die Here het my nie toegelaat om kinders te hê nie. Gaan slaap by my slavin. Dalk kan sy n kind in die wêreld bring wat ek as my eie kan beskou. Abram het hiermee ingestem.
So het Sa... | afr | 7 |
Daarna het die Here in n visioen aan Abram verskyn en vir hom gesê: Moenie bang wees nie, Abram, want Ek sal jou beskerm en jou beloning sal groot wees.
Maar Abram het geantwoord: Oppermagtige Here , wat beteken al u seëninge as ek nie eers n seun het nie? Daarom sal Eliëser van Damaskus my erfgenaam word.
U het my gee... | afr | 7 |
Die slang was listiger as al die diere wat die Here God gemaak het. Is dit regtig so? vra hy vir die vrou. Het God regtig gesê julle mag niks van die vrugte in die tuin eet nie.
Natuurlik mag ons van die vrugte eet, sê die vrou.
Dis net van die vrugte van die boom in die middel van die tuin wat ons nie mag eet nie of s... | afr | 7 |
God het Noag en sy seuns geseën en vir hulle gesê: Julle moet meer word deur baie kinders te hê en so die aarde te vul.
Al die diere, groot en klein, asook al die voëls en visse sal vir julle bang wees. Ek stel hulle tot julle beskikking.
Benewens die groen plante mag julle hulle ook eet.
Maar geen dier mag geëet word ... | afr | 7 |
In die begin het God die ganse heelal geskep , die hemel daarbo en die aarde hieronder.
Maar die aarde was n vormlose, onbewoonbare massa, en die diep waters was toegevou in duisternis. Die Gees van God het oor die oppervlakte van die water gesweef.
Toe beveel God: Laat daar lig wees! en dit was so.
Die lig was vir God... | afr | 7 |
Die mens het by sy vrou, Eva, geslaap en sy het swanger geword. Sy het geboorte gegee aan Kain . Sy sê toe: Met die hulp van die Here het ek n man voortgebring.
Daarna het sy geboorte gegee aan sy broer Abel . Toe hulle groot was, het Abel n veeboer geword en Kain n landbouer.
Toe oestyd aanbreek, het Kain uit die opbr... | afr | 7 |
Die Here het vir Abram gesê: Trek weg uit jou land, weg van jou familie en jou ouerhuis en gaan na die land wat Ek jou sal aanwys.
Ek sal jou die voorvader maak van n groot nasie. Ek sal jou seën sodat jy geëerd sal wees, en vir ander tot n seën sal wees.
Ek sal dié seën wat jou seën en dié wat jou vervloek, sal Ek ver... | afr | 7 |
Toe Abram jaar oud was, het die Here weer aan hom verskyn en gesê: Ek is God die Almagtige. Lewe in my teenwoordigheid en wees opreg.
Ek sal my verbond met jou maak en jy sal n groot nasie word.
Toe Abram dit hoor, val hy met sy gesig op die grond. God sê toe vir hom:.
Dit is my verbond wat Ek met jou sluit: Jy sal die... | afr | 7 |
Die Here het weer by die groot bome van Mamre aan Abraham verskyn. Terwyl Abraham so in die middel van die dag by die ingang van sy tent sit.
sien hy skielik drie mans daar naby staan. Hy het opgestaan, vinnig na hulle toe gestap en hulle verwelkom deur diep te buig.
Menere, het hy gesê, doen my n guns en vertoef n bie... | afr | 7 |
Daardie aand het die twee engele by Sodom aangekom. Lot het juis in die poort van Sodom gesit. Toe hy hulle sien, het hy opgestaan om hulle te ontmoet. Hy het hulle verwelkom en laag voor hulle gebuig.
Menere, sê hy, kom gerus saam na my huis toe. Daar kan u u voete was en my gaste vir die nag wees. Môre-oggend kan u w... | afr | 7 |
Abraham het suidwaarts na die Negev getrek en n tyd lank tussen Kades en Sur gewoon. Toe hy in Gerar gewoon het.
het hy daar rond vir die mense vertel dat sy vrou Sara sy suster is. Koning Abimelek van Gerar laat haar toe haal om met haar te trou.
In die nag verskyn God toe in n droom aan Abimelek en sê vir hom: Jy spe... | afr | 7 |
Isak roep toe vir Jakob. Hy seën hom en sê: Jy moenie met enige van hierdie Kanaänitiese vroue trou nie.
Gaan eerder na Paddan-Aram toe, na die huis van jou oupa Betuel, en trou met een van jou oom Laban se dogters.
Mag God die Almagtige jou seën en vir jou baie kinders gee. Mag Hy jou n groot nasie maak.
Jy en jou nag... | afr | 7 |
Na n tyd wou God Abraham toets. Abraham! roep God. Hier is ek, antwoord Abraham.
God sê vir hom: Neem jou seun, jou enigste seun, ja, vir Isak wat jy so liefhet, en gaan na die land Moria. Offer hom daar as brandoffer op een van die berge wat Ek jou sal wys.
Die volgende oggend het Abraham vroeg opgestaan. Hy het sy do... | afr | 7 |
Die Here het vir Sara gesorg en sy belofte aan haar nagekom.
Sara het swanger geword en vir Abraham in sy ouderdom n seun gegee. Dit het gebeur op die bestemde tyd soos God beloof het.
Abraham het sy seun Isak genoem.
Agt dae ná Isak se geboorte het Abraham hom besny soos God hom beveel het.
Abraham was toe jaar oud.
S... | afr | 7 |
n Swaar hongersnood het weer die land getref, soos in die tyd van Abraham. Daarom het Isak verskuif na Gerar waar Abimelek, die koning van die Filistyne, gewoon het.
Daar verskyn die Here aan Isak en sê: Moenie Egipte toe gaan nie. Bly hier waar Ek vir jou sê.
Bly in hierdie land as n uitlander. Ek sal met jou wees en ... | afr | 7 |
Abraham het weer getrou. Die vrou se naam was Ketura.
Sy het vir hom die volgende kinders in die wêreld gebring: Simran, Joksan, Medan, Midian, Jisbak en Suag.
Joksan se twee seuns was Skeba en Dedan. Die inwoners van Assur, Letus en Leüm was die nageslag van Dedan.
Midian se seuns was: Efa, Efer, Ganok, Abida en Eldaä... | afr | 7 |
Toe Sara jaar oud was.
is sy by Kirjat-Arba dood. Dit is Hebron in die land Kanaän. Abraham het daar gerou en oor haar gehuil.
Hy het haar lyk net so gelaat, na die leiers van die Hetiete toe gegaan en gesê:.
Ek is maar n vreemdeling onder julle. Verkoop asseblief aan my n stuk grond waar ek my vrou kan begrawe.
Die He... | afr | 7 |
Toe Isak baie oud was en blind begin word het, roep hy Esau, die oudste seun, en sê: My seun. Hier is ek, antwoord Esau.
Ek is reeds n ou man, sê Isak. Ek kan enige dag sterf.
Vat jou boog en pylkoker, gaan veld toe en skiet vir my n wildsbok.
Maak die vleis gaar soos ek daarvan hou en bring dit vir my om te eet. Dan s... | afr | 7 |
Toe Ragel besef dat sy nie kinders kan kry nie, het sy jaloers geword op haar suster. As jy my nie kinders gee nie, sal ek sterf! sê sy vir Jakob.
Jakob het baie kwaad geword vir Ragel. Is ek dan God? vra hy. Hy verhoed dat jy kinders kry.
Ragel sê toe vir hom: Gaan slaap by my slavin Bilha. Sy sal namens my vir jou n ... | afr | 7 |
Jakob het sy reis voortgesit en engele van God het hom tegemoetgekom.
Toe Jakob hulle sien, roep hy uit: Dit is God se leër! Hy het toe die plek Maganajim genoem.
Hierna stuur Jakob boodskappers na sy broer Esau in Edom, in die landstreek Seïr.
Hy sê vir hulle: Gee die volgende boodskap vir my meneer, my broer Esau: Gr... | afr | 7 |
Teen hierdie tyd was Abraham n baie ou man. Die Here het hom op alle terreine geseën.
Op n dag sê hy vir die oudste slaaf wat oor sy huishouding aangestel is: Kom sit jou hand hier.
en lê n eed af by die Here , die God van die hemel en die aarde, dat jy nie sal toelaat dat my seun met een van hierdie plaaslike Kanaänit... | afr | 7 |
Jakob het agtergekom dat Laban se seuns hom beskinder. Jakob het ons pa se goed gesteel! het hulle gesê. Al sy rykdom het hy ten koste van ons pa bekom.
Jakob het ook opgemerk dat Laban se gesindheid teenoor hom verander het.
Toe sê die Here vir Jakob: Gaan terug na die land van jou herkoms en na jou familie toe. Ek sa... | afr | 7 |
Jakob het sy reis voortgesit en uiteindelik in die land van die mense in die ooste aangekom.
Op n afstand sien hy toe onverwags n put in die veld en tot sy verbasing sien hy ook drie troppe kleinvee wat daar lê en wag om te drink! n Swaar klip was oor die opening van die put.
Dit was die gebruik om te wag totdat al die... | afr | 7 |
Toe Jakob opkyk, sien hy vir Esau en sy man aankom. Jakob verdeel toe die kinders tussen Lea, Ragel en die twee slavinvroue.
Hy plaas sy twee slavinvroue met hulle kinders heel voor, Lea en haar kinders agter hulle en heel laaste Ragel en Josef.
Jakob self het heel voor gaan staan en sewe keer laag voor Esau gebuig.
Ma... | afr | 7 |
Op n dag het Dina, Jakob se dogter by Lea, by die jong vroue van die omgewing gaan kuier.
Maar toe Sigem haar sien, het hy haar gegryp en haar verkrag. Sigem was die seun van Gamor, heerser van die gebied en n Hewiet.
Hy het haar egter begin liefkry en haar toegeneentheid probeer wen.
Hy praat toe met sy pa daaroor. Kr... | afr | 7 |
God sê toe vir Jakob: Trek verder en gaan woon by Bet-El. Bou daar vir My n altaar. Ek is die God wat aan jou verskyn het toe jy destyds weggevlug het van jou broer Esau af.
Jakob beveel toe almal in sy huishouding: Raak ontslae van julle afgodsbeelde, was julle en trek skoon klere aan.
Ons gaan nou na Bet-El toe waar ... | afr | 7 |
Die Ismaelitiese handelaars het vir Josef Egipte toe gebring. Daar het Potifar, n amptenaar van die farao en hoof van die lyfwag, hom by hulle gekoop.
Die Here was met Josef sodat dit met hom goed gegaan het in die huis van sy Egiptiese meester.
Toe Potifar dit raaksien en besef die Here is met Josef aangesien hy sukse... | afr | 7 |
In hierdie tyd het Juda van sy broers af weggetrek na Adullam toe. Daar het hy by n man met die naam Gira uitgekom.
Daar ontmoet hy n Kanaänitiese vrou met die naam Bat-Sua en trou met haar.
Sy het swanger geraak en geboorte gegee aan n seun wat Juda Er genoem het.
Daarna het sy weer n seuntjie in die wêreld gebring en... | afr | 7 |
Jakob het hom weer in die land Kanaän gaan vestig waar sy pa gewoon het.
Nou volg die familiegeskiedenis van Jakob. Toe Josef sewentien jaar oud was, het hy dikwels sy pa se troppe vee opgepas saam met sy halfbroers, die seuns van sy pa se vroue Bilha en Silpa. Josef het by sy pa nuus aangedra oor die verkeerde dinge w... | afr | 7 |
Hier volg die familieregister van die afstammelinge van Esau .
Esau het met twee Kanaänitiese meisies getrou. Dit was Ada, dogter van Elon die Hetiet, en Oholibama, die dogter van Ana en kleindogter van Sibon die Hewiet.
Hy het ook getrou met sy niggie Basemat, dogter van Ismael en die suster van Nebajot.
Esau en Ada s... | afr | 7 |
Na n tyd het die hoof van die koning se skinkers en die hoof van sy bakkers teen hom oortree.
Die farao was baie ontevrede met die twee amptenare.
en het hulle in dieselfde tronk gegooi waar Josef was. Dit was die tronk van die hoof van Farao se lyfwag.
Die hoof van die lyfwag het Josef aangestel om hulle te bedien. To... | afr | 7 |
Daar was geen verligting van die vreeslike hongersnood wat in die gebied geheers het nie.
Toe die graan wat hulle van Egipte af gebring het, begin opraak, het Jakob vir sy seuns gesê: Gaan terug en koop weer vir ons n bietjie kos.
Maar Juda sê: Pa, die man het ons ernstig gewaarsku: Ek wil julle nie weer sien as julle ... | afr | 7 |
Jakob het gehoor dat daar in Egipte graan te koop was. Hy sê toe vir sy seuns: Hoekom staan en kyk julle vir mekaar?.
Ek het gehoor daar is graan in Egipte. Gaan soontoe en koop vir ons daarvan sodat ons kan oorleef, anders sal ons van die honger doodgaan.
Josef se tien oudste broers het toe na Egipte vertrek om daar g... | afr | 7 |
Toe kon Josef dit nie meer voor al sy personeel uithou nie. Gaan uit, almal van julle! beveel hy hulle. Daar was niemand anders teenwoordig toe Josef hom aan sy broers bekendstel nie.
Toe bars hy in trane uit. Hy het so hard gehuil dat die Egiptenaars dit gehoor het en ook die mense in die farao se paleis.
Ek is Josef!... | afr | 7 |
Toe die broers gereed was om te gaan, gee Josef bevel aan die bestuurder van sy huis: Maak al die sakke vol met soveel graan moontlik en sit elke man se geld weer terug in sy sak.
My silwerbeker moet jy bo in die sak van die jongste een sit saam met die geld wat hy vir die graan betaal het. Die bestuurder het net so ge... | afr | 7 |
Jakob het met al sy besittings die reis na Egipte aangepak. Toe hy Berseba bereik, bring hy offers aan die God van Isak, sy pa.
In die nag het God in n visioen met hom gepraat. Jakob! Jakob! het Hy geroep. Ek luister, antwoord Jakob.
Toe sê God: Ek is God, die God van jou pa. Moenie bang wees om Egipte toe te gaan nie,... | afr | 7 |
Kort hierna hoor Josef dat sy pa vinnig agteruitgaan. Hy het hom besoek en sy twee seuns, Manasse en Efraim, saamgeneem.
Toe Jakob hoor dat Josef daar aangekom het, gebruik hy al sy kragte om regop in die bed te sit.
Jakob sê vir Josef: God die Allerhoogste het in Lus in die land Kanaän aan my verskyn en my geseën.
Hy ... | afr | 7 |
Josef het na die farao toe gegaan en aan hom gerapporteer: My pa en my broers is hier van Kanaän af. Hulle het met al hulle kleinvee en grootvee en ander besittings gekom en is nou in die Gosenstreek.
Josef het vyf van sy broers met hom saamgeneem en hulle aan die farao voorgestel.
Die farao vra vir hulle: Wat is julle... | afr | 7 |
Jakob roep toe al sy seuns bymekaar en sê: Kom staan hier om my sodat ek julle kan vertel wat in die toekoms met julle sal gebeur.
Kom luister, seuns van Jakob; luister na Israel, julle vader.
Ruben, jy is my oudste seun, die kind van my kragtige jeug, die vernaamste en die sterkste.
Jy is onstuimig soos die golwe van ... | afr | 7 |
Josef het op sy pa geval en gehuil terwyl hy hom soen.
Daarna sê Josef vir sy dokters om die lyk te balsem.
Hierdie proses het dae geneem en was deel van die dae waartydens die hele Egipte oor Jakob gerou het.
Ná die routyd praat Josef met die farao se raadgewers en vra dat hulle namens hom met die farao sal praat.
Hy ... | afr | 7 |
Jakob se seuns en hulle gesinne het saam met hom na Egipte toe gegaan. Hulle was.
Ruben, Simeon, Levi, Juda.
Issaskar, Sebulon, Benjamin.
Dan, Naftali, Gad en Aser.
Josef was toe alreeds in Egipte. Jakob het op daardie stadium alreeds nasate gehad.
Josef en sy broers en daardie hele geslag is met verloop van tyd dood.
... | afr | 7 |
In hierdie tyd het n man uit die stam van Levi met n vrou uit dieselfde stam getrou.
Die vrou het verwag en n seun in die wêreld gebring. Toe sy sien hoe mooi hy is, het sy hom vir drie maande lank weggesteek.
Toe sy hom nie langer kon wegsteek nie, het sy n mandjie van riet gevat en dit met klei en pik waterdig gemaak... | afr | 7 |
Moses het sy skoonpa, Jetro, se skape opgepas. Jetro was een van die priesters van Midian. Moses het al dieper in die woestyn inbeweeg en by Horeb uitgekom. Dit is die berg van God.
Skielik het die engel van God aan hom verskyn in n vlam wat in n bos brand. Moses was verwonderd, want die bos het aanhou brand, maar dit ... | afr | 7 |
Nadat hulle met die leiers gepraat het, het Moses en Aäron na die farao gegaan. Hulle sê toe vir hom: Hoor wat sê die Here , die God van Israel: Jy moet my volk toelaat om in die woestyn vir My n fees te gaan hou.
Maar die farao spot toe en vra: Wie is hierdie Here nogal dat ek na hom moet luister om Israel te laat gaa... | afr | 7 |
Toe sê die Here vir Moses: Nou gaan jy sien wat Ek met die farao gaan doen. Ek gaan hom dwing om my volk te laat gaan. Hy sal selfs by hulle aandring om pad te gee uit sy land.
Die Here het verder vir Moses gesê: Ek is die Here .
Ek het My aan Abraham, Isak en Jakob voorgestel as God die Almagtige. Hulle het My nie gek... | afr | 7 |
SabiYarn pretrain-new
12,442,028 cleaned, de-duplicated documents in 22 African languages. This is the text behind other_african_pretrain.bin, the third
training bin of the SabiYarn MoE (about 306M parameters) pretraining mix. It is also the monolingual source of the RL translation
prompts in BeardedMonster/africomet-translation.
Fields
| field | meaning |
|---|---|
text |
one document |
lang |
language code, also the folder under data/ |
score |
quality score on a 0-10 scale from the source where the source has one (HPLT's document score); otherwise a fixed default. Rank within a source, not across sources |
Documents per language
| code | language | documents |
|---|---|---|
| afr | Afrikaans | 3,882,735 |
| swh | Swahili | 2,874,225 |
| som | Somali | 2,312,797 |
| zul | Zulu | 678,090 |
| hau | Hausa | 508,484 |
| xho | Xhosa | 450,318 |
| kin | Kinyarwanda | 407,246 |
| sot | Sesotho | 249,178 |
| sna | Shona | 240,333 |
| nya | Chichewa | 206,468 |
| ibo | Igbo | 127,490 |
| orm | Oromo | 125,546 |
| yor | Yoruba | 117,298 |
| twi | Twi | 85,759 |
| pcm | Nigerian Pidgin | 53,114 |
| tsn | Setswana | 49,001 |
| ewe | Ewe | 40,376 |
| wol | Wolof | 17,392 |
| efi | Efik | 8,125 |
| fon | Fon | 5,693 |
| ibb | Ibibio | 1,183 |
| urh | Urhobo | 1,177 |
A language with more than 8M candidate documents keeps the longest ones. Languages under 100k documents were only de-duplicated exactly: near-duplicate removal would have discarded too much of a small corpus.
How it was built
- Sources (streamed, never stored in full): HPLT 3.0 and FinePDFs (best quality bins first); AfriSpeech
africa-corpusandafrican-corpus-jw(scripture and jw.org text); Wikipedia and Wikipedia-monthly (only for the twelve languages added later:afr kin nya orm sna som sot swh tsn wol xho zul); MADLAD-400, WURA, GlotCC and Masakhane news for the legacy and news passes; speech-corpus transcripts (never audio) for the lowest-resource languages; and a few language-specific corpora found by a wide Hub sweep. - Date rule. Data created on or after 2025-08-01 for the original languages and on or after 2021-05-01 for the twelve added languages,
apart from datasets the owner named explicitly (
African-Languages-Lab/multi-open,AfriSpeech/africa-corpus,nthakur/swim-ir-cross-lingual,sentence-transformers/parallel-sentences-opus-100). - No non-commercial licences. CC-BY-NC and CC-BY-NC-SA sources were removed. The jw.org text is included at the owner's explicit instruction; its copyright is not cleared.
- No model-written text unless a quality column can measure it.
- Cleaning. NFC normalisation; control characters, URLs, e-mail addresses and phone numbers removed; boilerplate lines (cookie banners, share buttons, "read more") dropped; per-language minimum length (150-250 characters, 25-40 words); language checked by GlotLID on sampled lines; exact and near-duplicate (shared paragraph) removal against everything already kept for the language.
- Not stored: per-document provenance. Source licences differ, so the dataset as a whole is only as permissive as its most restrictive source.
Being added
BeardedMonster/lrln, monolingual, Aletheia-ng/pidgin-corpus-synth, yoruba-corpus-synth, yo_wiki_processed, Glot500-swahili,
polynews-swahili, naijaweb, naijaweb-edu, naijaweb-edu2, text_ratings and the pretraining shards of BeardedMonster/data-gen
(data/<lang>/add-*.parquet). Some of these are model-written (the *-synth sets); they were named explicitly by the owner.
Use and limits
Pretraining a small multilingual model. Web text carries web biases (religion, politics, sport and news are over-represented); the Bible-derived languages (Efik, Ibibio, Urhobo, Fon) are dominated by scripture and by jw.org. Personal data is only scrubbed for URLs, e-mail addresses and phone numbers.
- Downloads last month
- 99