Add all language configurations

cc100.py

@@ -84,10 +84,124 @@ _CITATION = """\
 
 _VERSION = "1.0.0"
 _BASE_URL = "https://data.statmt.org/cc-100/{}.txt.xz"
-
-# Please note: due to the size of the data, only few examples are provided.
-# However, you can pass the lang parameter in config to fetch data of any language in the corpus
-_LANGUAGES = ["am", "sr", "ka"]
+_LANGUAGES = [
+    "af",
+    "am",
+    "ar",
+    "as",
+    "az",
+    "be",
+    "bg",
+    "bn",
+    "bn_rom",
+    "br",
+    "bs",
+    "ca",
+    "cs",
+    "cy",
+    "da",
+    "de",
+    "el",
+    "en",
+    "eo",
+    "es",
+    "et",
+    "eu",
+    "fa",
+    "ff",
+    "fi",
+    "fr",
+    "fy",
+    "ga",
+    "gd",
+    "gl",
+    "gn",
+    "gu",
+    "ha",
+    "he",
+    "hi",
+    "hi_rom",
+    "hr",
+    "ht",
+    "hu",
+    "hy",
+    "id",
+    "ig",
+    "is",
+    "it",
+    "ja",
+    "jv",
+    "ka",
+    "kk",
+    "km",
+    "kn",
+    "ko",
+    "ku",
+    "ky",
+    "la",
+    "lg",
+    "li",
+    "ln",
+    "lo",
+    "lt",
+    "lv",
+    "mg",
+    "mk",
+    "ml",
+    "mn",
+    "mr",
+    "ms",
+    "my",
+    "my_zaw",
+    "ne",
+    "nl",
+    "no",
+    "ns",
+    "om",
+    "or",
+    "pa",
+    "pl",
+    "ps",
+    "pt",
+    "qu",
+    "rm",
+    "ro",
+    "ru",
+    "sa",
+    "sc",
+    "sd",
+    "si",
+    "sk",
+    "sl",
+    "so",
+    "sq",
+    "sr",
+    "ss",
+    "su",
+    "sv",
+    "sw",
+    "ta",
+    "ta_rom",
+    "te",
+    "te_rom",
+    "th",
+    "tl",
+    "tn",
+    "tr",
+    "ug",
+    "uk",
+    "ur",
+    "ur_rom",
+    "uz",
+    "vi",
+    "wo",
+    "xh",
+    "yi",
+    "yo",
+    "zh-Hans",
+    "zh-Hant",
+    "zu",
+]
 
 
 class Cc100Config(datasets.BuilderConfig):