Fill-Mask
Transformers
PyTorch
modernbert
Files changed (1) hide show
  1. README.md +1812 -0
README.md CHANGED
@@ -8,6 +8,1818 @@ datasets:
8
  - jhu-clsp/mmbert-pretrain-p3-others
9
  pipeline_tag: fill-mask
10
  library_name: transformers
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
11
  ---
12
 
13
  # mmBERT: A Modern Multilingual Encoder
 
8
  - jhu-clsp/mmbert-pretrain-p3-others
9
  pipeline_tag: fill-mask
10
  library_name: transformers
11
+ language:
12
+ - aai
13
+ - aak
14
+ - aau
15
+ - aaz
16
+ - aba
17
+ - abi
18
+ - abk
19
+ - abn
20
+ - abq
21
+ - abs
22
+ - abt
23
+ - abx
24
+ - aby
25
+ - abz
26
+ - aca
27
+ - acd
28
+ - ace
29
+ - acf
30
+ - ach
31
+ - acm
32
+ - acn
33
+ - acr
34
+ - acu
35
+ - ada
36
+ - ade
37
+ - adh
38
+ - adi
39
+ - adj
40
+ - adl
41
+ - ady
42
+ - adz
43
+ - aeb
44
+ - aer
45
+ - aeu
46
+ - aey
47
+ - afr
48
+ - agd
49
+ - agg
50
+ - agm
51
+ - agn
52
+ - agr
53
+ - agt
54
+ - agu
55
+ - agw
56
+ - agx
57
+ - aha
58
+ - ahk
59
+ - aia
60
+ - aii
61
+ - aim
62
+ - ain
63
+ - ajg
64
+ - aji
65
+ - ajz
66
+ - akb
67
+ - ake
68
+ - akh
69
+ - akp
70
+ - alj
71
+ - aln
72
+ - alp
73
+ - alq
74
+ - als
75
+ - alt
76
+ - aly
77
+ - alz
78
+ - ame
79
+ - amf
80
+ - amh
81
+ - ami
82
+ - amk
83
+ - amm
84
+ - amn
85
+ - amp
86
+ - amr
87
+ - amu
88
+ - amx
89
+ - ang
90
+ - anm
91
+ - ann
92
+ - anp
93
+ - anv
94
+ - any
95
+ - aoi
96
+ - aoj
97
+ - aom
98
+ - aoz
99
+ - apb
100
+ - apc
101
+ - ape
102
+ - apn
103
+ - apr
104
+ - apt
105
+ - apu
106
+ - apw
107
+ - apy
108
+ - apz
109
+ - arb
110
+ - are
111
+ - arg
112
+ - arl
113
+ - arn
114
+ - arp
115
+ - arq
116
+ - ars
117
+ - ary
118
+ - arz
119
+ - asg
120
+ - asm
121
+ - aso
122
+ - ast
123
+ - ata
124
+ - atb
125
+ - atd
126
+ - atg
127
+ - ati
128
+ - atj
129
+ - atq
130
+ - att
131
+ - auc
132
+ - aui
133
+ - auy
134
+ - ava
135
+ - avk
136
+ - avn
137
+ - avt
138
+ - avu
139
+ - awa
140
+ - awb
141
+ - awx
142
+ - ayo
143
+ - ayp
144
+ - ayr
145
+ - azb
146
+ - azg
147
+ - azj
148
+ - azz
149
+ - bak
150
+ - bam
151
+ - ban
152
+ - bao
153
+ - bar
154
+ - bas
155
+ - bav
156
+ - bba
157
+ - bbb
158
+ - bbc
159
+ - bbj
160
+ - bbk
161
+ - bbo
162
+ - bbr
163
+ - bch
164
+ - bci
165
+ - bcl
166
+ - bco
167
+ - bcw
168
+ - bdd
169
+ - bdh
170
+ - bdq
171
+ - bea
172
+ - bef
173
+ - bel
174
+ - bem
175
+ - ben
176
+ - beq
177
+ - bew
178
+ - bex
179
+ - bfd
180
+ - bfo
181
+ - bgr
182
+ - bgs
183
+ - bgt
184
+ - bgz
185
+ - bhg
186
+ - bhl
187
+ - bho
188
+ - bhp
189
+ - bhw
190
+ - bhz
191
+ - bib
192
+ - big
193
+ - bim
194
+ - bin
195
+ - bis
196
+ - biu
197
+ - biv
198
+ - bjn
199
+ - bjp
200
+ - bjr
201
+ - bjv
202
+ - bkd
203
+ - bkl
204
+ - bkq
205
+ - bku
206
+ - bkv
207
+ - bla
208
+ - blh
209
+ - blk
210
+ - blw
211
+ - blz
212
+ - bmh
213
+ - bmk
214
+ - bmq
215
+ - bmr
216
+ - bmu
217
+ - bmv
218
+ - bno
219
+ - bnp
220
+ - boa
221
+ - bod
222
+ - boj
223
+ - bom
224
+ - bon
225
+ - bos
226
+ - bov
227
+ - box
228
+ - bpr
229
+ - bps
230
+ - bpy
231
+ - bqc
232
+ - bqj
233
+ - bqp
234
+ - bre
235
+ - brh
236
+ - bru
237
+ - brx
238
+ - bsc
239
+ - bsn
240
+ - bsp
241
+ - bsq
242
+ - bss
243
+ - btd
244
+ - bth
245
+ - bts
246
+ - btt
247
+ - btx
248
+ - bud
249
+ - bug
250
+ - buk
251
+ - bul
252
+ - bum
253
+ - bus
254
+ - bvc
255
+ - bvd
256
+ - bvr
257
+ - bvz
258
+ - bwd
259
+ - bwi
260
+ - bwq
261
+ - bwu
262
+ - bxh
263
+ - bxr
264
+ - byr
265
+ - byv
266
+ - byx
267
+ - bzd
268
+ - bzh
269
+ - bzi
270
+ - bzj
271
+ - caa
272
+ - cab
273
+ - cac
274
+ - caf
275
+ - cag
276
+ - cak
277
+ - cao
278
+ - cap
279
+ - caq
280
+ - car
281
+ - cas
282
+ - cat
283
+ - cav
284
+ - cax
285
+ - cbc
286
+ - cbi
287
+ - cbk
288
+ - cbr
289
+ - cbs
290
+ - cbt
291
+ - cbu
292
+ - cbv
293
+ - cce
294
+ - cco
295
+ - ccp
296
+ - ceb
297
+ - ceg
298
+ - cek
299
+ - ces
300
+ - cfm
301
+ - cgc
302
+ - cgg
303
+ - cha
304
+ - chd
305
+ - che
306
+ - chf
307
+ - chj
308
+ - chk
309
+ - cho
310
+ - chq
311
+ - chr
312
+ - chu
313
+ - chv
314
+ - chw
315
+ - chz
316
+ - cjk
317
+ - cjo
318
+ - cjp
319
+ - cjs
320
+ - cjv
321
+ - ckb
322
+ - cko
323
+ - ckt
324
+ - cle
325
+ - clu
326
+ - cly
327
+ - cme
328
+ - cmn
329
+ - cmo
330
+ - cmr
331
+ - cnh
332
+ - cni
333
+ - cnk
334
+ - cnl
335
+ - cnt
336
+ - cnw
337
+ - coe
338
+ - cof
339
+ - cok
340
+ - con
341
+ - cop
342
+ - cor
343
+ - cos
344
+ - cot
345
+ - cou
346
+ - cpa
347
+ - cpb
348
+ - cpc
349
+ - cpu
350
+ - cpy
351
+ - crh
352
+ - crj
353
+ - crk
354
+ - crl
355
+ - crm
356
+ - crn
357
+ - crs
358
+ - crt
359
+ - crx
360
+ - csb
361
+ - csk
362
+ - cso
363
+ - csw
364
+ - csy
365
+ - cta
366
+ - ctd
367
+ - cto
368
+ - ctp
369
+ - ctu
370
+ - cub
371
+ - cuc
372
+ - cui
373
+ - cuk
374
+ - cul
375
+ - cut
376
+ - cux
377
+ - cwe
378
+ - cwt
379
+ - cya
380
+ - cym
381
+ - czt
382
+ - daa
383
+ - dad
384
+ - daf
385
+ - dag
386
+ - dah
387
+ - dak
388
+ - dan
389
+ - dar
390
+ - ddg
391
+ - ddn
392
+ - ded
393
+ - des
394
+ - deu
395
+ - dga
396
+ - dgc
397
+ - dgi
398
+ - dgr
399
+ - dgz
400
+ - dhg
401
+ - dhm
402
+ - dhv
403
+ - did
404
+ - dig
405
+ - dik
406
+ - diq
407
+ - dis
408
+ - diu
409
+ - div
410
+ - dje
411
+ - djk
412
+ - djr
413
+ - dks
414
+ - dln
415
+ - dng
416
+ - dnj
417
+ - dnw
418
+ - dob
419
+ - doi
420
+ - dop
421
+ - dos
422
+ - dow
423
+ - drg
424
+ - dru
425
+ - dsb
426
+ - dtb
427
+ - dtp
428
+ - dts
429
+ - dty
430
+ - dua
431
+ - due
432
+ - dug
433
+ - duo
434
+ - dur
435
+ - dwr
436
+ - dww
437
+ - dyi
438
+ - dyo
439
+ - dyu
440
+ - dzo
441
+ - ebk
442
+ - efi
443
+ - eka
444
+ - ekk
445
+ - eko
446
+ - ell
447
+ - emi
448
+ - eml
449
+ - emp
450
+ - enb
451
+ - enl
452
+ - enm
453
+ - enq
454
+ - enx
455
+ - epo
456
+ - eri
457
+ - ese
458
+ - esi
459
+ - esk
460
+ - ess
461
+ - esu
462
+ - eto
463
+ - etr
464
+ - etu
465
+ - eus
466
+ - eve
467
+ - ewe
468
+ - ewo
469
+ - ext
470
+ - eza
471
+ - faa
472
+ - fad
473
+ - fai
474
+ - fal
475
+ - fan
476
+ - fao
477
+ - far
478
+ - fas
479
+ - fat
480
+ - ffm
481
+ - fij
482
+ - fil
483
+ - fin
484
+ - fit
485
+ - fkv
486
+ - fmu
487
+ - fon
488
+ - for
489
+ - fra
490
+ - frd
491
+ - fro
492
+ - frp
493
+ - frr
494
+ - fry
495
+ - fub
496
+ - fud
497
+ - fue
498
+ - fuf
499
+ - fuh
500
+ - fuq
501
+ - fur
502
+ - fuv
503
+ - gaa
504
+ - gag
505
+ - gah
506
+ - gai
507
+ - gam
508
+ - gaw
509
+ - gaz
510
+ - gbi
511
+ - gbo
512
+ - gbr
513
+ - gcf
514
+ - gcr
515
+ - gde
516
+ - gdg
517
+ - gdn
518
+ - gdr
519
+ - geb
520
+ - gej
521
+ - gfk
522
+ - ghs
523
+ - gid
524
+ - gil
525
+ - giz
526
+ - gjn
527
+ - gkn
528
+ - gla
529
+ - gle
530
+ - glg
531
+ - glk
532
+ - glv
533
+ - gmh
534
+ - gmv
535
+ - gna
536
+ - gnb
537
+ - gnd
538
+ - gng
539
+ - gnn
540
+ - gnw
541
+ - goa
542
+ - gof
543
+ - gog
544
+ - goh
545
+ - gom
546
+ - gor
547
+ - gos
548
+ - got
549
+ - gqr
550
+ - grc
551
+ - grt
552
+ - gso
553
+ - gsw
554
+ - gub
555
+ - guc
556
+ - gud
557
+ - gug
558
+ - guh
559
+ - gui
560
+ - guj
561
+ - guk
562
+ - gul
563
+ - gum
564
+ - gun
565
+ - guo
566
+ - guq
567
+ - gur
568
+ - guu
569
+ - guw
570
+ - gux
571
+ - guz
572
+ - gvc
573
+ - gvf
574
+ - gvl
575
+ - gvn
576
+ - gwi
577
+ - gwr
578
+ - gya
579
+ - gym
580
+ - gyr
581
+ - hac
582
+ - hae
583
+ - hag
584
+ - hak
585
+ - hat
586
+ - hav
587
+ - haw
588
+ - hay
589
+ - hbo
590
+ - hch
591
+ - heb
592
+ - heg
593
+ - heh
594
+ - her
595
+ - hif
596
+ - hig
597
+ - hil
598
+ - hin
599
+ - hix
600
+ - hla
601
+ - hmo
602
+ - hmr
603
+ - hne
604
+ - hnj
605
+ - hnn
606
+ - hns
607
+ - hop
608
+ - hot
609
+ - hra
610
+ - hrv
611
+ - hrx
612
+ - hsb
613
+ - hto
614
+ - hub
615
+ - hui
616
+ - hun
617
+ - hus
618
+ - huu
619
+ - huv
620
+ - hvn
621
+ - hwc
622
+ - hye
623
+ - hyw
624
+ - ian
625
+ - iba
626
+ - ibg
627
+ - ibo
628
+ - icr
629
+ - ido
630
+ - idu
631
+ - ifa
632
+ - ifb
633
+ - ife
634
+ - ifk
635
+ - ifu
636
+ - ify
637
+ - ige
638
+ - ign
639
+ - ike
640
+ - ikk
641
+ - ikt
642
+ - ikw
643
+ - ilb
644
+ - ile
645
+ - ilo
646
+ - imo
647
+ - ina
648
+ - inb
649
+ - ind
650
+ - inh
651
+ - ino
652
+ - iou
653
+ - ipi
654
+ - iqw
655
+ - iri
656
+ - irk
657
+ - iry
658
+ - isd
659
+ - ish
660
+ - isl
661
+ - iso
662
+ - ita
663
+ - itv
664
+ - ium
665
+ - ivb
666
+ - ivv
667
+ - iws
668
+ - ixl
669
+ - izr
670
+ - izz
671
+ - jaa
672
+ - jac
673
+ - jae
674
+ - jam
675
+ - jav
676
+ - jbo
677
+ - jbu
678
+ - jic
679
+ - jiv
680
+ - jmc
681
+ - jpn
682
+ - jra
683
+ - jun
684
+ - jvn
685
+ - kaa
686
+ - kab
687
+ - kac
688
+ - kak
689
+ - kal
690
+ - kam
691
+ - kan
692
+ - kao
693
+ - kaq
694
+ - kas
695
+ - kat
696
+ - kaz
697
+ - kbc
698
+ - kbd
699
+ - kbh
700
+ - kbm
701
+ - kbo
702
+ - kbp
703
+ - kbq
704
+ - kbr
705
+ - kby
706
+ - kca
707
+ - kcg
708
+ - kck
709
+ - kdc
710
+ - kde
711
+ - kdh
712
+ - kdi
713
+ - kdj
714
+ - kdl
715
+ - kdr
716
+ - kea
717
+ - kei
718
+ - kek
719
+ - ken
720
+ - keo
721
+ - ker
722
+ - kew
723
+ - kez
724
+ - kff
725
+ - kgf
726
+ - kgk
727
+ - kgp
728
+ - kgr
729
+ - kha
730
+ - khk
731
+ - khm
732
+ - khs
733
+ - khz
734
+ - kia
735
+ - kij
736
+ - kik
737
+ - kin
738
+ - kir
739
+ - kiu
740
+ - kix
741
+ - kjb
742
+ - kje
743
+ - kjh
744
+ - kjs
745
+ - kkc
746
+ - kki
747
+ - kkj
748
+ - kkl
749
+ - kle
750
+ - klt
751
+ - klv
752
+ - kmb
753
+ - kmg
754
+ - kmh
755
+ - kmk
756
+ - kmm
757
+ - kmo
758
+ - kmr
759
+ - kms
760
+ - kmu
761
+ - kmy
762
+ - knc
763
+ - kne
764
+ - knf
765
+ - kng
766
+ - knj
767
+ - knk
768
+ - kno
769
+ - knv
770
+ - knx
771
+ - kny
772
+ - kog
773
+ - koi
774
+ - koo
775
+ - kor
776
+ - kos
777
+ - kpe
778
+ - kpf
779
+ - kpg
780
+ - kpj
781
+ - kpq
782
+ - kpr
783
+ - kpv
784
+ - kpw
785
+ - kpx
786
+ - kpz
787
+ - kqc
788
+ - kqe
789
+ - kqf
790
+ - kql
791
+ - kqn
792
+ - kqo
793
+ - kqp
794
+ - kqs
795
+ - kqw
796
+ - kqy
797
+ - krc
798
+ - kri
799
+ - krj
800
+ - krl
801
+ - kru
802
+ - krx
803
+ - ksb
804
+ - ksc
805
+ - ksd
806
+ - ksf
807
+ - ksh
808
+ - ksj
809
+ - ksp
810
+ - ksr
811
+ - kss
812
+ - ksw
813
+ - ktb
814
+ - ktj
815
+ - ktm
816
+ - kto
817
+ - ktu
818
+ - ktz
819
+ - kua
820
+ - kub
821
+ - kud
822
+ - kue
823
+ - kuj
824
+ - kum
825
+ - kup
826
+ - kus
827
+ - kvg
828
+ - kvj
829
+ - kvn
830
+ - kwd
831
+ - kwf
832
+ - kwi
833
+ - kwj
834
+ - kwn
835
+ - kwy
836
+ - kxc
837
+ - kxm
838
+ - kxw
839
+ - kyc
840
+ - kyf
841
+ - kyg
842
+ - kyq
843
+ - kyu
844
+ - kyz
845
+ - kze
846
+ - kzf
847
+ - kzj
848
+ - lac
849
+ - lad
850
+ - lai
851
+ - laj
852
+ - lam
853
+ - lao
854
+ - lap
855
+ - lat
856
+ - lbb
857
+ - lbe
858
+ - lbj
859
+ - lbk
860
+ - lcm
861
+ - lcp
862
+ - ldi
863
+ - ldn
864
+ - lee
865
+ - lef
866
+ - leh
867
+ - lem
868
+ - leu
869
+ - lew
870
+ - lex
871
+ - lez
872
+ - lfn
873
+ - lgg
874
+ - lgl
875
+ - lgm
876
+ - lhi
877
+ - lhu
878
+ - lia
879
+ - lid
880
+ - lif
881
+ - lij
882
+ - lim
883
+ - lin
884
+ - lip
885
+ - lis
886
+ - lit
887
+ - liv
888
+ - ljp
889
+ - lki
890
+ - llb
891
+ - lld
892
+ - llg
893
+ - lln
894
+ - lmk
895
+ - lmo
896
+ - lmp
897
+ - lnd
898
+ - lob
899
+ - loe
900
+ - log
901
+ - lok
902
+ - lol
903
+ - lom
904
+ - loq
905
+ - loz
906
+ - lrc
907
+ - lsi
908
+ - lsm
909
+ - ltg
910
+ - ltz
911
+ - lua
912
+ - lub
913
+ - luc
914
+ - lud
915
+ - lue
916
+ - lug
917
+ - lun
918
+ - luo
919
+ - lus
920
+ - lvs
921
+ - lwg
922
+ - lwo
923
+ - lww
924
+ - lzh
925
+ - maa
926
+ - mad
927
+ - maf
928
+ - mag
929
+ - mah
930
+ - mai
931
+ - maj
932
+ - mak
933
+ - mal
934
+ - mam
935
+ - maq
936
+ - mar
937
+ - mas
938
+ - mau
939
+ - mav
940
+ - maw
941
+ - maz
942
+ - mbb
943
+ - mbc
944
+ - mbd
945
+ - mbf
946
+ - mbh
947
+ - mbi
948
+ - mbj
949
+ - mbl
950
+ - mbs
951
+ - mbt
952
+ - mca
953
+ - mcb
954
+ - mcd
955
+ - mcf
956
+ - mck
957
+ - mcn
958
+ - mco
959
+ - mcp
960
+ - mcq
961
+ - mcu
962
+ - mda
963
+ - mdf
964
+ - mdy
965
+ - med
966
+ - mee
967
+ - mej
968
+ - mek
969
+ - men
970
+ - meq
971
+ - mer
972
+ - met
973
+ - meu
974
+ - mev
975
+ - mfe
976
+ - mfg
977
+ - mfh
978
+ - mfi
979
+ - mfk
980
+ - mfq
981
+ - mfy
982
+ - mfz
983
+ - mgc
984
+ - mgh
985
+ - mgo
986
+ - mgr
987
+ - mhi
988
+ - mhl
989
+ - mhr
990
+ - mhw
991
+ - mhx
992
+ - mhy
993
+ - mib
994
+ - mic
995
+ - mie
996
+ - mif
997
+ - mig
998
+ - mih
999
+ - mil
1000
+ - mim
1001
+ - min
1002
+ - mio
1003
+ - mip
1004
+ - miq
1005
+ - mir
1006
+ - mit
1007
+ - miy
1008
+ - miz
1009
+ - mjc
1010
+ - mjw
1011
+ - mkd
1012
+ - mkl
1013
+ - mkn
1014
+ - mks
1015
+ - mkz
1016
+ - mlh
1017
+ - mlp
1018
+ - mlt
1019
+ - mlu
1020
+ - mmn
1021
+ - mmo
1022
+ - mmx
1023
+ - mna
1024
+ - mnb
1025
+ - mnf
1026
+ - mni
1027
+ - mnk
1028
+ - mns
1029
+ - mnw
1030
+ - mnx
1031
+ - mny
1032
+ - moa
1033
+ - moc
1034
+ - mog
1035
+ - moh
1036
+ - mop
1037
+ - mor
1038
+ - mos
1039
+ - mox
1040
+ - mpg
1041
+ - mph
1042
+ - mpm
1043
+ - mpp
1044
+ - mps
1045
+ - mpt
1046
+ - mpx
1047
+ - mqb
1048
+ - mqj
1049
+ - mqy
1050
+ - mrg
1051
+ - mri
1052
+ - mrj
1053
+ - mrq
1054
+ - mrv
1055
+ - mrw
1056
+ - msb
1057
+ - msc
1058
+ - mse
1059
+ - msk
1060
+ - msy
1061
+ - mta
1062
+ - mtg
1063
+ - mti
1064
+ - mto
1065
+ - mtp
1066
+ - mua
1067
+ - mug
1068
+ - muh
1069
+ - mui
1070
+ - mup
1071
+ - mur
1072
+ - mus
1073
+ - mux
1074
+ - muy
1075
+ - mva
1076
+ - mvn
1077
+ - mvp
1078
+ - mwc
1079
+ - mwf
1080
+ - mwl
1081
+ - mwm
1082
+ - mwn
1083
+ - mwp
1084
+ - mwq
1085
+ - mwv
1086
+ - mww
1087
+ - mxb
1088
+ - mxp
1089
+ - mxq
1090
+ - mxt
1091
+ - mxv
1092
+ - mya
1093
+ - myb
1094
+ - myk
1095
+ - myu
1096
+ - myv
1097
+ - myw
1098
+ - myx
1099
+ - myy
1100
+ - mza
1101
+ - mzh
1102
+ - mzk
1103
+ - mzl
1104
+ - mzm
1105
+ - mzn
1106
+ - mzw
1107
+ - mzz
1108
+ - nab
1109
+ - naf
1110
+ - nah
1111
+ - nak
1112
+ - nap
1113
+ - naq
1114
+ - nas
1115
+ - nav
1116
+ - naw
1117
+ - nba
1118
+ - nbc
1119
+ - nbe
1120
+ - nbl
1121
+ - nbq
1122
+ - nbu
1123
+ - nca
1124
+ - nch
1125
+ - ncj
1126
+ - ncl
1127
+ - ncq
1128
+ - nct
1129
+ - ncu
1130
+ - ncx
1131
+ - ndc
1132
+ - nde
1133
+ - ndh
1134
+ - ndi
1135
+ - ndj
1136
+ - ndo
1137
+ - nds
1138
+ - ndz
1139
+ - neb
1140
+ - new
1141
+ - nfa
1142
+ - nfr
1143
+ - ngb
1144
+ - ngc
1145
+ - ngl
1146
+ - ngp
1147
+ - ngu
1148
+ - nhd
1149
+ - nhe
1150
+ - nhg
1151
+ - nhi
1152
+ - nhk
1153
+ - nho
1154
+ - nhr
1155
+ - nhu
1156
+ - nhw
1157
+ - nhx
1158
+ - nhy
1159
+ - nia
1160
+ - nif
1161
+ - nii
1162
+ - nij
1163
+ - nim
1164
+ - nin
1165
+ - nio
1166
+ - niu
1167
+ - niy
1168
+ - njb
1169
+ - njm
1170
+ - njn
1171
+ - njo
1172
+ - njz
1173
+ - nkf
1174
+ - nko
1175
+ - nld
1176
+ - nlg
1177
+ - nma
1178
+ - nmf
1179
+ - nmh
1180
+ - nmo
1181
+ - nmw
1182
+ - nmz
1183
+ - nnb
1184
+ - nng
1185
+ - nnh
1186
+ - nnl
1187
+ - nno
1188
+ - nnp
1189
+ - nnq
1190
+ - nnw
1191
+ - noa
1192
+ - nob
1193
+ - nod
1194
+ - nog
1195
+ - non
1196
+ - nop
1197
+ - not
1198
+ - nou
1199
+ - nov
1200
+ - nph
1201
+ - npi
1202
+ - npl
1203
+ - npo
1204
+ - npy
1205
+ - nqo
1206
+ - nre
1207
+ - nrf
1208
+ - nri
1209
+ - nrm
1210
+ - nsa
1211
+ - nse
1212
+ - nsm
1213
+ - nsn
1214
+ - nso
1215
+ - nss
1216
+ - nst
1217
+ - nsu
1218
+ - ntp
1219
+ - ntr
1220
+ - ntu
1221
+ - nuj
1222
+ - nus
1223
+ - nuy
1224
+ - nvm
1225
+ - nwb
1226
+ - nwi
1227
+ - nwx
1228
+ - nxd
1229
+ - nya
1230
+ - nyf
1231
+ - nyk
1232
+ - nyn
1233
+ - nyo
1234
+ - nyu
1235
+ - nyy
1236
+ - nza
1237
+ - nzi
1238
+ - nzm
1239
+ - obo
1240
+ - oci
1241
+ - ogo
1242
+ - ojb
1243
+ - oke
1244
+ - oku
1245
+ - okv
1246
+ - old
1247
+ - olo
1248
+ - omb
1249
+ - omw
1250
+ - ong
1251
+ - ons
1252
+ - ood
1253
+ - opm
1254
+ - orv
1255
+ - ory
1256
+ - oss
1257
+ - ota
1258
+ - otd
1259
+ - ote
1260
+ - otm
1261
+ - otn
1262
+ - oto
1263
+ - otq
1264
+ - ots
1265
+ - otw
1266
+ - oym
1267
+ - ozm
1268
+ - pab
1269
+ - pad
1270
+ - pag
1271
+ - pah
1272
+ - pam
1273
+ - pan
1274
+ - pao
1275
+ - pap
1276
+ - pau
1277
+ - pbb
1278
+ - pbc
1279
+ - pbi
1280
+ - pbt
1281
+ - pcd
1282
+ - pck
1283
+ - pcm
1284
+ - pdc
1285
+ - pdt
1286
+ - pem
1287
+ - pfe
1288
+ - pfl
1289
+ - phm
1290
+ - pib
1291
+ - pio
1292
+ - pir
1293
+ - pis
1294
+ - pjt
1295
+ - pkb
1296
+ - plg
1297
+ - pls
1298
+ - plt
1299
+ - plu
1300
+ - plw
1301
+ - pma
1302
+ - pmf
1303
+ - pmq
1304
+ - pms
1305
+ - pmx
1306
+ - pnb
1307
+ - pne
1308
+ - pnt
1309
+ - pny
1310
+ - poe
1311
+ - poh
1312
+ - poi
1313
+ - pol
1314
+ - pon
1315
+ - por
1316
+ - pos
1317
+ - pot
1318
+ - pov
1319
+ - poy
1320
+ - ppk
1321
+ - ppo
1322
+ - pps
1323
+ - prf
1324
+ - prg
1325
+ - pri
1326
+ - prq
1327
+ - pse
1328
+ - pss
1329
+ - ptp
1330
+ - ptu
1331
+ - pui
1332
+ - pwg
1333
+ - pwn
1334
+ - pww
1335
+ - pxm
1336
+ - qub
1337
+ - quc
1338
+ - quf
1339
+ - qug
1340
+ - quh
1341
+ - qul
1342
+ - qup
1343
+ - qus
1344
+ - quw
1345
+ - quy
1346
+ - quz
1347
+ - qva
1348
+ - qvc
1349
+ - qve
1350
+ - qvh
1351
+ - qvi
1352
+ - qvm
1353
+ - qvn
1354
+ - qvo
1355
+ - qvs
1356
+ - qvw
1357
+ - qvz
1358
+ - qwh
1359
+ - qxh
1360
+ - qxl
1361
+ - qxn
1362
+ - qxo
1363
+ - qxr
1364
+ - rad
1365
+ - rai
1366
+ - rap
1367
+ - rar
1368
+ - rav
1369
+ - raw
1370
+ - rcf
1371
+ - rej
1372
+ - rel
1373
+ - rgu
1374
+ - rhg
1375
+ - ria
1376
+ - rim
1377
+ - rjs
1378
+ - rkb
1379
+ - rmc
1380
+ - rme
1381
+ - rml
1382
+ - rmn
1383
+ - rmo
1384
+ - rmq
1385
+ - rmy
1386
+ - rnd
1387
+ - rng
1388
+ - rnl
1389
+ - roh
1390
+ - ron
1391
+ - roo
1392
+ - rop
1393
+ - row
1394
+ - rro
1395
+ - rtm
1396
+ - rub
1397
+ - rue
1398
+ - ruf
1399
+ - rug
1400
+ - run
1401
+ - rup
1402
+ - rus
1403
+ - rwo
1404
+ - sab
1405
+ - sag
1406
+ - sah
1407
+ - san
1408
+ - sas
1409
+ - sat
1410
+ - sba
1411
+ - sbd
1412
+ - sbe
1413
+ - sbl
1414
+ - sbs
1415
+ - sby
1416
+ - sck
1417
+ - scn
1418
+ - sco
1419
+ - sda
1420
+ - sdc
1421
+ - sdh
1422
+ - sdo
1423
+ - sdq
1424
+ - seh
1425
+ - ses
1426
+ - sey
1427
+ - sfw
1428
+ - sgb
1429
+ - sgc
1430
+ - sgh
1431
+ - sgs
1432
+ - sgw
1433
+ - sgz
1434
+ - shi
1435
+ - shk
1436
+ - shn
1437
+ - shp
1438
+ - shu
1439
+ - sid
1440
+ - sig
1441
+ - sil
1442
+ - sim
1443
+ - sin
1444
+ - sja
1445
+ - sjo
1446
+ - sju
1447
+ - skg
1448
+ - skr
1449
+ - sld
1450
+ - slk
1451
+ - sll
1452
+ - slv
1453
+ - sma
1454
+ - sme
1455
+ - smj
1456
+ - smk
1457
+ - sml
1458
+ - smn
1459
+ - smo
1460
+ - sms
1461
+ - smt
1462
+ - sna
1463
+ - snc
1464
+ - snd
1465
+ - snf
1466
+ - snn
1467
+ - snp
1468
+ - snw
1469
+ - sny
1470
+ - soe
1471
+ - som
1472
+ - sop
1473
+ - soq
1474
+ - sot
1475
+ - soy
1476
+ - spa
1477
+ - spl
1478
+ - spm
1479
+ - spp
1480
+ - sps
1481
+ - spy
1482
+ - srd
1483
+ - sri
1484
+ - srm
1485
+ - srn
1486
+ - srp
1487
+ - srq
1488
+ - srr
1489
+ - ssd
1490
+ - ssg
1491
+ - ssw
1492
+ - ssx
1493
+ - stn
1494
+ - stp
1495
+ - stq
1496
+ - sua
1497
+ - suc
1498
+ - sue
1499
+ - suk
1500
+ - sun
1501
+ - sur
1502
+ - sus
1503
+ - suz
1504
+ - swb
1505
+ - swc
1506
+ - swe
1507
+ - swg
1508
+ - swh
1509
+ - swk
1510
+ - swp
1511
+ - sxb
1512
+ - sxn
1513
+ - syb
1514
+ - syc
1515
+ - syl
1516
+ - szl
1517
+ - szy
1518
+ - tab
1519
+ - tac
1520
+ - tah
1521
+ - taj
1522
+ - tam
1523
+ - tap
1524
+ - taq
1525
+ - tar
1526
+ - tat
1527
+ - tav
1528
+ - taw
1529
+ - tay
1530
+ - tbc
1531
+ - tbg
1532
+ - tbk
1533
+ - tbl
1534
+ - tbo
1535
+ - tbw
1536
+ - tby
1537
+ - tbz
1538
+ - tca
1539
+ - tcc
1540
+ - tcf
1541
+ - tcs
1542
+ - tcy
1543
+ - tcz
1544
+ - ted
1545
+ - tee
1546
+ - tel
1547
+ - tem
1548
+ - teo
1549
+ - ter
1550
+ - tet
1551
+ - tew
1552
+ - tfr
1553
+ - tgk
1554
+ - tgo
1555
+ - tgp
1556
+ - tha
1557
+ - thk
1558
+ - thl
1559
+ - tif
1560
+ - tig
1561
+ - tih
1562
+ - tik
1563
+ - tim
1564
+ - tir
1565
+ - tiv
1566
+ - tiy
1567
+ - tke
1568
+ - tkl
1569
+ - tkr
1570
+ - tku
1571
+ - tlb
1572
+ - tlf
1573
+ - tlh
1574
+ - tlj
1575
+ - tll
1576
+ - tly
1577
+ - tmc
1578
+ - tmd
1579
+ - tna
1580
+ - tnc
1581
+ - tnk
1582
+ - tnn
1583
+ - tnp
1584
+ - tnr
1585
+ - tob
1586
+ - toc
1587
+ - tod
1588
+ - tog
1589
+ - toh
1590
+ - toi
1591
+ - toj
1592
+ - tok
1593
+ - ton
1594
+ - too
1595
+ - top
1596
+ - tos
1597
+ - tpa
1598
+ - tpi
1599
+ - tpm
1600
+ - tpp
1601
+ - tpt
1602
+ - tpw
1603
+ - tpz
1604
+ - tqo
1605
+ - trc
1606
+ - trn
1607
+ - tro
1608
+ - trp
1609
+ - trq
1610
+ - trs
1611
+ - trv
1612
+ - tsc
1613
+ - tsg
1614
+ - tsn
1615
+ - tso
1616
+ - tsw
1617
+ - tsz
1618
+ - ttc
1619
+ - tte
1620
+ - ttj
1621
+ - ttq
1622
+ - tuc
1623
+ - tue
1624
+ - tuf
1625
+ - tui
1626
+ - tuk
1627
+ - tul
1628
+ - tum
1629
+ - tuo
1630
+ - tur
1631
+ - tuv
1632
+ - tvk
1633
+ - tvl
1634
+ - twi
1635
+ - twu
1636
+ - twx
1637
+ - txq
1638
+ - txu
1639
+ - tyv
1640
+ - tzh
1641
+ - tzj
1642
+ - tzl
1643
+ - tzm
1644
+ - tzo
1645
+ - ubr
1646
+ - ubu
1647
+ - udm
1648
+ - udu
1649
+ - uig
1650
+ - ukr
1651
+ - umb
1652
+ - upv
1653
+ - ura
1654
+ - urb
1655
+ - urd
1656
+ - urh
1657
+ - uri
1658
+ - urk
1659
+ - urt
1660
+ - urw
1661
+ - ury
1662
+ - usa
1663
+ - usp
1664
+ - uth
1665
+ - uvh
1666
+ - uvl
1667
+ - uzn
1668
+ - uzs
1669
+ - vag
1670
+ - vap
1671
+ - var
1672
+ - vec
1673
+ - ven
1674
+ - vep
1675
+ - vid
1676
+ - vie
1677
+ - viv
1678
+ - vls
1679
+ - vmk
1680
+ - vmw
1681
+ - vmy
1682
+ - vol
1683
+ - vot
1684
+ - vro
1685
+ - vun
1686
+ - vut
1687
+ - waj
1688
+ - wal
1689
+ - wap
1690
+ - war
1691
+ - wat
1692
+ - way
1693
+ - wba
1694
+ - wbm
1695
+ - wbp
1696
+ - wed
1697
+ - wer
1698
+ - wes
1699
+ - wew
1700
+ - whg
1701
+ - whk
1702
+ - wib
1703
+ - wim
1704
+ - wiu
1705
+ - wln
1706
+ - wls
1707
+ - wlv
1708
+ - wlx
1709
+ - wmt
1710
+ - wmw
1711
+ - wnc
1712
+ - wnu
1713
+ - wob
1714
+ - wol
1715
+ - wos
1716
+ - wrk
1717
+ - wrs
1718
+ - wsg
1719
+ - wsk
1720
+ - wuu
1721
+ - wuv
1722
+ - wwa
1723
+ - xal
1724
+ - xav
1725
+ - xbi
1726
+ - xbr
1727
+ - xed
1728
+ - xho
1729
+ - xla
1730
+ - xmf
1731
+ - xmm
1732
+ - xmv
1733
+ - xnn
1734
+ - xog
1735
+ - xon
1736
+ - xrb
1737
+ - xsb
1738
+ - xsi
1739
+ - xsm
1740
+ - xsr
1741
+ - xsu
1742
+ - xtd
1743
+ - xtm
1744
+ - xtn
1745
+ - xuo
1746
+ - yaa
1747
+ - yad
1748
+ - yal
1749
+ - yam
1750
+ - yan
1751
+ - yao
1752
+ - yap
1753
+ - yaq
1754
+ - yat
1755
+ - yaz
1756
+ - ybb
1757
+ - yby
1758
+ - ycn
1759
+ - ydd
1760
+ - yim
1761
+ - yka
1762
+ - yle
1763
+ - yli
1764
+ - yml
1765
+ - yom
1766
+ - yon
1767
+ - yor
1768
+ - yrb
1769
+ - yre
1770
+ - yrk
1771
+ - yrl
1772
+ - yss
1773
+ - yua
1774
+ - yue
1775
+ - yuj
1776
+ - yup
1777
+ - yut
1778
+ - yuw
1779
+ - yuz
1780
+ - yva
1781
+ - zaa
1782
+ - zab
1783
+ - zac
1784
+ - zad
1785
+ - zae
1786
+ - zai
1787
+ - zam
1788
+ - zao
1789
+ - zar
1790
+ - zas
1791
+ - zat
1792
+ - zav
1793
+ - zaw
1794
+ - zca
1795
+ - zdj
1796
+ - zea
1797
+ - zgh
1798
+ - zia
1799
+ - ziw
1800
+ - zne
1801
+ - zom
1802
+ - zos
1803
+ - zpa
1804
+ - zpc
1805
+ - zpg
1806
+ - zpi
1807
+ - zpj
1808
+ - zpl
1809
+ - zpm
1810
+ - zpo
1811
+ - zpq
1812
+ - zpt
1813
+ - zpu
1814
+ - zpv
1815
+ - zpz
1816
+ - zsm
1817
+ - zsr
1818
+ - ztq
1819
+ - zty
1820
+ - zul
1821
+ - zyb
1822
+ - zyp
1823
  ---
1824
 
1825
  # mmBERT: A Modern Multilingual Encoder