BERT (тілдік модель) - BERT (language model)

Трансформаторлардан екі бағытты кодер ұсыныстары (БЕРТ) Бұл Трансформатор - негізделген машиналық оқыту үшін техника табиғи тілді өңдеу (NLP) алдын ала дайындалған Google. BERT-ті Джейкоб Девлин және оның Google-дегі әріптестері 2018 жылы құрды және жариялады.[1][2] 2019 жылғы жағдай бойынша, Google пайдаланушылардың іздеуін жақсы түсіну үшін BERT-ті қолданды.[3]

BERT ағылшын тіліндегі түпнұсқа моделі алдын-ала дайындалған екі жалпы түрімен келеді:[1] (1) BERTНЕГІЗ модель, 12 қабатты, 768 жасырын, 12 бас, 110М параметрлі нейрондық желінің архитектурасы және (2) BERTҮлкен модель, 24 қабатты, 1024 жасырын, 16 бас, 340М параметрлі жүйке желісінің архитектурасы; екеуі де дайындалған КітаптарCorpus[4] 800M сөзімен және Ағылшын Уикипедиясы 2500M сөзбен.

Өнімділік

BERT жарияланған кезде ол қол жеткізді қазіргі даму жағдайы бірқатар бойынша орындау табиғи тілді түсіну тапсырмалар:[1]

Талдау

BERT себептері қазіргі даму жағдайы осы бойынша орындау табиғи тілді түсіну міндеттер әлі жақсы түсінілмеген.[5][6] Ағымдағы зерттеулер BERT шығарылымының мұқият таңдалған кіріс реттілігінің нәтижесі арасындағы байланысты зерттеуге бағытталған,[7][8] ішкі талдау векторлық ұсыныстар жіктеуіштерді тексеру арқылы,[9][10] және көрсетілген қатынастар назар салмақ.[5][6]

Тарих

BERT өзінің бастауын контексттік дайындыққа дейінгі дайындыққа дейін ұсынады Жартылай бақыланатын бірізділікті оқыту,[11] Алдын ала дайындық, ELMo,[12] және ULMFit.[13] Алдыңғы модельдерден айырмашылығы, BERT - бұл тек екі жақты, бақылаусыз, қарапайым мәтіндік корпустың көмегімен дайындалған тілдік көрініс. Сияқты контекстсіз модельдер word2vec немесе Сәлем лексикадағы әр сөз үшін бір сөзді ендірудің бір репрезентациясын құрыңыз, мұнда BERT берілген сөздің пайда болуының әр контекстін ескереді. Мысалы, «жүгіру» векторы «Ол компанияны басқарады» және «Ол марафон жүргізіп жатыр» сөйлемдерінде оның екі пайда болуы үшін бірдей word2vec векторлық көрінісіне ие болады, BERT контексттелген ендіруді ұсынады сөйлемге сәйкес әр түрлі.

2019 жылғы 25 қазанда, Google іздеу үшін BERT модельдерін қолдана бастағанын хабарлады ағылшын тілі ішіндегі сұраныстар АҚШ.[14] 2019 жылдың 9 желтоқсанында BERT Google Search 70-тен астам тілге қабылданғаны туралы хабарланды.[15] 2020 жылдың қазан айында ағылшын тіліндегі барлық сұраныстарды BERT өңдеді.[16]

Тану

BERT Солтүстік Америка бөлімінің 2019 жыл сайынғы конференциясында үздік ұзын қағаз сыйлығын жеңіп алды Компьютерлік лингвистика қауымдастығы (NAACL).[17]

Сондай-ақ қараңыз

Әдебиеттер тізімі

  1. ^ а б в Девлин, Джейкоб; Чанг, Мин-Вэй; Ли, Кентон; Тотанова, Кристина (11 қазан 2018). «BERT: тілді түсіну үшін терең екі бағытты трансформаторларды даярлау». arXiv:1810.04805v2 [cs.CL ].
  2. ^ «BERT ашық көздері: табиғи тілдерді өңдеуге арналған заманауи дайындық». Google AI блогы. Алынған 2019-11-27.
  3. ^ «Іздеуді бұрынғыдан да жақсы түсіну». Google. 2019-10-25. Алынған 2019-11-27.
  4. ^ Чжу, Юкун; Кирос, Райан; Земел, бай; Салахутдинов, Руслан; Уртасун, Ракель; Торралба, Антонио; Фидлер, Санья (2015). «Кітаптар мен фильмдерді туралау: фильмдер мен кітаптарды оқу арқылы оқиғаға ұқсас визуалды түсіндірмелерге». 19-27 бет. arXiv:1506.06724 [cs.CV ].
  5. ^ а б Ковалева, Ольга; Романов, Алексей; Роджерс, Анна; Румшиский, Анна (қараша 2019). «BERT-тің қара құпияларын ашу». Табиғи тілді өңдеудегі эмпирикалық әдістер жөніндегі 2019 конференциясының және табиғи тілдерді өңдеу жөніндегі 9-шы Халықаралық бірлескен конференцияның материалдары (EMNLP-IJCNLP). 4364–4373 бет. дои:10.18653 / v1 / D19-1445. S2CID  201645145.
  6. ^ а б Кларк, Кевин; Ханделвал, Урваши; Леви, Омер; Мэннинг, Кристофер Д. (2019). «BERT не қарайды? BERT назарын талдау». 2019 ACL семинарының материалдары: BlackboxNLP: NLP үшін нейрондық желілерді талдау және түсіндіру. Строудсбург, Пенсильвания, АҚШ: Компьютерлік лингвистика қауымдастығы: 276–286. дои:10.18653 / v1 / w19-4828.
  7. ^ Ханделвал, Урваши; Ол, Ол; Ци, Пенг; Джурафский, Дэн (2018). «Жақын жерде өткір, бұлыңғыр: нейрондық тіл модельдері контексті қалай қолданады». Компьютерлік лингвистика қауымдастығының 56-жылдық жиналысының материалдары (1-том: Ұзын қағаздар). Строудсбург, Пенсильвания, АҚШ: Компьютерлік лингвистика қауымдастығы: 284–294. arXiv:1805.04623. Бибкод:2018arXiv180504623K. дои:10.18653 / v1 / p18-1027. S2CID  21700944.
  8. ^ Гулордава, Кристина; Бояновский, Пиотр; Қабір, Эдуард; Линцен, Таль; Барони, Марко (2018). «Түссіз жасыл қайталанатын желілер иерархиялық түрде армандайды». Есептеу лингвистикасы қауымдастығының Солтүстік Америка тарауының 2018 жылғы конференция материалдары: Адам тілінің технологиялары, 1 том (Ұзын қағаздар). Строудсбург, Пенсильвания, АҚШ: Компьютерлік лингвистика қауымдастығы: 1195–1205. arXiv:1803.11138. Бибкод:2018arXiv180311138G. дои:10.18653 / v1 / n18-1108. S2CID  4460159.
  9. ^ Джулианелли, Марио; Хардинг, Джек; Мохнерт, Флориан; Хупкес, Диювке; Цуйдема, Виллем (2018). «Сорғыш астында: диагностикалық классификаторларды қолдану және тілдік модельдердің келісім туралы ақпаратты қадағалауын жақсарту». 2018 EMNLP семинарының материалдары: BlackboxNLP: NLP үшін нейрондық желілерді талдау және түсіндіру. Строудсбург, Пенсильвания, АҚШ: Компьютерлік лингвистика қауымдастығы: 240–248. arXiv:1808.08079. Бибкод:2018arXiv180808079G. дои:10.18653 / v1 / w18-5426. S2CID  52090220.
  10. ^ Чжан, Келли; Боуман, Сэмюэль (2018). «Тілдерді модельдеу сізге аудармадан гөрі көп нәрсені үйретеді: көмекші синтаксистік тапсырманы талдау арқылы алған сабақтар». 2018 EMNLP семинарының материалдары: BlackboxNLP: NLP үшін нейрондық желілерді талдау және түсіндіру. Строудсбург, Пенсильвания, АҚШ: Компьютерлік лингвистика қауымдастығы: 359–361. дои:10.18653 / v1 / w18-5448.
  11. ^ Дай, Эндрю; Le, Quoc (4 қараша 2015). «Жартылай бақыланатын жүйелілікпен оқыту». arXiv:1511.01432 [cs.LG ].
  12. ^ Питерс, Мэттью; Нейман, Марк; Ийер, Мохит; Гарднер, Мэтт; Кларк, Кристофер; Ли, Кентон; Люк, Цеттлемойер (15 ақпан 2018). «Терең контексттелген сөздік көріністер». arXiv:1802.05365v2 [cs.CL ].
  13. ^ Ховард, Джереми; Рудер, Себастиан (18 қаңтар 2018). «Мәтінді жіктеуге арналған әмбебап тіл моделі». arXiv:1801.06146v5 [cs.CL ].
  14. ^ Наяк, Панду (25 қазан 2019). «Іздеуді бұрынғыдан да жақсы түсіну». Google блогы. Алынған 10 желтоқсан 2019.
  15. ^ Монти, Роджер (10 желтоқсан 2019). «Google-дің BERT-і бүкіл әлемге тарайды». Іздеу жүйесі журналы. Іздеу жүйесі журналы. Алынған 10 желтоқсан 2019.
  16. ^ «Google: қазір BERT барлық ағылшын сұрауларында қолданылады». Іздеу жүйесі. 2020-10-15. Алынған 2020-11-24.
  17. ^ «Үздік қағаз марапаттары». NAACL. 2019. Алынған 28 наурыз, 2020.

Әрі қарай оқу

  • Роджерс, Анна; Ковалева, Ольга; Румшиский, Анна (2020). «BERTology-дегі праймер: BERT-тің жұмыс істеуі туралы не білеміз». arXiv:2002.12327. Журналға сілтеме жасау қажет | журнал = (Көмектесіңдер)

Сыртқы сілтемелер