Finetune DistilBERT on the SQuAD dataset for extractive question answering

Я прошел раздел Fine-tuning a pretrained model в рамках Hugging Face Course. В конце раздела предлагается углубить знания с помощью: - 🤗 Transformers task guides for specific NLP tasks - 🤗 Transformers examples for comprehensive notebooks

Меня интересует Question Answering (QA)

Question Answering

QA tasts return an answer given a question. There are two common types of question answering tasks. The difference between them в том как именно формируется ответ.

Extractive QA (извлекающие)

Модели не придумывают формулировку, а находят и “вырезают” фрагмент текста прямо из представленного контекста

Abstractive QA (абстрактивное)

Модель генерирует ответ своими словами, опираясь на контекст.