DOĞAL DİL ANLAMA

AMAÇ

Bu dersin amacı, doğal dilleri verimli ve güvenilir bir şekilde anlamak için sistemler ve algoritmalar geliştirmek üzere dilbilim, doğal dil işleme ve makine öğrenme yöntemlerinden teorik kavramları, yöntemleri ve algoritmaları öğretmektir. Konular arasında sözcüksel anlambilim, dağıtık anlam gösterimleri, bağlamsal dil gösterimi, büyük dil modelleri, bilgi erişimi ve Doğal Dil Anlama modellerinin ileri değerlendirmeleri, ilişki çıkarımı, anlamsal ayrıştırma, duygu analizi ve diyalog aracıları yer almaktadır. Öğrencilerin, alandaki en iyi uygulamaları takip etmeye odaklanarak doğal dil anlama alanında bir proje geliştirmeleri beklenmektedir.

İÇERİK

Bu ders; Doğal Dil Anlamaya Giriş (DDA),Metin temsilleri için matris tasarımları, ağırlıklandırma yöntemleri, uzaklıklar ve vektör karşılaştırmaları.,Boyutsallık azaltma ve temsil öğrenimi.,Dağıtılmış kelime gösterimleri,Denetimli duygu analizi,Derin Öğrenme ve Transformatörler,Bağlamsal Temsil Modelleri,Sınav haftasına Hazırlık,Büyük Dil Modelleri,Büyük dil modellerine ince ayar yapma,DDA ve Bilgi Erişim (BE) ,Temellendirilmiş dil anlayışı,Model değerlendirme yöntemleri ve metrikleri,Proje sunumları; konularını içermektedir.

1. 1

   2. Comprehend semantic and syntactic relationships among words using contextual word representation models like transformers, BERT, ELECTRA, and GPT.

   Öğretim yöntemi: Bireysel Çalışma Yöntemi, Beyin Fırtınası Tekniği · Değerlendirme: Sözlü Sınav, Proje Görevi

2. 2

   3. Construct neural information retrieval systems and retrieve specific information from texts employing both classical and neural information retrieval techniques.

   Öğretim yöntemi: Tartışma Yöntemi, Örnek Olay Yöntemi, Proje Temelli Öğrenme Modeli, Proje Temelli Öğrenme Modeli, Deneyimle Öğrenme Modeli · Değerlendirme: Klasik Yazılı Sınav, Sözlü Sınav, Kısa Sınav

3. 3

   4. Design/implement a Natural Language Understanding (NLU) research project based on your preferences.

   Öğretim yöntemi: Örnek Olay Yöntemi, Beyin Fırtınası Tekniği · Değerlendirme: Proje Görevi

4. 4

   1. Develop robust language models, machine learning systems and algorithms to understand human language effectively.

   Öğretim yöntemi: Beyin Fırtınası Tekniği · Değerlendirme: Ödev

HAFTALIK PLAN

1. HAFTA 1

   Doğal Dil Anlamaya Giriş (DDA)

2. HAFTA 2

   Metin temsilleri için matris tasarımları, ağırlıklandırma yöntemleri, uzaklıklar ve vektör karşılaştırmaları.

3. HAFTA 3

   Boyutsallık azaltma ve temsil öğrenimi.

4. HAFTA 4

   Dağıtılmış kelime gösterimleri

5. HAFTA 5

   Denetimli duygu analizi

6. HAFTA 6

   Derin Öğrenme ve Transformatörler

7. HAFTA 7

   Bağlamsal Temsil Modelleri

8. HAFTA 8

   Sınav haftasına Hazırlık

9. HAFTA 9

   Büyük Dil Modelleri

10. HAFTA 10

    Büyük dil modellerine ince ayar yapma

11. HAFTA 11

    DDA ve Bilgi Erişim (BE)

12. HAFTA 12

    Temellendirilmiş dil anlayışı

13. HAFTA 13

    Model değerlendirme yöntemleri ve metrikleri

14. HAFTA 14

    Proje sunumları

DEĞERLENDİRME

• Ara Sınavın Başarıya Oranı50%
• Genel Sınavın Başarıya Oranı50%

İŞ YÜKÜ

KAYNAKLAR

• - Dan Jurafsky and James H. Martin. Speech and Language Processing - Jacob Eisenstein. Natural Language Processing - Yoav Goldberg. A Primer on Neural Network Models for Natural Language Processing - Delip Rao and Brian McMahan. Natural Language Processing with PyTorch - Lewis Tunstall, Leandro von Werra, and Thomas Wolf. Natural Language Processing with Transformers - Seçilmiş Makaleler - NLU alanındaki son teknoloji yazılım kaynakları
• Natural Language Processing with Python, Steven Bird, Ewan Klein, and Edward Loper at http://www.nltk.org/book/

ÖĞRETİM ELEMANLARI

• Prof.Dr. Selim AKYOKUŞKOORDİNATÖR
• Prof.Dr. Selim AKYOKUŞ