Ulasan MOOC: Sequence Models – oleh Andrew Ng (deeplearning.ai) via Coursera

Judul/Tautan

Sequence Models

Kursus ini adalah kursus kelima/terakhir dari program Deep Learning Specialization di Coursera. Lihat ulasan kursus pertama, kedua, ketiga, dan keempat.

Oleh

Prof. Andrew Ng – deeplearning.ai

Penilaian Saya

 (4/5)

Format

Kursus online (MOOC) dengan kuis interaktif dan tugas pemrograman.

Tingkat

Menengah

Biaya

Kursus ini merupakan bagian dari program Deep Learning Specialization, yang biayanya $49 per bulan sampai selesai.

Durasi

• 3 minggu dengan rata-rata komitmen 4 jam per minggu.
• Bisa diselesaikan dalam 3 hari atau kurang dengan komitmen penuh

Tahun Pembuatan

Akhir 2017

Penilaian oleh Situs Lain

Coursera:        (rating 4.8/5.0 oleh 3,450 murid) (lihat review)

Persyaratan

• Sebaiknya Anda mengikuti kursus-kursus sebelumnya di program spesialisasi ini. Lihat:
  1. Ulasan MOOC: Neural Networks and Deep Learning
  2. Ulasan MOOC: Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization
  3. Ulasan MOOC: Structuring Machine Learning Projects
  4. Ulasan MOOC: Convolutional Neural Networks

Lingkup Materi

Kursus ini mengajarkan tentang sequence model, yaitu pemrosesan pada input yang berurutan, misalnya pemrosesan bahasa alami (NLP), audio, atau data sekuensial lainnya.

Kursus ini dibagi dalam tiga modul, masing-masing modul untuk tiap minggu:

1. RNN
   RNN adalah model deep learning yang utama untuk memroses data sekuensial. Pada modul ini dijelaskan novitasi dan intuisi dari RNN, dan jenis-jenis RNN misalnya LSTM, GRU, bidirectional RNN, dan deep RNN. Kita diberikan teori yang cukup dalam mulai formula matematis sampai bagaimana mengimplementasikannya dari dasar dengan bermodal Numpy saja, tapi hanya sebatas pada forward propagation. Untuk backward propagation-nya tidak diajarkan, karena diasumsikan kita nanti akan menggunakan framework ML untuk implementasi RNN kita, sehingga kita tidak perlu memikirkan backward propagation lagi.
2. NLP and Word Embeddings
   Modul ini tentang pemrosesan bahasa alami dengan teknik popular yang disebut word embeddings, yaitu teknik untuk menghubungkan makna antar kata (misalnya apel, jeruk, dan durian adalah sama-sama jenis buah). Teknik word embeddings yang dikenalkan adalah Word2vec, dan GloVe. Di sini lebih diajarkan tentang intuisi dan pengenalannya saja agar murid dapat mengerti apa dan bagaimana memakai teknik tersebut. Bagi yang ingin mempelajari lebih lanjut, di tiap topik ditunjukkan makalah apa yang menjadi dasar utama topik yang sedang diajarkan.
3. Sequence models & Attention mechanism
   Pengenalan beberapa model pemrosesan data urutan ke urutan (sequence to sequence) seperti encoder-decoder dan attention model, dan beberapa teknik menarik di dalamnya seperti beam search, dan pengenalan aplikasi selain NLP misalnya pada speech recognition dan trigger word detection. Sama seperti pada modul sebelumnya, di sini lebih diajarkan tentang intuisi dan pengenalannya saja agar murid dapat mengerti apa dan bagaimana memakai teknik tersebut, dan selanjutnya praktek dengan menggunakan framework (Keras).

Rating untuk lingkup materi: 

Pengajaran

•  Spesialisasi dari Prof Ng adalah membuat materi belajar yang sulit menjadi mudah dan tidak menakutkan. Gaya mengajar Prof Ng membuat kursus ini mudah untuk diikuti.

Rating untuk pengajaran: 

Pemrograman

• Minggu 1:
  • RNN – step by step dengan memakai Numpy
  • LSTM untuk sintesa musik dengan menggunakan Keras
• Minggu 2:
  • Penggunaan Word2vec dan bagaimana menghilangkan bias. Menggunakan Numpy.
  • Sentiment analysis sederhana dengan menggunakan Numpy, dan yang lebih cangging dengan menggunakan LSTM dengan Keras.
• Minggu 3:
  • Penerjemahan bahasa dengan teknik attention.
  • Deteksi suara tigger word (trigger word detection) dengan menggunakan Keras

Secara umum tugas yang diberikan dalam pemrograman adalah topik-topik yang cukup populer sehingga cukup bermanfaat dan bisa kita pakai nantinya. Kalau ada kritik dari saya, saya mengharapkan mungkin ada sedikit tutorial tentang Keras untuk lebih membantu pengerjaan tugasnya.

Rating untuk pemrograman: (4/5)

Dukungan

• Ada forum untuk diskusi dan isinya cukup aktif namun diskusinya lebih banyak antara murid-murid sendiri, karena sangat sedikit mentor yang aktif. Mungkin karena jumlah mentornya sendiri masih sedikit.

Rating untuk dukungan: 

Kesimpulan

Dari segi pembelajaran RNN, kursus ini cukup bagus untuk belajar teori (matematis dan pemrograman) LSTM dan GRU dari dasar, tapi mungkin ada beberapa bagian yang kurang jelas sehingga Anda perlu referensi lain.

Dari segi aplikasi, pengenalan pemakaian pada pemrosesan bahasa alami (NLP) dan pemrosesan audio cukup berguna untuk pengenalan pemakaian deep learning pada bidang-bidang ini dan tugas pemrogramannya bisa kita pakai sebagai modal kalau nanti kita terjun ke bidang ini.

Secara umum menurut saya kursus ini sangat baik. Setelah mengikuti kursus ini, saya mengerti tentang banyak hal yang berhubungan dengan RNN dan penggunaan deep learning pada NLP dan pemrosesan audio. Praktek pemrogramannya lumayan, tapi tentunya diharapkan kita harus lebih banyak praktek lagi agar bisa benar-benar mengerti bidang ini.