LLM Course documentation
အပိုင်း ၂ ထုတ်ပြန်ခြင်း အခမ်းအနား
အပိုင်း ၂ ထုတ်ပြန်ခြင်း အခမ်းအနား
သင်တန်းရဲ့ အပိုင်း ၂ ထွက်ရှိမှုအတွက် ကျွန်တော်တို့ဟာ fine-tuning sprint မတိုင်ခင် နှစ်ရက်တာ ဟောပြောပွဲတွေနဲ့ live event တစ်ခုကို စီစဉ်ခဲ့ပါတယ်။ သင်လွဲချော်ခဲ့ရင်၊ အောက်မှာ ဖော်ပြထားတဲ့ ဟောပြောပွဲအားလုံးကို ပြန်ကြည့်နိုင်ပါတယ်။
ရက် ၁- Transformers များနှင့် ၎င်းတို့ကို လေ့ကျင့်နည်း အဆင့်မြင့်ခြုံငုံသုံးသပ်ချက်
Thomas Wolf: Transfer Learning နှင့် Transformers library ၏ မွေးဖွားခြင်း

Thomas Wolf သည် Hugging Face ၏ ပူးတွဲတည်ထောင်သူနှင့် Chief Science Officer ဖြစ်သည်။ Thomas Wolf နှင့် Hugging Face အဖွဲ့မှ ဖန်တီးထားသော ကိရိယာများကို Facebook Artificial Intelligence Research၊ Google Research၊ DeepMind၊ Amazon Research၊ Apple၊ Allen Institute for Artificial Intelligence အပါအဝင် သုတေသနအဖွဲ့အစည်း ၅,၀၀၀ ကျော်နှင့် တက္ကသိုလ်ဌာန အများစုတွင် အသုံးပြုကြသည်။ Thomas Wolf သည် Artificial Intelligence နယ်ပယ်တွင် ယခင်က မရှိခဲ့ဖူးသော အကြီးဆုံး သုတေသနပူးပေါင်းဆောင်ရွက်မှုဖြစ်သည့် “BigScience” ကို စတင်သူနှင့် အကြီးတန်းဥက္ကဋ္ဌဖြစ်သလို၊ ကျယ်ပြန့်စွာ အသုံးပြုနေကြသော libraries များနှင့် ကိရိယာများ ကိုလည်း ဖန်တီးသူဖြစ်သည်။ Thomas Wolf သည် ထူးချွန်သော ပညာပေးသူတစ်ဦး၊ Artificial Intelligence နှင့် Natural Language Processing နယ်ပယ်၏ အတွေးခေါင်းဆောင်တစ်ဦး၊ နှင့် ကမ္ဘာတစ်ဝန်းရှိ ညီလာခံများသို့ ပုံမှန်ဖိတ်ကြားခံရသော ဟောပြောသူတစ်ဦးလည်း ဖြစ်သည်။ https://thomwolf.io။
Jay Alammar: Transformers models များကို ရုပ်ပုံများဖြင့် နူးညံ့စွာ မိတ်ဆက်ခြင်း

သူ၏ လူကြိုက်များသော ML blog မှတစ်ဆင့် Jay သည် သုတေသီများနှင့် အင်ဂျင်နီယာ သန်းပေါင်းများစွာကို machine learning ကိရိယာများနှင့် concepts များကို အခြေခံအဆင့် (NumPy, Pandas docs တွင် အဆုံးသတ်သည်) မှ ခေတ်မီဆန်းပြားသော အဆင့် (Transformers, BERT, GPT-3) အထိ ရုပ်ပုံများဖြင့် မြင်သာစွာ နားလည်စေရန် ကူညီပေးခဲ့သည်။
Margaret Mitchell: ML Development ရှိ တန်ဖိုးများအပေါ်

Margaret Mitchell သည် Ethical AI အပေါ် အလုပ်လုပ်နေသော သုတေသီတစ်ဦးဖြစ်ပြီး၊ လက်ရှိတွင် နည်းပညာနယ်ပယ်ရှိ ethics-informed AI development ၏ အတွင်းအကျဆုံးအကြောင်းအရာများအပေါ် အာရုံစိုက်နေသည်။ သူမသည် natural language generation, assistive technology, computer vision နှင့် AI ethics တို့နှင့်ပတ်သက်သော စာတမ်း ၅၀ ကျော်ကို ထုတ်ဝေခဲ့ပြီး၊ conversation generation နှင့် sentiment classification နယ်ပယ်များတွင် မူပိုင်ခွင့်များစွာကို ပိုင်ဆိုင်ထားသည်။ သူမသည် ယခင်က Google AI တွင် Staff Research Scientist အဖြစ် အလုပ်လုပ်ခဲ့ပြီး၊ ထိုနေရာတွင် Google ၏ Ethical AI အဖွဲ့ကို တည်ထောင်ကာ ပူးတွဲဦးဆောင်ခဲ့သည်။ ထိုအဖွဲ့သည် အခြေခံ AI ethics သုတေသနနှင့် Google အတွင်းပိုင်း AI ethics ကို လက်တွေ့အကောင်အထည်ဖော်ခြင်းအပေါ် အာရုံစိုက်သည်။ Google သို့ မဝင်ရောက်မီတွင် သူမသည် Microsoft Research တွင် သုတေသီအဖြစ် အလုပ်လုပ်ခဲ့ပြီး computer vision-to-language generation အပေါ် အာရုံစိုက်ခဲ့သည်။ Johns Hopkins တွင် postdoctoral researcher အဖြစ် Bayesian modeling နှင့် information extraction တို့ကို အာရုံစိုက်ခဲ့သည်။ သူမသည် University of Aberdeen မှ Computer Science ဘာသာရပ်ဖြင့် PhD ဘွဲ့နှင့် University of Washington မှ computational linguistics ဖြင့် Master ဘွဲ့ကို ရရှိထားသည်။ ဘွဲ့များရရှိစဉ် ၂၀၀၅ ခုနှစ်မှ ၂၀၁၂ ခုနှစ်အထိ Oregon Health and Science University တွင် machine learning, neurological disorders နှင့် assistive technology တို့အပေါ် အလုပ်လုပ်ခဲ့သည်။ သူမသည် diversity, inclusion, computer science နှင့် ethics တို့၏ ဆုံမှတ်များတွင် workshops များနှင့် အစီအစဉ်များစွာကို ဦးဆောင်ခဲ့သည်။ သူမ၏ အလုပ်များသည် ကာကွယ်ရေးဝန်ကြီး Ash Carter နှင့် American Foundation for the Blind တို့မှ ဆုများရရှိခဲ့ပြီး၊ နည်းပညာကုမ္ပဏီများစွာမှ အကောင်အထည်ဖော်ခဲ့သည်။ သူမသည် ဥယျာဉ်စိုက်ပျိုးခြင်း၊ ခွေးများ နှင့် ကြောင်များကို နှစ်သက်သည်။
Matthew Watson နှင့် Chen Qian: Keras ဖြင့် NLP Workflows များ

Matthew Watson သည် Keras အဖွဲ့မှ machine learning engineer တစ်ဦးဖြစ်ပြီး high-level modeling APIs များကို အဓိကထားသည်။ သူသည် Stanford University တွင် မဟာဘွဲ့နှင့် ဘွဲ့ကြိုသင်တန်းကာလအတွင်း Computer Graphics ကို လေ့လာခဲ့သည်။ English major ဖြစ်လုနီးပါးမှ computer science ဘက်သို့ ပြောင်းလာခဲ့သူဖြစ်ပြီး၊ disciplines များစွာတွင် အလုပ်လုပ်ခြင်းနှင့် NLP ကို ပိုမိုကျယ်ပြန့်သော ပရိသတ်ဆီသို့ လက်လှမ်းမီအောင် ပြုလုပ်ခြင်းအပေါ် စိတ်အားထက်သန်သည်။
Chen Qian သည် Keras အဖွဲ့မှ software engineer တစ်ဦးဖြစ်ပြီး high-level modeling APIs များကို အဓိကထားသည်။ Chen သည် Stanford University မှ Electrical Engineering မဟာဘွဲ့ကို ရရှိခဲ့ပြီး၊ ML tasks များနှင့် large-scale ML ၏ code implementations များကို ရိုးရှင်းအောင် ပြုလုပ်ခြင်းအပေါ် အထူးစိတ်ဝင်စားသည်။
Mark Saroufim: Pytorch ဖြင့် Model တစ်ခုကို မည်သို့ လေ့ကျင့်ရမည်နည်း

Mark Saroufim သည် Pytorch တွင် Partner Engineer တစ်ဦးဖြစ်ပြီး TorchServe နှင့် Pytorch Enterprise အပါအဝင် OSS production tools များကို အလုပ်လုပ်နေသည်။ ယခင်က Mark သည် Graphcore၊ yuri.ai၊ Microsoft နှင့် NASA ၏ JPL တွင် Applied Scientist နှင့် Product Manager အဖြစ် လုပ်ကိုင်ခဲ့သည်။ သူ၏ အဓိက စိတ်အားထက်သန်မှုမှာ programming ကို ပိုမိုပျော်စရာကောင်းအောင် ပြုလုပ်ရန်ဖြစ်သည်။
Jakob Uszkoreit: ဒါက မပျက်စီးသေးဘူးဆိုတော့ မပြင်ပါနဲ့ ဖျက်ဆီးလိုက်ကြရအောင်

Jakob Uszkoreit သည် Inceptive ၏ ပူးတွဲတည်ထောင်သူဖြစ်သည်။ Inceptive သည် RNA ကို အခြေခံသော ဆေးဝါးများကို ပိုမိုလက်လှမ်းမီနိုင်၊ ပိုမိုထိရောက်ပြီး ပိုမိုကျယ်ပြန့်စွာ အသုံးချနိုင်စေရန် ရည်ရွယ်ချက်ဖြင့် large-scale deep learning နှင့် high throughput experiments များကို အသုံးပြု၍ RNA မော်လီကျူးများကို ကာကွယ်ဆေးများနှင့် ကုထုံးများအတွက် ဒီဇိုင်းထုတ်သည်။ ယခင်က Jakob သည် Google တွင် ဆယ်စုနှစ်တစ်ခုကျော် အလုပ်လုပ်ခဲ့ပြီး Google Brain, Research and Search တို့တွင် deep learning fundamentals, computer vision, language understanding နှင့် machine translation တို့အပေါ် အလုပ်လုပ်သော သုတေသနနှင့် ဖွံ့ဖြိုးတိုးတက်ရေးအဖွဲ့များကို ဦးဆောင်ခဲ့သည်။
ရက် ၂- အသုံးပြုရန် ကိရိယာများ
Lewis Tunstall: 🤗 Transformers Trainer ဖြင့် ရိုးရှင်းသော Training
Lewis သည် Hugging Face တွင် machine learning engineer တစ်ဦးဖြစ်ပြီး open-source tools များကို တည်ဆောက်ကာ ၎င်းတို့ကို ပိုမိုကျယ်ပြန့်သော community အတွက် လက်လှမ်းမီစေရန် အာရုံစိုက်သည်။ သူသည် O’Reilly စာအုပ်ဖြစ်သော Natural Language Processing with Transformers ၏ ပူးတွဲစာရေးဆရာလည်း ဖြစ်သည်။ NLP tips and tricks များအတွက် သူ့ကို Twitter (@_lewtun) တွင် follow လုပ်နိုင်ပါသည်။
Matthew Carrigan: 🤗 Transformers နှင့် 🤗 Datasets အတွက် TensorFlow Features အသစ်များ
Matt သည် Transformers တွင် TensorFlow ထိန်းသိမ်းမှုအတွက် တာဝန်ရှိပြီး၊ နောက်ဆုံးတွင် လက်ရှိ PyTorch အဖွဲ့ကို တော်လှန်မည့် အာဏာသိမ်းမှုကို ဦးဆောင်မည်ဖြစ်သည်။ ထိုအစီအစဉ်များကို ၎င်း၏ Twitter account @carrigmat မှတစ်ဆင့် ညှိနှိုင်းဆောင်ရွက်ဖွယ်ရှိသည်။
Lysandre Debut: Machine Learning Projects များတွင် ပူးပေါင်းဆောင်ရွက်ရန်နှင့် မျှဝေရန်အတွက် Hugging Face Hub

Lysandre သည် Hugging Face တွင် Machine Learning Engineer တစ်ဦးဖြစ်ပြီး open source projects များစွာတွင် ပါဝင်ဆောင်ရွက်သည်။ သူ၏ရည်ရွယ်ချက်မှာ အလွန်ရိုးရှင်းသော API ပါဝင်သည့် အစွမ်းထက်သော ကိရိယာများကို တီထွင်ခြင်းဖြင့် Machine Learning ကို လူတိုင်းအတွက် လက်လှမ်းမီစေရန်ဖြစ်သည်။
Lucile Saulnier: 🤗 Transformers & 🤗 Tokenizers ဖြင့် သင့်ကိုယ်ပိုင် Tokenizer ကို ရယူပါ
Lucile သည် Hugging Face တွင် machine learning engineer တစ်ဦးဖြစ်ပြီး open source tools များကို တည်ဆောက်ကာ ၎င်းတို့၏ အသုံးပြုမှုကို ပံ့ပိုးပေးနေသည်။ သူမသည် collaborative training နှင့် BigScience ကဲ့သို့သော Natural Language Processing နယ်ပယ်ရှိ သုတေသန project များစွာတွင်လည်း တက်ကြွစွာ ပါဝင်ဆောင်ရွက်နေသည်။
Sylvain Gugger: 🤗 Accelerate ဖြင့် သင့် PyTorch Training Loop ကို အရှိန်မြှင့်တင်ပါ
Sylvain သည် Hugging Face တွင် Research Engineer တစ်ဦးဖြစ်ပြီး 🤗 Transformers library ၏ အဓိက ထိန်းသိမ်းသူများထဲမှ တစ်ဦးဖြစ်ကာ 🤗 Accelerate ကို တီထွင်သူဖြစ်သည်။ သူသည် model training ကို ပိုမိုလက်လှမ်းမီအောင် ပြုလုပ်ခြင်းကို နှစ်သက်သည်။
Merve Noyan: 🤗 Spaces ဖြင့် သင့် Model Demos များကို ပြသပါ
Merve သည် Hugging Face တွင် developer advocate တစ်ဦးဖြစ်ပြီး လူတိုင်းအတွက် machine learning ကို ဒီမိုကရေစီနည်းကျစေရန် ကိရိယာများ တီထွင်ကာ ၎င်းတို့နှင့်ပတ်သက်သော အကြောင်းအရာများကို ဖန်တီးနေသည်။
Abubakar Abid: Machine Learning Applications များကို လျင်မြန်စွာ တည်ဆောက်ခြင်း

Abubakar Abid သည် Gradio ၏ CEO ဖြစ်သည်။ သူသည် ၂၀၁၅ ခုနှစ်တွင် MIT မှ Electrical Engineering and Computer Science ဘာသာရပ်ဖြင့် Bachelor’s of Science ဘွဲ့ကို ရရှိခဲ့ပြီး၊ ၂၀၂၁ ခုနှစ်တွင် Stanford မှ Applied Machine Learning ဘာသာရပ်ဖြင့် PhD ဘွဲ့ကို ရရှိခဲ့သည်။ Gradio ၏ CEO အနေဖြင့် Abubakar သည် machine learning models များကို demo လုပ်ရန်၊ debug လုပ်ရန်နှင့် deploy လုပ်ရန် ပိုမိုလွယ်ကူစေရန် အလုပ်လုပ်သည်။
Mathieu Desvé: AWS ML Vision: Machine Learning ကို Customer အားလုံးအတွက် လက်လှမ်းမီစေခြင်း

နည်းပညာကို စိတ်အားထက်သန်သူ၊ အားလပ်ချိန်များတွင် တည်ဆောက်ဖန်တီးသူ။ စိန်ခေါ်မှုများကို ကြိုက်နှစ်သက်ပြီး ဖောက်သည်များနှင့် သုံးစွဲသူများ၏ ပြဿနာများကို ဖြေရှင်းပေးကာ၊ နေ့တိုင်း လေ့လာသင်ယူရန် ပါရမီရှင်များနှင့်အတူ အလုပ်လုပ်ရတာကို ကြိုက်သည်။ ၂၀၀၄ ခုနှစ်မှစ၍ frontend, backend, infrastructure, operations နှင့် managements တို့မှ ရာထူးများစွာတွင် လုပ်ကိုင်ခဲ့သည်။ agile ပုံစံဖြင့် commons technical နှင့် managerial issues များကို ဖြေရှင်းရန် ကြိုးစားသည်။
Philipp Schmid: Amazon SageMaker နှင့် 🤗 Transformers ဖြင့် စီမံခန့်ခွဲထားသော Training
Philipp Schmid သည် Hugging Face တွင် Machine Learning Engineer နှင့် Tech Lead တစ်ဦးဖြစ်ပြီး Amazon SageMaker အဖွဲ့နှင့် ပူးပေါင်းဆောင်ရွက်မှုကို ဦးဆောင်သည်။ သူသည် ခေတ်မီဆန်းပြားသော NLP models များကို ဒီမိုကရေစီနည်းကျစေရန်နှင့် ထုတ်လုပ်မှုအဆင့်သို့ ရောက်ရှိစေရန်၊ Deep Learning အသုံးပြုရလွယ်ကူမှုကို တိုးတက်စေရန် စိတ်အားထက်သန်သည်။
Update on GitHub