Kurzusleírás

QLoRA és a kvantálás bevezetése
  • Kvantálás áttekintése és szerepének a modelloptimalizálásban
  • QLoRA keretrendszer bevezetése és előnyei
  • Különbségek a QLoRA és a hagyományos finomhangolási módszerek között
Large Language Models (LLMs) alapjai
  • LLM-ek bevezetése és architektúrájuk
  • Különbségek nagy modellek finomhangolásakor nagy méretekben
  • Hogyan segítsen a kvantálás a számítógépes korlátozások leküzdésében az LLM finomhangolásakor
QLoRA alkalmazása Fine-Tuning LLM-eken
  • QLoRA keretrendszer és környezet beállítása
  • Adathalmazok előkészítése a QLoRA finomhangoláshoz
  • Lépésről lépésre útmutató a QLoRA alkalmazásához az LLM-eken Python és PyTorch/TensorFlow használatával
Fine-Tuning teljesítményének optimalizálása QLoRával
  • Hogyan egyenlítsük ki a modellpontosságot és teljesítményt a kvantálással
  • Módszerek a számítási költségek és memóriahasználat csökkentésére a finomhangolás során
  • Stratégiák a minimalis hardverigényekkel történő finomhangolásra
Finomhangolt modellek értékelése
  • Hogyan értékeljük a finomhangolt modellek hatékonyságát
  • Nyelvi modellekhez használt közönséges értékelési mutatók
  • Modellek teljesítményének optimalizálása a finomhangolás után és hibahelyek keresése
Finomhangolt modellek telepítése és skálázása
  • Legjobb gyakorlatok a kvantált LLM-ek telepítéséhez termékes környezetbe
  • Telepítés skálázása valós idejű kérések kezelésére
  • Eszközök és keretrendszerek a modelltelepítéshez és monitorozáshoz
Valós világbeli Use Caseok és esettanulmányok
  • Esettanulmány: LLM-ek finomhangolása ügyfélszolgálati és NLP feladatokhoz
  • Példák az LLM-ek finomhangolására különböző iparágakban, mint az egészségügy, pénzügy és az elektronikus kereskedelem
  • Tanulságok a QLoRA alapú modellek valós világbeli telepítéséből
Összegzés és következő lépések

Követelmények

  • Gépek tanulásának alapelveinek és neurális hálózatoknak az ismerete
  • Tapasztalat a modell finomítással és átviaskorláttal
  • Ismeret nagy nyelvmodellekkel (LLMs) és mélytanulási keretrendszerekkel (pl. PyTorch, TensorFlow)

Célközönség

  • Gépek tanulásának mérnökei
  • AI-fejlesztők
  • Adattudósok
 14 Órák

Résztvevők száma


Ár résztvevőnként

Közelgő kurzusok

Rokon kategóriák