Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Kurzusleírás
QLoRA és a kvantálás bevezetése
- Kvantálás áttekintése és szerepének a modelloptimalizálásban
- QLoRA keretrendszer bevezetése és előnyei
- Különbségek a QLoRA és a hagyományos finomhangolási módszerek között
- LLM-ek bevezetése és architektúrájuk
- Különbségek nagy modellek finomhangolásakor nagy méretekben
- Hogyan segítsen a kvantálás a számítógépes korlátozások leküzdésében az LLM finomhangolásakor
- QLoRA keretrendszer és környezet beállítása
- Adathalmazok előkészítése a QLoRA finomhangoláshoz
- Lépésről lépésre útmutató a QLoRA alkalmazásához az LLM-eken Python és PyTorch/TensorFlow használatával
- Hogyan egyenlítsük ki a modellpontosságot és teljesítményt a kvantálással
- Módszerek a számítási költségek és memóriahasználat csökkentésére a finomhangolás során
- Stratégiák a minimalis hardverigényekkel történő finomhangolásra
- Hogyan értékeljük a finomhangolt modellek hatékonyságát
- Nyelvi modellekhez használt közönséges értékelési mutatók
- Modellek teljesítményének optimalizálása a finomhangolás után és hibahelyek keresése
- Legjobb gyakorlatok a kvantált LLM-ek telepítéséhez termékes környezetbe
- Telepítés skálázása valós idejű kérések kezelésére
- Eszközök és keretrendszerek a modelltelepítéshez és monitorozáshoz
- Esettanulmány: LLM-ek finomhangolása ügyfélszolgálati és NLP feladatokhoz
- Példák az LLM-ek finomhangolására különböző iparágakban, mint az egészségügy, pénzügy és az elektronikus kereskedelem
- Tanulságok a QLoRA alapú modellek valós világbeli telepítéséből
Követelmények
- Gépek tanulásának alapelveinek és neurális hálózatoknak az ismerete
- Tapasztalat a modell finomítással és átviaskorláttal
- Ismeret nagy nyelvmodellekkel (LLMs) és mélytanulási keretrendszerekkel (pl. PyTorch, TensorFlow)
Célközönség
- Gépek tanulásának mérnökei
- AI-fejlesztők
- Adattudósok
14 Órák