Kurzusleírás
Bevezetés a modelloptimalizálásba és -bevezetésbe
- DeepSeek modellek és telepítési kihívások áttekintése
- A modell hatékonyságának megértése: sebesség vs. pontosság
- Az AI-modellek fő teljesítménymutatói
Modellek optimalizálása DeepSeek a teljesítmény érdekében
- A következtetési késleltetés csökkentésére szolgáló technikák
- Modell kvantálási és metszési stratégiák
- Optimalizált könyvtárak használata DeepSeek modellekhez
MLOps megvalósítása DeepSeek modellekhez
- Verzióellenőrzés és modellkövetés
- A modell átképzésének és bevezetésének automatizálása
- CI/CD csővezetékek mesterséges intelligencia alkalmazásokhoz
DeepSeek Modellek telepítése felhőben és helyszíni környezetben
- A megfelelő infrastruktúra kiválasztása a telepítéshez
- Telepítés a Docker és Kubernetes segítségével
- API hozzáférés és hitelesítés kezelése
Az AI telepítéseinek skálázása és figyelése
- Terheléselosztási stratégiák az AI-szolgáltatásokhoz
- A modelleltolódás és a teljesítményromlás figyelése
- Automatikus méretezés megvalósítása AI alkalmazásokhoz
A biztonság és a megfelelőség biztosítása az AI-telepítéseknél
- Adatvédelem kezelése AI munkafolyamatokban
- A vállalati mesterséges intelligencia előírásainak való megfelelés
- A biztonságos mesterséges intelligencia telepítésének legjobb gyakorlatai
Jövőbeli trendek és mesterséges intelligencia optimalizálási stratégiák
- Fejlődés az AI-modell-optimalizálási technikákban
- Feltörekvő trendek a MLOps és a mesterséges intelligencia infrastruktúrájában
- AI bevezetési ütemterv készítése
Összegzés és a következő lépések
Követelmények
- AI-modell-telepítési és felhő-infrastruktúra terén szerzett tapasztalat
- Programozási nyelvben való jártasság (pl. Python, Java, C++)
- A MLOps és a modell teljesítményoptimalizálásának ismerete
Közönség
- AI mérnökök optimalizálják és telepítik DeepSeek modelleket
- Adattudósok, akik az AI teljesítményének hangolásán dolgoznak
- Felhőalapú AI-rendszereket kezelő gépi tanulási szakemberek
Vélemények (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Kurzus - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.