Kurzusleírás
1. rész – Deep Learning és DNN-koncepciók
Bevezetés AI, Machine Learning és Deep Learning
A mesterséges intelligencia története, alapfogalmai és szokásos alkalmazásai messze a tartomány által hordozott fantáziáktól
Kollektív intelligencia: a sok virtuális ügynök által megosztott tudás összesítése
Genetikai algoritmusok: virtuális ágensek populációjának kialakítása szelekcióval
Szokásos tanulógép: meghatározás.
Feladattípusok: irányított tanulás, felügyelet nélküli tanulás, megerősítéses tanulás
A cselekvés típusai: osztályozás, regresszió, klaszterezés, sűrűségbecslés, dimenziócsökkentés
Példák Machine Learning algoritmusokra: Lineáris regresszió, Naive Bayes, Random Tree
Gépi tanulás VS Deep Learning: problémák, amelyeken a Machine Learning még ma is a technika csúcsa (Random Forests és XGBoosts)
A neurális hálózat alapfogalmai (alkalmazás: többrétegű perceptron)
Emlékeztető a matematikai alapokra.
A neuronok hálózatának meghatározása: klasszikus architektúra, aktiválás és
Korábbi aktiválások súlyozása, hálózat mélysége
A neuronhálózat tanulásának definíciója: költségfüggvények, visszaterjedés, sztochasztikus gradiens süllyedés, maximális valószínűség.
Neurális hálózat modellezése: bemeneti és kimeneti adatok modellezése a probléma típusa szerint (regresszió, osztályozás ...). A dimenzionalitás átka.
Különbség a többfunkciós adatok és a jel között. Költségfüggvény kiválasztása az adatok alapján.
Egy függvény közelítése neuronhálózattal: bemutatás és példák
Eloszlás közelítése neuronhálózattal: bemutatás és példák
Adatbővítés: hogyan lehet kiegyensúlyozni egy adatkészletet
Egy neuronhálózat eredményeinek általánosítása.
Neurális hálózat inicializálása és szabályosítása: L1 / L2 regularizálás, Batch Normalization
Optimalizálási és konvergencia algoritmusok
Szabványos ML / DL eszközök
Egy egyszerű bemutatót tervezünk az előnyökkel, hátrányokkal, az ökoszisztémában elfoglalt pozícióval és felhasználással.
Adatkezelési eszközök: Apache Spark, Apache Hadoop Eszközök
Machine Learning: Numpy, Scipy, Sci-kit
DL magas szintű keretrendszerek: PyTorch, Keras, Lasagne
Alacsony szintű DL keretrendszerek: Theano, Torch, Caffe, Tensorflow
Konvolúciós Neural Networks (CNN).
A CNN-ek bemutatása: alapelvek és alkalmazások
A CNN alapvető működése: konvolúciós réteg, kernel használata,
Kitöltés és lépés, jellemzőtérkép-generálás, rétegek összevonása. 1D, 2D és 3D bővítmények.
A különböző CNN architektúrák bemutatása, amelyek a legkorszerűbb osztályozást hozták
Képek: LeNet, VGG Networks, Network in Network, Inception, Resnet. Az egyes architektúrák által előidézett innovációk bemutatása és azok globálisabb alkalmazásai (Convolution 1x1 vagy maradék kapcsolatok)
Figyelemmodell használata.
Alkalmazás általános besorolási esetre (szöveg vagy kép)
CNN-ek generáláshoz: szuperfelbontás, pixel-pixel szegmentáció. bemutatása
A képgeneráláshoz szükséges jellemzőtérképek bővítésének főbb stratégiái.
Ismétlődő Neural Networks (RNN).
Az RNN-ek bemutatása: alapelvek és alkalmazások.
Az RNN alapvető működése: rejtett aktiválás, időben visszafelé terjedés, kibontott változat.
Evolúció a kapuzott ismétlődő egységek (GRU) és az LSTM (hosszú rövid távú memória) felé.
A különböző állapotok és az ezen architektúrák által hozott evolúciók bemutatása
Konvergencia és eltűnő gradiens problémák
Klasszikus architektúrák: Időbeli sorozat előrejelzése, osztályozás ...
RNN kódoló Dekóder típusú architektúra. Figyelemmodell használata.
NLP alkalmazások: szó / karakter kódolás, fordítás.
Videoalkalmazások: a videósorozat következő generált képének előrejelzése.
Generációs modellek: Variational AutoEncoder (VAE) és Generative Adversarial Networks (GAN).
Generációs modellek bemutatása, kapcsolat a CNN-ekkel
Automatikus kódoló: a méretcsökkentés és a korlátozott generálás
Variational Auto-encoder: generációs modell és egy adott eloszlásának közelítése. A látens tér meghatározása és használata. Újraparaméterezési trükk. Alkalmazások és betartott korlátok
Generatív ellenséges hálózatok: alapok.
Kettős hálózati architektúra (generátor és megkülönböztető) alternatív tanulással, költségfüggvényekkel.
A GAN konvergenciája és a felmerült nehézségek.
Továbbfejlesztett konvergencia: Wasserstein GAN, Began. Földmozgási távolság.
Alkalmazások képek vagy fényképek generálására, szöveggenerálásra, szuperfelbontásra.
Mély Reinforcement Learning.
Megerősítő tanulás bemutatása: egy ágens irányítása meghatározott környezetben
Állapot és lehetséges cselekvések szerint
Neurális hálózat használata az állapotfüggvény közelítésére
Deep Q Learning: az újrajátszás élménye és alkalmazása a videojátékok vezérlésére.
A tanulási politika optimalizálása. Szabályzaton belüli és irányelven kívüli. Színészkritikus építészet. A3C.
Alkalmazások: egyetlen videojáték vagy digitális rendszer vezérlése.
2. rész – Theano for Deep Learning
Theano alapismeretek
Bevezetés
Telepítés és konfigurálás
Theano függvények
bemenetek, kimenetek, frissítések, adatok
Neurális hálózat képzése és optimalizálása Theano segítségével
Neurális hálózat modellezése
Logisztikai regresszió
Rejtett rétegek
Hálózat képzése
Számítástechnika és osztályozás
Optimalizálás
Log Loss
A modell tesztelése
3. rész – DNN Tensorflow használatával
TensorFlow Alapok
Változók létrehozása, inicializálása, mentése és visszaállítása TensorFlow
Etetés, olvasás és előtöltés TensorFlow Adatok
Hogyan használjuk a TensorFlow infrastruktúrát a modellek méretarányos betanításához
Modellek megjelenítése és értékelése TensorBoard segítségével
TensorFlow Mechanika
Készítse elő az adatokat
Letöltés
Bemenetek és helyőrzők
Építsd meg a GraphS-t
Következtetés
Veszteség
Edzés
Tanítsd meg a modellt
A Grafikon
Az ülésszak
Vonathurok
Értékelje a modellt
Építsd meg az Eval Graph-ot
Eval kimenet
A Perceptron
Aktiválási funkciók
A perceptron tanulási algoritmus
Bináris osztályozás a perceptronnal
Dokumentum osztályozás a perceptronnal
A perceptron korlátai
A Perceptrontól a vektorgépek támogatásáig
Kernelek és a kerneltrükk
Maximális margin osztályozás és támogatási vektorok
Mesterséges Neural Networks
Nemlineáris döntési határok
Feedforward és visszacsatoló mesterséges neurális hálózatok
Többrétegű perceptronok
A költségfüggvény minimalizálása
Előre terjedés
Hátsó szaporítás
A neurális hálózatok tanulási módjának javítása
Konvolúciós Neural Networks
Go als
Modellarchitektúra
Alapelvek
Kódszervezet
A modell elindítása és betanítása
Modell értékelése
Az alábbi modulok alapvető bemutatása (rövid bevezetés a rendelkezésre álló idő függvényében):
Tensorflow – Speciális használat
Menetelés és sorok
Elosztott TensorFlow
A Documentation írása és a modell megosztása
Adatolvasók testreszabása
TensorFlow Modellfájlok kezelése
TensorFlow Tálalás
Bevezetés
Alapvető kiszolgálási útmutató
Speciális kiszolgálási útmutató
Kiszolgálási kezdeti modell bemutatója
Követelmények
Fizika, matematika és programozási háttér. Képfeldolgozási tevékenységekben való részvétel.
A küldötteknek előzetesen ismerniük kell a gépi tanulási koncepciókat, és Python programozáson és könyvtárakon kellett dolgozniuk.
Vélemények (5)
Hunter mesés, nagyon megnyerő, rendkívül hozzáértő és szimpatikus. Nagyon jól sikerült.
Rick Johnson - Laramie County Community College
Kurzus - Artificial Intelligence (AI) Overview
Gépi fordítás
The trainer explained the content well and was engaging throughout. He stopped to ask questions and let us come to our own solutions in some practical sessions. He also tailored the course well for our needs.
Robert Baker
Kurzus - Deep Learning with TensorFlow 2.0
Tomasz really know the information well and the course was well paced.
Raju Krishnamurthy - Google
Kurzus - TensorFlow Extended (TFX)
Organization, adhering to the proposed agenda, the trainer's vast knowledge in this subject
Ali Kattan - TWPI
Kurzus - Natural Language Processing with TensorFlow
Very updated approach or CPI (tensor flow, era, learn) to do machine learning.