Uczenie głębokie DL (ang. Deep Learning) oraz transformery

Opis architektury:

Perceptron wielowarstwowy (MLP) to rodzaj sztucznej sieci neuronowej zbudowanej z co najmniej trzech warstw: wejściowej, jednej lub więcej ukrytych i wyjściowej. Jest to algorytm uczenia nadzorowanego, który służy do nauki funkcji, rozpoznawania wzorców i dokonywania prognoz na podstawie danych treningowych. Jest to prosta sieć neuronowa z warstwami w pełni połączonymi. MLP może działać na danych tablicowych i prostych wektorach cech.

Dzięki wielowarstwowej sieci neuronowej, która jest w stanie nauczyć się abstrakcyjnych cech w danych poprzez szereg transformat, MLP może znacząco przyspieszyć proces uczenia się maszynowego. Ponadto, są one zdolne do modelowania złożonych nieliniowych zależności, co czyni je niezastąpionym narzędziem przy przetwarzaniu i analizie danych. Z drugiej strony, implementacja MLP niesie ze sobą też pewne wyzwania. W szczególności, mogą występować problemy z przetrenowaniem modelu, co powoduje, że model może nie działać dobrze na nieznanych danych. Ponadto, MLP jest wymagający pod względem obliczeniowym i pamięciowym, a proces trenowania modelu może być czasochłonny. Istotne są także takie kwestie jak doboru optymalnej liczby ukrytych warstw czy też optymalizacja algorytmów uczenia.

Opis architektury:

Konwolucyjna sieć neuronowa (CNN) to zaawansowana wersja sztucznych sieci neuronowych (ANN) , zaprojektowana głównie do ekstrakcji cech z macierzy siatkowych. Jest to szczególnie przydatne w przypadku zbiorów danych wizualnych, takich jak obrazy czy filmy, gdzie wzorce danych odgrywają kluczową rolę. Sieci CNN są szeroko stosowane w aplikacjach przetwarzania obrazu ze względu na ich skuteczność w przetwarzaniu danych wizualnych.
Konwolucyjna sieć neuronowa  wykorzystywana jest do pracy z sygnałami czasowymi, obrazami (np. spektrogramy) i danymi przestrzennymi. CNN automatycznie wydobywa cechy.

Zalety sieci CNN
Dobrze wykrywa wzorce i cechy na obrazach, filmach i sygnałach audio.
Odporność na niezmienność translacji, rotacji i skalowania.
Szkolenie kompleksowe, bez konieczności ręcznego wyodrębniania funkcji.
Potrafi przetwarzać duże ilości danych i osiągać wysoką dokładność.
Wady sieci CNN
Szkolenie jest kosztowne obliczeniowo i wymaga dużej ilości pamięci.
Może być podatny na nadmierne dopasowanie, jeśli nie zostanie użyta wystarczająca ilość danych lub właściwa regularyzacja.
Wymaga dużej ilości oznaczonych danych.
Możliwość interpretacji jest ograniczona, trudno zrozumieć, czego nauczyła się sieć.

Opis architektury:
Architektury sieci neuronowych to skomplikowane struktury oparte na matematycznych modelach, których zadaniem jest symulowanie działania ludzkiego mózgu w procesie uczenia. Wśród wielu dostępnych architektur, RNN (Recurrent neural network, Rozpoznawanie Rekurencyjne), LSTM (Long short-term memory, Długie Krótkoterminowe Pamięci) i GRU (Gated Recurrent Unit) są szczególnie znane właśnie dzięki swojej skuteczności w obszarze przetwarzania sekwencji danych, takich jak język naturalny, serie czasowe itp. RNN to najprostszy typ sieci, który posiada zdolność pamiętania informacji z przeszłości, jednak jest narażony na problemy, takie jak zanikający i eksplodujący gradient. Tymczasem LSTM i GRU, to zaawansowane warianty RNN, które zostały zaprojektowane w celu poradzenia sobie z tymi problemami i polepszenia wyników.  Trzy typy sieci rekurencyjnych analizują sekwencje danych czasowych, dobrze działają przy predykcji sekwencji i stanów maszyn.

LSTM jest lepszy, gdy zależności w danych są długoterminowe i skomplikowane, ale wymaga większej mocy obliczeniowej.
GRU jest bardziej efektywne, łatwiejsze do trenowania i często działa równie dobrze jak LSTM w krótszych sekwencjach.

Opis architektury:
Sieci generujące dane podobne do rzeczywistych; przydatne do wzbogacania danych i symulacji uszkodzeń,

Główna idea GANs opiera się na zasadzie walki dwóch sieci neuronowych: generatora i dyskryminatora. Generator stara się tworzyć jak najbardziej prawdziwą i wiarygodną symulację danych, natomiast dyskryminator celem ma odróżnić efekty pracy generatora od prawdziwych danych.

Unikalne cechy GANs to zdolność do generowania realistycznych danych z losowego szumu, rozpoznawania wzorców w ogromnych zestawach danych oraz zaskakująca efektywność w generowaniu nowych koncepcji.

Opis architektury:
Zaawansowane modele przetwarzające sekwencje bez potrzeby rekurencji; bardzo skuteczne w klasyfikacji i prognozowaniu (wysoka skuteczność, np. >99% na benchmarkach).

Opracowano i zaprezentowano wyniki eksperymentów dla publicznych baz danych MaFaulDa i
CWRU. T4PdM osiągnął ogólną dokładność odpowiednio 99,98% i 98% dla obu zbiorów danych. Ponadto, porównano jego wydajność z innymi wcześniej najnowocześniejszymi rozwiązaniami, wykazując jego wyższość w wykrywaniu i klasyfikowaniu
usterek w obrotowych maszynach przemysłowych. Dlatego też proponowany model może poprawić
obecnie najnowocześniejsze procesy analizy i diagnostyki usterek maszyn,