Эффективность предсказания временных рядов трансформерами, также как и другими моделями, в первую очередь зависит от степени стохастичности/детерминированности этих предсказываемых временных рядов. Изменение нагрузки электрической сети или внутрисуточной температуры воздуха - один случай, а эконометрический ряд (например, EUR/USD) - совсем другой случай ...

AR и MA - это частные упрощенные случаи ARIMA, также как и SARIMA, в которую добавили сезонную составляющую

Ссылку на упоминаемую в этом видео статью можно где-нибудь посмотреть?