Professional Documents
Culture Documents
t f y = , koji
su uzeti ekvidistantno na vremenskoj osi, razdvojeni
jednakim vremenskim intervalima jednakim t tako da je
t
i+1
= t
i
+t. Predvianje jedan korak unapred predstavlja
nalaenje takve funkcije f koja obavlja preslikavanje
(1)
1
)
1
(
1
+
+
=
+
=
+ m
y
m
t f
m
y ,
gde je
1
+ m
y eljeni odziv, sa prihvatljivom grekom .
Slika 3. Potpuno povezana nerekurentna VNM sa jednim
skrivenim slojem i vie izlaza
Bilo je vie pokuaja da se rei ovaj problem. Meu kla-
sinim metodama pomenuemo metod k-najblieg suseda
[8], po kome se vremenski niz pretrauje sa ciljem da se
pronae situacija koja je slina tekuoj kako bi se nastavilo
na nain kako su ranije dogaaji sledili. Drugim reima,
ovaj metod pretrauje periodinost u nizu i pokuava da je
iskoristi. S obzirom na ono to je reeno o uticaju najsve-
ijih podataka na predvianje on ne moe da se smatra
pogodnim metodom. Ipak, kako emo videti, osnovna ideja
moe korisno da se upotrebi.
U poslednjih nekoliko decenija VNM su postale tehno-
logija koja mnogo obeava u primenama za predvianje
kada su podaci teko obradivi postojeim metodama. Iscr-
pan pregled primene VNM za predvianje dat je u [9]. Me-
u veim brojem uspenih primena ovde moemo pomenuti
[10]. Zajedniko svojstvo postojeih metoda, meutim, jeste
da zahtevaju duge vremenske nizove kako bi postale efi-
kasne. Tipino, potrebno je najmanje 50 uzoraka [9]. To je
posledica injenice da sve pokuavaju da trae periodinost
u podacima koji su zadati. Postoje i primeri gde su obra-
ivani i veoma kratki nizovi [10]. U tim sluajevima da bi
se dobila statistika procena odziva na osnovu
deterministikih podataka, moralo je da se doda i nova
usvojena informacija.
Imajui sve to na umu poli smo u istraivanje topoloke
strukture VNM koja obeava uspeno predvianje zasnovano
na kratkom vremenskom nizu. U tom cilju, u daljem tekstu
emo, najpre, uvesti osnovnu strukturu nerekurentne VNM
koja je koriena u daljem radu.
Mrea je prikazana na Sl. 3. Ima samo jedan skriveni sloj
to se pokazalo dovoljnim za ovakve primene [11]. Obja-
njenja oznaka mogu se nai u [7]. Neuroni u ulaznom sloju
jednostavno distribuiraju signale, a oni u skrivenom se aktivi-
raju sigmoidnom (logistikom) funkcijom. Najzad, izlazni
neuroni se aktiviraju linearnom funkcijom. Korien je algo-
ritam za obuku koji je zasnovan na metodi najbreg spusta
[12]. Od najveeg je znaaja odrediti broj skrivenih neurona
m
h
. Da bi se on odredio primenili smo postupak saglasan
onom u [13].
U naem sluaju na raspolaganju stoji niz merenih vred-
nosti dobijenih na priblino dva sata to znai da e VNM da
ima samo jedan ulaz diskretizovano vreme. Saglasno sa (1)
predviamo samo jednu vrednost to znai da e biti potreban
samo jedan izlaz VNM. Vrednosti izraza su brojevi koji
predstavljaju normalizovanu srednju potronju za period od
dva sata. Da bi se problem numeriki pojednostavio,
vremenska promenljiva je transformisana tako to je oduzeto
t
0
, pa imamo
(2) t=t*-t
0
.
o,1
h,1
1 1
1 2 2
m
h
o,3
h,mh
w
in h
(1, ) m
w
o h
( ,3) m
w
in
(1,1)
w
o
(1,1)
3
Output
1
Output
2
Output
3
Input
(present)
(present)
(past)
(future)
Slika 4. Nerekurentna mrea prilagoena za predvianje
(FFAP)
Imajui u vidu da je t* vreme (u minutima) tokom jednog
dana, ova redukcija vremena dovodi nulu (t=0 min) u
trenutak t
0
koji oznaava prvi uzorak.
Kada bi se primenila arhitektura sa Sl. 4, mrea bi uila
sledei niz: (t
i
, f(t
i
)), i=1,..., m.
Polazei sa osnovnom strukturom sa Sl. 3, u [6] razmat-
rana su mogua reenja i sugerisana je nova struktura koja bi
bila najpogodnija za reavanje problema kratkoronog pred-
vianja zasnovanog na kratkim vremenskim nizovima. Ovde,
meutim, imajui u vidu raspoloivost merenih podataka iz
prethodnih sedmica, ova nova arhitektura bie proirena na
pogodan nain.
Struktura je nazvana FFAP od feed forward accommo-
dated for prediction) i prikazana na Sl. 4. Ideja je bila da se
prinudi VNM da ui isto preslikavanje vie puta istovremeno
ali pomereno u vremenu. Na taj nain, pretpostavili smo,
prethodne vrednosti odziva e imati vei uticaj na
preslikavanje f(t). I u ovoj strukturi postoji samo jedan ulazni
prikljuak t
i
.
Izlazni prikljuak Output
3
ili prikljuak budunosti,
forsira se da ui da aproksimira y
i+1
. U sluajevima kada
planiramo predvianje vie koraka unapred, Output
3
moe da
predstavlja vektor. Alternativno (kako je i uinjeno kasnije u
ovom radu), kada predviamo vie koraka unapred, Output
3
moe da se posmatra i kao skalar koji se forsira da
aproksimira y
i+k
, gde je k broj koraka u budunosti u odnosu
na poslednji mereni uzorak ija je vrednost poznata unapred
odnosno u odnosu na sadanju informaciju. Output
2
treba da
predstavlja sadanju informaciju odnosno y
i
. Najzad, Output
1
treba da ui prole vrednosti odnosno y
i-1
. Opet, ako se eli
da se preslikavanje kontrolie pomou niza ranijih vrednosti
Output
1
moe da se posmatra kao vektor.
Funkcionalnost FFAP mree moemo da iskaemo kao
(3) ) ( } ,...,
1
, , {
i
t y
i
y
i
y
k i
y
q i
f =
+
, i=q+1,..,m,
gde je Output
1
={
q i
y
i
y
,...,
1
}, to znai treba da se ue
jedan budui (k-koraka unapred), jedan sadanji i q ranijih
odziva.
p
n i k -3, +
p
n i k -4, +
p
n i k -2, +
p
n i+k -1,
t
i
p
n i , -3
p
n i , -2
p
n i , -1
p
n i ,
p
n i k , +
Slika 5. EFFAP. Proireni FFAP VNM (q=3)
Za primene u predvianju potronje elektrine energije
FFAP mreu smo proirili tako to smo omoguili uticaj
odziva iz datog dana ranijih sedmica za dato vreme dana. Na
taj nain ekstrapolacionu funkciju moemo da piemo na
sledei nain:
(4)
)
, 4
,
, 3
,
, 2
,
, 1
, (
}
,
,...,
2 ,
,
1 ,
,
,
,
,
{
k i n
p
k i n
p
k i n
p
k i n
p
i
t
q i n
p
i n
p
i n
p
i n
p
k i n
p
+ + + +
=
=
+
f
, i=q, ...,m.
Sada VNM ui buduu (nepoznatu) vrednost p
n,i+k
, na os-
novu stvarnog vremena t
i
, sadanje potronje p
n,i
, vred-
nostima ranije potronje tokom datog dana u ntoj (sadanjoj)
sedmici p
n,i-j
, j=1,2,,q i vrednostima potronje u buduem
trenutku istog dana u prethodnim sedmicama p
n-j,i+k
,
j=1,2,3,4. Smatralo se dovoljnim da se posmatraju samo
etiri prethodne sedmice. Nova struktura VNM nazvana je
extended feed forward accommodated for prediction
(EFFAP). Ona je prikazana na Sl. 5.
U narednom odeljku bie dat primer primene ove metode
za predvianje jedan korak unapred.
3. PRIMER PRIMENE PREDVIANJA JEDAN
KORAK UNAPRED
Posle obuke EFFAP VNM i primene odgovarajue pobu-
de za predvianje za etvrtak 30.01.2009. god. dobila se
vrednost 0,581574. To je odstupanje od svega 3.85% od oe-
kivane vrednosti 0,5. Pored toga EFFAP VNM odlino obav-
lja aproksimaciju to se moe videti sa Sl. 6 gde ulazna kriva
i aproksimacija se poklapaju u celom aproksimacionom inter-
valu t{0, 1382}. Ovaj rezultat bio je dobijen sa pet neurona
u skrivenom sloju i sa q=3, upravo kako je pokazano na Sl. 5.
Imajui u vidu oblik krive za gornji primer predvianja
moemo da kaemo da je uspean. Da bi proverili ponaanje
metoda na veem broju primera, ponovili smo gore opisani
proces 11 puta pomerajui se u vremenu za jedan korak. Do-
bijeni rezultati su prikazani na Sl. 7. Sva predvianja su do-
bijena sa VNM sa pet neurona u skrivenom sloju i za svaku
od njih je u procesu obuke korieno isto poetno reenje.
0.25
0.35
0.45
0.55
0.65
0 400 800 1200
vreme [min]
p/(200 kW)
Original
Aproksimacija
i predvi anje
Slika 6. Stvarna potronja (puna linija) i aproksimacija
(isprekidana linija) dobijena sa EFFAP VNM. Poslednji
segment isprekidane linije je predvianje
Kao to se moe videti sa Sl. 7, nisu sva predvianja tako
uspena kao ono prikazano na Sl. 6. Ipak, veina ih je u ok-
viru od samo 1% od oekivane vrednosti i samo dva su pri-
metno udaljena od nje. Najvee odstupanje bilo je samo
9.38%.
0
0.2
0.4
0.6
0 400 800
1200
1600
p/(200 kW)
vreme [min]
Predvi eno
Mereno
Mereno
Slika 7. Predviene i stvarne vrednosti
4. PRIMENA NA DVOKORANO PREDVIANJE
Glavni cilj istraivanja u ovom projektu bio je da se raz-
vije metod za predvianje jedan korak unapred polazei od
ogranienog niza podataka. Mada je primena na dugoronije
predvianje uvek izazov mi smo bili svesni da je teko vero-
vati da se moe predviati u budunost onoliko daleko koliki
je raspoloivi osnovni period predvianja. Zato emo u ovom
odeljku opisati jedan rezultat predvianja za dvostruko dui
period od jednog koraka.
Po naem miljenju mogua su dva pristupa predvianju
na dui vremenski period. Najpre, mogue je upotrebiti rezul-
tate dobijene predvianjem u trenutku t
i+1
, dakle y
i+1
, i proi-
riti osnovni skup predvianja konkatenacijom. Sa ovako pro-
irenim skupom moe poeti postupak predvianja za naredni
korak t
i+2
. Ova procedura moe da se ponovi onoliko puta
koliko se eli. Problem sa primenom ove ideje je da se gre-
ka u predvianju vrednosti y
i+1
ugrauje u novo predvianje i
tako sve do kraja. Na samom kraju teko je imati poverenja u
dobijeni rezultat. Primeri primene ove ideje mogu se nai u
[14]. Bilo je eksplicitno uoeno da se greka akumulira.
Alternativno, moe se predviati dva ili vie koraka unap-
red direktno, preskaui meuvrednosti. Za te primene u (4)
treba staviti k=2 ili vie i, naravno, kreirati podatke za
odgovarajuu obuku VNM.
Pri razmatranju ovog metoda uoavamo da za jednokora-
no predvianje (k=1) raspolaemo sa m uzoraka koji mogu da
se koriste za obuku i b=m-1-q lekcija za obuku. S druge
strane, kod viekoranog predvianja, broj lekcija za obuku
postaje b=m-k-q. Ako broj intervala u budunosti, k, raste, b
se smanjuje. To odgovara skraivanju osnovnog perioda
predvianja to u krajnjoj liniji ugroava kvalitet predikcije.
Ovaj metod je proveravan na jednom primeru predvianja
potronje elektrine energije dva koraka (etiri sata) unapred.
Dobijeni rezultat predvianja prikazan je na Sl. 8. Pregled-
nosti radi na ovoj slici vremenska osa je prikazana preko
rednih brojeva uzoraka. Oekivana vrednost bila je 0,5, a
predvieno je da e biti 0,5094. Odstupanje je iznosilo samo
1.88% to je veoma ohrabrujui rezultat. Treba primetiti da je
ekstrapolacija uinjena u taki u kojoj kriva menja znak
prvog izvoda. Ovaj je rezulat dobijen, meutim, uz dodatne
napore odnosno uz dodatnu sloenost i potrebne strukture
podataka i same VNM. Da bi se dobio broj uzoraka na krivoj
iz prethodnog intervala koji je uzet za obuku bio je m=17 to
je dva puta vie nego u sluaju jednokoranog predvianja
mada su tada bile potrebne dve mree da se dostigne isti
vremenski trenutak. Pored toga broj skrivenih neurona je
povean na m
h
=7, a upotrebljeno je q=4. Imajui to u vidu
bilo je korieno b=17-2-4=11 lekcija za obuku.
Ovaj rezultat smatramo poetnim uspehom. Naa je na-
mera da pronaemo parametre za sintezu VNM (broj uzoraka
- m, broj vrednosti iz prolosti - q, i broj skrivenih neurona -
m
h
) tako da se omogui automatsko (u realnom vremenu)
generisanje reenja odmah posle trenutka kada su mereni
rezultati raspoloivi to je bilo uinjeno sa jednokoranim
predvianjem prikazanim na Sl. 7.
0.25
0.3
0.35
0.4
0.45
0.5
0.55
0.6
0.65
0.7
4 6 8 10 12 14 16 18 20 22
ulazne vrednosti
p/(200 kW)
aproksimacija
p
r
e
d
v
i
a
n
j
e
Redni
broj
uzorka
Slika 8. Aproksimacija i dvokorana ekstrapolacija sa EFFAP
4. ZAKLJUAK
Bio je razmotren problem predvianja potronje elek-
trine energije na nivou transformatorske stanice odnosno na
nivou predgraa. Najpre je utvreno da i pored periodi-
nosti krive potronje, vrednosti potronje iz prethodnih dana
i onih iz proteklih sedmica ali istoga dana, nisu pogodni za
direktnu upotrebu. Zatim je predloena struktura VNM koja
predstavlja potencijalno reenje problema. Korieni su po-
daci o potronji iz datog dana i iz istog dana prethodnih sed-
mica na pogodan nain. Dobijeni su ohrabrujui rezultati za
jednokorano (dva sata unapred) predvianje. Pokazano je da
je metod pogodan za upotrebu u sistemu za automatsko pred-
vianje u realnom vremenu. Pokuaj da se primeni isti metod
na dvokorano predvianje je u eksperimentalnoj fazi sa iz-
gledima za uspeh to je pokazano jednim primerom. Bie
potrebno da se uloe dodatni napori kako bi se pronali
parametri VNM koji obezbeuju automatizaciju dvokoranog
predvianja.
ZAHVALNOST
Rezultati prikazani u ovom radu ostvareni su u okviru
projekta TR 11007. iju je realizaciju finansira Ministarstvo
nauke Republike Srbije.
5. LITERATURA
[1] A. S. Mandel', "Method of Analogs in Prediction of Short
Time Series: An Expert-statistical Approach", Automation
and Remote Control, Vol. 65, No. 4, April 2004, 634-641.
[2] Murto P., Neural Network Models for Short-Term Load
Forecasting. MS Thesis, Helsinki University of Techno-
logy, 1998.
[3] Gross, G., F. D. Galiana, 1987, "Short-term load forecas-
ting", Proceedings of the IEEE, Vol. 75, No. 12, December
1987, pp. 1558-1573.
[4] Fausto Cavallaro, Electric load analysis using an
artificial neural network, Int. J. of Energy Research, Vol.
29, 2005, pp. 377392
[5] Milojkovi, J. i Litovski, V. B., Novi postupci predvi-
anja za potrebe odrivog razvoja, 51va Konf. ETRANa,
Herceg Novi, Crna Gora, Juni 2007, Rad br. EL1.8.
[6] Milojkovi, J. i Litovski, V. B., "Comparison of some
ANN based forecasting methods implemented on short ti-
me series", 9th Symposium NEUREL-2008, Belgrade,
Sept. 2008, pp. 175-178.
[7] Milojkovi, J, and Litovski, V.B., Dynamic Short-Term
Forecasting Of Electricity Load Using Feed-Forward
ANNs, Int. J. of Eng. Intelligent Systems for Electrical
Eng. and Communication, Vol. 17, No. 1, March 2009, pp.
38-48.
[8] E.A. Plummer, Time series forecasting with feed-for-
ward neural networks: guidelines and limitations, M.S.
Thesis, University of Wyoming, Laramie, July 2000.
[9] Zhang, B.G., Forecasting with artificial neural networks:
The state of the art, Int. J. of Forecasting, Vol. 14, No. 1,
March 1998, pp. 35-62
[10] K. Brnns and J. Hellstrm, Forecasting based on
Very Small Samples and Additional Non-Sample Informa-
tion, Ume Economic Studies 472, Ume University,
Sweden, 1998
[11] T. Masters, "Practical Neural Network Recipes in C++",
Academic Press, San Diego, 1993.
[12] Zografski, Z., A novel machine learning algorithm and
its use in modeling and simulation of dynamical systems,
in Proc. of 5
th
Annual European Computer Conference,
COMPEURO '91, Hamburg, Germany, 1991, pp. 860-864.
[13] E.B. Baum and D. Haussler, What size net gives valid
generalization, Neural Computing, 1989, Vol. 1, pp. 151-
160.
[14] Milojkovi, J., Litovski, V., Short Term Forecasting in
Electronics, Int. J. of Electronics, ISSN 0020-7217, 2010,
accepted.
Abstract: Short term prediction of electricity load is
discussed. It will be shown here first that for the subject of
short term prediction of electricity load, even though a large
amount of data may be available, only the most recent of it
may be of importance. That gives rise to prediction based on
limited amount of data. We here propose implementation of
feed-forward artificial neural network models for a
potentially systematic solution of that problem as opposed to
heuristics that are in use. Examples will be given related to
short-term (hourly) one- and two-steps-ahead forecasting of
the electricity load at suburban level.
NEW ANN MODELS FOR SHORT TERM
FORECASTING OF ELECTRICITY LOADS
Jelena Milojkovi, and Vano Litovski