Chương III: Ứng dụng mạng Nơron ánh xạ đặc trưng tự tổ chức Kohonen trong bài toán phân loại ngày

Header Page 42 of 166.

41



6 năm 2005, 2006 của hệ thống điện Miền Bắc (Hình 3.1). Qua đồ thị phụ tải

ta thấy các ngày làm việc trong cùng một tháng của hai năm có dạng giống

nhau. Đồ thị phụ tải của tháng 2 có dạng hoàn toàn khác với tháng 6 và ta

cũng thấy rằng giá trị phụ tải của ngày nghỉ bao giờ cũng nhỏ hơn ngày làm

việc bình thờng, dạng đồ thị của các ngày này cũng có sự thay đổi. Đối với

các ngày truyền hình trực tiếp các sự kiện thể thao văn hoá đồ thị phụ tải cũng

có dạng tơng tự nh các ngày có cùng sự kiện trớc đó. Dạng của đồ thị phụ

tải trong ngày có cắt điện diện rộng cũng mang đặc thù riêng tuỳ thuộc vào

thời gian, vùng cắt điện. Những ngày này nếu áp dụng các phơng pháp dự

báo thờng cho kết quả chính xác không cao.

Đồ thị phụ tải

3500



Công suất



3000

2500

2000



T 22 n 24/02/2005



1500

1000

500

0

0



1



2



3



4



5



6



7



8



9



10



11



12



13



14



15



16



17



18



19



20



21



22



23



24



Giờ



Đồ thị phụ tải

3500



Côngsuất



3000

2500



T 22 n 24/02/2006



2000

1500

1000

500

0

0



1



2



3



4



5



6



7



8



9



10



11



12



13



14



15



16



17



18



19



20



21



22



23



24



Giờ



Đồ thị phụ tải

3500



Côngsuất



3000

2500



T 9 n 11/05/2005



2000

1500

1000

500

0

0



1



2



3



4



5



6



7



8



9



10



11



12



13



Giờ



Footer Page 42 of 166.



14



15



16



17



18



19



20



21



22



23



24



Header Page 43 of 166.

42



Đồ thị phụ tải

3500



Công suất



3000



T 9 n 11/05/2006



2500

2000

1500

1000

500

0

0



1



2



3



4



5



6



7



8



9



10



11



12



13



14



15



16



17



18



19



20



21



22



23



24



Giờ



Hình 3.1. ĐTPT đặc trng của các ngày trong tháng

2, 5 của năm 2005 và 2006

Tóm lại để kết quả dự báo phụ tải chính xác cao ta cần phân loại các đồ

thị phụ tải của các ngày trong năm thành một số nhóm, mỗi nhóm bao gồm

các ngày có các dạng đồ thị phụ tải tơng tự. Những ngày có dạng đồ thị phụ

tải tơng tự đợc định nghĩa là những ngày có cùng kiểu ngày.

3.1.2. Sự cần thiết phân loại ngày bằng phơng pháp mạng nơron.

Trớc đây, bằng kinh nghiệm vận hành lâu năm các kỹ s điều hành và

các cán bộ lập phơng thức có thể phân biệt đợc các kiểu ngày gốc đặc trng

trong quá khứ và dự đoán các kiểu ngày tiếp theo. Tuy nhiên, trong quá trình

biến đổi không ngừng của xã hội, cơ cấu kinh tế và tỉ trọng giữa các ngành

công nghiệp thay đổi, thói quen sinh hoạt của khách hàng thay đổi sẽ xuất

hiện một số kiểu ngày mới mà các chuyên gia với kinh nghiệm của mình có

thể đa ra nhận định với độ chính xác không cao. Hơn nữa sẽ có một số kiểu

ngày nào đó có thể hầu nh không xuất hiện, thậm chí biến mất hoàn toàn mà

không đợc loại trừ khỏi tập hợp các kiểu ngày gốc đặc trng. Đó chính là

nhợc điểm lớn trong quá trình dự báo dạng đồ thị phụ tải dựa vào kinh

nghiệm của chuyên gia.



Footer Page 43 of 166.



Header Page 44 of 166.

43



Việc sử dụng mạng nơron nhân tạo để phân loại ngày là một giải pháp

khắc phục đợc hạn chế trên. Nhờ cơ chế huấn luyện mạng nơron với các dữ

liệu phụ tải cập nhật theo định kỳ, phần mềm dự báo có thể tìm ra các kiểu

ngày, các ngày tơng tự và các kiểu ngày mới phát sinh không giống với một

số kiểu ngày trong dạng gốc hoặc loại bỏ một số ngày không còn xuất hiện

nữa. Trong suốt quá trình huấn luyện mạng, khi đa các tập mẫu vào mạng, ta

cần phải thu đợc kết quả gì, bao nhiêu kiểu ngày đầu ra? Quá trình học nh

vậy gọi là học không giám sát.

Trong phần tiếp theo, ta sẽ đi sâu nghiên cứu mạng nơron ánh xạ đặc

trng tự tổ chức Kohonen và ứng dụng nó để phân loại ngày.

3.2. Mạng nơron ánh xạ đặc trng tự tổ chức Kohonen

Cách xử lý thông tin của các mạng nơron thông thờng chỉ quan tâm tới

giá trị và dấu của các thông tin đầu vào, mà cha quan tâm khai thác các mối

liên hệ có tính chất cấu trúc trong lân cận của các vùng dữ liệu mẫu hay toàn

thể không gian mẫu

Chẳng hạn, với hai phần: 1 tam giác, 1 hình chữ nhật, ta có thể tạo

thành ngôi nhà khi chúng đợc phân bố kề giáp với nhau theo một tật tự nhất

định.



Hình 3.2. Ví dụ về mối liên hệ có tính chất lân cận

Teuvo kohonen (1989) đã đề xuất một ý tởng rất đáng chú ý về ánh xạ

các đặc trng tự tổ chức (theo nghĩa không cần có mẫu học) nhằm bảo toàn

các trật tự sắp xếp các mẫu trong không gian biểu diễn nhiều chiều sang một

không gian mới các mảng nơron (một hoặc hai chiều). Trong mạng Kohonen,



Footer Page 44 of 166.



Header Page 45 of 166.

44



các véctơ tín hiệu vào gần nhau sẽ đợc ánh xạ sang các nơron trong mạng lân

cận nhau.

3.2.1. Cấu trúc mạng

Mạng kohonen rất gần gũi với kiểu cấu trúc mạng nơron sinh học cả về

cấu tạo lẫn cơ chế học. Mạng kohonen thuộc vào nhóm mạng một lớp, các

nơron đợc phân bố trong mặt phẳng hai chiều theo kiểu lới vuông, hay lới

lục giác (hình 3.3).

Phân bố này phải thoả mãn yêu cầu: Mỗi nơron có cùng số nơron trong

từng lớp láng giềng, ý tởng cơ bản của Kohonen là các đầu vào tơng tự nhau

sẽ kích hoạt các nơron gần nhau về khoảng không gian. Mối quan hệ tơng tự

(theo khoảng cách) có thể tổng quát hoá cho một lớp đối tợng rộng các quan

hệ tơng tự giữa các tín hiệu đầu vào.



`

Hình 3.3. Lới các nơron trong mặt phẳng hai chiều

Một cách trực quan, có thể xem thuật giải huấn luyện mạng Kohonen

nhằm biến đổi không gian tín hiệu vào sang mạng nơron giống nh các thủ tục

kiểu làm trơn hay tạo hình dữ diệu.

Tất cả các nơron ở lớp kích hoạt có liên kết đầy đủ với lớp vào. Điểm

quan trọng nhất trong mạng Kohonen là với một véctơ tín hiệu vào, nó chỉ cho

phép các phản hồi có tính địa phơng, nghĩa là đầu ra của mỗi nơron không



Footer Page 45 of 166.



Header Page 46 of 166.

45



đợc nối với tất cả các nơron khác mà chỉ với một số nơron lân cận. Sự phản

hồi mang tính địa phơng của những điều chỉnh (nếu có) tạo ra hiệu ứng là

các nơron gần nhau về vị trí sẽ có hành vi tơng tự khi có những tín hiệu

giống nhau đợc đa vào.

3.2.2. Huấn luyện mạng

Quá trình học đợc sử dụng trong mạng Kohonen dựa trên kỹ thuật

cạnh tranh, không cần có tập mẫu học. Khác với học có giám sát, các tín hiệu

đầu ra có thể không đợc biết một cách chính xác.

Xét mạng nơron hai lớp, lớp đầu vào gồm có các tín hiệu đầu vào Xs,

mỗi tín hiệu vào bao gồm N nơron với X = [x1, x2, ,xN]T. Lớp ẩn bao gồm M

nơron. Trên hình 3.4 mô tả liên kết giữa tín hiệu đầu vào tới một nơron ra.

Tín hiệu vào



Trọng số

liên kết wij



Hình 3.4. Liên kết giữa tín hiệu đầu vào tới một nơron ra



Footer Page 46 of 166.



Header Page 47 of 166.

46



Mỗi đầu vào i đợc kết nối với nơron đầu ra j thông qua một trọng số

wij. Giá trị đầu ra aj đợc gán cho nút đầu ra j theo các biến đầu vào và trọng

số liên kết wij.

N



aj =



w

i =1



ij



(3.1)



xi



Tại mỗi thời điểm chỉ có nơron duy nhất C trong lớp kích hoạt đợc lựa

chọn sau khi đã đa vào mạnh các tín hiệu Xs. Nơron này đợc chọn theo một

trong hai nguyên tắc sau:

Nguyên tắc 1 Nơron C có tín hiệu ra cực đại

Outc m ax(a j ) = max( ( X siW ji ) (3.2)

j =1



i =1



Nguyên tắc 2 Véctơ trọng số của nơron C gần với tín hiệu vào nhất

Errc min( err j ) = min( ( X si W ji ) 2 )



(3.3)



j =1



Sau khi đa vào một tập các véctơ X(1), X(2),,X(K), các véctơ đầu

vào với các đặc điểm tơng tự đợc gán cho đơn vị đầu ra giống hoặc gần

giống nhau. Nh vậy đây là quá trình véctơ đầu vào tự tổ chức trong quá trình

học và in vào sơ đồ đầu ra. Sự sắp xếp của nút đầu ra thông qua một véctơ đầu

vào tơng ứng dựa trên các đặc điểm nêu trên nên loại mạng nơron này đợc

gọi là mạng ánh xạ đặc trng tự tổ chức Kohonen.

Sau khi xác định đợc nơron C, các trọng số wci đợc hiệu chỉnh nhằm

làm cho đầu ra của nó lớn hơn hoặc gần hơn giá trị trọng số mong muốn. Do

vậy, nếu tín hiệu vào xsi với trọng số wci cho kết quả ra quá lớn thì phải giảm

trọng số và ngợc lại. Các trọng số của các nơron láng giềng cũng phải đợc

hiệu chỉnh giảm tuỳ thuộc vào khoảng cách lân cận Nc tính từ C. Với khoảng

lân cận Nc thì số nơron lân cận với nút c là (2Nc+1)2 đợc phân bố trong một

hình vuông mà nút C là trung tâm (Hình 3.5).



Footer Page 47 of 166.



Header Page 48 of 166.

47



Hình 3.5. Phân bố giữa nơron trung tâm và các nơron theo lới vuông

Tuỳ thuộc vào nơron trung tâm C đợc chọn theo nguyên tắc 1 hoặc

nguyên tắc 2 ta có cách hiệu chỉnh các trọng số wij tơng ứng:



hoặc



wji=wji +(1-xiwji)



(3.4)



wji=wji +(xi wji)



(3.5)

n



Sau đó chuẩn hoá các trọng số sao cho:



w

i =1



ij



=1



Với luật học này các nơron lân cận sẽ đợc cập nhật tơng tự nhau và nh

thế sẽ phù hợp với sự kiện đáp ứng đầu vào lân cận. Trên thực tế khoảng lân

cận Nc và hằng số sẽ đợc thay đổi trong quá trình học. Bắt đầu Nc rất lớn

và tơng đối và sau đó giảm cả hai.

Theo kinh nghiệm, cần phải tạo ra phân bố ngẫu nhiên các trọng số trong

khoảng -0.1 đến 0.1 hoặc -1/m đến 1/m, ở đây m là số trọng số của mạng và

chuẩn hoá dữ liệu vào, ra bằng -1 hoặc 1.

Tuy nhiên cũng phải chú ý một điều là việc lựa chọn tiêu chuẩn chuẩn

hoá, định cỡ dữ liệu phụ thuộc rất nhiều vào bản chất bài toán.

3.2.3. Sử dụng mạng

Giả sử đã huấn luyện mạng để nhận đợc ma trận trọng số W. Khi đa

vào mạng một véctơ X, toàn bộ ma trận W lại đợc cập nhật theo các công



Footer Page 48 of 166.



Header Page 49 of 166.

48



thức (3.4) hoặc (3.5) tuỳ thuộc vào việc xác định nơron trung tâm C sử dụng

theo nguyên tắc 1 hay nguyên tắc 2.

Nh vậy, mạng Kohonen cho chúng ta biết đợc sự phân bố và quan hệ

tơng đối về mặt địa lý giữa các mẫu trong không gian biểu diễn.

3.3. Xây dựng mạng Kohonen để phân loại ngày

3.3.1. Thiết kế cấu trúc mạng.

Với đặc thù của bài toán dự báo phụ tải, dữ liệu đầu vào gồm có 24 giá

trị tơng ứng với 24h (N=24),vì vậy ta chọn đầu vào X= (X1, X2, XN). Chọn

lớp đầu ra gồm M= 19x19 nơron với Y = (Y1, Y2, YM).

Các nơron đầu ra đợc sắp xếp trên một mạng kẻ ô hình bàn cờ, mỗi

nơron đợc mô tả bằng một hệ toạ độ chữ nhật. Để đơn giản trong mô hình

này, ta đánh số thứ tự các nơron theo tuần tự và so sánh vị trí tơng quan cụ

thể giữa chúng bằng cách tự phân tích (Hình 3.6 ).

1



2



3



20



21



39







17



18



19



22







36



37



38



40



41







55



56



57



58



59



60







74



75



76



























































286



287



288







302



303



304



305



306



307







321



322



323



Footer Page 49 of 166.



4



5



6







Header Page 50 of 166.

49



324



325



326



343



344



345



346



347



348







340



341



342







359



360



361



Hình 3.6. Sắp xếp các nơron đầu ra của mạng.



3.3.2. Huấn luyện mạng

Sau khi đã chọn đợc cấu trúc mạng, bớc tiếp theo ta sẽ huấn luyện

mạng dựa trên kỹ thuật học cạnh tranh, không cần có tập mẫu học.

Giả sử ta có véctơ ĐTPT P= (P1, P2 , , P24), ta thực hiện quy chuẩn

hoá để thu đợc véctơ đơn vị theo công thức (3.5)

xi =



pi



(3.6)



24



p



2

i



Nh vậy véctơ đầu vào tại mạng ánh xạ đặc trng tự tổ chức X = [X1,

X2,..Xn]T

Quá trình huấn luyện đợc bắt đầu bằng việc chọn các véctơ đầu vào

X(1), X(2), .X(n) phụ thuộc vào số ngày mà chúng ta dựa vào phân dạng. Bớc

tiếp theo ta chọn các giá trị trọng số ban đầu wij (i=1, 2,..24); j = (1, 2,,

M) và chiều dài khoảng lân cận là Nc. Theo Kohonen thì các trọng số liên kết

bắt đầu từ các giá trị nhỏ ngẫu nhiên trong khoảng 0.1 đến 0.1. Sau khi đã

xác định đợc các trọng số ban đầu Wij bớc tiếp theo ta cần quy chuẩn hoá

để thu đợc chiều dài véctơ đơn vị theo công thức (3.7).

wij =



w'ij



(3.7)



24



w



2



ij



Nói cách khác trọng số đợc quy chuẩn sao cho:



Footer Page 50 of 166.



Header Page 51 of 166.

50

24



w

i =1



ij



=1



(3.8)



Với véctơ đầu vào X và trọng số liên kết wij, giá trị đầu ra aj của nơron

thứ j đợc xác định

24



aj = wij xi



(3.9)



i =1



Thông thờng đối với bài toán phân loại ngày đợc phân loại theo từng

tháng, vì vậy số véctơ ĐTPT đầu vào là X(1), X(2), , X(k) với k = 28,29,

30,31 (phụ thuộc vào số ngày trong tháng đang xét). Mỗi lợt đa các véctơ

X(1), X(2), , X(k) vào mạng gọi là một tác động. Giả sử ta chọn khoảng lân

cận của Nơron C là Nc=3, và ứng với mỗi Nc số lần tác động của đầu vào là I

= 20 lần. Khi đó các trọng số liên kết cho nút C và các nút lân cận sẽ liên tục

đợc chỉnh theo công thức (3.5) và đợc chuẩn hoá theo công thức (3.7) để

thoả mãn điều kiện (3. 8).

Trong quá trình thu hẹp khoảng lân cận tức là giảm dần Nc, ta sử dụng

4 giá trị khác nhau của Nc (3,2,1,0). Nếu tơng ứng mỗi Nc có 20 tác động thì

trong một quá trình huấn luyện sẽ có 80 tác động.

Hình (3.7) là sơ đồ trình tự các bớc của thuật toán tạo lập mạng ánh xạ

đặc trng tự tổ chức Kohonen cho bài toán phân loại ngày.



Footer Page 51 of 166.



Header Page 52 of 166.

51



Bắt đầu



Đọc các mẫu vào P(1), P(2)P(K), số nơron vào, ra, số

mẫu,chọn , wkj , Nc, NI

I = 1,..,NI

k=1,..,K



Tính giá trị đầu ra

N



aj = wij xi

i =1



Chọn nơron trung tâm C:



Outc m ax(a j )

j =1



Tính W của nơron C và các nơron láng giềng

Nc=Nc-1



wji=wji +(xi wji) với i =1,,N và j Nc

Sai

k=K

Sai



Đúng

I=NI

Đúng



Sai



Nc=0

Đúng

Kết thúc



Hình 3.7. Sơ đồ khối trình tự các bớc của thuật toán phân loại kiểu ngày.



Footer Page 52 of 166.