포유류 동물의 시각피질 세포에 나타나는 특징은 크게 단순특징을 추출하는 simple cell과 복잡한 특징에 반응하는 complex cell로 구분된다. 특히, 하위 계층의 세포들은 단순특징을 추출하며, 상위 계층으로 갈수록 복합특징을 추출하는 세포들이 존재한다. 이 연구에서는 입력영상에 독립성분분석을 적용하여 complex cell에 대응하는 복잡한 특징을 추출하였다. 이 결과는 시각피질 세포의 정보처리에 대한 방식에 대한 이해를 기반으로 시각정보처리 알고리즘을 개발하는 데 기여할 것이다.		Neurons in the mammalian visual cortex can be classified into the two main categories of simple cells and complex cells based on their response properties. Here, we find the complex features corresponding to the response of complex cells by applying the unsupervised independent component analysis network to input images. This result will be helpful to elucidate the information processing mechanism of neurons in primary visual cortex.

요 약		Abstract

독립성분 분석에 의한 복합특징 형성 Finding Complex Features by Independent Component Analysis
오상훈 목원대학교 정보통신전파학부		Sang-Hoon Oh (shoh@mokwon.ac.kr) Div. of Information Communication & Radio Engineering
중심어 : 시각정보, 특징추출, 독립성분분석, 복합특징		Keyword : Visual Features, Independent Component Analysis, Complex Features

I. 서론

인간이 처리하는 정보의 대부분은 시각과 청각을 통하여 입력되며, 이러한 정보들이 각각의 감각기관을 통하여 두뇌로 연결된다. 이때, 입력된 정보는 계층구조를 지닌 신경세포들을 지나면서 특징정보가 추출되거나 축약되는 과정을 거친 후 고차원의 정보처리를 하게 된다. 정보통신 기기가 인간과 같은 형태의 지능적 정보처리를 하도록 하는 데는 이와 같은 인간의 정보처리 방식을 규명하는 것이 큰 도움이 될 것이다.

인간을 포함한 포유류의 시각피질에 있는 세포들이 시각정보들에 대해 어떻게 반응하는 지에 대한 연구는 아주 오래 전부터 행해져 왔으며, 고양이와 원숭이에 대한 실험을 통하여 시각정보가 Retina, LGN(Laternal Geniculate Nucleus), V1, V2, V4, TE로 구분되는 계층적 처리과정을 거치게 됨이 밝혀졌다. 특히, V1에는 단순한 특징에 반응하는 simple cell이 있으며, 다음 계층으로 갈수록 복잡한 특징에 반응하는 complex cell들이 존재한다고 보고 되었다[1]. 그리고, TE 영역의 세포들은 물체에 대한 인식이 비슷한 특성을 지니는 것들이 모여 있는 columnar 구조를 지닌다.

한편, 이러한 특징들을 지닌 세포들이 형성된 원리에 대한 연구도 행해져, □redundancy reduction", "sparse coding", "statistical independence"등의 개념이 정립되었다[2],[3],[4]. 시각 정보가 경로를 따라 처리되어 질 때, 중복되는 정보들은 걸러지고 꼭 필요한 정보들만이 다음 계층의 세포들로 전달될 것이라는 개념에서 □redundancy reduction" 혹은 "compact code"가 제안되었다. 또한, 각 세포들이 입력에 대하여 반응을 보일 때, firing하는 출력값의 확률분포가 sparse 하다는 것을 기초로, Olshausen과 Field는 실제 영상을 대상으로 단층의 신경망을 구성한 후 "sparse code"에 의해 학습한 결과 얻게 된 특징추출 모양이 simple cell의 특징에 해당함을 보였다[3]. Bell과 Sejnowski는 출력 정보들이 서로 독립적으로 되도록 하는 ICA(Independent Component Analysis)에 의해서도 같은 결과를 얻었으며[4], 이 ICA에 의한 결과 얻어진 특징들의 확률 분포를 살펴보면 상당히 sparse하다는 것을 발견할 수 있다. 즉, ICA와 sparse code는 비슷한 방법이라는 것을 나타내며, 입력영상을 처리하는 가장 낮은 계층의 세포들은 독립적인 특징을 찾고자 하는 원리에 의해 학습되어진 것이라고 볼 수 있다. 그렇지만, complex cell이 지닌 것처럼 복잡한 특징 모양을 학습알고리즘에 의해 구현하지는 못하였다.

이 연구에서는 ICA를 입력영상에 적용하여 complex cell에 해당하는 특징을 찾아내고자 한다. 즉, 복잡한 특징도 독립적인 특징을 추출하고자하는 학습원리에 의해 구현됨을 보이고자 한다. 이 논문의 구성은 다음과 같다. 먼저 ICA를 간략히 소개하고, 이를 입력영상에 적용하여 얻은 simple feature를 보인다. 다음으로 ICA를 이용하여 complex feature를 얻는 학습과정을 설명하고 복잡한 특징을 학습에 의해 얻기 위해 필기체 숫자 영상을 이용하여 시뮬레이션 한다. 그리고, 결론을 맺겠다.

II. 독립성분분석

독립 성분 분석(ICA: Independent Component Analysis) 은 선형적으로 신호를 해석하는 하나의 방법으로서, 먼저 source signal vector는

[eqn: {bold s}=[s_1 , s_2 , ... , s_N ]^T]             (1)

와 같이 주어진다고 하자. 여기서[eqn: s_i]는 서로 독립이라고 하며, 그 분포는 non-Gaussian 이거나 아니면 오직 한 source만 Gaussian 이라고 한다. 이 가정 하에서 우리가 측정하는 신호는

[eqn: {bold x}={bold A}{bold s}]                    (2)

와 같이 주어진다고 하자. 이때 A는 N□N mixing matrix라고 한다.

위와 같은 가정 하에, s에 관한 정보가[eqn: s_i]가 서로 독립이라는 것 이외에는 전혀 없는 상황에서, 측정된 신호 x로부터 다시 source signal vector s를 복원해 내고자 한다[5]. 이러한 목적으로

[eqn: {bold u}={bold W}{bold x}]                     (3)

와 같이 변환 한 후, [eqn: y_i =g(u_i )]형태로 비선형 변환을 거친다. 이때, [eqn: {bold W}]는 N□N unmixing matrix라고 하며, [eqn: g(.)]는 source signal의 cumulative density function이 되도록 한다. 그러면, 이 network의 출력이 지닌 joint entropy가 최대로 되도록 학습을 한다면 [eqn: {bold u}]는 독립이 되도록 학습된 것이며, source signal [eqn: {bold s}]를 찾아낸 것이다. 즉,

[eqn: { partial H ({bold y})} over {partial {bold W} }=[({bold W}^T )^-1 - □({bold u}){bold x}^T ]]    (4)

에 의해 계산된 결과에서 gradient가 증가하는 방향으로 [eqn: {bold W}]를 변경시킨다. 이를 더 효율적으로 하기 위해 제안된 "natural gradient[6]"를 적용하면

[eqn: □{bold W} propto { partial H ({bold y})} over {partial {bold W} }{bold W}^T {bold W}=[{bold I}-□({bold u}){bold u}^T ]{bold W}]   (5)

와 같이 된다. 여기서,

[eqn: □({bold u})=-{ { partial p ({bold u})} over {partial {bold u} }} over {p({bold u}) }]              (6)

는 "score function"이라고 하며, [eqn: p(.)]는 source signal의 p.d.f.(probability density function)이다.

위와 같이 유도된 ICA 알고리즘은 출력의 entropy를 최대로 한다는 뜻에서 Information Maximation을 줄여 "InforMax" 방법이라고 부른다. 이와 달리, 출력들 간의 mutual information을 최소화 시키도록 학습하는 "Minimizing Mutual Information" 알고리즘도 있다[5]. 이 두 방법은 한 목적을 다른 관점에서 접근한 것으로 그 결과는 식 (5)와 같은 형태로 나타난다.

그림 1. ICA network 및 학습방법

III. 독립성분분석에 의한 시각특징 추출

1. 자연영상을 대상으로 한 단순특징

ICA에 의해 시각의 simple cell이 나타내는 특성을 찾는 방법은 다음과 같다. 먼저, 자연을 대상으로 한 흑백영상을 상대로 12x12 패치를 임의로 구성한다. 본 연구자는 20000개의 패치를 만들어 내어 144x1차원 vector로 변환 후 ICA 학습의 대상 [eqn: {bold x}]로 삼았다. ICA 학습의 최종 결과로 얻어진 [eqn: bold W]의 row vector 144개를 입력영상과 같은 12x12차원으로 각각 변환 후 그림으로 그렸다. 물론 ICA 학습이 잘 이루어지도록 하기 위하여 Bell & Sejnowski가 했던 방법과 같이 sphering 과정을 거치도록 하였다. 그림 2가 자연 영상의 한 예인데, 아주 복잡한 특징 보다는 단순한 특징으로 이루어진 사물모양들이 대부분이다. 그림 3이 ICA 학습에 얻어낸 12x12 simple feature인데, 이 그림을 보면 여러 방향의 선 성분들이 여러 위치에서 나타난 것을 볼 수 있다. 즉, V1 layer의 특징인 localized oriented simple feature가 ICA 학습에 의해 찾아진 것이다.

그림 2. 자연영상의 예

그림 3. 자연영상에서 얻은 ICA simple feature

2. 숫자 영상을 대상으로 한 복합 특징추출

한편, ICA에 의해 complex feature를 찾기 위해서는 학습 대상인 영상을 잘 선택하여야 한다. 그림 2와 같은 자연영상은 단순한 성분들이 많이 나타나 있지만, 복잡한 성분들이 많이 있는 영상을 대상으로 ICA 학습을 수행하여야 complex cell의 특성에 해당하는 성분들이 찾아질 것이다. 이와 같은 취지에서 필기체 숫자 영상을 대상으로 ICA 학습을 실시해보았다. 필기체 숫자 영상은 CEDAR 데이터 베이스의 18468개이며, 각 숫자의 크기는 12x12이다. 그림 4는 숫자영상의 예들이다.

그림 4. 필기체 숫자 영상

그림 5. 필기체 숫자영상에 대한 PCA 결과

이 숫자영상을 대상으로 ICA 학습을 실시할 때, 먼저 PCA(Principle Component Analysis)를 실시하였다. 이는 retina에서 LGN을 통과하여 V1 layer로 연결될 때, LGN이 decorrelation 역할을 수행한다는 발견에 기초하여 PCA를 실시한 것이다[2],[7]. 그림 5는 PCA 결과 얻어진 각 eigenvectors를 eigenvalues의 크기에 따라 정렬한 후 12x12로 변환하여 그린 결과이다. 추출되는 특징이 저주파에서 고주파로 다양하게 나타남을 볼 수 있다. 그림 6은 각 eigenvectors에 해당하는 eigenvalues이다. 이 eigenvalues를 보면 100 이상의 값들은 거의 무시할 만큼 작은 것을 알 수 있다. 따라서, PCA에 의해 얻은 eigenvectors를 이용하여 숫자영상을 projection 시킬 때 대부분의 eigenvectors 방향 성분들은 무시할 수 있다.

그림 6. PCA의 eigenvalues.

Complex feature를 학습에 의해 구현하기 위해 LGN의 역할을 위와 같이 PCA로 구현한 후 그 결과를 이용하여 ICA 학습을 실시한다. 이때, PCA에 의해서 데이터 차원을 많이 축소할수록 ICA학습에 의해 얻어진 결과가 입력 영상을 바라보는 feature 모양은 복잡해질 것이다. 이와 같은 취지에서, PCA 출력을 70, 40, 20 으로 한 후 각각에 대하여 ICA 학습을 실시하였으며, 그 결과 얻어진 ICA 출력이 입력 영상을 바라보는 feature 모양을 그림으로 그렸다(그림 7).

그림 7(a)에서 보면 PCA에 의해 70 차원으로 축소 된 경우 ICA 학습에 의해 얻은 결과들이 자연영상을 대상으로 얻었던 그림 3의 localized oriented feature들 보다 복잡한 모양임을 알 수 있다. 즉, 여러 방향의 곡선 모양도 보이며, 여러 직선이 병행되는 모양도 있다. 물론 PCA 결과 144개 모두를 ICA에 적용시키면 얻어지는 결과들은 이러한 곡선 모양이 나타나지 않는다. (b)에서는 숫자의 일부분에 해당하는 더 복잡한 특징들이 보인다. (c)의 경우는 PCA에 의한 차원 축소를 너무 많이 하였기 때문에 다양한 모양의 복합특징들을 보여주지 않는다.

PCA 출력 144개를 모두 다 ICA 학습의 대상으로 삼은 경우 대부분의 특징들은 하나의 픽셀에서만 값을 가지는 형태로 나타나는 데, 그 이유는 그림 6에서 본 바와 같이 숫자 영상의 유효 차원이 144가 아니기 때문이다. 물론, 이 경우 복합 특징은 나타나지 않고 대부분이 선 모양으로 나타난다.

(a)

(b)

(c)

그림 7. PCA 후 ICA에 의해 얻어진 complex feature. ( (a) ICA출력 70개, (b) ICA 출력 40개, (c) ICA출력 20개 ).

이제까지 시각 경로 상에 나타나는 특징을 학습 원리에 의해 재현하려는 연구가 많이 시도되었지만, 이 논문에서 보여준 것과 같은 complex feature에 대한 결과는 없었으며, 가장 진전된 형태가 simple feature의 self-organization 특성을 보인 것이다[8],[9]. 여기서 복잡한 특징을 ICA 학습에 의해 찾아내는 데 성공한 이유는 PCA를 적용한 후 ICA를 실시한 것이 있다. 즉, LGN이 처리하는 decorrelation 과정을 PCA로 구현한 후, 그 결과로 얻어진 데이터의 차원을 축소시킨 다음 ICA 학습을 적용시킨 결과 complex feature에 해당하는 모양들이 얻어졌다.

그렇지만, 이 논문이 보여준 결과는 실제 시각 경로 상의 절차를 제대로 따른 것은 아니다. 실제 시각 경로에서는 LGN을 거친 결과가 V1에서 simple feature로 추출되고, 이들이 모여서 V2와 V4의 complex feature를 이루어낸다[10]. 이 논문은 LGN에 해당하는 PCA의 결과에서 바로 complex feature를 추출한 형태이다. 앞으로, simple feature의 결과를 대상으로 complex feature를 학습해내는 원리를 찾아낸다면 보다 더 실제 시각 경로 상의 학습 원리를 제대로 규명해내었다고 할 수 있을 것이다.

IV. 결론

이 논문에서는 ICA 학습에 의해 복합특징(complex feature)을 찾아내는 방법을 제시하였다. 이제까지 보고 되었던 결과들은 단순특징(simple feature)들을 보여준 것 이었지만, 여기서는 LGN의 역할을 PCA로 구현 한 후 그 결과를 ICA 학습을 거치도록 하면 복합특징들이 나타남을 필기체 숫자 영상을 대상으로 시뮬레이션 하여 보였다. 물론, 이 특징이 V4의 복합특징 세포(complex cell)과 일치한다고 볼 수 없지만, ICA 학습에 의해 복합특징이 찾아짐을 보였으며, 이 결과를 바탕으로 실제 시각 경로 상의 학습 원리를 규명해 나가도록 하겠다.

참 고 문 헌

[1] K. Tanaka, "Inferotemporal cortex and object vision," Annu. Rev. Neurosci. vol. 19, pp. 109-139, 1996.

[2] D. J. Field, "Visual coding, redundanc, and feature detection," The Handbook of Brain Theory & Neural Networks, ed. M. A. Arbib, MIT Press, 1995.

[3] B. A. Olshausen and D. J. Field, "Emergence of simple-cell receptive field properties by learning a sparse code for natural images," Nature, vol. 381, pp. 607-609, 13 June 1996.

[4] A. J. Bell and T. J. Sejnowski, "The independent components of natural scenes are edge filters," Vision Res., vol. 37, n0. 23, pp. 3327-3338, 1997.

[5] T.-W. Lee, et al., "A uniying information-theoretic framework for independent component analysis," Computers & Mathematics with Applications, vol. 31, no. 11, pp. 1-21, March 2000.

[6] S. Amari, A. Cichocki, H. Yang, "A new learning algorithm for blind signal separation," Advances in Neural Information Processing Systems, vol. 8 pp. 757-763, 1996.

[7] E. Doi et al., "Spatio-chromatic receptice field properties derived from information-theoretic analyses of cone mosaic responses to natural scenes," Neural Computation (in press).

[8] A. Hyvarinen, P. O. Hoyer, and M. Inki, "Topographic independent component analysis," Neural Cmputation, vol. 13, no. 7, pp. 1527-1558, 2001.

[9] A. Hyvarinen, P. O. Hoyer, and J. Hurri, "Extensions of ICA as models of natural images and visual processing," Proceedings of ICA2003, April 1-4, 2003, Nara, Japan.

[10] J.-M. Alonso and L. M. Martinez, "Functioanl connectivity between simple cells and complex cells in cat striate cortex," Nature Neuroscience, vol. 1, no. 5, pp. 395-403, 1998.

저자소개

오 상 훈(Sang-Hoon Oh)                           정회원

1986년 2월 : 부산대학교 전자공학과           졸업(공학사)

1988년 2월 : 부산대학교 대학원 전           자공학과 졸업(공학석사)

1999년 8월 : 한국과학기술원 전기           및 전자공학과 졸업(공학박사)

1988년 1월 ∼ 1989년 12월: LG 반도체(주) 사원

1990년 1월 ~ 1998년 6월: 한국전자통신연구원 기초기술연구부 및 이동통신기술연구소 선임연구원

1999년 8월 ~ 2000년 3월: 한국과학기술원 뇌과학연구센터 연구원

2000년 4월 ~ 2000년 10월: 일본 RIKEN, Brain Science Institute, Research Scientist

2000년 10월 ~ 20001년 10월: (주)엑스텔테크놀리지 연구소장

2001년 11월 ~ 2002년 2월: 한국과학기술원 초빙교수

2002년 3월~현재 : 목원대학교 정보통신전파학부 전임강사

<관심분야> : 지능정보처리 알고리즘 개발 및 IT에의 응용,  독립성분분석, 음성신호 처리