|
|
|
|
인공지능시대(21): 심층 신경망
|
|
2021년 02월 26일(금) 16:43 [(주)문경사랑] 
|
|
|
| 
| | | ↑↑ 지홍기
영남대학교 명예교수
문경대학교 특임교수
문경시지역발전협의회 의장 | ⓒ (주)문경사랑 | |
심층 신경망
심층 신경망(DNN; Deep Neural Network)은 입력층과 출력층 사이에 다중의 은닉층(Hidden Layer)을 포함하는 인공 신경망(ANN)을 말한다. 심층 신경망은 일정 수준의 복잡성을 가진 신경망, 즉 두 개 이상의 층을 가진 신경망이며, 이는 데이터를 처리하기 위해 복잡한 방법으로 정교한 수학 모형을 사용하게 된다.
심층 신경망은 인공 신경망이 입력, 출력 및 그사이에 숨겨진 계층이 있는 다층 네트워크이다. 각 계층은 일부에서 “기능 계층”이라는 프로세스에서 특정 유형의 정렬 및 순서를 수행한다. 이러한 정교한 신경 네트워크의 주요한 용도는 라벨이 없거나 구조화되지 않은 데이터를 처리하는 것이다. 전통적인 머신러닝(기계학습) 알고리즘은 하나의 입력층과 출력층으로 이루어져 있지만, 심층 신경망은 다수의 깊이로써 층마다 다른 층위의 특징을 학습하는 것이 가능하다.
따라서 심층 신경망은 데이터의 잠재적인 구조를 파악할 수 있다는 장점이 있으며, 이는 다중의 은닉층을 포함하여 다양한 비선형적 관계를 학습할 수 있지만, 학습을 위한 많은 연산과정을 과하게 학습하여 실제 데이터에 대해 오차가 증가하는 과적합이나 높은 시간 복잡도의 문제가 발생할 수 있다.
심층 신뢰 신경망
심층 신뢰(Belief) 신경망(DBN)은 알고리즘에 따라 비지도학습 방법을 기반으로 하는 심층 신경망이며, 이는 기계학습에서 사용되는 다중계층으로 이루어진 심층 신경망을 의미한다. 계층 간에는 연결이 있지만, 계층 내의 장치 간에는 연결이 없다는 특징이 있다. 심층 신뢰 신경망은 생성 모형이라는 특성상 선행학습에 사용될 수 있고, 선행학습을 통해 초기 가중치를 학습한 후 역전파 혹은 다른 판별 알고리즘을 통해 가중치를 미세하게 조정할 수 있다.
이러한 특성은 훈련용 데이터가 적을 때 유용한데, 이는 훈련용 데이터가 적을수록 가중치의 초기값이 결과적으로 모델에 영향을 강하게 미치기 때문이다. 선행 학습된 가중치 초기값은 임의로 설정된 초기값에 비해 최적의 가중치가 되며, 이는 미조정 단계의 성능과 속도향상을 가능하게 한다.
| 
| | ⓒ (주)문경사랑 | |
심층 오토인코더
심층 오토인코더(Deep AutoEncoder)는 제프리 힌턴(Geoffrey Hinton, 2006) 교수가 제안한 혁명적인 학습기법이다. 오토인코더는 부호화를 수행하는 장치로서 신경망의 각 층을 단계적으로 학습함으로써 최종출력이 최초입력을 재현하도록 하고 있다.
심층 오토인코더는 은닉층의 노드 개수가 입력층이나 출력층보다 적다. 즉 노드의 수는 동일하지만 은닉층은 입력층이나 출력층보다 차원이 낮아야 하기 때문이다. 심층 오토인코더는 사람이 컴퓨터에게 입력 데이터에 대한 정보를 주지 않는다는 점에서 비지도학습 방식에 해당하며, 학습에 있어서 번거로운 과정인 지도가 필요 없다는 점에서 심층 그 잠재력은 무궁무진하다.
심층 신경망 기술의 전망
강력한 심층학습 알고리즘 중 하나가 심층 신경망이다. 이는 서로 교차하는 선형, 비선형 처리 단위들로 구성된 수많은 계층에 기반을 두고 있으며, 대형 알고리즘과 수많은 데이터로 훈련하는 신경망이다. 심층 신경망에 숨겨진 계층 10~20개가 존재할 수 있지만 보통 신경망에는 2~3개만 존재한다. 네트워크 계층이 많을수록 인식할 수 있는 특징이 늘어나지만, 네트워크의 계층이 많을수록 계산에 더 많은 시간이 걸리고 학습도 어려워진다.
따라서 오토인코더 기반의 심층 신경망의 강화학습 기술은 자율 주행, 추천 시스템, 얼굴 인식, 데이터 센터 냉각, 주식 거래, 질병 진단, 자연어 처리, 프로그램 작성, 수학 증명 등 광범위한 분야에서 그 효용성을 입증되고 있으며, 이 기술은 우리의 생활계에 깊숙이 확산될 것이다.
|
|
|
|
홈페이지관리자 기자  .
“주간문경을 읽으면 문경이 보인다.”
- Copyrights ⓒ(주)문경사랑.
무단 전재 및 재배포 금지 -
|
|
|
|
 (주)문경사랑
기사목록 | 기사제공 : (주)문경사랑
|
|
|
|
|
|
|
|
|
|
실시간
많이본
뉴스
|
|
|
|
|
|
종합
커뮤니티
