본 게시물은 UDEMY 강좌 '딥러닝의 모든 것 with Python, Tensorflow, Pytorch'를 학습하고 요약한 게시물입니다.
- 강좌 URL : https://www.udemy.com/course/best-artificial-neural-networks/
- 신경망은 꽤 오래전부터 존재했지만 그 시절 기술이 부족했기 때문에 등장이후 곧 사라졌었다.
→ 딥러닝 구현 필요 요소 2 가지 : 엄청난 양의 데이터와 처리 능력
> 데이터 및 데이터스토리지 발전 변천사
- 1956 : 5MB의 하드 드라이브
- 1980 : 10MB 하드 드라이브의 가격이 3,500달러
- 2017 : 256GB의 SSD카드를 18만원에 구입
> GB당 하드 드라이브 비용
- 엄청난 속도로 0에 가까워지고 있고, 이제는 드롭박스나 구글 드라이브에서 스토리지를 제공받을 수 있음. (비용이 전혀 들지 않는 클라우드 스토리지)
> 현재 과학자들은 심지어 DNA를 스토리지로 활용하려고 연구 중
- 2017년 기준으로는 2MB의 데이터를 합성하는 데 860만원 정도가 들고 읽는데 또 250만원이 드는 등 비용이 비싸지만, 2027년/2037년에는 모든 사람이 DNA 스토리지를 사용하고 있을 것
> 처리능력
무어의 법칙 : 마이크로칩 기술의 발전 속도에 관한 일종의 법칙으로
마이크로칩에 저장할 수 있는 데이터 분량이
18-24개월 마다 두 배씩 증가한다는 법칙이다.
출처 : 시사 경제용어 사전
- 무어의 법칙은 컴퓨터의 처리 능력이 얼마나 빠르게 발전해왔는지 보여주는 법칙으로, 2017년 기준으로 봤을 때 처리속도의 발전 속도는 25년이나 23년쯤이 되면(?) 인간만큼 빠르게 처리할 수 있을 것이다.
- 2025년이나 2045년정도 되면 모든 인간의 지능을 합친 처리 속도를 능가할 것이다.
> 딥러닝이란?
딥러닝 : 심층 학습(深層學習) 또는딥 러닝(deep structured learning, deep learning 또는 hierarchical learning)은 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화(abstractions, 다량의 데이터나 복잡한 자료들 속에서 핵심적인 내용 또는 기능을 요약하는 작업)를 시도하는 기계 학습알고리즘의 집합으로 정의되며, 큰 틀에서 사람의 사고방식을 컴퓨터에게 가르치는 기계학습의 한 분야라고 이야기할 수 있다.
출처 : 위키백과
- 딥러닝의 배경 : 인간의 뇌 작동방식을 모방
- 인간의 뇌에는 대략 1,000억개의 뉴런이 있음
> 인간의 뇌를 컴퓨터에서 재현하는 방식
- 인공 신경망이라는 인공 구조물 (연결점, 뉴런이 있는 곳)
> 추상적인 관점에서의 딥러닝 개념
- Input Layer : 입력값을 위한 뉴런, 특정 상황에 대해 알고 있는 값
- Output Layer : 출력값 (예측하고 싶은 값)
- Input Layer에서 Output Layer까지 갈 때 바로 결과가 나오는 출력으로 가는 게 아니라 수십억 개의 뉴런을 거쳐서 출력까지 간다. (이게 뇌를 모델링할 때 배경이 되는 개념)
- 쉘로우 러닝이라는 옵션이랑 비슷한 것인데 인풋에서 아웃풋으로 갈 때 수 많은 Hidden Layer를 통해 모든 걸 서로 연결하는 것이며, 그렇게 입력값이 모든 숨겨진 층을 통해서 처리되는 것
