📉 경사하강법 (Gradient Descent)?
기계학습 간 최적화 함수의 대표 격인 경사하강법에 대해서 간단하게 소개하고자 합니다.
🦾 기계학습의 간단한 동작 과정
인공지능은 규칙 기반에서 기계학습을 이용한 데이터 기반까지 지속 발전 중에 있습니다.
기계학습에서는 기계가 주어진 데이터의 관계를 찾아 규칙을 만드는 것을 목적으로 합니다.
1분 미만
- Server16
- AI15
- 인공지능14
- CentOS9
- 손실6
- 손실함수6
- 취득 후기6
- 취득6
- Loss5
- Loss Function5
- Microsoft5
- Microsoft Azure5
- MS5
- Windows5
- 확률적 경사하강법4
- SGD4
- Jekyll4
- 프로젝트4
- Database4
- OpenVPN4
- Optimizer3
- Object Detection3
- Regression3
- Associate3
- Administrator Associate3
- AZ-1043
- 중급3
- Expert3
- Project3
- MySQL3
- Update3
- OpenVPN Client3
- 적응적 학습률2
- Adaptive learning rate2
- RMSProp2
- Root Mean Square Propagation2
- 모멘텀2
- Momentum2
- 합성곱2
- Convolution2
- 합성곱 신경망2
- Convolution Neural Network2
- 신경망2
- Neural Network2
- 레이어2
- 층2
- Layer2
- 커널2
- Kernel2
- 필터2
- Filter2
- 특징 맵2
- Feature Map2
- 패딩2
- Padding2
- 스트라이드2
- Stride2
- 채널2
- Channel2
- 이미지 인식2
- 객체 인식2
- 불확실성2
- Uncertainty2
- 무작위성2
- Randomness2
- 확률2
- 확률 변수2
- 엔트로피2
- 교차 엔트로피2
- Entropy2
- Cross Entropy2
- 경사하강법2
- Gradient Descent2
- 선형회귀2
- 회귀2
- REST API2
- API2
- RESTful2
- GitHub2
- Vuepress2
- Minimal mistakes2
- Administrator2
- 고급2
- Developer Associate2
- AZ-2042
- 개발자2
- 개발2
- Developer2
- NAVER2
- 네이버2
- NAVER CLOUD PLATFORM2
- 네이버 클라우드 플랫폼2
- Ncloud2
- 자격증2
- 빅데이터2
- Big Data2
- Java2
- Apple2
- Events2
- Remote Desktop2
- WSUS2
- Traffic2
- Rocky2
- RHEL2
- Self-hosted2
- AdaGrad1
- Adaptive Gradient1
- Adam1
- Adaptive Momentum Estimation1
- Flat1
- Flatten1
- 평면화1
- LeNet-51
- MNIST1
- 손글씨1
- 데이터 증대1
- 데이터1
- 드롭아웃1
- 가중치 감쇠1
- L11
- L21
- 라쏘1
- 리지1
- 규제1
- 규제 기법1
- 가중치1
- 오차1
- 편미분1
- 최적해1
- Global Minimum1
- Local Minimum1
- KL Divergence1
- Kullback-Leibler Divergence1
- Divergence1
- 발산1
- 차이1
- 확률분포1
- 정보 엔트로피1
- 상대 엔트로피1
- 정보 획득량1
- 인포메이션 다이버전스1
- Information Divergence1
- 옵티마이저1
- 네스테로프 모멘텀1
- Nesterov1
- Nesterov Momentum1
- 모델1
- Model1
- R21
- 결정계수1
- R2 Score1
- R2-Squared1
- Stochastic Gradient Descent1
- 배치 모드1
- 배치1
- Batch1
- Batch Gradient Descent1
- 패턴 모드1
- 패턴1
- Pattern1
- 미니 배치1
- Mini-Batch1
- Mini-Batch Gradient Descent1
- Overview1
- Profile1
- Plugin1
- README1
- MarkDown1
- WordPress1
- Redirect1
- Exploit1
- Network1
- Structure1
- Comment1
- Comments1
- Giscus1
- utterances1
- Sitemap1
- Search1
- Google1
- Google Search1
- robot1
- feed1
- timezone1
- has a future date1
- Ruby1
- Vuepress-theme-hope1
- Vue.js1
- Vue1
- JavaScript1
- TypeScript1
- Contents area1
- change size1
- AZ-4001
- DevOps Engineer Expert1
- DevOps Engineer1
- DevOps1
- Dev1
- 운영자1
- 운영1
- Operations1
- Ops1
- Azure Developer Associate1
- Fundamentals1
- AZ-9001
- 기초1
- AZ-3051
- Azure Solutions Architect Expert1
- Solutions Architect Expert1
- 전문가1
- Solutions Architect1
- 국가자격1
- 정보1
- 정보처리1
- 정보처리기사1
- 기사1
- NCP1
- Cloud1
- Artificial Intelligence1
- NCAI1
- Certified1
- NCE1
- Random Forest1
- 지하철1
- 승객1
- 예측1
- Prophet1
- Meta1
- LSTM1
- RNN1
- 순환신경망1
- 순환1
- Timeseries1
- 시계열1
- 시계열데이터1
- 식자재 관리1
- 뉴밋1
- 객체인식1
- SSD MobileNet V21
- LLM1
- 대규모 언어 모델1
- HyperClova X1
- TensorFlow1
- Python1
- SpringBoot1
- 대학1
- NHN1
- Forward1
- Conference1
- IT1
- Review1
- 후기1
- Waiting1
- HeidiSQL1
- SSH1
- MariaDB1
- Error1
- ProtectHome1
- Procedure1
- show1
- Upgrade1
- Migration1
- Implement1
- WebSite1
- Monitor1
- Checker1
- Status1
- ChanceWC1
- Precision1
- Floating point number1
- Timestamp1
- Milesecond1
- Microtime1
- Logs1
- Client1
- Temp file1
- Apache1
- CBand1
- Nginx1
- VTS1
- Samba1
- NFS1
- CIFS1
- OpenJDK1
- Multiple1
- YUM1
- alternative1
- FFmpeg1
- Streaming1
- HLS1
- MPEG-TS1
- m3u81
- Linux1
- GitLab1
- Community Edition1
- CE1
- 셀프 호스팅1
- 깃1
- 형상관리1
- Mattermost1
- Slack1
- Chat1
- 채팅1
- WebHook1
- 오픈소스1
- OpenSource1
- Ubuntu1
- GPU1
- Driver1
- CUDA1
정보
📢 2024년 2학기 딥러닝 교과 과정 중 미니 배치의 동작 구조에 대해 궁금해졌습니다.
조사한 내용을 작성한 것으로 틀린 내용이나 추가 내용이 있으면 댓글 부탁드립니다!
📉 확률적 경사하강법 (Stochastic Gradient Descent)
이전 포스팅에서 경사하강법에 대해 알아봤고 문제점에 대해서도 알아봤습니다.
Chance1분 미만AIAI인공지능경사하강법Gradient Descent확률적 경사하강법SGDStochastic Gradient Descent배치 모드배치BatchBatch Gradient Descent패턴 모드패턴Pattern미니 배치Mini-BatchMini-Batch Gradient Descent