📈 KL(Kullback-Leibler) Divergence
이전 포스팅을 통해 불확실성을 측정하기 위한 엔트로피에 대한 개념을 알아봤습니다.
KL-Divergence는 교차 엔트로피를 이용하여 확률분포의 차이를 계산하는 함수로
근사하는 다른 분포를 샘플링 시 발생할 수 있는 정보 엔트로피의 차이를 계산합니다.
1분 미만
- Server16
- AI15
- 인공지능14
- CentOS9
- 취득 후기7
- 취득7
- 손실6
- 손실함수6
- Microsoft6
- Microsoft Azure6
- MS6
- Loss5
- Loss Function5
- Windows5
- 확률적 경사하강법4
- SGD4
- 커널4
- Kernel4
- Jekyll4
- Associate4
- Administrator Associate4
- AZ-1044
- 중급4
- Expert4
- 프로젝트4
- Database4
- OpenVPN4
- Optimizer3
- Object Detection3
- Regression3
- Administrator3
- Developer Associate3
- AZ-2043
- Project3
- MySQL3
- Update3
- OpenVPN Client3
- 적응적 학습률2
- Adaptive learning rate2
- RMSProp2
- Root Mean Square Propagation2
- 모멘텀2
- Momentum2
- 합성곱2
- Convolution2
- 합성곱 신경망2
- Convolution Neural Network2
- 신경망2
- Neural Network2
- 레이어2
- 층2
- Layer2
- 필터2
- Filter2
- 특징 맵2
- Feature Map2
- 패딩2
- Padding2
- 스트라이드2
- Stride2
- 채널2
- Channel2
- 이미지 인식2
- 객체 인식2
- 불확실성2
- Uncertainty2
- 무작위성2
- Randomness2
- 확률2
- 확률 변수2
- 엔트로피2
- 교차 엔트로피2
- Entropy2
- Cross Entropy2
- 경사하강법2
- Gradient Descent2
- 선형회귀2
- 회귀2
- REST API2
- API2
- RESTful2
- GitHub2
- Vuepress2
- Minimal mistakes2
- AZ-4002
- DevOps Engineer Expert2
- DevOps Engineer2
- DevOps2
- 고급2
- 개발자2
- 개발2
- Developer2
- AZ-3052
- Azure Solutions Architect Expert2
- Solutions Architect Expert2
- Solutions Architect2
- NAVER2
- 네이버2
- NAVER CLOUD PLATFORM2
- 네이버 클라우드 플랫폼2
- Ncloud2
- 자격증2
- 빅데이터2
- Big Data2
- Java2
- Apple2
- Events2
- Remote Desktop2
- WSUS2
- Traffic2
- Linux2
- 리눅스2
- OS2
- 운영체제2
- Operating System2
- 시스템2
- 시스템 프로그래밍2
- 프로그램2
- System2
- System call2
- System calls2
- HW2
- 하드웨어2
- Rocky2
- RHEL2
- Self-hosted2
- AdaGrad1
- Adaptive Gradient1
- Adam1
- Adaptive Momentum Estimation1
- Flat1
- Flatten1
- 평면화1
- LeNet-51
- MNIST1
- 손글씨1
- 데이터 증대1
- 데이터1
- 드롭아웃1
- 가중치 감쇠1
- L11
- L21
- 라쏘1
- 리지1
- 규제1
- 규제 기법1
- 가중치1
- 오차1
- 편미분1
- 최적해1
- Global Minimum1
- Local Minimum1
- KL Divergence1
- Kullback-Leibler Divergence1
- Divergence1
- 발산1
- 차이1
- 확률분포1
- 정보 엔트로피1
- 상대 엔트로피1
- 정보 획득량1
- 인포메이션 다이버전스1
- Information Divergence1
- 옵티마이저1
- 네스테로프 모멘텀1
- Nesterov1
- Nesterov Momentum1
- 모델1
- Model1
- R21
- 결정계수1
- R2 Score1
- R2-Squared1
- Stochastic Gradient Descent1
- 배치 모드1
- 배치1
- Batch1
- Batch Gradient Descent1
- 패턴 모드1
- 패턴1
- Pattern1
- 미니 배치1
- Mini-Batch1
- Mini-Batch Gradient Descent1
- Overview1
- Profile1
- Plugin1
- README1
- MarkDown1
- WordPress1
- Redirect1
- Exploit1
- Network1
- Structure1
- Comment1
- Comments1
- Giscus1
- utterances1
- Sitemap1
- Search1
- Google1
- Google Search1
- robot1
- feed1
- timezone1
- has a future date1
- Ruby1
- Vuepress-theme-hope1
- Vue.js1
- Vue1
- JavaScript1
- TypeScript1
- Contents area1
- change size1
- Dev1
- 운영자1
- 운영1
- Operations1
- Ops1
- Azure Developer Associate1
- Fundamentals1
- AZ-9001
- 기초1
- 전문가1
- Azure1
- 갱신1
- Renewal Assessment1
- Renew1
- 국가자격1
- 정보1
- 정보처리1
- 정보처리기사1
- 기사1
- NCP1
- Cloud1
- Artificial Intelligence1
- NCAI1
- Certified1
- NCE1
- Random Forest1
- 지하철1
- 승객1
- 예측1
- Prophet1
- Meta1
- LSTM1
- RNN1
- 순환신경망1
- 순환1
- Timeseries1
- 시계열1
- 시계열데이터1
- 식자재 관리1
- 뉴밋1
- 객체인식1
- SSD MobileNet V21
- LLM1
- 대규모 언어 모델1
- HyperClova X1
- TensorFlow1
- Python1
- SpringBoot1
- 대학1
- NHN1
- Forward1
- Conference1
- IT1
- Review1
- 후기1
- Waiting1
- HeidiSQL1
- SSH1
- MariaDB1
- Error1
- ProtectHome1
- Procedure1
- show1
- Upgrade1
- Migration1
- Implement1
- WebSite1
- Monitor1
- Checker1
- Status1
- ChanceWC1
- Precision1
- Floating point number1
- Timestamp1
- Milesecond1
- Microtime1
- Logs1
- Client1
- Temp file1
- Apache1
- CBand1
- Nginx1
- VTS1
- Samba1
- NFS1
- CIFS1
- OpenJDK1
- Multiple1
- YUM1
- alternative1
- FFmpeg1
- Streaming1
- HLS1
- MPEG-TS1
- m3u81
- Introduce1
- fork1
- exec1
- Parent process1
- Child process1
- Process management1
- GitLab1
- Community Edition1
- CE1
- 셀프 호스팅1
- 깃1
- 형상관리1
- Mattermost1
- Slack1
- Chat1
- 채팅1
- WebHook1
- 오픈소스1
- OpenSource1
- Ubuntu1
- GPU1
- Driver1
- CUDA1