Notice
Recent Posts
Recent Comments
Link
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 신경망 학습
- 스트림암호
- 알고리즘
- 파이썬신경망
- 활성화함수파이썬
- c언어
- 달고나bof
- 딥러닝파이썬
- BOJ
- C언어 알고리즘
- 파이썬
- BOF
- 머신러닝
- 딥러닝
- 신경망파이썬
- 정보보안
- C언어알고리즘
- 신경망구현
- 백준
- C알고리즘
- 백준알고리즘
- 소프트맥스함수
- 항등함수
- 버퍼오버플로우
- FTZlevel10
- 인공지능
- 신경망
- 밑바닥부터시작하는딥러닝
- 보안
- 8086CPU레지스터
Archives
- Today
- Total
목록정보이론 (1)
HeeJ's
[12] 정보 엔트로피(섀넌 엔트로피)
엔트로피란 정보량 또는 정보의 불확실도를 측정하는 수학적 개념이다. 확률이 낮을수록, 어떤 정보일지는 불확실해지고, 이때 '정보가 많다', '엔트로피가 높다.'라고 표현할 수 있다. ex) 주사위 던기지의 엔트로피가 동전 던지기의 엔트로피가 크다고 할 수 있다. 정보이론의 기본은 어떤 사람이 정보를 더 많이 알수록 새롭게 알수있는 정보는 적어진다는 것이다. 보안에서의 정보 엔트로피 문자 배열로 간주되는 영어 텍스트의 경우, 한 메시지에 들어갈 수 있는 정보량의 비트 수를 구해보려한다. a~z까지의 알파벳 100글자가 적혀있는 txt파일이 있다. 이 파일은 100byte(=800bit)의 크기를 가진다. 하지만, 이 파일은 26가지의 글자(a~z)만 담을 수 있기 때문에 실제 담을 수 있는 정보량은 26^..
<Information Security>/<Keywords>
2020. 8. 17. 21:31