모두를 위한 머신러닝 / 딥러닝 김성훈 교수님 강의를 듣고 정리한 내용입니다.Lab 07_1 - training / test data set, learning rate, normalization @ Training and Test data sets으로 분류하여 학습- Training data sets : 학습에만 사용- Test data sets : 모델이 한번도 본 적 없는 데이터를 가지고 공정한 학습 평가 @ TensorFlow- Training data sets과 Test data sets 분류 예제import os os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' import tensorflow as tf # 학습 데이터 x_data = [[1, 2, 1], [1, 3, 2..
모두를 위한 머신러닝 / 딥러닝 김성훈 교수님 강의를 듣고 정리한 내용입니다.Lec 07_2 - training / test 데이터 셋 @ data set- 전체 데이터를 traning set과 test set을 나눔. 모두 학습시킬 경우 test의 의미가 없어짐 70 % : training set 30 % : test set - learning rate, regularization strength 같은 값을 튜닝하는 방법70% training set 를 training set과 validation set으로 나누어, training set으로 학습하고 ,validation set으로 값을 튜닝한다. @ online learning- 학습데이터가 너무 많아 한번에 메모리에 올릴 수 없는 경우, 데이터를 ..
[딥러닝 기본 18] Lec 07_1 - learning rate, overfitting 그리고 일반화(regularization)
모두를 위한 머신러닝 / 딥러닝 김성훈 교수님 강의를 듣고 정리한 내용입니다.Lec 07_1 - learning rate, overfitting 그리고 일반화(regularization) @ learning rate - Gradient descent algorithm의 learning rate는 한번 미분 할 때마다 이동하는 거리를 의미- overshooting : learning rate이 너무 커서 학습이 발산하는 경우를 말함- 반대로 learning rate이 너무 작은 경우, 학습을 오래 하여도 cost의 최소값에 도달하지 못함- 0.01로 시작하여 발산 할 경우, learning rate을 줄이고 학습이 느린 경우 값을 키우는 방식으로 적절한 값을 찾음 @ normalize- X1, X2의 결과..