MY MEMO

https://tfedohk.github.io/tensorflow/2017/01/18/Tensorflow-Installation-in-Windows.html#gsc.tab=0

1. Training 시키는 data와 test data를 구별 앞에서는 training을 한 데이터를 이용하여 결과값이 제대로 도출되었는지를 구했다.하지만 사실 test data를 이용해서 결과값을 구해야한다. 따라서 간단하게 data와 test data를 나타내고 코드를 돌려 결과를 도출했다. import tensorflow as tf tf.set_random_seed(777) # for reproducibility x_data = [[1, 2, 1], [1, 3, 2], [1, 3, 4], [1, 5, 5], [1, 7, 5], [1, 2, 5], [1, 6, 6], [1, 7, 7]] y_data = [[0, 0, 1], [0, 0, 1], [0, 0, 1], [0, 1, 0], [0, 1, 0]..

Softmax function은 0과 1로만 결과가 나오는 것이 아닌 다양한 값으로 결과가 나올 때 쓰는 알고리즘이다. 결과값은 확률로 나오는데 나온 결과값의 확률을 모두 더하면 1이 된다. 코드를 보기 이전에 one hot의 개념부터 잡아야한다. one hot이 무엇일까? 바로 한개의 결과값이 도출된다는 뜻이다. 예를 들어 0은 첫번째에 hot되고 1은 두번째 2는 3번째에 hot된다. 이처럼 한개의 값에만 hot되는 것이 one hot이다. 자이제 코드를 보자. 먼저 가장 기본적인 softmax 코드이다. import tensorflow as tf x_data = [[1,2,1,1],[2,1,3,2],[3,1,3,4],[4,1,5,5],[1,7,5,5],[1,2,5,6],[1,6,6,6],[1,7,7..

Logistic algorithm을 구현한 코드이다. import tensorflow as tf x_data = [[1,2],[2,3],[3,1],[4,3],[5,3],[6,2]] y_data = [[0],[0],[0],[1],[1],[1]] X = tf.placeholder(tf.float32,shape=[None,2]) Y = tf.placeholder(tf.float32,shape=[None,1]) W = tf.Variable(tf.random_normal([2,1]),name='weight') b = tf.Variable(tf.random_normal([1]),name = 'bias') hypothesis = tf.sigmoid(tf.matmul(X,W)+b) cost = -tf.reduce_me..

multi variable일 때 Gradient descent를 구하는 방법에 관한 글이다. import tensorflow as tf x1_data = [73. ,93. ,89. ,96. ,73. ] x2_data = [80. ,88. ,91. ,98. ,66. ] x3_data = [75. ,93. ,90. ,100. ,70. ] y_data = [152. ,185. ,180. ,196. ,142. ] x1 = tf.placeholder(tf.float32) x2 = tf.placeholder(tf.float32) x3 = tf.placeholder(tf.float32) Y = tf.placeholder(tf.float32) #placeholder()를 이용해서 다양한 데이터를 입력 받아 처리할 수 ..

import tensorflow as tf import matplotlib.pyplot as plt X = [1,2,3] Y = [1,2,3] W = tf.placeholder(tf.float32) hypothesis = X*W cost = tf.reduce_mean(tf.square(hypothesis-Y)) sess = tf.Session() sess.run(tf.global_variables_initializer()) W_val = [] cost_val = [] for i in range(-30,50): feed_W = i * 0.1 curr_cost,curr_W = sess.run([cost,W],feed_dict={W:feed_W}) W_val.append(curr_W) cost_val.appe..

일단 window 10에 python 3.6을 가지고 anaconda 최신버전으로 시작했다.하지만 ananconda 최신버전을 관리자 권한으로 실행시키지 않았고download할 때에도.. just me를 선택하여 설치하였다. import tensorflow as tf까지는 잘 돌아가 무리없이 실습을 할 수 있었다. 하지만 matplotlib 설치에서 오류가 났다.명령어를 입력하고 설치했는 데도 뜨는 오류로 몇번이나 anaconda를 다시깔았다. 관리자권한으로 깔았지만 failed to install(?) anaconda menu!! 알림이 계속 떠 (ananconda 설치시 자동으로 설치가 중단된적이 2번정도 있었는데 파일 이름이 길어 지우지도 못했다.파일이름을 줄이려면 뭘 해야하는데 진짜 너무 힘들어서..

import tensorflow as tf # X and Y data x_train = [1,2,3] y_train = [1,2,3] W = tf.Variable(tf.random_normal([1]),name = 'weight') # random_normal => 랜덤한 한개 [1]=> 1차원 array b = tf.Variable(tf.random_normal([1]),name = 'bias') # Our hypothesis XW+b hypothesis = x_train*W + b # cost/loss function cost = tf.reduce_mean(tf.square(hypothesis-y_train)) # Gradient Descent # Minimize optimizer = tf.train..

Lecture 9-1 : Neural Nets(NN) for XOR XOR연산은 초반에 많은 연구자들에게 절망감을 주었다. 하지만 여러가지 logic을 합치면 XOR을 풀수 있다. 위의 그림을 보자 3개의 식이 있고 2개의 식으로부터 나온 값으로 XOR을 구할 수 있다. x1 = 0 , x2 = 0인 값을 확인해보면 첫번째 식에서 -8이라는 값이 나온다.S(-8) 즉 sigmoid graph에서 -8의 값은 0이된다. (위의 값은 0,1의 결과값이 나오기 때문에 binary classification이고 sigmoid함수를 사용하는 것이 좋다.) 두번째 식에서 3이라는 값에서는S(3) = 1의 값이 나온다. 두 식에서 나온 값을 y1, y2라고 정의하면 세번재 식에서 -5라는 값이 나온다.S(-5) = ..

Lecture 7-2Application & Tips : Learning and test data sets 1. 얼마나 machine learning model이 잘 돌아가고 있는지 확인해보자 위와 같이 training set이 있으면 30%~70%의 데이터를 이용하여 training을 진행하고나머지 부분을 test set으로 만들어 정답을 비교한다.별표친 부분은 답이기 때문에 machine learning에 넣어서 학습시키면 안된다. validation의 값을 왜 둘까?=> 우리는 gradient descent algorithm에서 알파 값을 계속 수정하여 확인할 필요가 있었다.=> 혹은 data normalization에서 상수 값을 변경하면서 overfitting을 줄일 필요가 있었다. 위의 두 값..