Soohyun’s Machine-learning

출처 : https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8A%A5%EB%8F%84 Likelihood (가능도, 우도) likelihood는 probability distribution의 parameter가 어떤 random variable (확률 변수)의 표집값(importance sampling ratio라는데.. 흠;; 그냥 sampling이라고 봐도 무방할것 같다)과 일관되는 정도를 나타내는 값이다... 라고 위키가 말했다. 또 likelihood function은 probability distribution이 아니며, 합해서 1이 안 될 수 있다. 모르겠으니 definition부터 보자. random variable X가 parameter theta에 대한 prob..

영어 실력을 가장 빨리 늘리는 방법은 무엇일까? 많은 사람들의 고민일 것이다. 특히 일반적인 커뮤니케이션이 아닌 퀄리티있는 교재와 튜터, 피드백이 필요할 경우엔 더더욱 어떻게 해야할지 답답하다. 그냥 영어 listening도 어렵고 speaking도 어려운데, 퀄리티 구분까지 하려고 한다면 공부 시작도 전에 머리가 터질(ㅠㅠ)지도 모른다. 같은 고민을 나 역시 안고 있었고, 그렇게 여러 사이트와 교재들을 검색하던 중 Ringle을 알게 되었다. 첫번째는 체험수업으로 진행했고, 그 다음부터는 크레딧으로 진행했다. 튜터를 선택할 수도 있고, 링글측에서 유저가 요청한 항목들(ex. 친절하면 좋겠어요, 문법에 엄격하면 좋겠어요 등등)을..

: : : Trigonometry : : : 한국어로는 삼각함수. sin (사인), cos (코사인), tan (탄젠트)의 세 가지를 가리킨다. 칸 아카데미에서는 soh, cah, toa를 외우면 삼각함수를 쉽게 계산할 수 있다고 한다. 우선 o가 뭔지, a는 뭐고 h는 뭔지가 궁금할텐데... soh는 Sin 함수에서 Opposite / Hypotenuse 라는 뜻이다. 아래 그림에서 각도 theta ()의 맞은편. Opposite이 numerator (분자)가 되고, Hypotenuse가 denominator (분모)가 된다.Hypotenuse는 삼각형에서 가장 긴 부분으로, 어느 각도에서나 동일하지만 Opposite은 기준이 되는 각도가 어디냐에 따라 변화한다. opposite이 변화한다고 아니 이게..

Propositional Logic : 명제적 로직from. Rosen's Discrete Mathematics NOT : The truth table for the negation of a proposition. T F F T AND : The truth table for the conjunction of two propositions. T T T T F F F T F F F F The truth table for the disjunction of two propositions. T T T T F T F T T F F F The truth table for the exclusive or of two propositions. T T F T F T F T T F F F inclusive or 예시 : "S..

CS231N 51 ~ ,cs231n_2018_lecture02.pdf (http://cs231n.stanford.edu/slides/2018/cs231n_2018_lecture02.pdf)http://cs231n.stanford.edu/slides/2018/cs231n_2018_lecture03.pdf Parametric approach : Linear classifier

Types of Machine Learning - Supervised learning - with labels - Unsupervised learning - no labels - Reinforcement learning - know the objective, don't know how to achieve Thumbtack Question - H : probability of Head up - T : probability of Tail up Binomial distribution (Bernoulli experiment) is the discrete probability distribution of the number of successes in a sequence of n independent yes/no..

1억개의 data가 있다고 가정하고 특정 자료를 찾는다고 할 때, 자료구조에 대한 이해가 없이는 앞에서부터 순차적으로 찾아야만 한다. 운이 좋다면 몇 개만 검색하고도 찾을 수 있겠지만, 운이 나쁘다면 1억개 전체를 다 찾아본 다음에야 원하던 자료를 찾을 수도 있다. 1억이라는 숫자 중에서 99,999,999라는 숫자를 찾는다고 하면 99,999,998개의 자료를 찾아본 다음에야 가능한 것이다. 이때 자료구조나 알고리즘에 대한 이해를 갖고, structure를 잘 만들어두었다면.. binary search tree 등을 이용해서 훨씬 빠른 속도로 검색을 할 수 있다. 시간은 금이다. 다만, 실제 개발에서는 minimum 구현 시간과 maximum 개발 기간 두 가지 요소외에도 여러가지 제약이 있으므로, t..

__init__ : instantiation 과정에서 instance 생성시 __init__실행, 사라질때 __del__ 실행 world = HelloWorld()

과학은 이런 느낌이다. "나 알아, 내가 잘 알아!! 아니 아무리 어려운 문제라도 내가 해결해낼 수 있을 것 같아!!!" ..라며 방방 뛰는 녀석. 주변에서는 우등생으로 추켜세워줘서 한없는 자신감에 차 있는 녀석. 반대로 철학은 "나는 아는게 아무것도 없다." 라며 쓸쓸히 뒤에 앉아있는 녀석. 주변에서는 쟤가 똑똑한 건 인정하지만, 그래도 스포트라이트를 과학이 훨씬 많이 받으니까 거의 그림자 취급하는 수준. 실제로는 그들이 하는 말의 반대인 것 같다. 과학은 안다고 하지만 사실 모르는 것 같다. 왜냐면 왜? 왜? 왜?... 끝없는 why 행렬을 이어나가다보면 빈약해지다가 근거랄게 완전히 없는 상태가 되어버리니까. 그럴때 과학은 못마땅해하며 철학 형/언니를 부른다. 그러면 철학 형/언니는 그건 이러이렇게 ..

하루하루 얇은 종이를 덧대듯.. 지식을 대는 수 밖에는 없는 것 같다. 너무 억지로라도 집어넣으려고 하면 저번처럼 뇌가 정보 안 받아들거라고!! 라며 또 다시 파업을 할지도 모른다. 모르는게 너무 많아서, 단순한 notation 만이라도 알아서, 최소한 구글링이라도 좀 효율적으로 할 수 있게 해보자!라는 생각에 몰라도 읽고 쓰고 쳐보고 하는데... ... 공부법을 아예 모르니까 정말 단순무식하게 하고 있다는 생각이 머리를 떠나질 않는다. 음.. 그래도 화이팅

202p 204p 여기에서의 positive definite 는 positive definite matrix 와 비슷하다고 보면 된다. (같다인지 비슷하다인지는 더 찾아봐야 함) Positive definite matrix : http://mskyt.tistory.com/79 positive definite 와 positive semi definite 간의 차이? : https://m.blog.naver.com/PostView.nhn?blogId=talesoff&logNo=130179795677&proxyReferer=https%3A%2F%2Fwww.google.co.kr%2F 우선 definite matrix는 hermit matrix에 속한다는데, hermit matrix 는 대칭 행렬을 복소수 환경..

기술 스택이란 ? 소프트웨어를 만들기 위해서 사용하는 프로그래밍 언어와 프레임워크와 관련 도구의 일체를 각 분야별로 정의한 걸 의미한다. 모바일 서비스에 필요한 개발 ? ex) "여기서 놀자" (여기요 + 야놀자) - 전국의 모든 모델 정보/사진 기반 제공 - 키워드/위치기반 /가격대나..검색 기능 제공 - 모바일에서 결제하고 포인트 적립 - 개인의 이용 내역이나 검색 내역 등을 기반으로 개인화된 추천 PG : payment gateway front-end + back-end + DB = full stack programmer front-end 개발자 해결해야 하는 문제 : 브라우저 호환 모바일/PC 지원 속도 및 성능최적화 유지보수를 위해 쉽고 유연하게 back-end 개발자 해결해야 하는 문제 : 모..

강사가 2시에 오면 수업을 시작한다 ㄴ 강사가 2시에 왔는데 수업을 안 한다 : Falseㄴ 강사가 아예 오지 않았다 : True (아예 위반할 것이 없으므로 True가 된다.) the set of intergers with squares less than 100 is not a subset of the set of nonnegative integers len(set) = 3 then, 2^3 = 8 (is it set's cardinality) Real numbers 은 대략 이라고 생각하면 된다. dot product 와 matrix multiplication 의 정확한 차이 a = a1, a2, a3, ...b = b1, b2, b3 ... a*b(dot product) 에 대응되는 건 a1*b1 ..

뭔가 어제는 무척 견디기 힘든 하루였다. 뇌가 과부하가 되었던 탓도 있겠지만, 감정적으로도 올라갔다 내려갔다 무척 널뛰기 하듯이 해서... 많이 힘들었다. 참지못하고 웹툰이나 정주행했다. 그다지 많이 본 것 같지도 않은데 수개월치의 웹툰이 다 끝나버렸다. 한참을 그러고서야 미친듯이 돌아가던 뇌 속의 하드디스크가 안정을 찾았다.

IP는 #.#.#.# (number.number.number.number) 로 구성된다. (IPv4 시스템의 경우이다. IPv6에서는 #:#:#:#:#:#:#:# 로 표현되며, 16 bit 숫자를 0000 ~ fffff 의 16진수로 표현한다.) 각 number 별 범위는 0~255 이며, 각 숫자들을 표현하기 위해서는 8 bit 를 사용한다. 그래서 IP주소가 차지하는 것은 8 + 8 + 8 + 8 = 32 bit 이다. DHCP : Dynamic Host Configuration Protocol. IP 주소를 동적으로 얻게 해준다. 각 컴퓨터별 고유 IP 주소를 할당한다는 뜻이다. DNS : Domain Name System. URL을 IP주소 또는 그 반대로 변환해준다. CMD창에 nslookup ..

- activation function을 ReLU로 쓸 때, initial value는 보통 He initializer로 해준다. w = np.random.randn(n) * sqrt(2.0 / n) - Batch normalization : 많이 쓰는 테크닉이니 알아두는게 좋다. bad initialization에 강하다. Batch normalization layer는 보통 fully-connected layers 아니면 convolution layer 뒤에 바로 둔다. 그리고 non-linearity 앞에 둔다. (non-linearity는 activation function을 말하는건가???) - L2 regularization을 gradient descent parameter 를 update 할..

Mean squared error (MSE, 평균 제곱 오차): Error (residual)의 square에 대해 mean을 한 것, 이를 추정의 질적 평가척도로 삼게 됨 Cross entropy error (CEE) : 만약 multi-class classification을 하려고 한다면, softmax + CEE를 써야 하고, regression 을 하려고 한다면 MSE를 쓴다. RMSE : Root mean square error = Root mean square deviation (제곱근평균 제곱 오차) (제곱근 평균 제곱 편차) Error (residual)의 square에 대해 mean을 취하고, 이를 root mean 한 것

유형의 사물이 존재하는 세계에 살아가고 있지만, 그 세계를 실질적으로 움직이는 것은 모두 무형의 것들이다. 그 중에서도 가장 큰 것은 인간의 마음. 인간의 마음은 어떤걸까. 무엇이기에 이토록이나 거대한 세계를 한 치의 오차도 없이 움직이는 걸까. 인간의 마음은 원래 자연으로부터 비롯된 것이기에 그토록 거대한 것일까? 자연이 인간에게 마음을 준 것일까? 아니면 인간이 자연의 일부였다가 떨어져 나온 것일까. 인간과 자연은 분리될 수 있는 것인가? 인간은 자연의 일부일까? 인간은 이 세계에 있어서 어떤 존재일까? 지구로만 한정하지 않고 전 우주로 치면 어떨까? 그런 인간의 마음을.. 비록 거대한 흐름의 일부라고는 하나, 한 개인의 마음을 터치한다는 건 어떤 의미일까. 어떤 것이길래 숨이 막힐 정도로 사랑스럽고..

this part from : https://www.toptal.com/machine-learning/machine-learning-theory-an-introductory-primer "A Computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experience E." - Tom Mitchell, Carnegie Mellon University - So if you want your program to predict, for example, traffic p..

Measures of spread : range, variance & standard deviation A : -10, 0, 10, 20, 30B : 8, 9, 10, 11, 12 둘의 mean값은 동일한 10이다. 그러나 실질적으로 각각 구성하는 elements들은 다른게 보인다. How far away from average? 1. range : 숫자중 가장 큰 것 - 가장 작은 숫자 = 거리 A : 30 - (-10) = 40 40만큼 떨어져 있다.B : 12 - 8 = 4 4만큼 떨어져 있다. 2. variance : (squared small sigma) A'svariance B'svariance If you flip a fair coin 4 times, what is the probabilit..