전체 글

ptrace - process tracer (writing....)

ptrace (process trace) ptrace에 대해서 간단히 알아보겠습니다.ptrace() system call은 어느 프로세스(tracer)가 다른 프로세스(tracee)의 실행을 추적 및 제어할 수 있는 기능을 제공합니다. tracer는 tracee의 메모리, 레지스터, 코드, 데이터, 스택, 힙 등의 정보를 확인할 수 있으며 변경도 할 수 있는 기능을 제공하며, 여러분들이 gdb 와 같은 디버거에서 많이 사용하는 중단점을 이용한 디버깅이 가능합니다. 또한 system call 추적 등의 기능을 구현할 때 자주 사용되죠. 리눅스나 유닉스 같은 운영체제에서 ptrace를 이용하여 ELF를 분석, 디버깅 등을 가능케 해주는 좋은 녀석입니다. ptrace를 사용해 프로세스의 실행 흐름을 제어할 수..

Advice for applying machine learning

Advice for applying machine learning 아래 내용은 Andrew Ng 교수님의 강의와 자료를 기반으로 학습한 내용을 정리하여 작성하였습니다. 개인의 학습 내용이기에 잘못 해석 및 이해하고 있는 부분도 있을 수 있으니, 다양한 자료를 기반으로 참고하시는 걸 추천드립니다. Linear regression과 Logistic regression, 그리고 Neural network 까지 알아보았습니다. Linear, Non-linear한 hypothesis model을 정의하고 학습하는 과정들을 설명하였는데요, 이번엔 추가적으로 Machine learning을 위한 여러가지 팁(?)에 대해 한번 정리해 보도록 합시다. Deciding what to try next자, 여러분들이 Lear..

Neural Networks - Cost function / Back propagation

Neural Networks: Cost function & Back Propagation 아래 내용은 Andrew Ng 교수님의 강의와 자료를 기반으로 학습한 내용을 정리하여 작성하였습니다. 개인의 학습 내용이기에 잘못 해석 및 이해하고 있는 부분도 있을 수 있으니, 다양한 자료를 기반으로 참고하시는 걸 추천드립니다. 지난 글까지 Neural Networks의 Model과 간단한 예제들을 확인해 보았습니다. 이번 글에서는 Neural networks의 Cost function과 오차를 줄이기 위한 방법인 BackPropagation에 대해 알아보겠습니다. Cost functionCost function은 앞서 Linear regression과 Logistic regression에서 그 개념을 살펴보았습니..

Neural Networks - Model representation example

Neural Networks: Model Representation Example 아래 내용은 Andrew Ng 교수님의 강의와 자료를 기반으로 학습한 내용을 정리하여 작성하였습니다. 개인의 학습 내용이기에 잘못 해석 및 이해하고 있는 부분도 있을 수 있으니, 다양한 자료를 기반으로 참고하시는 걸 추천드립니다. 앞서 배웠던 Neural Network의 Model의 예시를 몇 가지 살펴보겠습니다. ANDAND 연산을 Neural Network로 표현할 수 있는지 확인해보겠습니다. bias가 1이고 입력이 x1, x2인 위와 같은 Neural network가 있다고 할 때, 어떻게 해야 AND 연산을 수행할 수 있는 model을 구할 수 있을까요? AND 연산이니 입력은 x1, x2는 각각 1또는 0만 입력..

Neural Networks - Model representation

Neural Networks: Model Representation 아래 내용은 Andrew Ng 교수님의 강의와 자료를 기반으로 학습한 내용을 정리하여 작성하였습니다. 개인의 학습 내용이기에 잘못 해석 및 이해하고 있는 부분도 있을 수 있으니, 다양한 자료를 기반으로 참고하시는 걸 추천드립니다. 예로부터 사람의 뇌는 굉장히 신비하고 무한한 탐구의 영역이였습니다. 아직도 풀리지 않는 많은 미스터리가 존재하는 인간의 신체 중 하나이죠. 이런 뇌를 모방한 알고리즘을 개발하려는 시도가 있었습니다. 그리고 1980년대와 90년대 초반 굉장히 활발히 연구가 되었죠. 하지만 90년 대 후반에 들어서 그 열기가 점점 줄어들고 사람들의 관심이 줄어들게 됩니다. 그 이유는 나중에 설명드릴게요, 해결하지 못한 문제들이 존..

Non-linear hypotheses

Non-linear hypotheses 아래 내용은 Andrew Ng 교수님의 강의와 자료를 기반으로 학습한 내용을 정리하여 작성하였습니다. 개인의 학습 내용이기에 잘못 해석 및 이해하고 있는 부분도 있을 수 있으니, 다양한 자료를 기반으로 참고하시는 걸 추천드립니다. 이 전에는 Linear hypothesis model로만 표현한 Linear regression과 Logistic Regression에 대해 알아보겠습니다. 이번 글에서는 Neural Networks(신경망 알고리즘)에 대해 들어가기 전 간단히 Non-linear hypotheses에 대해 알아보겠습니다. 입력 x1, x2에 대해 위 그래프와 같이 분포된 결과를 분류하기 위해서는 앞서 다룬 Linear Logistic regression의..