티스토리

TechY

검색하기

블로그 홈

TechY

techy8855.tistory.com/m

hskimim 님의 블로그입니다.

구독자: 4

방명록 방문하기

주요 글 목록

Process 1 kocw 강의 : 이화여자대학교 반효경 교수님의 운영 체제 강의,4강 Process 1 Process is a "program in execution" 프로세스의 문맥(context)특정 시점을 놓고 봤을 때, 프로세스가 무엇을 어떻게, 어디까지 실행을 했는지process라는건 실행되면 process만의 독자적인 주소 공간 생성 (code, data, stack 로 구성됨)process가 cpu 를 잡게되면, pc (program counter)가 code 의 어느 부분을 가리키게 되고,매순간, code안의 instruction 을 읽어서, cpu 안으로 불러드려서, register 에 넣고 alu 에서 연산을 해서 register 에 저장하거나 memory 에 저장위 단계를 거치다가, 프로세스가 어디까.. 공감수 0 댓글수 0 2024. 11. 23.
System Structure & Program Execution 2 kocw 강의 : 이화여자대학교 반효경 교수님의 운영 체제 강의,3강 System Structure & Program Execution 2 cpu는 하나의 instruction 을 실행하고 다음 instruction을 실행하기 전에, interrupt 가 들어온 것이 있는지 확인한다.interrupt vector : interrupt의 번호와 주소를 갖고 있다. 번호는 어떤 hw controller인지, (interrupt의 주체) 주소는 memory 상의 주소 (interrupt의 대상)trap 에는 두 가지 종류가 있다.Exception : 프로그램이 오류를 범한 경우 (ex. zero division)System Call : 프로그램이 커널 함수를 호출하는 경우 synchronous I/O I/O .. 공감수 0 댓글수 0 2024. 11. 20.
System Structure & Program Execution 1 kocw 강의 : 이화여자대학교 반효경 교수님의 운영 체제 강의, 2강 System Structure & Program Execution 1 본 챕터까지는 본격적으로 os 를 얘기하기 앞서 computer HW를 얘기한다고 한다.memory : cpu 의 작업 공간, cpu는 매 clock cycle 마다 메모리에서 기계어를 하나씩 읽어서 실행한다.io device : io device를 전담하는 작업 cpu 같은 것들이 붙어있게 된다. 그걸 device controller 라고 함"disk 의 Head를 어떻게 하겠다"는 cpu 가 아니라 disk 의 device controller 가 함device controller 는 io device를 관리하는 작은 cpudevice controller 로 그들.. 공감수 0 댓글수 0 2024. 11. 20.
Introduction to Operating Systems kocw 강의 : 이화여자대학교 반효경 교수님의 운영 체제 강의, 1강 Introduction to Operating Systems OSos 는 hw 바로 위에 있는 sw, 다른 모든 sw를 hw 와 연결좁은 의미 : kernel -> 메모리 상주하는 부분넓은 의미 : kernel + other utilitiesRolecomputer system 의 자원을 효율적으로 관리optimal performance given resourcessw 자원도 관리해야 함 (process, file, msg etc)사용자가 computer 를 편리하게 사용하게 해줌fair resource allocation여러 program이 동시에 돌 수 있게cpu 가 빠른 속도로 번갈아 실행memory 공간에 적절히 분배Classi.. 공감수 0 댓글수 0 2024. 11. 19.
OpenAI's structured output 최근에 openai 의 structured output 지원이 공개되었는데 기존에 지원하던 json mode보다 더 강력한 구조화 출력이 지원된다.공개 문서를 읽어보니 structured output 을 만든 방법을 간단하게 써줬길래 잊어버리고 싶지 않아 간단하게 정리해본다. 1. 학습을 많이 시킴- gpt-4o-2024-08-06 모델이 structured output 을 지원하는데, 복잡한 스키마를 이해하고 이를 기반으로 출력을 생성하게끔 학습을 많이 시켰다고 한다.- 하지만 LLM은 태생적으로 non-deterministic 하기에 deterministic 한 engineering-based approach 를 추가로 사용했다. 2. Constrained decoding- 우선 constrained.. 공감수 2 댓글수 0 2024. 9. 11.
병행 및 병렬 프로그래밍 야매 정리 (3) 배우는 중이라 틀린 정보가 있을 수 있는데, 업데이트되는 공부 내용이 있으면 계속 고치겠습니다. 교정해주시면 감사하겠습니다..! (_ _)concurrency 는 parallelism 과 asyncronous programming 의 pre-conditionparallelism과 asyncronous programming는 concurrency를 달성하는 수단parallelism 에 있는 multi-threading 과 multi-processing 은 os-level 에서 concurrency를 구현async개념들 코루틴(Coroutine): async로 정의된 비동기 함수로, 이벤트 루프가 관리하는 기본 작업 단위태스크(Task): 코루틴을 래핑한 객체로, 이벤트 루프에 의해 스케줄링되고 실행Futu.. 공감수 0 댓글수 0 2024. 8. 18.
병행 및 병렬 프로그래밍 야매 정리 (2) 참조- chatgpt- https://gmlwjd9405.github.io/2018/09/14/process-vs-thread.html- https://ivdevlog.tistory.com/3- https://hhj6212.github.io/programming/python/2021/04/18/python-multi.html- https://velog.io/@wonhee010/%EB%8F%99%EA%B8%B0vs%EB%B9%84%EB%8F%99%EA%B8%B0-feat.-blocking-vs-non-blocking- https://brownbears.tistory.com/292- https://data-newbie.tistory.com/231#google_vignette배우는 중이라 틀린 정보가 있을 수.. 공감수 0 댓글수 0 2024. 7. 26.
병행 및 병렬 프로그래밍 야매 정리 (1) 참조- chatgpt- https://gmlwjd9405.github.io/2018/09/14/process-vs-thread.html- https://ivdevlog.tistory.com/3- https://hhj6212.github.io/programming/python/2021/04/18/python-multi.html- https://velog.io/@wonhee010/%EB%8F%99%EA%B8%B0vs%EB%B9%84%EB%8F%99%EA%B8%B0-feat.-blocking-vs-non-blocking배우는 중이라 틀린 정보가 있을 수 있는데, 업데이트되는 공부 내용이 있으면 계속 고치겠습니다. 교정해주시면 감사하겠습니다..! (_ _) 목록1. CPU2. Core3. Process4. Th.. 공감수 0 댓글수 0 2024. 7. 23.
Identity Mappings in Deep Residual Networks 논문 : 링크 residual network 의 수식 표현은 아래와 같다.$y_l = h(x_l) + F(x_l, W_l)$$x_{l+1} = f(y_l)$ residual learning을 처음 제시했던 논문 에서는 $h$ 는 identity mapping 이었고, $f$ 는 ReLU 였다.해당 논문에서는 $h, f$ 를 identity 로 만드는 것이 최적화를 쉽게 만들어주고 이에 따른 모델 성능 부스트에 효과적임을 보인다. 우선 $h, f$ 를 identity 로 만드는 것이 최적화를 쉽게 만들어주는 것에 대한 수식적 접근을 보면 아래와 같다. 위에 쓴 식에서 $h, f = \mathbb{I}$ 라고 하면 아래와 같이 단순해진다.$x_{l+1} = x_l + F(x_l, W_l)$ 이 식은 일종의 .. 공감수 0 댓글수 0 2024. 7. 8.
Deep Residual Learning for Image Recognition 논문 : 링크문제 인식neural network 의 깊이가 깊어질 때, 어느 정도 높아지다가 일정 수준에서 성능 감소가 발생하는 degradation 이 있음.저자는 이를 overfitting 의 이슈로 보지 않음. 그 이유는 test 뿐만 아니라 training 에서도 그 error 가 상승하기 때문, 이에 따라 저자는 모델의 깊이가 깊어질 수록 최적화의 난이도가 함께 변화한다고 보았음. 방법 제안저자는 $n$ th layer 까지 학습한 representation 이 있고, $n+1$ th layer 를 추가했을 때 해당 layer 가 identity mapping 이라면 $n$ th layer network 보다 성능이 나빠지지 않아야 한다는 것으로 시작했다. 또한 이전 layer (shallowe.. 공감수 0 댓글수 0 2024. 7. 8.
Laplace transform (2) 강의 : 링크 이전 포스팅에서 laplace transform 에 대한 변환식과 몇가지 함수의 변환값을 알아보았다.추가적인 변환값은 라플라스 변환표를 검색해보면 나오니 참고하면 좋을 듯 하다. 본 포스팅에서는 이전 시리즈에서 풀었던 미분방정식을 laplace transform 을 사용해서 풀어보려 한다. $F(s) = \frac{2(s-1)e^{-2s}}{s^2-2s+2}$ $F(s) = \frac{2(s-1)e^{-2s}}{s^2-2s+2} = \frac{2(s-1)e^{-2s}}{(s-1)^2+1} = 2e^{-2s} \frac{s-1}{(s-1)^2+1}$ $\frac{s-1}{(s-1)^2+1}$ 부분부터 보자. 해당 부분은 $cos(t)$ 의 변환값의 형태임을 알 수 있다. $s$ 값에 $F(.. 공감수 0 댓글수 1 2024. 7. 5.
Laplace transform (1) 강의 : 링크 미분 방정식을 쉽게 풀기 위한 유용한 도구인 laplace transform에 대해 알아본다.laplace transform 의 식은 아래와 같다. $\mathscr{L}\{f(t)\}=\int_{t=0}^{\infty}f(t)e^{-st}dt = F(s)$ 위를 보게 되면 $\mathscr{L}$ 변환을 통해 $t$ 에 대한 식인 $f(t)$ 를 $s$ 에 대한 식으로 변환된다.후에 역변환을 통해 다시 $t$에 대한 식으로 되돌려주게 되는데 이 과정을 통해 미분방정식을 더 쉽게 풀 수 있게 해준다고 한다. 본 포스팅에서는 몇 가지 $f(t)$ 에 대해 laplace transform 을 해보도록 하겠다. 여기서는 변환만 소개하고 역변환을 포함한 미분 방정식 풀이는 다음 포스팅에서 마저 .. 공감수 0 댓글수 0 2024. 7. 4.
The Kelly Criterion and the Stock Market 논문 : 링크 켈리 공식이라고 알려져 있는 식에 대한 페이퍼를 읽고 정리해본다. 기본적으로 사용할 수식 표현은 아래와 같다. $X_0$ = 초기에 우리가 갖고 있는 돈$X_n$ = 투자를 특정 policy에 따라 해서 $n$ 번의 trial 후 얻게 될 돈$f$ = 우리가 갖고 있는 돈 $X$에서 betting할 금액의 비율$S$ = $n$ 번의 trial에서 우리가 돈을 딴 횟수$F$ = $n$ 번의 trial에서 우리가 돈을 잃은 횟수$n$ = 우리가 시도할 trial의 수$p$ = 승률$q$ = $1-p$ 이기면 betting한만큼 따고, 지면 그 돈을 모두 잃는다고 했을 때, 우리는 아래 수식을 얻을 수 있다. $S+F = n$$X_n = X_0 (1+f)^S (1-f)^F$ kelly crite.. 공감수 0 댓글수 0 2024. 5. 26.
Undetermined coefficients 강의 : 링크 non-homogeneous differential equation을 풀어볼 것이다. 아래와 같은 식이 있다.$y^{``} -3 y^{`} -4 y = 3 e^{2x}$ 식을 보면 알 수 있는데, 우변이 0이 아니기 때문에 homogeneous equation이 아니다. 이 경우 어떻게 풀까?이런 경우를 푸는 방식 중 하나가 undetermined coefficients 이다. 우리가 위 식에서 우 변을 0으로 둬서 homogeneous differential equation을 풀어서, solution $y = h$ 를 얻었다고 하자.그리고 non-homogeneous equation 을 풀어서 soltuion $y = j$ 를 얻었다고 하자. 그러면 두 solution 을 더하게 되면 .. 공감수 0 댓글수 0 2024. 5. 20.
Complex roots of the characteristic equations 강의 : 링크 본 포스팅은 이전 문서 "First order homogeneous equations" 의 연장선 상에 대한 것이다. 저번에 다룬 식들을 보면 아래와 같다.$Ay^{``} + By^{`} + Cy = 0$$y = e^{rx}$$y(Ar^2 + Br + C) = 0$ $y$ 는 0이 될 수 없기에 2차식으로 근을 구해야 한다. 이 식은 아래와 같이 구할 수 있다.$\frac{-B \pm \sqrt{B^2 - 4AC}}{2A}$ 제목인 complex root가 나오는 경우는 $B^2 - 4AC $\frac{-B - \sqrt{B^2 - 4AC}}{2A} = \frac{-B}{2A} \pm \frac{\sqrt{B^2 - 4AC}}{2A}$ 실수 파트와 허수 파트를 각각 $\lambda, \m.. 공감수 0 댓글수 0 2024. 5. 15.
2nd order linear homogeneous differential equations 강의 : 링크참고 : 링크, 링크, 링크 이번엔 2nd order linear homogeneous DE에 대해 알아본다.2nd order linear homogeneous DE에 대해 이해하기 위해 키워드 단위로 하나씩 알아가보자. 우선 2nd order linear homogeneous DE은 아래처럼 생겼다. 이 때 $d(x) = 0$ 이여야 한다.$a(x) \frac{d^2y}{dx^2} + b(x) \frac{dy}{dx} + c(x)y = d(x)$ 2nd order 인 이유는 주어진 식이 갖는 differential operator $\frac{d^i}{dx^i}$ 의 최대 degree $i$ 가 2이기 때문이다.linear 인 이유는 계수 함수 $a(x), b(x), c(x)$와 unkno.. 공감수 0 댓글수 0 2024. 5. 15.
First order homogeneous equations 강의 : [링크]참고 : [링크] [링크] homogeneous function이란 함수의 인자에 임의의 scalar $s$ 를 곱해준 것과 함수의 결과값에 임의의 scalar $s$에 $k$ 제곱을 곱해준 것이 서로 같으면 $k$ degree에 대해서 homogeneous 한다고 얘기한다. 식으로 표현하면 아래와 같다. $f(s x_1, ..., s x_n) = s^k \dot f(x_1, ..., x_n)$ 만약 양수 $s$ 에 대해서만 성립하는 $f$ 라면 positively homogeneous 라고 하며 대표적으로 vector norm이 있다. 강의에서 first order homogeneous equation 의 설명을 아래와 같이 한다. 미분 방정식이 아래와 같이 있을 때,$\frac{dy.. 공감수 0 댓글수 0 2024. 5. 15.
Separable equations & Exact equations MIT 수업을 이해하기 아직 어렵다고 판단, KhanAcademy 의 ODE 수업을 듣고 다시 도전해보려 한다.이번 포스팅에서는 Separable equations 와 Exact equations 부분을 간략하게 정리한다. 미분 방정식에는 다양한 형태가 있고, analytical 하게 풀 수 있는 문제가 있고 그럴 수 없다면 numerical method 로 풀어야 하는 경우도 있다. 우선 가장 간단한 형태인 seperable equation 의 형태를 먼저 알아본다.Separable equations일단 ODE이기 때문에, 하나의 변수 $x$ 와 이에 대한 함수값 $y$ 가 있다. 이에 따라 만들어지는 ODE는 $\frac{dy}{dx} = f(x,y)$ 의 형태를 띈다. separable equati.. 공감수 0 댓글수 0 2024. 5. 13.
미분 방정식, Response to Exponential Input MIT OpenCourseWare 를 듣고 있고, Response to Exponential Input에 대한 부분을 듣고 문제 풀이를 쓴다. 문제는 아래와 같다. $\frac{df}{dt} = a \cdot f + e^{st}$ $f_p$$ = k \cdot e^{st}$ (particular solution) $f = f(0) \text{ at } t = 0$ narrative하게 만들면, $f$ 가 계좌에 있는 내 돈 (balance)이고, $a$ 가 이자율이며, $t$ 는 시간(년), $s$ 가 적금액이 되겠다. differential equation은 주로 homogeneous part 와 non-honogeneous part 로 나뉘어지는데, honogenouse differential equ.. 공감수 0 댓글수 0 2024. 4. 8.
[오픈 소스 공부] babyagi 에 대해 알아보자 "Generative Agents: Interactive Simulacra of Human Behavior" 이라는 논문을 너무 재밌게 읽었고, (곧 리뷰하겠다) 구현해보고 싶다는 생각에 구글링을 하다가 langchain 이라는 오픈 소스를 찾았다. (곧 리뷰하겠다) langchain의 use cases 를 훑어보던 중 babyagi와 autogpt (너무 유명한) 프로젝트를 알게 되었는데, 두 프로젝트는 "autonomous agent" 라는 공통적인 목적을 갖고 있다. autonomous agent에 대한 개념은 langchain 문서에 정리되어 있는 것을 빌려 말해보면, chatgpt와 같이 우리의 요구 사항에 대한 solution을 반환하는 어떤 주체를 agent 라고 하자. autonomous .. 공감수 1 댓글수 1 2023. 5. 9.
[논문 정리] HEAD2TOE: UTILIZING INTERMEDIATE REPRESENTATIONS FOR BETTER TRANSFER LEARNING 논문 링크 : [link] transfer learning 학습 방법이 딥러닝 분야에서 널리 쓰이면서, huggingface나 timm과 같은 pretrained big-model을 제공해주는 라이브러리도 많아지고 있다. 이에 따라, 실무자들은 각자에게 맞는 테스크와 데이터에 맞게, 모델을 재학습시킨다. 이 때 여러 방법들이 있는데, 첫 번째로는, fine-tuning 방식이다. 이는 작은 학습률로 모델의 전체 파라미터를 업데이트하는 방식으로, 이전 실험에 따르면, 가장 좋은 학습 결과를 가져다준다고 한다. 두 번째로는 linear probing 이라고 하는 방식으로, output head 만 바꿔서, 마지막 linear layer만 재학습시키는 방식이다. 이는, pretrained layer를 업데이트.. 공감수 0 댓글수 0 2022. 1. 19.
[간단 정리] model calibration 에 대해 알아보자 (3) calibration 1편에서는 calibration 이란 무엇인지와 주로 사용되는 metric 에 대해 다루었고, calibration 2편에서는 고전적인 calibration 방식이자 sklearn.calibration module 이 지원하는 방법론인 sigmoid 와 isotonic method 에 대해 알아봤다. 이번에는 딥러닝에서 사용되는 calibration method 에 대해 알아보려 한다. 참고한 논문은 아래와 같다. On Calibration of Modern Neural Networks [링크] Calibrating Deep Neural Networks using Focal Loss [링크] On Mixup Training: Improved Calibration and Predict.. 공감수 7 댓글수 2 2021. 11. 22.
[간단 정리] model calibration 에 대해 알아보자 (2) 지난 1편에 이어, 이번에는 model calibration 에 대한 기법들을 알아보려 한다. model calibration 기법은 크게 두 개로 나뉘어질 수 있다. 1. 모델을 학습한 후 (train-set), calibration post-processing 진행 (validate-set) 2. 모델을 학습할 때, calibration method 동시에 학습 (train-set), calibration method 에 대한 hyper-parameter tuning (validate-set) 이번에 다뤄보려고 하는 것은, 위의 1번에 해당하는 post-processing 기법이며 특히 sklearn.calibration.CalibratedClassifierCV 모듈에 있는 기법인 'sigmoid' .. 공감수 2 댓글수 0 2021. 11. 6.
[간단 정리] model calibration 에 대해 알아보자 (1) model distilation 논문을 보면, teacher model이 주어진 input 에 대한 예측값, 더 정확히는 특정 class labels 에 할당된 predicted probability 을 사용해 student model 을 학습시킨다. 이는, 모델이 주는 probability 는 모델의 knowledge 라고 할 수 있음을 시사한다. calibration 이란 예측된 probability 가 옳음의 우도 (likelihood of correctness) 를 나타내게 하는 task 를 의미한다. 한 논문의 예시를 가지고 와보면, 100개의 예측값이 있다고 하고 모델이 특정 class label 에 대한 예측 probability/confidence (probability 는 불확실성을 내포.. 공감수 1 댓글수 0 2021. 11. 4.
[개발 정리] Docker 튜토리얼 및 정리 3편 이번엔 도커 네트워크에 대해 정리해보려 한다. 도커 공식 docs와 블로그를 참고하였다. 도커 컨테이너는 서로 격리된 프로세스이기 때문에, 컨테이너 간 통신을 위해서는 docker network 옵션을 고려해야 한다. 도커 네트워크 드라이버는 아래와 같이 5가지가 존재한다. bridge : 하나의 호스트에서 여러 컨테이너가 통신 host : 컨테이너가 호스트의 네트워크 내에서 실행 (격리 x) overlay : 여러 호스트에서 분산되어 돌아가는 컨테이너 간 통신 macvlan : 컨테이너에 MAC 주소를 할당하여, 물리적 장치로 인식하게 함 none : 네트워크 완전 격리 이 중에서 default값이자 가장 많이 사용된다는 bridge driver 만 다뤄보도록 하겠다. 제일 처음으로 docker 의 d.. 공감수 1 댓글수 0 2021. 9. 12.
[MlOps] Data Engineering in Uber (2) 참고 자료 : https://forecasters.org/wp-content/uploads/gravity_forms/7-c6dd08fee7f0065037affb5b74fec20a/2017/07/Laptev_Nikolay_ISF2017.pdf https://eng.uber.com/monitoring-data-quality-at-scale/ https://eng.uber.com/neural-networks/ http://www.cs.columbia.edu/~lierranli/publications/TSW2017_paper.pdf 이번 포스팅에서는 파이프라인을 구축하기 위한 엔지니어링 요소보다는, 모델링에 대한 것을 다루려 한다. 두 가지 목적에 따른, 두 가지 모델에 대해서 이야기할 것이고 각각의 테스크는 .. 공감수 0 댓글수 0 2021. 9. 11.
[MlOps] Data Engineering in Uber (1) MlOps 에 관심을 가지게 된지 얼마 안된터라, 이분야가 대체 어떤 것이고 뭐부터 공부해야 할지 막막했던 차에, 구세주를 찾았으니 바로 Uber Engineering Blog 이다. 서비스를 제공하면서 그 과정에서 가졌던 이슈들과 프레임워크들을 공유해주는데, 실무에서 사용되는 다양한 기술들과 주요 이슈들을 체크하기에 너무 좋은 자료들이라 정리하려 한다. 정리는 한 source posting 당 또는 source posting의 주제를 나름대로 묶어서, 하나의 포스트로 짧게 정리해 가볍게 진행한다. Meet Michelangelo: Uber’s Machine Learning Platform [원글] 데이터 관리 파이프라인 요구 사항: 확장 가능 성능 우수 데이터 플로우와 품질 모니터링 지원 온라인, 오프.. 공감수 0 댓글수 0 2021. 9. 11.
[개발 정리] Docker 튜토리얼 및 정리 2편 첫 번째 정리에 이어서 두 번째 정리로 도커가 데이터를 관리하는 방법에 대해서 정리해보려 한다. 참고한 소스는 도커 공식 홈페이지의 docs를 보고 정리하였다. 기본적으로, 도커는 데이터를 writable layer 에 저장하기 때문에, container가 사라지면, 그 안에 있는 데이터도 함께 없어진다. 따라서, container 에서 저장한 데이터를 도커 호스트에 가져오기 위해서는, 마운트 옵션을 사용해야 하며, 이에 대한 유형은 아래와 같다. volume bind mount tmpfs mount 1. Volume 권장되는 마운트 유형으로, 위의 그림에서 보는 것과 같이, 호스트 파일 시스템에 도커 볼륨을 위한 경로가 따로 존재한다. 리눅스의 경우에는 "/var/lib/docker/volumes/" .. 공감수 0 댓글수 0 2021. 9. 10.
[개발 정리] Docker 튜토리얼 및 정리 1편 mlops 를 키워드로 검색하면 가장 처음에 그리고 공통적으로 등장하는 친구가 있는데, 바로 도커이다. 도커가 뭘까 해서 설치해서 이것저것 해보다가, 좀 제대로 정리해야겠다 싶어서, 유튜브 freeCodeCamp.org 채널에 있는 도커 2시간 강의를 듣고 이해한 내용을 정리해본다. 추가적으로 글로 잘 정리된 블로그를 참고하였다. 도커는 컨테이너 기반의 오픈소스 가상화 플랫폼이다. 프로그램 별 독립된 환경을 제공해주고 이를 이미지화하여 어디든 옮기고 실행할 수 있게 하면서, 동일한 실행 환경을 보장한다. 비교 대상인 VM(virtual machine)과 비교하면서 좀 더 이해해보도록 하자. Share the underlying OS Kernel 운영 체제 OS 는 OS kernel (ex. Linux) .. 공감수 0 댓글수 0 2021. 9. 9.
[간단 정리] Neural-Network 는 multi-collinearity 의 영향을 받지 않는가? neural network 의 vector output 은 D를 output dimension 이라고 하면, 데이터 하나에 [1XD] 의 형태를 띄고 있다. neural netowork 모델 파라미터를 고정시키고, output vector 를 input 으로 하는, (non) linear regression 을 통해, task 를 해결하려고 할 때, input 의 형태를 보면, multi-collinearity 의 형태를 띄고 있다. multi-collinearity 는 parameter estimate 의 variance 를 크게 만들기 때문에, 평소 SVD를 해서 사용해오던 차에, 논문을 읽었는데, 글을 인용해본다. "Due to its overparameterization, the coeficien.. 공감수 0 댓글수 0 2021. 8. 19.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.