분류 전체보기

Big model을 활용하기 위해서 당신이 고려해야할 것(fine-tuning, knowledge distillation)

해당 게시글은 흔히 말하는 Big model(GPT-3, BERT)들을 활용하기 위해서 무엇을 고려해야 할지, 특히 (1) Fine-tuning (2) Knowledge distillation 에 대한 내용을 담고 있습니다. GPT-3의 업그레이드 버전인 GPT-4가 최근에 발표되었습니다. ChatGPT가 성공한 원인도 GPT-3라는 Big model을 효과적으로 활용했기 때문이라는 생각이 드는데요. 이렇듯 기하급수적인 속도로 발전하고 있는 pretrained big model들을 바로 사용할 수도 있겠지만, 실제 서비스나 적용 분야에 잘 활용할 줄 아는 것이 중요해진다고 볼 수 있습니다. 이 때 여러분들이 알아야 할 것들, 특히 fine-tuning과 knowledge distillation에 대해서 ..

SvelteKit 으로 만든 Web 을 무료로 배포할 수 있나요? 빠르고 편한 Netlify 를 적용해봐요! #5

해당 게시글은 (1) Netlify 개요 (2) Netlify 연동 방법 (w/ SvelteKit, Github) 에 대한 내용을 담고 있습니다. 이전 게시글 - 제가 만든 Svelte Web 은 왜 이렇게 못생겼나요? DaisyUI 인공호흡기를 붙여봐요! #4 제가 만든 Svelte Web 은 왜 이렇게 못생겼나요? DaisyUI 인공호흡기를 붙여봐요! #4 해당 게시글은 (1) DaisyUI 개요 (2) DaisyUI 적용 방법 에 대한 내용을 담고 있습니다. 이전 게시글 - SvelteKit 에 요즘 제일 인기많다는 TailwindCSS 를 적용해볼까요? #3 SvelteKit 에 요즘 제일 인기많다는 Tai gngb-tech.tistory.com ch1 - Netlify 란? Netlify 가 뭐..

머신 러닝 프로젝트를 단계별로 개선하는 방법 #1

이 글은 Structuring Machine Learning Projects 라는 강의 내용을 바탕으로, 필자의 경험과 의견을 덧붙인 글입니다. (1) 머신러닝 모델의 예측 정확도를 더 높이고 싶은 경우의 다양한 선택지 (2) Chain Assumptions in ML (3) 기타 경험적인 Tips 에 대한 내용을 담고 있습니다. * 원 강의 : Structuring Machine Learning Projects "머신러닝 모델이 잘 동작하지 않을 때, 우리는 어떻게 문제를 해결할 수 있을까?" 1. 머신러닝 프로젝트는, 정형화된 단계들로 나눌 수 있다. 2. 내 프로젝트가 어느 단계에서 문제가 발생했는지 파악한다. 3. 해당 단계에 적합한 방법론을 시도하여 성능을 개선한다. 프로덕션 레벨에서 머신러닝 ..

제가 만든 Svelte Web 은 왜 이렇게 못생겼나요? DaisyUI 인공호흡기를 붙여봐요! #4

해당 게시글은 (1) DaisyUI 개요 (2) DaisyUI 적용 방법 에 대한 내용을 담고 있습니다. 이전 게시글 - SvelteKit 에 요즘 제일 인기많다는 TailwindCSS 를 적용해볼까요? #3 SvelteKit 에 요즘 제일 인기많다는 TailwindCSS 를 적용해볼까요? #3 해당 게시글은 (1) TailwindCSS 개요 (2) TailwindCSS 적용 방법 에 대한 내용을 담고 있습니다. 이전 게시글 - 정식 출시된 SvelteKit 으로 개발 환경을 구성해보겠습니다! #2 정식 출시된 SvelteKit 으로 개발 gngb-tech.tistory.com ch1 - DaisyUI 란? DaisyUI 가 뭐예요? 꼭 사용해야 하나요? TailwindCSS Component Libra..

ChatGPT를 가능케한 근본은 무엇일까? ChatGPT에게 물어보았다.(feat. InstructGPT)

해당 게시글은 (1) ChatGPT, 그리고 InstructGPT가 가능했던 중요 기술과 (2) 해당 기술이 적용된 원리와 시사하는 점 에 대한 내용을 담고 있습니다. Chapter #1 - ChatGPT를 성공케 만든 중요 기술은 무엇일까 왜 GPT-3는 안되는 걸 ChatGPT는 가능하게 된 것인가요? 최근 화제가 되고 있는 chatGPT ChatGPT 가 공개된지 2달이 다 되어가고 있습니다. ChatGPT는 출시 5일만에 사용자 100만명을 달성하고, 놀랍도록 정확한 언어 구사능력과 정말 도움이 될 법한 답변들을 보여주면서 구글 검색을 대체할 수도 있다는 이야기가 나오면서 많은 화제를 불러일으켰는데요. 최근에는 의학논문 사전 공개 누리집 메드아카이브(MedRxiv)에 챗지피티가 논문 공저자로 적힌..

SvelteKit 에 요즘 제일 인기많다는 TailwindCSS 를 적용해볼까요? #3

해당 게시글은 (1) TailwindCSS 개요 (2) TailwindCSS 적용 방법 에 대한 내용을 담고 있습니다. 이전 게시글 - 정식 출시된 SvelteKit 으로 개발 환경을 구성해보겠습니다! #2 정식 출시된 SvelteKit 으로 개발 환경을 구성해보겠습니다! #2 해당 게시글은 (1) SvelteKit 개요 (2) SvelteKit 설치 방법 에 대한 내용을 담고 있습니다. 이전 게시글 - 왜 하필 Svelte 예요? 저도 공부해볼까요? #1 왜 하필 Svelte 예요? 저도 공부해볼까요? #1 해당 게시 gngb-tech.tistory.com ch1 - TailwindCSS 란? TailwindCSS 가 뭐예요? 왜 사용하는 거예요? CSS Framework Frontend 개발자라면, ..

정식 출시된 SvelteKit 으로 개발 환경을 구성해보겠습니다! #2

해당 게시글은 (1) SvelteKit 개요 (2) SvelteKit 설치 방법 에 대한 내용을 담고 있습니다. 이전 게시글 - 왜 하필 Svelte 예요? 저도 공부해볼까요? #1 왜 하필 Svelte 예요? 저도 공부해볼까요? #1 해당 게시글은 (1) Svelte 를 선택한 계기 (2) Svelte 를 공부하기 적합한 대상 에 대한 내용을 담고 있습니다. 관련 게시글 - Frontend 개발자가 아닌데 굳이 Web/App 을 공부해야 할까요? [fe-cm : ep.1] Frontend gngb-tech.tistory.com ch1 - SvelteKit 릴리즈 SvelteKit 이 무엇인가요? SvelteKit v1.0 SvelteKit 은 Svelte 의 Meta-framework 로서 최근 (20..

베이지안 통계로 보는 2022 대선 결과 예측 (Bayesian Hierarchical Modeling)

해당 게시글은 (1) Bayesian Hierarchical modeling의 개념 (2) Bayesian Hierarchical modeling 활용 사례 - 2022 대선 결과 예측 에 대한 내용을 담고 있습니다. Chapter #1 - Bayesian Hierarchical modeling의 개념 Bayesian Hierarchical modeling은 무엇이고, 왜 쓰는 것인가요? Hierarchical modeling 이란, 알고 싶은 파라미터를 여러 계층으로 구분하여 추정하는 방법론을 의미합니다. 베이즈 정리를 활용하여 사전 (prior) 분포를 가정하고, 사후 (posterior) 분포를 추정하는 베이지안 방법론과 같이 쓰일 때 Bayesian Hierarchical modeling이라 합니..