티스토리

chanmuzi
검색하기

블로그 홈

chanmuzi

chanmuzi.tistory.com/m

chanmuzi 님의 블로그입니다.

구독자
55
방명록 방문하기
공지 NLP 연구자를 꿈꾸는 chanmuz⋯ 모두보기

주요 글 목록

  • <Uncertainty> I Don't Know: Explicit Modeling of Uncertainty with an [IDK] Token (2024.12) (NeurIPS 2024) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[HPI]- [IDK] 라는 스페셜 토큰을 모델 vocab에 추가- 잘못된 예측에 대한 probability mass를 스페셜 토큰으로 옮겨주는 objective function 도입- 큰 사이즈의 corpus에 대해 objective function 교체 후 self-supervised learning (pre-training) 적용 출처 : https://arxiv.org/abs/2412.066761. IntroductionLLM은 뛰어나지만 아직까지도 hallucination 문제가 해결되지 않고 있죠.이제는 LLM에게서 이러한 문제점이 나.. 공감수 6 댓글수 4 2024. 12. 27.
  • [Upstage] 업스테이지 AI Research Engineer 정규직 전환 합격후기 (비전공자) 취업 관련 후기는 오랜만에 작성하는 것 같네요.6개월이 금방 지나갔다고 생각했는데 생각보다 길었던 것 같기도 하고.. 묘한 기분이 드네요오늘(2024.11.13)은 업스테이지에서 정규직 전환형 인턴으로 6개월 근무 후에 정규직으로 전환하게 된 후기를 남겨보겠습니다 🥳저는 영어영문학을 전공하고 네이버 부스트캠프를 통해 자연어처리를 배웠습니다.이후 스타트업과 대학원 연구실을 거쳐 현재까지 오게 되었네요!1. 무슨 일을 했나요?특정할 수 있는 내용이나 공개하기 어려운 것들을 제외하고 아주 간단하게 정리하면,저는 6개월 동안 보험사와 관련된 문제 중 두 가지를 LLM으로 해결할 수 있도록 도입 및 개발하는 업무를 맡았습니다. 사실 제가 입사한 팀은 업스테이지가 창립 시기부터 자랑하던 OCR 기술을 바탕으로.. 공감수 24 댓글수 26 2024. 11. 14.
  • [서평] LLM을 활용한 실전 AI 애플리케이션 개발 (완전 강추 👍🏻) 최근 사내 스터디를 위해 같이 공부할만한 책을 찾다가 알게 된 책인데요,다양한 서적, 자료 등을 접해본 경험을 근거로, 이 책이 단연 최고의 LLM 도서 중 하나라는 생각을 하게 됐습니다.(인공지능 관련 도서 중 최고를 꼽자면 밑바닥부터 시작하는 딥러닝, 그 다음 이 책인 것 같습니다..!) [도서 링크]- 교보문고: https://product.kyobobook.co.kr/detail/S000213834592- 알라딘: https://www.aladin.co.kr/m/mproduct.aspx?ItemId=343185652- YES24: https://m.yes24.com/Goods/Detail/129081594 [깃허브 링크]- https://github.com/onlybooks/llm 저한테 돈 떨어.. 공감수 7 댓글수 6 2024. 11. 9.
  • <Structured Outputs> Let Me Speak Freely? A Study on the Impact of Format Restrictions on Performance of Large Language Models (2024.10) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[Appier AI Research, National Taiwan University]- LLM에게 JSON, XML과 같은 structured format을 지키도록 강제하는 경우, reasoning task에서 모델 성능이 하락한다.- 하지만 분류 태스크에서는 오히려 성능이 향상될 수 있다.- 즉, 어떤 형식을 강제하는 것이 모델 성능에 영향을 주는지는 task by task로 다르다. 출처 : https://arxiv.org/abs/2408.024421.  IntroductionLLM은 뛰어난 퍼포먼스를 보이고 있음에도 아직까지 실제 app.. 공감수 11 댓글수 2 2024. 10. 20.
  • <Bias> OffsetBias: Leveraging Debiased Data for Tuning Evaluators (2024.07) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[NC Research]- LLM이 생성한 결과를 평가할 때 존재하는 다양한 bias를 정의 (6개)- EvalBiasBench를 제안. 6개 종류의 bias에 대한 test case를 직접 제작함.- OffsetBias 공개. bias를 낮추는 데 기여할 수 있는 학습용 선호 데이터셋 출처 : https://arxiv.org/abs/2407.06551 1. Introduction최근 LLM이 생성한 텍스트를 LLM으로 평가하는 경우가 굉장히 많아졌습니다.LLM으로 생성하는 텍스트는 종류나 범위가 엄청나게 다양한데 이를 사람이 직접 다 평가하기엔.. 공감수 5 댓글수 0 2024. 10. 3.
  • <Inference, KV Cache> [vLLM] Efficient Memory Management for Large Language Model Serving with PagedAttention (2023.09) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[UC Berkeley, Stanford University]- 운영체제에서 가상메모리와 페이징 기법에 착안한 PagedAttention을 제안- 이를 기반으로 하는 vLLM을 개발했는데, (1) KV 캐시 메모리의 낭비가 거의 없고 (2) 불필요한 메모리 사용을 최소화 한다는 특징이 있음 출처 : https://arxiv.org/abs/2309.06180깃허브 : https://github.com/vllm-project/vllm1. Introduction최근 가장 감명 깊게 읽은 PagedAttention에 대해 간단히 리뷰를 해보려고 합니다... 공감수 1 댓글수 1 2024. 9. 2.
  • <Evaluation, Bias> Judging the Judges: A Systematic Investigation of Position Bias in Pairwise Comparative Assessments by LLMs (2024.06) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[Dartmouth College]- position bias를 정량적으로 평가할 수 있도록 돕는 프레임워크를 개발- MTBecnh와 DevBench의 22개 태스크에 대해 40개 모델로 답변을 생성하고, 이를 9개의 평가 모델로 평가하여 실험한 결과- position bias가 단순한 random variation이 아니라 특정한 모델 간 관계를 지닌다는 것을 입증 출처 : https://arxiv.org/abs/2406.07791v11. Introduction생성형 언어 모델의 성장은 이를 다양한 태스크에 활용하는 관행으로 이어졌습니다.LLM.. 공감수 1 댓글수 2 2024. 8. 22.
  • <LLM> EXAONE 3.0 7.8B Instruction Tuned Language Model (2024.08) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[LG AI Research]- LG AI Research가 개발하여 공개한 7.8B 사이즈의 instruction-tuned model- 한글과 영어, 두 언어에 대한 proficiency가 높은 것을 강점으로 내세우고 있음- 허깅페이스 링크: https://huggingface.co/LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct 출처 : https://www.lgresearch.ai/data/upload/tech_report/en/EXAONE_3.0_Technical_Report.pdf1. Introduction제가 알기로.. 공감수 3 댓글수 2 2024. 8. 9.
  • <Continual Learning> Adapting Large Language Models to Domains via Reading Comprehension (2023.09, ICLR 2024) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[Microsoft, BIGAI]- raw corpora로 continued pre-training을 수행하는 경우 도메인 지식은 늘어나지만 prompting 능력은 급격하게 감소함을 확인- raw corpora를 reading comprehension texts로 바꾸는 간단한 방법을 제안- 이는 어떤 종류의 pre-training corpora에도 적용 가능한 방식: 본 논문에서는 biomedicine, finace, law 분야에서 활용  출처 : https://arxiv.org/abs/2309.09530 Adapting Large Lang.. 공감수 1 댓글수 3 2024. 8. 2.
  • <Instruction tuning> Symbol tuning improves in-context learning in language models (2024.01) (EMNLP 2023) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[Google, Stanford University]- 모델이 태스크를 이해할 때 참고할 instruction 또는 natural language가 없는 경우, input-label mapping을 정보로 이용하는 Symbol Tuning을 제안- unseen in-context learning tasks에 대한 성능이 뛰어나고 underspecified prompts에 더욱 robust하게 됨 - 학습하지 않았던 algorithmic reasoning task에 뛰어난 성능 & flipped-labels 태스크 수행 능력이 복구됨 출처 : ht.. 공감수 1 댓글수 0 2024. 7. 25.
  • <Document, Multi-modal> BROS: A Pre-trained Language Model Focusing on Text and Layout for Better Key Information Extraction from Documents (2021.08) (AAAI 2022) 관심 있는 고전(?) 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[Naver Clova, KAIST, LBox, Upstage]- Key information extraction (KIE) 태스크를 잘 처리하기 위해 text와 layout을 효과적으로 결합하는 방식을 고안- BROS (BERT Relying On Spatiality): text를 2D 공간에서 relative position encoding 하고 area-masking strategy를 적용- 현실 세계에서 다루기 어려운 두 가지의 문제(incorrect text ordering, fewer downstream examples)에도 강건함.. 공감수 2 댓글수 1 2024. 7. 19.
  • <Evaluation> FActScore: Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation (2023.05) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️Published as a main conference paper at EMNLP 2023. Code available at this URLusechatgpt init success[University of Washington, AI2, Meta AI]- long-form text generation의 factuality를 평가할 때, binary judgments(supported/unsupported) & huge cost of human evaluatoin 이슈가 존재- 생성 결과를 일련의 atomic facts로 쪼갠 뒤 각 fact를 평가한 결과를 합쳐 score를 구하는 방식.. 공감수 1 댓글수 0 2024. 6. 27.
  • <Multi-modal> [CLIP] Learning Transferable Visual Models From Natural Language Supervision (2021.02) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[OpenAI]- 당시 computer vision system의 SoTA 모델은 사전 정의된 object 카테고리를 예측하도록 학습됨- 이미지와 어울리는 설명(caption)을 예측하도록 하는 사전학습 방식을 제안- fully supervised baseline과 비교했을 때, dataset specific training을 할 필요가 없음 (zero-shot 성능을 강조) 출처 : https://arxiv.org/abs/2103.00020Introduction논문이 제출되었던 2021년 초라면 아직 챗지피티도 나오기 한참 전이니..당시의 CV.. 공감수 1 댓글수 1 2024. 6. 15.
  • VSCode에서 제대로 Debugging 하는 방법 안녕하세요, chanmuzi입니다.오늘은 많은 개발자가 사용하는 VSC에서 어떻게 debugger를 제대로 사용할 수 있는지에 대해 포스팅하려고 합니다! 🪲❌ 코드를 작성하기 시작한지 그래도 꽤 시간이 지났는데, 말로만 debugging이 중요하다 듣기만 하고 print 함수를 사방팔방 썼다가 지우는 방법밖에 잘 몰랐습니다.그런다고 사용 방법을 찾아봐도 본인만 알아보기 쉬운 글들 뿐이고..다양한 상황에 어떻게 대처할 수 있는지 알기가 어렵더라고요 🥲 그래서 디버깅을 하면서 직접 알게 된 아주 유용하고 쓸모있는 기능들을 글로 정리하여 나중에도 또 활용하는 것이 목표입니다.혹시라도 잘못된 내용이 있거나 추가적으로 알려주고 싶은 내용이 있다면 댓글로 편하게 말씀 부탁드립니다 ☺️1. json 파일부터 작성.. 공감수 0 댓글수 3 2024. 6. 4.
  • <Evaluation> Prometheus 2: An Open Source Language Model Specialized in Evaluating Other Language Models (2024.05) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[KAIST]- 사람과 GPT-4의 판단에 근사하는 open-source evaluator LM, Prometheus 2를 공개- direct assesssment와 pair-wise ranking 형식을 둘 다 처리할 수 있음- 유저가 정의한 평가 기준을 반영출처 : https://arxiv.org/abs/2405.015351. Introduction생성형 언어 모델이 크게 주목을 받고 사용됨에 따라 이에 대한 평가를 어떻게 내려야 하는가에 대한 논의가 끊이지 않고 있습니다.예전 언어 모델들은 출력해야 하는 답이 명확히 존재하는 태스크를 수행했.. 공감수 0 댓글수 0 2024. 5. 19.
  • [Upstage] 업스테이지 AI Research Engineer 합격 후기 (정규직 전환형 인턴십) (비전공자) 안녕하세요, chanmuzi입니다.이번에 아주 운이 좋게도 2024.05.13(월) 부로 업스테이지에 입사하게 되었습니다! 🥳🥳 직무는 제목에서 보실 수 있는 것처럼 AI Solution Reliability Engineer입니다.AI Solution Reliability Engineer 직군의 AI Research Engineer 직무로 구분되는 듯하네요 😂업스테이지 커리어 페이지에 계속 오픈이 되어 있을 지는 모르겠지만..고객사의 요구에 맞게끔 AI 모델을 fine-tuning 하고 고객사와 소통하는 것이 주된 업무인 것 같습니다. 페이지에 명시되어 있지는 않지만, 신입으로 채용이 가능한 사람 중 정규직 전환형 인턴십으로 모집을 한다고 해서 채용 프로세스에 참여하게 되었습니다. 저의 경우 처음 .. 공감수 9 댓글수 9 2024. 5. 7.
  • 서울 상위권 대학 인공지능 대학원 컨택 후기 (2024년 후기 석사 지원 목표) 안녕하세요 chanmuzi입니다.사실 지금은 어쩌다 보니 다시 취업을 하게 된 상황이긴 하지만.. 🧑🏻‍💻그동안 대학원 입학을 위해 준비했던 시간들이 짧지 않기도 하고, 앞으로 다시 도전할 가능성도 충분히 있다고 생각합니다.그래서 개인적인 경험을 정리해보기도 하고.. 다른 분들이 인공지능 대학원을 준비하시는데 참고가 될 수 있도록 글을 작성해보고자 합니다. 참고로 저는 자연어처리(NLP)에 관심이 많기 때문에 다른 분야에 관심이 있으신 분들에게는 큰 도움이 되지 않을 수도 있습니다..!대학원을 준비하게 된 이유이미 직장 생활을 하고 있던 상황에서 대학원 준비를 결심하게 된 이유는 좀 복합적이긴 합니다.직장 자체에 대한 아쉬움일 수도 있고, 비전공자로서 커리어에 제한이 많기도 하고.. 여러 이유들이 .. 공감수 10 댓글수 2 2024. 5. 7.
  • 유데미 강의 후기 【한글자막】 Docker & Kubernetes : 실전 가이드, 【한글자막】 랭체인 - LangChain 으로 LLM 기반 애플리케이션 개발하기 본 포스팅은 유데미로부터 강의 쿠폰을 제공받아 작성한 글입니다.【한글자막】 Docker & Kubernetes : 실전 가이드【한글자막】 랭체인 - LangChain 으로 LLM 기반 애플리케이션 개발하기리뷰에 앞서..저는 '글또' 9기에 참여 중입니다.글또를 통해 유데미의 강의 쿠폰을 제공받을 수 있었고 이에 대한 강의 후기를 남기게 되었습니다. IT 분야 종사자라면 도커는 필수라는 이야기를 수도 없이 들은 것 같은데, 기회가 되면 공부해야지 막연히 생각하다가 이번에 시간적 여유가 있을 때 공부할 수 있었습니다.랭체인은 개인적으로도 몇 번 사용을 했었는데 애플리케이션 개발으로는 어떻게 연결될 수 있는지 궁금해서 강의를 수강하게 되었습니다. 【한글자막】 Docker & Kubernetes : 실전 가이드.. 공감수 2 댓글수 0 2024. 5. 6.
  • AI Expo Korea 2024 국제인공지능대전 후기 지난 5월 1일(수) ~ 5월 3일(금) 동안 코엑스에서 AI Expo 2024가 진행되었습니다.저는 마지막 날인 금요일에 참석했고 이에 대한 짤막한 후기를 남겨보려고 합니다.작년에는 이런 행사가 있는지 몰랐었는데 상당히 큰 규모였고(지금까지 다녀봤던 행사들 중 기업 부스가 가장 많았던 것 같네요 😲), 느낌이 조금 달랐습니다..! 디테일한 내용들은 후술 하고.. 결론적으로 느낀 것은..1. 모델을 직접 학습하고 활용하는 사례가 굉장히 많이 줄어들었다. (API 기반의 솔루션, 프로덕트가 대부분)2. MLOps, LLMOps 관련 솔루션들이 오히려 탄탄한 기술력을 갖고 있다고 느껴졌고 시장성도 좋다는 생각이 들었다.3. 같은 맥락에서 computing resource 관련 사업도 유망하다는 생각이 들었.. 공감수 3 댓글수 2 2024. 5. 6.
  • <Document> LayoutLM: Pre-training of Text and Layout for Document Image Understanding (2019.12) 관심 있는 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[Microsoft]- scan된 문서에 대한 text와 layout 정보 간의 interaction을 함께 학습- 사전학습 단계에서 문서 단위로 학습 출처 : https://arxiv.org/abs/1912.133181. IntroductionBusiness document를 이해하고 그 정보를 활용하기 위한 연구는 오래 전부터 이어져오고 있었습니다.기존에는 대부분의 문서 작업을 사람이 직접 하는 방식이었기 때문에, 이를 인공지능 모델을 이용하여 효율적으로 해결하고자 한 것이죠.그러나 실제로 여러 문서들은 다양한 layout과 형식으로 구성되는 경우가.. 공감수 1 댓글수 0 2024. 5. 5.
  • <SLM> Phi-3 Technical Report: A Highly Capable Language Model Locally on Your Phone (2024.04) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️usechatgpt init success[Microsoft]- 3.3T개 토큰을 학습한 3.8B 사이즈의 모델 phi-3-mini를 공개. 사이즈가 굉장히 작음에도 불구하고 Mixtral 8x7B, GPT-3.5급의 추론 능력을 보여주어 화제.- multi-lingual 특성을 강화하여 학습한 phi-3-small 모델(7B)과 mini 모델을 추가학습한 phi-3-medium 모델(14B)을 함께 공개 출처 : https://arxiv.org/abs/2404.142191. Introduction지난 몇 년 간 인공지능의 눈부신 발전은 점점 더 큰 모델과 데이터셋을 만.. 공감수 0 댓글수 0 2024. 4. 24.
  • Welcome Llama 3 - Meta’s new open LLM (HuggingFace 블로그 Llama 3 - ChatGPT 한글 번역) 안녕하세요, chanmuzi입니다. 오늘 새벽 Meta에서 Llama 3 모델을 공개했습니다! 커뮤니티를 보니 소수의 사람들은 이미 이 모델을 사용하고 있었다고 하더군요. 전작에 비해 훨씬 잘한다고 알려진 이 모델은 벌써 허깅페이스에도 업로드 되었습니다. 허깅페이스에서는 블로그 글도 항상 깔끔하고 상세하게 잘 써주는데요, 오늘은 llama 3 관련 내용이 저도 궁금해서 ChatGPT에게 번역을 의뢰하여 얻은 내용을 공유하고자 합니다! (경쟁자의 탄생을 직시하게 만들어버리는..😅) 참고로 메타의 블로그는 이 링크를, 허깅페이스의 블로그 원문은 이 링크를, 그리고 허깅페이스의 모델 카드는 이 링크를 통해 확인 가능합니다. Welcome Llama 3 - Meta's new open LLM Introducti.. 공감수 0 댓글수 1 2024. 4. 19.
  • <Embedding> LLM2Vec: Large Language Models Are Secretly Powerful Text Encoders (2024.04) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️ usechatgpt init success [Mila, McGill University, Facebook CIFAR AI Chair] - decoder-only LLM을 강력한 텍스트 encoder로 변환해주는 간단한 unsupervised approach, LLM2Vec - 1) enabling bidirectional attention 2) masked next token prediction 3) unsupervised contrastive learning, 세 개의 요소로 구성 - publicly available 데이터만 이용하여 모델을 학습 - supervised contras.. 공감수 0 댓글수 0 2024. 4. 15.
  • <PEFT> QLoRA (2023.05) 논문 상세 리뷰 및 간단 구현 (with Gemma) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️ (코드 구현에 관한 내용은 마지막에 다루고 있습니다!!) usechatgpt init success [University of Washington] - 기학습된 모델을 4-bit로 quantize한 뒤 Low Rank Adapters(LoRA)를 학습하는 방식 - QLoRA로 학습된 model family, Guanaco를 공개. - ChatGPT의 99.3% 성능을 발휘할 수 있는 65B 모델을 single GPU에서 24시간 동안 fine-tuning - 세 개의 tenchiques: (a) 4-bit NormalFloat (NF4), (b) Double Quantization, (.. 공감수 2 댓글수 5 2024. 4. 1.
  • [대학원생 필수!] 논문 관리 프로그램 Zotero 추천 (WebDAV 연결, iPad annotation 싱크 관리) 제가 대학원생은 아니지만..논문을 자주 읽고 정리하는 사람으로서 강추하고 싶은 프로그램, Zotero를 어떻게 설치하고 활용할 수 있는지에 대해 포스팅해보고자 합니다.사실 그냥 다운로드받고 쓰는 방법 자체는 굉장히 간단하고 좋습니다. 하지만 저처럼 주로 아이패드를 활용해서 논문을 읽는 사람에게 default 세팅은 너무 불친절합니다.ios 전용 어플이 있긴 한데요, 모바일에서 annotation 한 것이 (형광펜, 필기 등) pc에서 반영되지 않는 문제가 있기도 하고, 주어진 기본 용량이 너무 작아 돈을 내지 않고서는 쓰기 어려운 상황이었습니다. 그래서 오늘은 Zotero를 다른 드라이브와 연동하여 10GB를 활용하는 방법에 대해 간단 정리해드리겠습니다!(저는 이걸 세팅한다고 몇 시간을 날렸는지 모르겠네.. 공감수 6 댓글수 13 2024. 3. 18.
  • <Reward> Beyond Sparse Rewards: Enhancing Reinforcement Learning with Language Model Critique in Text Generation (2024.01) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️ usechatgpt init success [McGill University, University of Toronto, Mila, Google Research] - LLMs의 비판 능력을 활용하여 RL 학습 동안 intermediate-step rewards를 생성할 수 있도록 하는 프레임워크, RELC를 제안 - poicy model과 critic language model을 결합하는 method - critic language model로부터의 feedback은 token 또는 span 단위의 rewards로 전달됨 출처 : https://arxiv.org/abs/2401.07382.. 공감수 0 댓글수 1 2024. 3. 16.
  • <PEFT> ResLoRA: Identity Residual Mapping in Low-Rank Adaption (2024.02) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️ usechatgpt init success [Microsoft] - 학습 동안에 residual path를 추가하고, 추론 시에는 extra path를 제거하는 merging을 적용한 ResLoRA - LoRA와 residual path를 결합한 최초의 방법론 출처 : https://arxiv.org/abs/2402.18039 ResLoRA: Identity Residual Mapping in Low-Rank Adaption As one of the most popular parameter-efficient fine-tuning (PEFT) methods, low-rank adapta.. 공감수 0 댓글수 0 2024. 3. 11.
  • <LLM> Griffin: Mixing Gated Linear Recurrences with Local Attention for Efficient Language Models (2024.02) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️ usechatgpt init success [Google DeepMind] - RNN과 gated linear recurrence를 결합한 Hawk, gated linear recurrence와 local attention을 결합한 Griffin을 제안 - Hawk는 특정 태스크에서 Mamba 수준의 성능을, Griffin은 Llama-2 수준의 성능을 보임. 특히 후자의 경우 학습 당시에 접한 텍스트 보다 긴 데이터에 대해서도 뛰어난 성능을 보임. - 두 모델은 Transformers 대비 hardward efficient하며 lower latency & higher throughpu.. 공감수 0 댓글수 1 2024. 3. 8.
  • TOEIC/TEPS 동시 준비 2주 만에 955/409점 달성한 후기 안녕하세요, chanmuzi입니다. 뭔가 굉장히 오랜만에 평범한 글을 쓰는 기분이네요. 오늘은 아주 최근(2024.02.18 일요일)에 치렀던 TOEIC, TEPS 후기를 남겨보고자 합니다. 시험 자체에 관한 꿀팁이라기보다는.. 개인적인 성찰에 가까운 내용일 것 같습니다 😅 (약간의 팁을 곁들인..?) 1. 어쩌다가 두 시험을 동시에..? 이건 상당히 오만했던 과거의 자신을 많이 탓하고 싶습니다... 저는 2024.02.18 일요일 오전 10시에 토익을, 오후 3시에 텝스를 치렀습니다. 사실 지금 시점에서 어학 점수는 그렇게..까지 중요한 건 아니긴 했어요. 근데 이제 곧 토익 점수(2022.02 응시, 925점)가 만료될 예정이기도 했고 어차피 어학 점수는 뭘하든지간에 요구되는 경우가 많다 보니 해둬서.. 공감수 2 댓글수 6 2024. 3. 4.
  • <Data Type> [BitNet b1.58] The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits (2024.02) 관심 있는 NLP 논문을 읽어보고 간단히 정리했습니다. 혹시 부족하거나 잘못된 내용이 있다면 댓글 부탁드립니다 🙇‍♂️ usechatgpt init success [Microsoft Research] - LLM의 각 파라미터가 {-1, 0, 1}, 셋 중 하나의 값을 갖도록 하는 BitNet b1.58을 도입 - 동일한 사이즈의 모델 및 학습 토큰양을 보유한 트랜스포머 기반의 LLM의 full-precision (FP16 or BF16)에 준하는 성능 - LLM에 학습에 있어서 새로운 scaling law를 만들어 냄 (Pareto Improvement) 출처 : https://arxiv.org/abs/2402.17764 The Era of 1-bit LLMs: All Large Language Mode.. 공감수 0 댓글수 0 2024. 3. 2.
    문의안내
    • 티스토리
    • 로그인
    • 고객센터

    티스토리는 카카오에서 사랑을 담아 만듭니다.

    © Kakao Corp.