TensorFlow Korea LLM Day 후기 (23.07.13 (목)) feat. 인공지능위크 2023

 

이번 주 목요일, 삼성역에서 진행하는 TensorFlow Korea LLM Day 행사에 다녀왔습니다!

진짜 멋드러지게 꾸며진 행사장.. 낮에 사람 많을 땐 더 웅장했을 것 같네요

 

사실 저는 TensorFlow로 공부를 거의 안 해봐서 잘 모르는데, 주제가 LLM이라 재밌을 것 같아서 신청해서 다녀왔죠 ㅎㅎ

심지어 구체적인 내용이 뭔지 공개도 안 됐었는데 무지성 등록했습니다 ㅋㅋㅋ 😁

 

낮 시간에는 구글이 진행하는 인공지능위크가 있고 여기에도 사전등록을 했었는데,

일을 빼기가 어려울 것 같아서 저녁에만 참여했습니다.

그래서 당연히 TensorFlow 굿즈를 줄 거라고 생각했는데 Google 굿즈를 나눠주시더라고요 ㅋㅋㅋㅋ

(TensorFlow와 무슨 연관성이 있는 것인지는 아직도 미스테리고 남아 있습니다)

 

또 Upstage라는 기업을 중심으로 행사가 기획된 것인지 발표자 중 한 분도 Upstage에서 근무하시는 분이었어요.

(관계자분들도 꽤 있는 것 같고, 제가 네부캠 교육받을 때 운영진도 보여서 신기했습니다)

---

 

강연은 두 파트로 나눠졌는데요,

1. LM to LLM - Upstage AI Research Engineer 박찬준

2. 기업에서 Local Multi LLM 및 생성 AI의 적용 - 써큘러스 CEO 박종건

이렇게 구성되어서 각 40분 정도씩 진행되었습니다.

 

퇴근하자마자 부랴부랴 달려가서 조금 늦었지만, 내용이 엄청 알차고 진행속도도 빨라서 만족스러웠습니다.

모든 내용들을 다 기재하기는 좀 그렇고, 1번 강연에서 다룬 핵심 키워드만 소개하고자 합니다.

 

LLM에 관련된 11개의 키워드를 정리하셨는데, 그 목록은 다음과 같습니다.

1. 데이터

2. 크기

3. Multimodal

4. Multilingual

5. External Knowledge

6. Synthetic Data

7. Domain Specialized

8. Evaluation

9. Prompt Engineering

10. 3rd Party Platform

11. OpenSource

 

강연을 들으면서 진짜 이 내용들을 벗어나는 건 거의 없긴 하겠네, 싶을 정도로 양이 방대했어요 ㅋㅋㅋ

여러 내용들 중에서 가장 기억에 남는 것은 sLLM인 것 같습니다.

 

표현 자체가 모순이지만 상대적으로 작은 사이즈의 LLM을 활용하는 것이 앞으로 핵심이 될 수도 있다는 생각이 들었어요.

학습에 필요한 컴퓨팅 자원들도 앞으로 점점 더 많이 보급이 될 것이고, LLM을 보다 가볍게 이용하게끔 만드는 방식들에 대해서도 꾸준히 연구가 이뤄지고 있으니까요.

저는 그정도로 오래 공부를 하진 않았지만,

'우리가 BERT를 이렇게 쉽게 돌릴 수 있을 거라고 생각이나 했냐..!'

라는 말들에 많은 분들이 공감하시더라고요.

 

물론 현재까지는 sLLM은 '특정 태스크'만 잘 수행할 수 있다는 것이 한계로 비춰지기도 하지만,

결국 특정 서비스를 공급하는 데 있어서는 굳이 모든 태스크를 잘 수행할 필요도 없죠.

그래서 잘 학습시킨 sLLM을 보유하고 있고, 추론할 수 있는 자원만 갖추면 서비스 하나를 원활히 운영할 수 있을 것으로 예상됩니다.

 

여기에는 아마 메타에서 공개한 LLaMA 모델의 영향이 가장 큰 것 같아요.

물론 이를 튜닝하는 것도 중요하지만 어쨌든 backbone이 없으면 안되니까요.

 

 

두 번째 강연은 써큘러스(Circul.us)이라는 AI 로봇 회사의 CEO께서 진행해주셨는데요,

회사를 운영하는 입장에서 필요한 환경, 자원, 서비스 방향 등을 중심으로 이야기를 해주셨습니다.

 

확실히 AI 기술에 필요한 자원에 대해 더 많은 생각을 하게 된 것 같아요.

상대적으로 가벼우면서 보편적인 GPU 자원인 RTX 3090이 수십장 갖춰져 있고 그 상위 버전도 몇 대 있다고 들었습니다.

그정도만 해도 어마무시한데 사실 대기업, 특히 외국 기업들에 비하면 아무것도 아닌 셈이죠.

 

scaling law가 거의 정설로 받아들여지고, 실제로 여러 사례들을 통해 입증이 되어온 만큼 AI 기술 발전에 차별적인 노선이 필요한 것으로 보입니다.

직전에 언급했던 것처럼 특정 서비스에 적합한 sLLM을 활용하는 방식 등으로 말이죠.

---

이후에는 네트워킹 시간이 예정되어 있었는데요, 엄청 원활하게 진행되지는 않았던 것 같아요 ㅋㅋㅋㅋ

사실 모르는 사람들끼리 모여서 이야기하는게 쉽지 않아서 아는 분들끼리 인사하시고 그런 것 같더라구요.

 

그리고 게임을 통해 굿즈를 나눠주는 시간도 있었습니다!

정확히 기억은 안나는데.. 구글 티셔츠였나.. 에코백이었나.. 하여간..

5등까지 나눠주시지 흑흑

이 카훗이라는 게임 진행할 수 있는 플랫폼이 있는데요.

LLM 관련 퀴즈를 풀고 점수를 획득하는 방식으로 진행됐습니다.

보시다시피 저는 딱 4등이었는데... 3등까지만 굿즈를 증정해줬습니다 🥲🥲🥲🥲🥲🥲

진짜 너무 슬펐어요..

 

뭐 그래도 같이 간 친구가 전에 받은 에코백이랑 뱃지를 저한테 줘서 그나마 위로를 삼을 수 있었구요 ㅎㅎ

아래 박스는 테라로사 드립백입니다! ☕️

행사에서 받아온 물건들인데 머신러닝 부트캠프가 아직도 잘 운영되고 있나봐요??

저는 저 교육이 오픈되어 있지 않아서 네부캠에 참여하게 되었었는데 ㅋㅋㅋㅋ

8월에 모집한다고 하니 관심있는 분들은 지원해봐도 좋겠네요!

(저도 지원할 계획이 있습니다 ☺️)