지난 5월 1일(수) ~ 5월 3일(금) 동안 코엑스에서 AI Expo 2024가 진행되었습니다.
저는 마지막 날인 금요일에 참석했고 이에 대한 짤막한 후기를 남겨보려고 합니다.
작년에는 이런 행사가 있는지 몰랐었는데 상당히 큰 규모였고(지금까지 다녀봤던 행사들 중 기업 부스가 가장 많았던 것 같네요 😲), 느낌이 조금 달랐습니다..!
디테일한 내용들은 후술 하고.. 결론적으로 느낀 것은..
1. 모델을 직접 학습하고 활용하는 사례가 굉장히 많이 줄어들었다. (API 기반의 솔루션, 프로덕트가 대부분)
2. MLOps, LLMOps 관련 솔루션들이 오히려 탄탄한 기술력을 갖고 있다고 느껴졌고 시장성도 좋다는 생각이 들었다.
3. 같은 맥락에서 computing resource 관련 사업도 유망하다는 생각이 들었다. (ex. 추론용 GPU)
굉장히 많은 기업들이 있었고 재미있는 이야기들을 나눌 수 있었지만 확실히 아쉽다는 생각이 들었던 행사였습니다.
코엑스로 가는 길
예전에 갈 때는 길을 헷갈려서 굉장히 뺑뺑 돌고 고생했었는데요, 생각보다 가는 길이 간단하더라고요 ㅋㅋㅋ
삼성역 6번 출구로 나와 대로변을 따라 쭉 걷다보면 누가 봐도 입구처럼 생긴 곳이 나오더라구요..!
그리고 제가 향하는 반대 방향에서 이미 명찰을 차고 계신 분들이 집에 가고 있는 걸 보고 쉽게 찾아갈 수 있었습니다.
이번에는 3층에서 행사가 진행되었습니다.
사실 다음 주가 입사긴 한데..
사전예약할 때 있었던 소속을 그대로 쓰고 싶지는 않아서 직원 분께 여쭤보니 소속을 현장에서 변경하여 프린팅이 가능하더라고요! 👍🏻
사람은 무진장 많아서 좀 정신이 없었는데, 확실히 이런 곳을 들어가기 전에는 QR코드를 미리 준비해 두는 것이 좋은 것 같습니다.
물에 잠겨버린 컴퓨터
입구에 들어서자마자 좌측에 물에 잠겨있는 컴퓨터가 눈에 띄었습니다 ㅋㅋㅋㅋ
작년에 SK Tech Summit 2023이었나.. 이런 기술이 있다는 것을 듣긴 들었었는데 실제로 갖춰 놓은 것을 보니까 굉장히 신기했습니다.
하드웨어에 큰 관심이 없는 분들이라도 여길 지나치지 못하고 다들 한 번씩 구경하고 가는 분위기였습니다 😂
정확한 원리에 대해서는 여쭤보지는 않았는데 저기에 들어가는 특수한 액체를 만드는 기업은 따로 있고, 이 기업에서는 이러한 시스템을 구축해 주는 사업을 하고 있는 것 같았습니다.
AI 영상 분석 및 요약
저는 원래 영상을 요약한다고 하면 스크립트를 기반으로 요약을 할 거라고 생각을 했었는데, 스크립트 정보가 제공되지 않은 상황에서도 이런 영상에 링크만 있다면 영상을 분석하고 요약까지 해 줄 수 있는 서비스를 제공하고 있다고 하더라구요.
그래서 그 부분이 굉장히 신기하게 느껴졌습니다.
개인적으로는 영상이 담긴 정보들을 습득하는데 시간이 항상 오래 걸리기 때문에 아쉽다는 생각을 많이 했었는데, 이런 요약 서비스들이 앞으로 정교화되고 고도화된다면 활용 여지가 엄청나게 많을 것이라고 생각합니다.
Layout 기반 문서 이해 솔루션
보통은 문서의 텍스트를 추출하는 경우 어떤 구조나 레이아웃을 반영하지 못한 채로 정보를 추출하게 됩니다.
그런데 이 기업에서는 방대한 양의 문서를 학습하여 텍스트와 함께 '제목, 그림, 표' 등 문서를 구성하는 다양한 요소들을 구분할 수 있는 솔루션을 제공한다고 합니다.
추출된 정보들을 DB화 해주는 것까지가 솔루션이라고 했는데, 굉장히 유용해 보여서 기억에 많이 남았습니다.
온프레미스 LLM
아주 특별할 것이 없는, 생성형 모델을 활용한 챗봇 데모입니다.
이런 식으로 데모를 띄워 둔 기업들이 굉장히 많았었는데 사실 특별한 것은 없었다고 생각합니다.
LLM을 활용하여 교육 서비스를 한다거나, RAG와 결합하여 도메인 특화 질의 챗봇으로 쓰는 경우도 많았습니다.
그러한 서비스들은 대부분 OpenAI API를 그대로 사용한다고 말씀해 주셔서 신기하기도 하고 아쉽기도 하고.. ㅋㅋㅋ
저는 이미지 분야는 잘 모르는데 다른 분들 이야기를 들어보니 Stable Diffusion API를 그대로 사용하는 기업들도 굉장히 많았다고 하네요!
웅장한 H100의 자태..
엔비디아의 부스는 아니었지만 추론용 GPU를 솔루션으로 갖고 있는 기업에서 전시해 둔 H100의 모습입니다.
저거 한 덩어리만 있어도 할 수 있는 게 참 많을 텐데요..!
저 정도 고가의 GPU를 실물 영접하는 것은 이때가 처음이라 기념사진을 남겨 보았습니다. (다신 못 볼 수도 있으니까 🥲)
MLOps, LLMOps
아주 유사한 솔루션을 제공하고 있는 세 개의 기업 입니다.
물론 제가 이 분야를 잘 몰라서 확실하게 정확하게 느끼지 못한 것일 수는 있겠지만, 개인적으로는 backend.AI 쪽이 굉장히 완성도와 신뢰도가 높은 솔루션을 제공한다고 느꼈습니다.
(Lablup이라는 기업에서 하는 서비스로 알고 있는데 설명해 주시는 분의 전문성도 잘 느껴지고 좋았습니다)
조금 재밌었던 점은 이런 서비스를 하고 있는 기업들이 생각보다 많다는 것이었고,
또 이런 서비스를 제공할 때 타사의 솔루션을 그대로 갖다 쓰거나 활용 하지 않고 자사의 솔루션을 베이스부터 직접 구축해서 고객에게 제공한다는 점이 기억에 남습니다.
메뚜기..?
사람들이 굉장히 많이 모여 있는 곳이 있어서 뭐가 있나 했더니만 팔짝팔짝 뛰고 있는 로봇이 있었습니다 😂
굉장히 자연스러운 움직임을 보여 주기도 하고 안정성이 있어서 흥미로웠습니다.
마치며..
위에 기록한 기업들 외에도 다양한 부스를 돌아다니면서 직원 분들께 질문을 많이 드려봤는데 확실히 아쉬운 점이 많긴 했습니다.
작년 10-11월쯤 행사가 많이 열릴 때를 생각해 보면, '기업들이 실제로 이런 솔루션을 많이 쓰는구나, 트렌드는 이렇구나' 하면서 배우는 것들이 많았는데 이번에는 그냥 '개발'의 영역에 너무나도 가까워진 느낌이었습니다.
여러 가지 모델들의 성능을 높이려고 아무리 노력을 해도 실제로 수익을 만들어 낼 수 있는 서비스로 이어지지 못하면 의미가 없을 것입니다. 그러나 현재 시장에서는 인공지능 기술을 제대로 활용하여 서비스하는 비즈니스 모델이 없는 것으로 느껴졌습니다.
특히나 B2C 서비스는 거의 불가능한 것 같고..
최근에 '언어 모델을 직접 서버에 띄워서 서비스하는 것보다 이미 완성이 되어 있는 모델 API를 활용하는 비용이 훨씬 저렴'하다고 정리해 주신 글을 본 적이 있는데 여기에 더 깊게 공감이 되는 시간이었던 것 같습니다.
AI 기술과는 별개로 부스 운영에 대해 아쉬운 점도 있었습니다.
물론 이것은 어느 행사를 가더라도 발생할 수 있는 이슈이긴 하지만, 이번에는 제가 점심시간 직후에 가서 그런지 유독 그런 사례들이 많았습니다.
부스를 방문하는 사람 유형은 굉장히 다양할 수 있지만, 단순한 기술적인 호기심 혹은 원리에 대한 궁금증을 해결하기 위해서 오시는 분들도 많이 있을 것입니다.
그런데 디테일한 기술적인 질문들을 드렸을 때, 개발자 분들이 자리를 비우고 있다거나 사장님이 자리에 계시지 않아서 나중에 방문하면 자세히 알려 주겠다는 식으로 응대하는 경우가 적지 않았던 것 같습니다.
물론 그분들이 항상 자리를 지키고 계실 수는 없겠지만, 적어도 마케팅을 하러 나오신 분들도 최소한의 지식을 충분히 갖추면 훨씬 좋겠다는 생각이 이번에는 꽤나 많이 들었던 것 같습니다.
특히나 부스의 수가 많고 이곳저곳을 쉽게 들러 볼 수 있는 상황이어서 그런 생각이 더 강하게 들었던 것 같습니다.
그래도 최신 AI 기술의 동향 서비스의 방향성 등을 파악하기에는 이만큼 좋은 기회가 없기 때문에, 내년에도 같은 행사가 열린다면 참석할 의사는 있습니다.
그때는 좀 더 다양하고 재밌는 솔루션과 기술들을 배워갈 수 있으면 좋겠네요!
'후기' 카테고리의 다른 글
서울 상위권 대학 인공지능 대학원 컨택 후기 (2024년 후기 석사 지원 목표) (2) | 2024.05.07 |
---|---|
유데미 강의 후기 【한글자막】 Docker & Kubernetes : 실전 가이드, 【한글자막】 랭체인 - LangChain 으로 LLM 기반 애플리케이션 개발하기 (0) | 2024.05.06 |
TOEIC/TEPS 동시 준비 2주 만에 955/409점 달성한 후기 (6) | 2024.03.04 |
2023년 회고록: 성장하지 못한 낙동강 오리알 🦆🥚 (7) | 2023.12.31 |
2023 OSSCA (오픈소스 컨트리뷰션 아카데미) 파이토치 및 파이토치 라이트닝 문서 번역 참여 후기 (0) | 2023.11.24 |