장동민 홍진호 포커|장동민 홍진호 포커

장동민 홍진호 포커

Xiao Yan은 거친 한 눈으로 주저를 멈추고 6 층의 깊이로 곧장 걸었습니다.

🧧장동민 홍진호 포커🧧, 분야 전문 포털로서 장동민 홍진호 포커의 독창적인 기획 콘텐츠와 함께 최신 트렌드 분석 리포트, 프리미엄 이미지 DB를 공개합니다.

이준구 카이스트 전기전자공학부 교수는 “컴퓨터 개발 추이를 봤을 때 큰 전환점에 서 있고, 양자컴퓨팅이 유일한 대안”이라고 강조했다.

이상엽 LG유플러스 CTO(전무)와 이재호 옵트에이아이 대표(오른쪽)가 토큰 최적화 협력과 관련해 기념촬영을 하고 있다.LG유플러스LG유플러스가 인공지능(AI) 모델 최적화 기업 옵트에이아이와 손잡고 같은 그래픽처리장치(GPU)로 처리할 수 있는 AI 작업량을 늘리는 기술 개발에 나선다.AI가 생성하는 토큰의 생산과 공급으로 넓히면서 GPU와 전력 사용 효율을 높여 운영 비용을 낮추겠다는 구상이다.

2일 LG유플러스는 옵트에이아이와 AI 모델의‘토큰 최적화’기술을 공동 연구한다고 밝혔다.양사는 기존 스마트폰 등 기기 내부에서 AI를 구동하는 온디바이스 AI에 이어 서버 GPU 환경까지 공동 연구 범위를 확대한다.

토큰 최적화는 모델의 크기를 줄이는 경량화를 넘어 AI 요청을 GPU에 배정하는 방식과 GPU 자원 활용 방법 등 AI가 답변을 만들어내는 전 과정을 효율화하는 기술이다.정성권 LG유플러스 AX서비스개발그룹장(전무)은 “토큰 최적화는 모델 경량화를 포함해 서빙 최적화와 아키텍처 최적화,실행 최적화까지 아우른다”고 설명했다.

서버 GPU를 대상으로 진행 중인 연구에서는 초기 성과도 나왔다.양사는 AI 모델이 답변을 생성하는 연산 과정을 실제 서비스 환경에 맞게 개선했다.이후 같은 GPU에서 처리할 수 있는 토큰의 양을 기존 대비 최대 4배 높였다고 밝혔다.향후 대규모 AI 서비스를 운영할 때 같은 GPU 자원으로 더 많은 이용자의 요청을 처리할 수 있도록 기술을 고도화할 계획이다.

LG유플러스가 토큰 최적화에 나선 배경에는 AI 사업 확대에 따른 연산 수요 증가가 있다.익시오(ixi-O)와 AI 콘택트센터(AICC)‘모두의 AI’등 AI 서비스가 늘어날수록 이를 구동하는 GPU와 전력도 더욱 필요하기 때문이다.GPU를 계속 늘리는 방식만으로는 증가하는 토큰 수요와 비용 부담에 대응하기 어렵다고 판단한 것이다.

양사는 앞서 온디바이스 AI 분야에서도 협력해왔다.LG유플러스의‘엑사원(EXAONE)’기반 소형언어모델(sLM)에 경량화 기술을 적용해 스마트폰의 AI 전용 반도체인 신경망처리장치(NPU)에서 구동할 수 있도록 했다.LG유플러스는 스마트폰에서 축적한 최적화 기술을 서버용 엔비디아 GPU 환경으로 확대하고 있다.

양사는 지난 1일‘Efficient AI 테크 세미나’도 공동 개최했다.퓨리오사AI와 베슬에이아이,엔트리파워볼 s한국전자기술연구원(KETI),올인카지노 먹튀한양대학교 등이 참여해 AI 모델과 반도체,인프라 등 각 영역의 운영 효율을 높이는 방안을 논의했다.

LG유플러스는 확보한 최적화 기술을 익시오와 모두의 AI 등 자사 서비스와 대규모 AI 인프라에 단계적으로 적용할 계획이다.장기적으로는 스마트폰 등 기기부터 클라우드와 서버까지 AI가 구동되는 환경 전반에서 토큰 생산 비용을 낮추는 역량을 확보한다는 목표다.

이상엽 LG유플러스 최고기술책임자(CTO)는 “AI 경쟁력은 단순히 성능을 높이는 것을 넘어 같은 자원으로 얼마나 많은 토큰을 효율적으로 처리할 수 있느냐에 달려 있다”며 “토큰 최적화 기술 연구를 확대하고 실제 서비스에 적용할 수 있는 성과를 만들어 나가겠다”고 말했다.


유니온로또,” 서울 강서을에 출마한 국민의힘 박민식 예비후보.