Nov 29, 2023

[Track1-5] WebGPU를 통한 private 생성 AI의 Hybrid inference 동향 - 고석현 (Sionic AI)

    고석현

    CEO

Nov 29, 2023

[Track1-5] WebGPU를 통한 private 생성 AI의 Hybrid inference 동향 - 고석현 (Sionic AI)

    고석현

    CEO

Overview

  1. WASM, WebGPU 의 대두
  2. Edge device의 성능 변천사 - A100을 이긴 Apple M2 ultra
  3. sLLM에 의한 Agent 구성
  4. 생성 AI 시대에서의 Federated Inference
  5. private 생성 AI 의 활용 사례 - LLM + Diffusion

발표자 소개

반갑습니다. Sionic AI의 대표이자 이전에는 네이버와 토스에서 주요 AI 프로젝트를 리딩한 경험을 가지고 있습니다. 네이버에서는 클로바와 네이버 클라우드의 AI 제품 개발을 주도했고, 수만 개 이상의 딥러닝 모델을 오케스트레이션 하는 시스템을 개발했습니다. 토스에서는 메인 검색 서비스의 시멘틱 검색과 브랜드 추천 시스템을 새롭게 구축하였습니다.

현재 Sionic AI에서는 엔터프라이즈 급 커스텀 LLM 서비스를 제공하며, LLM Agent에 특화된 SaaS 제품을 개발하고 있습니다. 

기술과 비즈니스 경험을 바탕으로 새로운 생성 AI 시장에 도전하고 있습니다.

슬라이드 요청

도움이 필요하신가요?

내용을 작성해 주시면 곧 연락 드리겠습니다.

문의하기

본사 및 HPC 연구소

서울특별시 강남구 선릉로 577 CR타워 8층

© Lablup Inc. All rights reserved.